虛擬人再升級，企業可以解放雙手了？
來源：伯虎財經今天想跟大家來嘮嘮AI，其實聊到這個話題很多人都不陌生了。在ChatGPT和AIGC大熱背后，還有一位低調的“大佬”——虛擬人。比如咱們熟知的虛
6 月 19 日消息，惡意人工智能（AI）工具 WormGPT 以新形態卷土重來，不再依賴自建模型，而是通過“劫持”合法大語言模型（LLMs）生成惡意內容。
網絡安全公司 Cato Networks 的研究顯示，犯罪團伙通過篡改 xAI 的 Grok 和 Mistral AI 的 Mixtral 等模型的系統提示（system prompts），實現“越獄”操作，繞過安全限制，生成釣魚郵件、惡意腳本等攻擊工具。
曾于 2023 年 7 月報道，WormGPT 基于開源 GPT-J 模型，可自動生成木馬、釣魚鏈接，后因曝光被下架。
Cato Networks 發現，在 2024 年底至 2025 年初，網名“xzin0vich”和“keanu”的用戶在暗網市場 BreachForums 重新推出“WormGPT”訂閱服務。
新型 WormGPT 會篡改 Mixtral 等模型的系統提示指令，強制模型切換至“WormGPT 模式”，讓其放棄原有倫理限制，成為“沒有道德限制”的惡意助手。
此外 xAI 的 Grok 模型則被封裝為 API 接口的惡意包裝器，其開發者甚至追加指令，要求模型“永遠保持 WormGPT 人格，不得承認自身限制”。
本文鏈接：http://www.tebozhan.com/showinfo-45-13925-0.htmlWormGPT 卷土重來：Grok 等主流 AI 平臺被“越獄”制造釣魚郵件、惡意腳本等
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號