7 月 18 日消息，網絡安全公司 NeuralTrust 宣布，他們已成功“越獄”xAI 旗下 Grok 4 模型，主要利用了“Echo Chamber（回音室攻擊）”方法進行攻擊。TuY28資訊網——每日最新資訊28at.com

獲悉，所謂“回音室攻擊”，是指安全人員通過引導模型進行多輪推理，在推理過程中逐步注入帶有風險的信息內容，但又不使用明顯的危險提示詞，從而規避常見的安全攔截機制。這一方式不同于傳統依賴對抗性輸入或“角色扮演（讓模型扮演祖母讀激活碼哄人入睡）”的越獄方式，其更多采用語義誘導、間接引用以及多步推理的方式，悄悄干擾模型的內部邏輯狀態，最終誘導 AI 模型生成不當內容回答。TuY28資訊網——每日最新資訊28at.com

TuY28資訊網——每日最新資訊28at.com

在此次 Grok 4 的越獄測試中，NeuralTrust 首先通過回音室攻擊對模型進行“軟性引導”，并設置特定機制檢測模型是否進入對話停滯狀態，一旦檢測到這種狀態，就進一步引導 AI 生成不當內容。TuY28資訊網——每日最新資訊28at.com

據 NeuralTrust 介紹，其已成功令 Grok 4 生成制造武器、毒品等內容，越獄成功率高達 30% 以上。這表明即便是新一代大模型，在面對復雜攻擊路徑時仍存在安全短板，相應大型語言模型應進一步注重設計多重防護機制。TuY28資訊網——每日最新資訊28at.com

TuY28資訊網——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-14692-0.htmlxAI 旗下 Grok 4 模型首度被越獄，安全公司利用“回音室攻擊”方法成功迫使其生成不當內容

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 原價 20 美元 Pro 會員喜加 1 個月：Perplexity AI 上線大學生教育優惠計劃

下一篇： 因被 AI 生成的虛假漏洞報告轟炸，開源網絡工具 cURL 考慮停止提供安全賞金