Meta公司,最近宣布了一項重要計劃——Purple Llama計劃,旨在推廣大型語言模型(LLM)的安全評測工具。這一計劃的推出,無疑將為LLM的安全性和可靠性提供更為全面的保障。
Llama模型在2月發布,有70億至650億個參數的四種大小版本,主要供學術研究使用。7月,Meta發布了Llama 2,包含70億、130億、700億個參數的三種大小版本,不僅供學術界使用,還向商業界開放,但使用條款仍施加了一定的限制。自Llama系列模型發布以來,其總下載次數已經突破了1億次的大關。
Purple Llama計劃是一項具有創新性的計劃,它借鑒了網絡安全的紅隊和藍隊協作的理念,融合成了紫隊。這個計劃包括CyberSec Eval,這是一個專門為LLM設計的安全評估基準,以及Llama Guard,一個用于過濾模型輸入和輸出數據的安全分類器。這些工具可以幫助開發者量化LLM的網絡安全風險,評估LLM產出危險程序碼建議的頻率,并使LLM更難以產生惡意程序碼或助長網絡攻擊。
除了Meta之外,微軟和亞馬遜等公司也在積極參與到這個計劃中來。微軟和Meta都派代表參與了數碼發展部啟動的AI產品與系統評測中心。這個評測中心將以語言模型為評測對象,參考歐美的規范,制定出10項評測項目,包括安全性、可解釋性、彈性、公平性、準確性、透明性、當責性、可靠性、隱私及網安等方面。
Meta的Purple Llama計劃不僅是對LLM安全性的一種保障,也是對全球人工智能發展的一種貢獻。隨著人工智能技術的不斷發展,我們期待看到更多這樣的計劃和合作的出現,共同推動人工智能技術的進步和發展。
本文鏈接:http://www.tebozhan.com/showinfo-27-42132-0.htmlMeta推出Purple Llama計劃,推動LLM安全評測工具的普及
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 「天河星逸」超級電腦:運算能力倍增