1 月 18 日消息，英偉達宣布推出一項名為“NIM”的 AI 護欄服務，該服務現已以英偉達 NeMo 護欄（NeMo Guardrails）套件的形式提供，可以讓開發人員為大語言模型（LLM）添加一系列護欄規則，旨在解決用戶通過提示詞“越獄”大模型，防止 AI 生成不符合預期的內容。1oq28資訊網——每日最新資訊28at.com

1oq28資訊網——每日最新資訊28at.com

英偉達表示，相應AI護欄服務套件基于英偉達的 Aegis 內容安全數據集進行訓練而成，該數據集包含了 3.5 萬個標注的數據樣本，并已在 Hugging Face 上公開，附地址如下（點此訪問）。1oq28資訊網——每日最新資訊28at.com

英偉達指出，相應AI護欄套件具有體積小、效率高的特點，在大部分場合中都能流暢運行，企業可以在開發 AI 模型時直接嵌入相應安全套件，可以改善醫療、汽車、制造業等領域部署的AI安全性。1oq28資訊網——每日最新資訊28at.com

此外，英偉達還提供了公布了一項名為 Garak 的漏洞掃描工具，用于檢測模型的安全性，防止模型可能輸出幻覺內容或泄露企業內部機密信息。1oq28資訊網——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-9492-0.html英偉達推出 NIM AI 護欄服務，防止模型遭用戶“越獄”

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 我國將建立基于大數據和 AI 支持的教育評價和科學決策制度，建立全國學生心理健康監測預警系統

下一篇： 天璣9400端側AI得分領先，性能近乎驍龍8 Gen3兩倍？