1 月 18 日消息,英偉達(dá)宣布推出一項(xiàng)名為“NIM”的 AI 護(hù)欄服務(wù),該服務(wù)現(xiàn)已以英偉達(dá) NeMo 護(hù)欄(NeMo Guardrails)套件的形式提供,可以讓開發(fā)人員為大語(yǔ)言模型(LLM)添加一系列護(hù)欄規(guī)則,旨在解決用戶通過(guò)提示詞“越獄”大模型,防止 AI 生成不符合預(yù)期的內(nèi)容。
英偉達(dá)表示,相應(yīng)AI護(hù)欄服務(wù)套件基于英偉達(dá)的 Aegis 內(nèi)容安全數(shù)據(jù)集進(jìn)行訓(xùn)練而成,該數(shù)據(jù)集包含了 3.5 萬(wàn)個(gè)標(biāo)注的數(shù)據(jù)樣本,并已在 Hugging Face 上公開,附地址如下(點(diǎn)此訪問(wèn))。
英偉達(dá)指出,相應(yīng)AI護(hù)欄套件具有體積小、效率高的特點(diǎn),在大部分場(chǎng)合中都能流暢運(yùn)行,企業(yè)可以在開發(fā) AI 模型時(shí)直接嵌入相應(yīng)安全套件,可以改善醫(yī)療、汽車、制造業(yè)等領(lǐng)域部署的AI安全性。
此外,英偉達(dá)還提供了公布了一項(xiàng)名為 Garak 的漏洞掃描工具,用于檢測(cè)模型的安全性,防止模型可能輸出幻覺內(nèi)容或泄露企業(yè)內(nèi)部機(jī)密信息。
本文鏈接:http://www.tebozhan.com/showinfo-45-9492-0.html英偉達(dá)推出 NIM AI 護(hù)欄服務(wù),防止模型遭用戶“越獄”
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com