7 月 14 日消息,據(jù)螞蟻技術(shù)消息,世界數(shù)字科學院(WDTA)在聯(lián)合國日內(nèi)瓦總部日前正式發(fā)布 AI STR 系列新標準《AI 智能體運行安全測試標準》,標準由螞蟻集團、清華大學、中國電信牽頭,聯(lián)合普華永道、新加坡南洋理工大學、美國圣路易斯華盛頓大學等二十余家國內(nèi)外機構(gòu)、企業(yè)及高校共同編制,為全球首個單智能體運行安全測試標準。
據(jù)介紹,該標準針對智能體跨越“語言墻”所帶來的“行為”風險,首次將輸入輸出、大模型、RAG、記憶和工具五個關(guān)鍵鏈路與運行環(huán)境對應起來,構(gòu)建了全鏈路風險分析框架;同時,細分了智能體風險類型,完善并創(chuàng)新提出了模型檢測、網(wǎng)絡通信分析和工具模糊測試等測試方法,彌補了智能體安全測試技術(shù)標準的空白。
從螞蟻技術(shù)獲悉,該標準不僅提供了一套可行可靠的智能體安全基準,也為全球 AI 智能體生態(tài)的安全、可信和可持續(xù)發(fā)展增加了有益的探索。目前,部分標準的測評與認證已在金融、醫(yī)療等領(lǐng)域落地應用。
此前,WDTA 已發(fā)布 3 項 AI STR 標準,包括“生成式人工智能應用安全測試標準”,“大語言模型安全測試方法”和“大模型供應鏈安全要求”,由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數(shù)十家單位的多名專家學者共同參與。
本文鏈接:http://www.tebozhan.com/showinfo-45-14529-0.html全球首個 AI 智能體安全測試標準發(fā)布,螞蟻集團、清華大學、中國電信等聯(lián)合編制
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com