最新一期《自然》雜志發(fā)表的一篇論文稱，谷歌深度思維團(tuán)隊(duì)開發(fā)了一種能為大語(yǔ)言模型生成文本添加水印的工具，可提高對(duì)合成內(nèi)容的鑒別和追溯能力。BN328資訊網(wǎng)——每日最新資訊28at.com

　　大語(yǔ)言模型（LLM）是廣泛使用的人工智能（AI）工具，能為聊天機(jī)器人、文章寫作和其他目的生成文本。不過(guò)，人們很難識(shí)別并追溯AI生成文本的來(lái)源，使信息的可靠性受到質(zhì)疑。水印被認(rèn)為能解決這一問(wèn)題，但生產(chǎn)系統(tǒng)對(duì)質(zhì)量和計(jì)算效率的嚴(yán)格要求阻礙了其規(guī)模化應(yīng)用。BN328資訊網(wǎng)——每日最新資訊28at.com

　　深度思維團(tuán)隊(duì)此次利用一種全新采樣算法，開發(fā)出一個(gè)給AI生成文本添加水印的系統(tǒng)——SynthID-Text。該工具通過(guò)采樣算法對(duì)LLM的詞匯選擇進(jìn)行巧妙偏移，插入一個(gè)能被相關(guān)檢測(cè)軟件識(shí)別的簽名。這既可以通過(guò)一種“扭曲”路徑實(shí)現(xiàn)（能提高水印質(zhì)量但會(huì)輕微影響輸出質(zhì)量），也可以通過(guò)另一種能保留文本質(zhì)量的“非扭曲”路徑實(shí)現(xiàn)。BN328資訊網(wǎng)——每日最新資訊28at.com

　　深度思維已在多個(gè)公開模型上評(píng)估了這些水印的可檢測(cè)性，結(jié)果顯示，SynthID-Text的可檢測(cè)性優(yōu)于當(dāng)前其他方法。BN328資訊網(wǎng)——每日最新資訊28at.com

　　他們還用Gemini LLM的近2000萬(wàn)次在線對(duì)話，評(píng)估了這些文本的質(zhì)量，最終認(rèn)為非扭曲水印形式不會(huì)降低文本質(zhì)量。此外，使用SynthID-Text對(duì)LLM運(yùn)行所需算力的影響可忽略不計(jì)，從而減少了應(yīng)用上的障礙。BN328資訊網(wǎng)——每日最新資訊28at.com

　　該研究證明，為生成式文本添加水印是可行的，其可提高AI使用的責(zé)任和透明度。 （記者張夢(mèng)然）BN328資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-16-122012-0.html深度思維為AI生成文本“打水印”

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： AEP100發(fā)動(dòng)機(jī)配裝 全球最大無(wú)人運(yùn)輸機(jī)

下一篇： 難以破解的AI“黑匣子”