3 月 17 日消息,據谷歌官方新聞稿,谷歌近日推出了一項名為 Cappy 的模型打分框架,該框架以 RoBERTa 語言模型為基礎,主要用于檢測模型輸出的內容,并為相關內容打分,之后相關分數將會作為參考基準讓模型學習,從而讓模型更聰明。
此外,Cappy 框架也可以作為大語言模型的“候選機制”,該框架可以內置在模型中,并對模型預輸出的內容生成分數,并選擇分數最高的回應作為最終輸出,以提高大語言模型輸出內容的正確性。
研究人員提到,相對于業界其他方案,Cappy 框架的 RAM 用量更低,這是由于相關框架無需訪問模型參數,因此該框架也能夠兼容各種閉源大模型,包括僅支持通過 Web API 訪問的模型。
從報告中得知,研究人員使用 PromptSource 的 11 項語言理解分類任務中測試 Cappy 框架,該框架雖然僅擁有 3.6 億參數,但報告顯示該框架的實際糾錯性能優于規模更大的 OPT-175B 和 OPT-IML-30B 模型,因此具有一定前瞻意義。
本文鏈接:http://www.tebozhan.com/showinfo-45-3615-0.html谷歌推出 Cappy “打分”框架,可評估 AI 準確性“教模型更聰明”
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: AI 程序員 Devin 臥底工作群修 bug!和 CTO 聊技術,網友:頂級碼農水平
下一篇: ChatGPT 參數規模被扒:只有 7B