上、中、下游加深融合，搭建元宇宙產業全景
元宇宙產業鏈涉及多種技術和多個領域。在上游，聚集著大量的技術廠商，提供元宇宙相關的硬件和軟件支持；在中游，內容運營與分發領域也吸引著越來越多的企業以VR內容
2 月 13 日消息，《華爾街日報》當地時間 11 日發布文章，探討了當前“AI 幻覺”的現象和潛在解法。該報記者 Ben Fritz 向多款全球最先進的 AI 聊天機器人詢問“自己的配偶是誰”，得到的答案卻令本人匪夷所思：一位自己并不認識的作家、一名來自愛荷華州的陌生女性，還有一名網球運動博主。
根據報道，盡管 AI 在解決復雜數學問題和模擬人類交流方面表現出色，但在基本事實上卻常常出錯。它們會捏造法律案件，混淆電影和書籍的情節，甚至“憑空”編造配偶。
注：上述錯誤往往被稱作“幻覺”，因為 ChatGPT、Gemini 等 AI 即使在生成錯誤答案時也會表現得極其自信。
曾在 IBM、微軟實習的德國 Hasso Plattner 研究所博士生 Roi Cohen 表示，這是當前 AI 研究最熱門的方向之一。
AI 的工作原理是預測答案中最可能出現的下一個單詞。從本質上看，這一過程更像是一種高級猜測。AI 往往會以堅定的語氣給出最可能正確的答案，而不會表現出任何不確定性，這就像學生在多項選擇題考試中作答，或是社交場合中隨口應對問題的人一樣。
西班牙瓦倫西亞人工智能研究所的教授 José Hernández-Orallo 解釋道，“AI 之所以會產生幻覺，根本原因在于，如果它什么都不猜，就完全不可能答對?！?span style="display:none">ThD28資訊網——每日最新資訊28at.com
為了解決這個問題，研究人員正嘗試“檢索增強生成”（retrieval augmented generation）技術，讓 AI 在回答問題時先從互聯網或文檔庫中查找最新信息，而不是完全依賴已有的訓練數據。
在去年 12 月的 NeurIPS AI 研究會議上，Cohen 和同校博士生 Konstantin Dobler 提出了一個簡單但富有新意的想法：讓 AI 也學會承認“我不知道”。
報道指出，當前 AI 的訓練數據幾乎不包含“我不知道”這樣的表述，因此它們天生不會謙遜。Cohen 和 Dobler 通過調整 AI 訓練過程，使其在可能出錯時，至少一部分情況下會選擇回答“我不知道”，從而提高整體準確性。
不過，如何平衡這一策略仍是個難題。有時候，AI 說“我不知道”，但其實答案就在它的訓練數據里。
即便如此，對于那些依賴 AI 提供精準信息的領域，適當的“謙虛”可能更有價值?！瓣P鍵是讓 AI 具備實用性，而不是一味追求智能?！盌obler 說道。
雖然 AI 變得越來越強大，但美國公眾對其的信任感卻在下降。皮尤研究中心數據顯示，2023 年 52% 的美國人對 AI 感到擔憂，而 2021 年這一比例僅為 37%。
本文鏈接：http://www.tebozhan.com/showinfo-45-10737-0.html如何應對 AI“一本正經的胡說八道”？研究人員希望它會承認“我不知道”
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號