風口已至，多領域平臺融入社交元素！
在眾多領域平臺中，社交元素都扮演著重要角色，如直播營銷帶貨、線上配對聽歌、游戲局內互動等。隨著元宇宙時代的來臨，社交產品不斷升級，社交元素推動流量變現，多平臺領域融入社交
隨著大型語言模型（LLM）能力的不斷增強，一項新研究卻發現了令人擔憂的趨勢：這些智能聊天機器人在回答問題時，似乎越來越傾向于編造答案，而非謹慎地避免或拒絕回答它們不確定的問題。這種行為模式表明，盡管AI變得更加“聰明”，但其可靠性卻在實際應用中受到了質疑。
該研究由多個知名研究機構聯合進行，成果已發表在《自然》雜志上。研究團隊對市面上領先的商業LLM進行了深入分析，包括OpenAI的GPT系列、meta的LLaMA，以及開源模型BLOOM。在對比了這些模型在不同主題和問題類型上的表現后，研究人員發現，盡管新一代LLM在某些情況下的確給出了更準確的回答，但從整體來看，它們提供錯誤答案的頻率卻比舊模型更高。
瓦倫西亞人工智能研究所的研究員José Hernández-Orallo指出：“現在的LLM幾乎能回答任何問題，這既是進步也是隱患。雖然正確回答的數量增加了，但錯誤回答的數量也同樣在上升。”
在測試中，這些LLM被要求處理從數學到地理等多個領域的問題，并執行一些特定的信息排序任務。結果顯示，規模更大、能力更強的模型在簡單問題上表現最佳，但在面對更復雜的問題時，其準確率卻顯著下降。
值得注意的是，OpenAI的GPT-4和o1模型在測試中成為了最大的“撒謊者”，但這一趨勢并非孤例，其他被研究的LLM也呈現出了類似的傾向。特別是在LLaMA系列模型中，即便是最簡單的問題，也沒有任何一個模型能夠達到60%的準確率。
當被要求評估聊天機器人答案的準確性時，參與測試的人類受試者也表現出了相當程度的不確定性，他們在10%到40%的情況下做出了錯誤的判斷。
這項研究揭示了一個重要的問題：隨著AI模型的規模和能力的不斷提升，如何確保它們提供的答案是準確且可靠的？研究人員建議，一個可能的解決方案是讓LLM在面對不確定的問題時學會保持沉默，而不是盲目地給出答案。Hernández-Orallo表示：“我們可以設定一個閾值，讓聊天機器人在遇到具有挑戰性的問題時能夠說‘不，我不知道’。”然而，這種做法也可能會暴露當前技術的局限性，從而影響用戶對AI的信任和接受度。
本文鏈接：http://www.tebozhan.com/showinfo-45-7915-0.htmlAI智慧背后的隱憂：越聰明，越愛“編造”真相？
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號