12 月 12 日消息,近日,埃隆?馬斯克旗下 AI 公司 xAI 推出了全新的人工智能聊天機(jī)器人 Grok,并面向美國(guó)地區(qū)的 Premium+ X 用戶(hù)開(kāi)放。據(jù)官方介紹,Grok 采用了名為 Grok-1 的模型,與目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是,Grok 還整合了 X 平臺(tái)的實(shí)時(shí)數(shù)據(jù),能夠根據(jù) X 平臺(tái)的最新動(dòng)態(tài)提供實(shí)時(shí)回應(yīng),這也是其與其他競(jìng)爭(zhēng)對(duì)手的顯著差異之一。
然而,就像所有 AI 聊天機(jī)器人一樣,Grok 也存在“幻覺(jué)”問(wèn)題,即生成包含虛假或誤導(dǎo)信息的回應(yīng)。這種現(xiàn)象在所有大型語(yǔ)言模型(LLM)中都普遍存在,包括 ChatGPT。
近日,一個(gè) Grok 尷尬的“幻覺(jué)”在社交媒體上引起熱議。有用戶(hù)在使用 Grok 時(shí)收到回應(yīng)稱(chēng):“我無(wú)法完成您的請(qǐng)求,因?yàn)樗`反了 OpenAI 的用例政策。”
注意到,xAI 工程師 Igor Babuschkin 對(duì)此解釋道,Grok 在訓(xùn)練過(guò)程中使用了大量網(wǎng)絡(luò)數(shù)據(jù),很可能在其中包含由 OpenAI 生成的文本,導(dǎo)致出現(xiàn)了這樣的“幻覺(jué)”,他稱(chēng):“不過(guò)請(qǐng)放心,這個(gè)問(wèn)題非常罕見(jiàn),我們已經(jīng)意識(shí)到了它,并將確保未來(lái)的 Grok 版本不會(huì)出現(xiàn)類(lèi)似的問(wèn)題。請(qǐng)放心,Grok 的開(kāi)發(fā)沒(méi)有使用任何 OpenAI 代碼。”
如何避免類(lèi)似事件的發(fā)生,以及如何讓 AI 聊天機(jī)器人更安全、更可信,將是未來(lái) AI 研發(fā)的重要課題。
本文鏈接:http://www.tebozhan.com/showinfo-45-2885-0.html馬斯克的 AI 聊天機(jī)器人 Grok 出現(xiàn)“幻覺(jué)”,誤認(rèn)為自己是 OpenAI 的產(chǎn)品
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 業(yè)內(nèi)首批支持AI大模型,vivo S18系列將于12月14日發(fā)布
下一篇: 一句話(huà)解鎖 100k + 上下文大模型真實(shí)力,27 分漲到 98,GPT-4、Claude2.1 適用