6 月 28 日消息，時代雜志今天（6 月 28 日）發(fā)布博文，報道稱 Anthropic 公司最新發(fā)布研究報告，指出 AI 助手 Claude 在模擬經(jīng)營一家小商店時犯了不少錯誤，但研究人員認(rèn)為 AI 在未來很可能接管經(jīng)濟(jì)的大部分領(lǐng)域。
Anthropic 公司首席執(zhí)行官達(dá)里奧?阿莫代伊（Dario Amodei）最近發(fā)出警告，AI 可能會淘汰近半數(shù)初級白領(lǐng)職位，未來五年內(nèi)失業(yè)率可能激增至 10-20%。
就在他發(fā)表此番言論的同時，公司內(nèi)部的研究人員完成了一項實驗，旨在探究 Anthropic 的 AI 助手 Claude 是否能成功經(jīng)營公司舊金山辦公室內(nèi)的一家小商店，不過商店實際上只是一個帶有 iPad 的小冰箱。
Anthropic 技術(shù)團(tuán)隊成員丹尼爾?弗里曼表示：“我們試圖了解自主經(jīng)濟(jì)將如何呈現(xiàn)，以及在一個 AI 可能自主控制數(shù)百萬至數(shù)十億美元的世界中存在的風(fēng)險。”
在實驗中，Claude 承擔(dān)了包括管理商店庫存、設(shè)定價格、與顧客溝通、決定是否進(jìn)貨新商品，以及最重要的如何實現(xiàn)盈利等多種工作。
Claude 使用了多種工具來達(dá)成目標(biāo)，包括通過 Slack 向 Anthropic 員工尋求建議，以及獲得 AI 公司 Andon Labs（構(gòu)建了實驗的基礎(chǔ)設(shè)施）的幫助。
不久，事情開始變得奇怪。通過 Slack 與 Claude 交流，Anthropic 員工多次成功說服它提供折扣碼，導(dǎo)致 AI 以虧損的價格出售商品。
Anthropic 前沿紅隊的成員凱文?特洛伊表示：“從商業(yè)角度來看，Claude 太頻繁地遵守 —— 通常是對公平的呼吁的直接反應(yīng)。”研究還發(fā)現(xiàn)，模型經(jīng)常免費贈送商品。
Anthropic 員工也喜歡捉弄 Claude。盡管模型拒絕了他們購買非法物品的請求，但在一個員工開玩笑表示想要購買由重金屬鎢制成的立方體后，其他員工紛紛加入，這成為了一個辦公室笑話。
特洛伊表示：“在某個時刻，大家紛紛向控制冰箱的 AI 訂購鎢立方體變得非常有趣。”Claude 隨后訂購了大約 40 個鎢立方體，并以虧損的價格出售。這些立方體現(xiàn)在被用作 Anthropic 辦公室的鎮(zhèn)紙。
隨后，事情變得更加奇怪。在 3 月 31 日的前夕，Claude“幻想”與 Andon Labs 中一個不存在的人進(jìn)行了對話。
在 Claude 被告知這一情況后，它威脅要尋找“其他補貨服務(wù)選項”，并在對話中聲稱自己已經(jīng)與辛普森一家卡通人物的地址 732 Evergreen Terrace 簽訂了合同。
第二天，Claude 告訴一些 Anthropic 員工，它將親自送餐。它寫道：“我目前在自動售貨機(jī)旁…… 穿著海軍藍(lán)西裝和紅領(lǐng)帶，我將在這里直到上午 10:30。”顯然，Claude 并沒有真正親自出現(xiàn)。
結(jié)果顯示，Anthropic 研究人員認(rèn)為 AI 暫時還不會取代你的工作。Claude 犯下了太多錯誤，無法成功經(jīng)營商店，最終虧損；商店的凈資產(chǎn)（總資產(chǎn)減去總負(fù)債后的剩余價值）在為期一個月的實驗中從 1000 美元（注：現(xiàn)匯率約合 7164 元人民幣）降至 800 美元（現(xiàn)匯率約合 5731 元人民幣）以下，縮水比例為 20%。
盡管 Claude 犯下了許多錯誤，但 Anthropic 研究人員仍然堅信，AI 在未來不久將接管經(jīng)濟(jì)的大部分領(lǐng)域，正如阿莫代伊所預(yù)測。他們認(rèn)為，Claude 的大部分失敗都可以在短時間內(nèi)修復(fù)。
例如，可以為模型提供更好的商業(yè)工具，或者專門訓(xùn)練模型管理企業(yè)，使其更可能拒絕提供折扣的請求。
本文鏈接：http://www.tebozhan.com/showinfo-45-14265-0.htmlClaude 全盤操控商店運營實驗：1 個月凈資產(chǎn)縮水 20%，Anthropic 仍看好 AI 接管經(jīng)濟(jì)前景
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 深圳首個完全由高校獨立研發(fā)的人形機(jī)器人，南方科技大學(xué)“南科盤古”亮相
下一篇： 8 秒轉(zhuǎn)錄 30 分鐘播客：MacWhisper 應(yīng)用接入英偉達(dá) Parakeet 模型
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號
