5 月 12 日消息，據(jù)英國《衛(wèi)報(bào)》10 日?qǐng)?bào)道，麻省理工學(xué)院 AI 安全研究者馬克斯?泰格馬克指出，他進(jìn)行了類似當(dāng)年美國物理學(xué)家阿瑟?康普頓在“三位一體”核試前所做的概率計(jì)算，結(jié)果顯示：高度發(fā)達(dá)的 AI 有九成可能帶來生存威脅。55J28資訊網(wǎng)——每日最新資訊28at.com

55J28資訊網(wǎng)——每日最新資訊28at.com

注：1945 年，美國在獲知原子彈引發(fā)大氣層燃燒的可能性幾乎為零后，推進(jìn)了歷史性的“三位一體”核試驗(yàn)。55J28資訊網(wǎng)——每日最新資訊28at.com

泰格馬克與三名麻省理工學(xué)生合作發(fā)表論文，建議借鑒“康普頓常數(shù)”的概念 —— 即強(qiáng) AI 失控的概率。在 1959 年的一次采訪中，康普頓提到，他是在確認(rèn)失控核聚變的幾率“不足三百萬分之一”后才批準(zhǔn)了核試驗(yàn)。55J28資訊網(wǎng)——每日最新資訊28at.com

泰格馬克強(qiáng)調(diào)，AI 企業(yè)必須認(rèn)真計(jì)算“人工超級(jí)智能”（ASI）是否會(huì)脫離人類掌控，而非憑感覺行事。“打造超級(jí)智能的公司必須計(jì)算康普頓常數(shù)，即我們可能失控的幾率，光說‘我們有信心’是不夠的，必須拿出具體數(shù)據(jù)。”55J28資訊網(wǎng)——每日最新資訊28at.com

他指出，如果多家公司聯(lián)合計(jì)算康普頓常數(shù)并形成共識(shí)，將有助于推動(dòng)全球范圍內(nèi) AI 安全機(jī)制的建立。55J28資訊網(wǎng)——每日最新資訊28at.com

泰格馬克是麻省理工學(xué)院的物理學(xué)教授及 AI 研究者，其參與創(chuàng)辦了致力于推動(dòng) AI 安全發(fā)展的非營(yíng)利組織“未來生命研究所”。2023 年，該機(jī)構(gòu)發(fā)布公開信，呼吁暫停開發(fā)更強(qiáng)大的 AI 系統(tǒng)。這封信獲得超過 3.3 萬人簽名，其中包括早期支持者埃隆?馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克。55J28資訊網(wǎng)——每日最新資訊28at.com

信中警告稱，各大實(shí)驗(yàn)室正陷入“失控競(jìng)賽”，開發(fā)越來越強(qiáng)大的 AI 系統(tǒng)，而這些系統(tǒng)“人類無法理解、預(yù)測(cè)或可靠控制”。55J28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-12806-0.html麻省理工學(xué)院教授呼吁 AI 公司量化產(chǎn)品失控風(fēng)險(xiǎn)：像首次核試驗(yàn)之前那樣

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： 摩爾線程Torch-MUSA v2.0.0升級(jí)：全面支持FP8與PyTorch 2.5.0

下一篇： 網(wǎng)信部門曝光第六批涉公共政策、突發(fā)案事件、社會(huì)民生領(lǐng)域網(wǎng)絡(luò)謠言典型案例