10月27日消息,OpenAI宣布成立一支專門團(tuán)隊(duì),旨在降低與人工智能(AI)相關(guān)的“災(zāi)難性風(fēng)險(xiǎn)”,并致力于追蹤、評(píng)估、預(yù)測(cè)和保護(hù)免受AI可能引發(fā)的重大問題。
據(jù)了解,OpenAI相信前沿AI模型的潛力將超越目前最先進(jìn)的現(xiàn)有模型,為全人類帶來福祉,但同時(shí)也帶來了日益嚴(yán)重的潛在風(fēng)險(xiǎn)。這一新成立的團(tuán)隊(duì)將努力應(yīng)對(duì)AI可能引發(fā)的重大風(fēng)險(xiǎn),包括核威脅、生物、化學(xué)和放射性威脅等,以及AI“自我復(fù)制”等行為可能帶來的潛在風(fēng)險(xiǎn)。
OpenAI強(qiáng)調(diào),他們必須確保具備足夠的理解和基礎(chǔ)設(shè)施,以確保高能力AI系統(tǒng)的安全性。這支團(tuán)隊(duì)將由前麻省理工學(xué)院可部署機(jī)器學(xué)習(xí)中心的主任AleksanderMadry領(lǐng)導(dǎo),并將制定和維護(hù)一項(xiàng)名為“風(fēng)險(xiǎn)知情開發(fā)政策”的措施,旨在總結(jié)公司在評(píng)估和監(jiān)控AI大模型方面的工作。
此前,非營(yíng)利組織AI安全中心發(fā)表簡(jiǎn)短聲明,將減輕AI引發(fā)的絕滅風(fēng)險(xiǎn)視為與流行病、核戰(zhàn)等社會(huì)問題同等重要的全球優(yōu)先事項(xiàng)。這一倡議得到了包括OpenAI首席執(zhí)行官山姆?阿爾特曼在內(nèi)的多位AI行業(yè)領(lǐng)袖的支持。
本文鏈接:http://www.tebozhan.com/showinfo-45-2300-0.htmlOpenAI成立專團(tuán)隊(duì) 應(yīng)對(duì)AI災(zāi)難性風(fēng)險(xiǎn)
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 京東與愛普生針對(duì)打印機(jī)新品11.11達(dá)成合作 帶來高效打印機(jī)新體驗(yàn)