AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當(dāng)前位置:首頁 > 科技  > 網(wǎng)絡(luò)

《科學(xué)》發(fā)文!25位頂尖科學(xué)家呼吁:在AI快速發(fā)展中需管控極端風(fēng)險(xiǎn)

來源: 責(zé)編: 時(shí)間:2024-05-23 08:34:01 192觀看
導(dǎo)讀 面對可能迅速發(fā)展的人工智能,全球的風(fēng)險(xiǎn)應(yīng)對能力似乎并未步入正軌。在韓國首爾舉行的第二屆人工智能安全峰會(5月21日至22日)開展之際,25位世界領(lǐng)先的人工智能科學(xué)家在《科學(xué)》雜志上共同發(fā)表了一篇專家共識論

面對可能迅速發(fā)展的人工智能,全球的風(fēng)險(xiǎn)應(yīng)對能力似乎并未步入正軌。K5828資訊網(wǎng)——每日最新資訊28at.com

在韓國首爾舉行的第二屆人工智能安全峰會(5月21日至22日)開展之際,25位世界領(lǐng)先的人工智能科學(xué)家在《科學(xué)》雜志上共同發(fā)表了一篇專家共識論文,他們認(rèn)為,當(dāng)今全球在保護(hù)人類免受技術(shù)滋生的風(fēng)險(xiǎn)方面做得還不夠。K5828資訊網(wǎng)——每日最新資訊28at.com

《科學(xué)》發(fā)文!25位頂尖科學(xué)家呼吁:在AI快速發(fā)展中需管控極端風(fēng)險(xiǎn)K5828資訊網(wǎng)——每日最新資訊28at.com

在論文中,他們概述了全球領(lǐng)導(dǎo)人應(yīng)該采取的緊急政策優(yōu)先事項(xiàng),以應(yīng)對人工智能技術(shù)的威脅。K5828資訊網(wǎng)——每日最新資訊28at.com

重要建議K5828資訊網(wǎng)——每日最新資訊28at.com

該論文的合著者包括Geoffrey Hinton, Andrew Yao, Dawn Song,Daniel Kahneman等25位世界領(lǐng)先的人工智能及其治理學(xué)術(shù)專家。這些作者來自美國、中國、歐盟、英國和其他人工智能大國,其中還包括圖靈獎得主、諾貝爾獎獲得者和標(biāo)準(zhǔn)人工智能教科書的作者。K5828資訊網(wǎng)——每日最新資訊28at.com

這些科學(xué)家指出,世界各國領(lǐng)導(dǎo)人必須認(rèn)真對待在當(dāng)前十年或未來十年開發(fā)出強(qiáng)大的通用人工智能(AGI)系統(tǒng)的可能性,這種系統(tǒng)有可能在許多關(guān)鍵領(lǐng)域的表現(xiàn)都超越了人類。K5828資訊網(wǎng)——每日最新資訊28at.com

他們還稱,盡管世界各國政府一直在討論前沿人工智能,并在引入初步指導(dǎo)方針方面做出了一些嘗試,但這與許多專家預(yù)期的快速、變革性進(jìn)展的可能性根本不相稱。K5828資訊網(wǎng)——每日最新資訊28at.com

該論文的合著者、牛津大學(xué)工程科學(xué)系的Philip Torr教授稱,“在上次人工智能峰會上,全世界都贊成需要采取行動,但現(xiàn)在是時(shí)候從模糊的建議變成具體的承諾了。”K5828資訊網(wǎng)——每日最新資訊28at.com

這篇論文為公司和政府應(yīng)該承諾做什么提供了一些重要建議,包括:K5828資訊網(wǎng)——每日最新資訊28at.com

建立能迅速對風(fēng)險(xiǎn)作出反應(yīng)的專家機(jī)構(gòu)來監(jiān)督人工智能,并為這些機(jī)構(gòu)提供更多的資金。K5828資訊網(wǎng)——每日最新資訊28at.com

要求更嚴(yán)格的風(fēng)險(xiǎn)評估,并具有可執(zhí)行的結(jié)果,而不是依賴于自愿的或未明確的模型評估。K5828資訊網(wǎng)——每日最新資訊28at.com

要求人工智能公司優(yōu)先考慮安全,并證明他們的系統(tǒng)不會造成傷害,人工智能開發(fā)人員應(yīng)考慮安全性。K5828資訊網(wǎng)——每日最新資訊28at.com

實(shí)施與人工智能系統(tǒng)構(gòu)成的風(fēng)險(xiǎn)水平相符的風(fēng)險(xiǎn)緩釋標(biāo)準(zhǔn)。應(yīng)設(shè)置適當(dāng)?shù)牟呗裕?dāng)人工智能達(dá)到某些能力里程碑時(shí)自動觸發(fā)嚴(yán)格的要求;但如果人工智能進(jìn)展緩慢,要求會相應(yīng)放寬。K5828資訊網(wǎng)——每日最新資訊28at.com

值得一提的是,當(dāng)?shù)貢r(shí)間周二(5月21日)在首爾人工智能峰會上,微軟、亞馬遜、OpenAI等科技巨頭就人工智能安全達(dá)成了一項(xiàng)具有里程碑意義的國際協(xié)議。K5828資訊網(wǎng)——每日最新資訊28at.com

這項(xiàng)協(xié)議下,許多企業(yè)做出承諾,包括發(fā)布安全框架,列出衡量潛在風(fēng)險(xiǎn);一旦發(fā)現(xiàn)了這種極端情況,如果不能保證降低風(fēng)險(xiǎn),企業(yè)們就需要打開“緊急停止開關(guān)”,叫停AI模型的開發(fā)進(jìn)程。K5828資訊網(wǎng)——每日最新資訊28at.com

政府監(jiān)管帶頭K5828資訊網(wǎng)——每日最新資訊28at.com

根據(jù)作者的說法,對于未來異常強(qiáng)大的人工智能系統(tǒng),政府必須準(zhǔn)備好在監(jiān)管方面發(fā)揮帶頭作用。這包括:許可這些系統(tǒng)的開發(fā),限制其在關(guān)鍵社會角色中的自主權(quán),停止其開發(fā)和部署以應(yīng)對令人擔(dān)憂的功能,強(qiáng)制訪問控制,以及要求對國家級黑客采取強(qiáng)有力的信息安全措施。K5828資訊網(wǎng)——每日最新資訊28at.com

加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授、世界標(biāo)準(zhǔn)人工智能教科書的作者斯圖爾特·羅素Stuart Russell OBE表示,“這是一份由頂尖專家達(dá)成共識的論文,它呼吁政府嚴(yán)格監(jiān)管,而不是由行業(yè)制定自愿的行為準(zhǔn)則。”K5828資訊網(wǎng)——每日最新資訊28at.com

他補(bǔ)充道,“是時(shí)候認(rèn)真對待先進(jìn)的人工智能系統(tǒng)了。這些不是玩具。如果說‘監(jiān)管扼殺了創(chuàng)新’,那太荒唐了,因?yàn)閷δ切┢胀ㄈ髦蔚甑谋O(jiān)管甚至比對人工智能公司的監(jiān)管還多。”K5828資訊網(wǎng)——每日最新資訊28at.com


文章出處:財(cái)聯(lián)社

本文鏈接:http://www.tebozhan.com/showinfo-17-90130-0.html《科學(xué)》發(fā)文!25位頂尖科學(xué)家呼吁:在AI快速發(fā)展中需管控極端風(fēng)險(xiǎn)

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 女子深圳玩槳板連人帶板漂至香港:萬幸無大礙

下一篇: 郭有才賬號打賞收入高達(dá)三四百萬:粉絲數(shù)已突破千萬

標(biāo)簽:
  • 熱門焦點(diǎn)
Top