7月7日消息，OpenAI近日宣布成立一個(gè)新的團(tuán)隊(duì)，由聯(lián)合創(chuàng)始人兼首席科學(xué)家IlyaSutskever和Alignment負(fù)責(zé)人JanLeike共同領(lǐng)導(dǎo)。該團(tuán)隊(duì)的首要任務(wù)是尋找引導(dǎo)和控制下一代“超智能人工智能系統(tǒng)”的方法。OpenAI為這個(gè)團(tuán)隊(duì)提供了最高優(yōu)先級(jí)，并授權(quán)其使用公司20%的計(jì)算資源。團(tuán)隊(duì)的目標(biāo)是在未來四年內(nèi)解決“控制超智能AI”的核心技術(shù)挑戰(zhàn)。QOp28資訊網(wǎng)——每日最新資訊28at.com

研究者Sutskever和Leike認(rèn)為，“下一代超智能AI”可能會(huì)在十年內(nèi)問世，這將是人類迄今為止最具影響力的技術(shù)之一，能夠幫助解決許多需要大量人力資源才能解決的問題。然而，他們也指出，這項(xiàng)技術(shù)可能會(huì)對(duì)人類造成威脅，巨大的力量可能導(dǎo)致人類失去主權(quán)甚至滅絕。QOp28資訊網(wǎng)——每日最新資訊28at.com

團(tuán)隊(duì)表示，目前他們還沒有找到一個(gè)合理的方法來引導(dǎo)或控制潛在的超智能AI，人類只能通過反饋來調(diào)整AI系統(tǒng)的生成過程，但無法從根源上可靠地監(jiān)督AI系統(tǒng)。因此，OpenAI計(jì)劃構(gòu)建一個(gè)接近人類水平的AI“automatedalignment researcher”，并利用大量的深度學(xué)習(xí)來擴(kuò)展其能力，通過迭代地調(diào)整這個(gè)超級(jí)智能系統(tǒng)。QOp28資訊網(wǎng)——每日最新資訊28at.com

據(jù)ITBEAR科技資訊了解，為了實(shí)現(xiàn)這個(gè)目標(biāo)，研究人員需要開發(fā)可擴(kuò)展的訓(xùn)練方法，并驗(yàn)證生成的模型，最終進(jìn)行一系列可控性測試。他們計(jì)劃利用這個(gè)AI系統(tǒng)來協(xié)助評(píng)估其他AI系統(tǒng)，并希望了解和控制模型如何將監(jiān)督推廣到人類研究員無法監(jiān)督的任務(wù)上。QOp28資訊網(wǎng)——每日最新資訊28at.com

Sutskever和Leike表示，隨著研究的深入，他們預(yù)計(jì)研究重點(diǎn)可能會(huì)發(fā)生變化，并可能涌現(xiàn)出新的研究領(lǐng)域。QOp28資訊網(wǎng)——每日最新資訊28at.com

目前，OpenAI的新團(tuán)隊(duì)正在招募機(jī)器學(xué)習(xí)研究人員和工程師。Sutskever和Leike認(rèn)為，招募更多的機(jī)器學(xué)習(xí)專家對(duì)于解決下一代超智能AI的問題至關(guān)重要。他們計(jì)劃廣泛分享團(tuán)隊(duì)的研究成果，并與業(yè)界合作，共同推動(dòng)進(jìn)步。QOp28資訊網(wǎng)——每日最新資訊28at.com

這個(gè)新團(tuán)隊(duì)的工作是對(duì)OpenAI現(xiàn)有工作的補(bǔ)充，旨在提高ChatGPT等當(dāng)前模型的安全性，并理解和減輕人工智能帶來的其他風(fēng)險(xiǎn)，如濫用、經(jīng)濟(jì)破壞、虛假信息、偏見和歧視、成癮和過度依賴等問題。雖然新團(tuán)隊(duì)專注于解決將超智能AI系統(tǒng)與人類意圖結(jié)合的機(jī)器學(xué)習(xí)挑戰(zhàn)，但他們也在積極與跨學(xué)科專家合作，解決相關(guān)的社會(huì)技術(shù)問題，以確保技術(shù)解決方案充分考慮到更廣泛的人類和社會(huì)問題。QOp28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-1029-0.html超智能AI系統(tǒng)引發(fā)研究挑戰(zhàn) OpenAI組建專家團(tuán)隊(duì)解決核心技術(shù)問題

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： AI課程市場亂象：割韭菜成為導(dǎo)師們的賺錢方式

下一篇： 亞馬遜計(jì)劃在人工智能領(lǐng)域全面投資 云計(jì)算業(yè)務(wù)或成優(yōu)勢(shì)