三院士三教授熱聊元宇宙&——AIGC，學術界怎么看？
來源：清元宇宙在近日舉辦的中國江寧2023元宇宙產業·人才高峰論壇暨AIGC發展大會上，中國工程院院士譚建榮、劉韻潔、鄭緯民出席并發表了主旨演講。除了三大院士，還有清華
5 月 14 日消息，《自然》雜志采訪了 OpenAI 首席科學家雅庫布?帕喬茨基，討論了人工智能能否生成原創科研成果、人工通用智能（AGI）的前景，以及公司即將推出的開源模型。
附問答內容大意如下：
Q：越來越多的科學家開始使用推理模型。這些模型在五年內可能帶來哪些變化？
A：
如今，你與模型互動時，它更像是一個需要不斷引導的助手。我預計，這種狀況會發生重大變化。
我們已經看到了像 OpenAI 的 Deep Research（一個能夠整合大量信息的工具）能夠在沒有監督的情況下工作 10 到 20 分鐘，并且能產生有用的結果。但解決這些問題所需要的計算資源相對較少。
如果你有開放的研究問題，值得在這類問題上投入更多的計算。我預計，我們會擁有能夠進行原創研究的 AI。例如，在自動化軟件工程和硬件組件的自主設計等領域，將會有很多進展，其他學科也會出現類似的應用。
Q：在 OpenAI 推理模型的開發中，基于試錯和獎勵的“強化學習”有多重要？
A：
最初的 ChatGPT 版本包括一個無監督的預訓練階段，模型通過攝取大量數據構建“世界模型”。然后，我們通過強化學習的過程，借助人工反饋，提煉出一個實用的助手。
最新的推理模型進展可以看作是更重視強化學習階段，這樣我們不僅僅是提取信息，還讓模型能夠找到自己的思維方式。
一個問題是，是否應該繼續將這些學習階段分開看待。推理模型不是在空白中學習思考，它們是基于預訓練模型的基礎進行的。我的工作重點之一就是研究這個階段，并融合不同方法，理解它們的相互作用。
Q：你提到模型在“思考”。那么，模型是否真的在推理？還是它們只是在模擬推理的過程？
A：
我們需要明確一點：模型的工作方式和人類大腦的工作方式不同。預訓練模型學到了世界的一些知識，但它并不真正理解自己是如何學到這些的，也沒有時間順序感。
我相信，我們已經有足夠證據表明，模型能夠發現新的見解。我認為這可以算作是一種推理，但這并不意味著它與人類的推理方式完全相同。
Q：奧爾特曼曾表示，OpenAI 將很快發布開源模型，這是自 2019 年 GPT-2 以來的首次。你能告訴我這些計劃的詳細情況嗎？
A：
我對此非常興奮，尤其是能夠為研究人員提供一個開源模型的機會，讓他們能夠下載并進行進一步訓練。隨著這些模型的不斷進步，我們需要承擔更多責任，了解它們的部署方式如何影響人類。
我認為，要發布具有開源權重的前沿模型會非常困難，主要是出于安全考慮。我希望能夠發布一個比現有開源模型更好的版本。
Q：你對 AGI 的定義是什么？你認為我們何時能夠實現它？
A：
我（對 AGI）的時間表和定義都發生了很大的變化。剛進入研究生院時，我看到了 AGI 的一個重要里程碑 —— 圍棋，之前我認為還需要幾十年。顯然，圍棋在 2016 年就被攻克了，那一刻讓我感到震撼。
2017 年加入 OpenAI 時，我還是公司內最大的懷疑者之一，但里程碑的突破比我預期的要快。在圖靈測試方面，我們已經取得了顯著進展。接下來，問題是數學和問題解決能力呢？我們在這些方面也取得了很大進展，我預計最具挑戰性的基準測試將很快被超越。
因此，我目前在關注的下一個重要里程碑是，人工智能能否在經濟上產生實際的、可量化的影響，尤其是能否創造原創的科研成果。對我而言，這接近我以前對 AGI 的情感定義。我們現在正專注于這個方向，預計到本十年結束時，我們將取得非常顯著的進展。甚至今年，我也預計 AI 將能幾乎自主地生成有價值的軟件，盡管可能不會解決重大的科學難題。
本文鏈接：http://www.tebozhan.com/showinfo-45-12911-0.htmlOpenAI 首席科學家雅庫布?帕喬茨基：AI 今年可自主生成有價值的軟件
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號