7 月 26 日消息，2025 世界 AI 大會今日在上海開幕，圖靈獎得主約書亞?本吉奧發表演講稱，前沿模型近期在規劃和推理方面取得了顯著進展。如果這樣的趨勢持續，AI 的規劃推理能力有望在十年內達到人類的水平。dYs28資訊網——每日最新資訊28at.com

從演講中獲悉，如果缺乏堅實的防護措施，強大的 AI 系統可能會放大虛假信息，網絡攻擊和生物威脅等現有風險。更令人擔憂的是，人類恐將失去對自我保護型智能體的控制，這些智能體的認知能力或將“很快超越人類”。dYs28資訊網——每日最新資訊28at.com

本吉奧認為，科學界仍有相當比例認為這種情況可能發生，就必須保持最高警惕。目前尚無科學驗證方法確保 AI 可信且始終遵從人類意圖。更糟糕的是，欺騙和自我保護行為在最強模型中似乎更加明顯。“隨著 AI 的智能水平不斷提升，這才是真正令人擔憂的地方，因為智能意味著權利。”dYs28資訊網——每日最新資訊28at.com

本吉奧表示，我們急需在技術和政策層面采取措施，以應對這些風險和其他潛在的問題。理性的政策應鼓勵開發不具備危險能力的 AI 開源項目；同時，禁止其他情況下的開發，并對閉源模型實施充分的安全保障措施，包括網絡安全和物理安全，確保其不易被犯罪分子、恐怖分子或流氓國家所利用。dYs28資訊網——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-15021-0.html圖靈獎得主約書亞?本吉奧：AI 規劃推理能力十年內有望達到人類水平

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 《人工智能全球治理行動計劃》在我國發布

下一篇： 游船側翻、交通事故？央視通報多起 AI 炮制假新聞