9 月 14 日消息,科技媒體 The Decoder 昨日(9 月 13 日)發布博文,報道稱在 OpenAI 自家的“防備框架”(Preparedness Framework)下,將最新發布的 o1 AI 模型歸類為“中等風險”(medium risk)。
防備框架簡介曾于 2023 年 12 月報道,OpenAI 成立了新的“防備”(Preparedness)團隊,并提出“防備框架”指導方針。
防備團隊將反復評估 OpenAI 最先進、尚未發布的 AI 模型,根據不同類型的感知風險評為四個等級,從低到高依次是“低”、“中”、“高”和“嚴重”。根據新的指導方針,OpenAI 將只推出評級為“低”和“中”的模型。
OpenAI o1 模型OpenAI 公司在官方新聞稿中表示,最終確定 o1 模型歸類為“中等風險”主要有以下兩個原因:
類人推理能力
o1 模型展現出類似人類的推理能力,并能在類似主題上產生與人類撰寫同樣令人信服的論點。
這種說服力并非 o1 獨有,先前的 AI 模型也已展示出此能力,有時甚至超越人類表現。
可輔助制作生物武器
評估顯示,o1 模型能輔助專家復制已知生物武器威脅。
OpenAI 宣稱,o1 模型顯著提升數學和科學領域的能力。
例如,在全美奧林匹克數學隊()USA Mathematical Olympiad,簡稱 USAMO)的預選賽中,新模型的表現能躋身美國前 500 名學生之列,并且在物理、生物和化學問題的基準測試中,準確度超過了人類博士水平。
OpenAI 首次將其模型在化學、生物、放射性和核武器(CBRN)風險方面的評級定為“中性”。這些模型的發布伴隨著對其潛在危險的多次警告。
本文鏈接:http://www.tebozhan.com/showinfo-45-7303-0.html因類人通用推理、可輔助制作生物武器等因素,OpenAI o1 AI 模型歸類為“中等風險”
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com