歐盟人工智能法案：四種AI系統風險類型的劃分及監管措施
作者：趙志東 蔡佳雯來源：區塊鏈日報該法案采用風險分級的規制路徑，將人工智能系統的風險劃分成不可接受的風險、高風險、有限風險和輕微風險四種類型，并針對不同類型施加了不同
來源：清元宇宙
還記得5月OpenAI在國會山聽證會上的自信、坦誠、游刃有余的問答嗎？
那時的Sam Altman可謂意氣風發，在耐心、友好的國會議員面前，就AI立法、大模型安全性問題侃侃而談，甚至還自己提出了AI監管方針，“懇求”國會議員監管。
在Sam Altman精湛的說辭和誠懇的態度下，本該針鋒相對、充滿緊張氛圍的聽證會，卻成了雙向奔赴的現場，“曖昧之情”可謂羨煞旁人。
既然話都說到這份上了，那AI監管自然得抓緊提上日程！
于是，在民眾舉報和官方調查的有力結合下，一條大魚終于“落網了”。
7月13日，美國聯邦貿易委員會（FTC）對OpenAI正式發起調查。調查內容集中在兩方面，即ChatGPT是否通過發布虛假信息損害了人們的利益，以及OpenAI是否存在“不公平或欺騙性”的隱私和數據安全行為。
事實上，這不是OpenAI首次被質疑數據隱私問題。
6月28號，位于北加州的Clarkson律所對OpenAI及其合作伙伴微軟提起了集體訴訟。理由是OpenAI在訓練大模型時抓取的數據，嚴重侵犯了16名原告的著作權和隱私。
6月底，作家阿瓦德（Mona Awad）與特蘭布拉（Paul Trembla）也向舊金山聯邦法院提起訴訟，稱ChatGPT未經他們同意，擅自調用他們的小說來進行訓練。
監管看似是對AI企業的debuff（負效應），但在監管成為必然的趨勢之下，先一步成為規則的制定者，則可以獲得相對的競爭優勢。這是OpenAI高呼“安全”“合法”的原因。
但如今，“AI監管先鋒”OpenAI成了游走在法律邊緣的頭號違規者，這場“AI狂飆大戲”，Sam Altman作為“AI界高啟強”的真面目也算是被揭開了。
面對怒氣沖沖的被侵權者和來勢洶洶的監管部門，OpenAI的CEO Sam Altman雖然語氣依舊克制，就侵權、起訴、調查等問題發表自己的看法，但從其推特的高頻回復來看，或許著實有點慌了。
面對質疑，Sam Altman連發了三條推特：
他對FTC的調查和未能建立起信任表示遺憾，并強調自己一直重視技術安全問題，相信OpenAI的一切行為是符合法律的。
他繼續強調GPT-4的安全性，稱OpenAI在多年的安全研究基礎上構建了GPT-4，并在完成初始訓練后花費了6個多月的時間使其更安全、更符合要求，然后才將其發布。
Altman表示其對技術的局限性一直保持透明，并稱OpenAI沒有動力去追求無限的回報，因為他們的盈利結構是有限的，其暗指將社會道德置于盈利之上。
總結一下就是，我們一直試圖不被發現，但很遺憾還是暴露了。
事實上，此次被調查的問題，早在5月的聽證會上，就已經埋下了伏筆。
雖然在國會山上的答辯中，Sam Altman的表現可謂異常出彩，但是，并非全無漏洞。
當時坐在證人席上的紐約大學心理學和神經科學教授Gary Marcus問出了兩個致命問題：
時隔兩個月，當初的兩個問題均成為OpenAI此次信任危機爆發的重要根源。
北加州Clarkson律所在起訴書中言辭激烈，表示OpenAI的整個商業模式都是基于盜竊，并聲稱，OpenAI和微軟在開發、營銷和運營其AI產品時，對數以億計的互聯網用戶的個人信息，包括兒童信息進行了非法收集、使用和分享。除了ChatGPT，其訴訟涉及的對象包括了ChatGPT、Dall-E、Codex在內的眾多OpenAI旗下產品。基于這一點，許多網友將其稱作“OpenAI第一案”。
最近的一次，FTC對于OpenAI的調查更為詳細，其列舉了一份包含49個大問題，200多個小問題的清單，要求OpenAI就清單上的所有問題進行詳細的回答和陳述。問題涉及模型開發與訓練、風險評估與應對、隱私和Prompt風險及措施和API集成及插件等諸多方面。
答完這些問題，原本不Open的OpenAI想必不得不Open一回了。
在OpenAI和微軟兩位同行應付接二連三的侵權訴訟，忙得焦頭爛額之際，谷歌敏銳地嗅到了危機，于是選擇先行堵上這一漏洞。
7月1日，谷歌更新了其隱私政策，明確規定谷歌有權收集任何公開可用的數據，并將其用于其人工智能模型的培訓。此舉意味著，只要是谷歌能從公開渠道獲得的內容，它都可以拿來訓練自己的Bard模型或未來的一切人工智能。
國外媒體對此評論，在這一項條款中，谷歌似乎保留了收集和利用在公共平臺上發布的所有數據的權利，就好像整個互聯網是該公司自己的AI游樂場。
不過，針對隱私保護的擔憂，谷歌的發言人克里斯塔·馬爾登（Christa Muldoon）強調，谷歌已將隱私原則和保障措施融入人工智能技術開發之中，以確保其與谷歌的人工智能原則保持一致。
此外，谷歌也采取了一系列措施來應對用戶數據的安全性和隱私性等方面的問題。例如，谷歌承諾僅在獲得用戶明確同意的情況下收集和使用他們的數據，并將采取嚴格的技術和管理措施來防止數據泄露。
并且，谷歌正在與美國、英國和歐洲的新聞機構進行溝通，表示愿意付費購買新聞內容。同時他們的AI工具Bard也正在接受“公開可獲得的信息”的培訓，這可能包括需要付費的網站。若付費購買新聞信息的協議達成，谷歌在信息版權問題上將邁出值得借鑒的一步，而谷歌的數據庫也將獲得更為豐富的數據來源。
但是，新政策對書籍著作、藝術繪畫等受版權保護的內容作品，如何防止其進入訓練數據庫的具體做法并未明確。
從“OpenAI第一案”，到AI公司現階段普遍面臨的數據隱私問題，AI監管的下一步方向已經較為明確，那便是社交平臺上發布的“私人數據”和用于訓練的“公共數據”之間的劃分準則。
目前，美國對于大模型訓練數據的立法還沒有通過，法官判決很大程度上是參考已經有的隱私權和著作權的案例。但隨著AI與人類社會之間不斷融合、浸潤，所謂“具身智能”的未來不斷臨近，私人數據的保護邊界、使用邊界必須要逐步明確。
然而，要想區分數據的公私邊界，在立法層面上來看，也并非易事。
作為生產信息數據量最大的社交媒體，平臺本身的公共性質和用戶活動的私人性質，無疑構成了一對復雜的矛盾，用戶與平臺對于數據的保護和使用邊界的界定，當中涉及諸多復雜的主客觀因素，使得要想明確地界定公私界限，極為困難。
不過，縱然法律上的尚未探明的灰色地帶成了AI巨頭們時不時攫取利益的來源，但是，在沒有明確法律規則的背景之下，類似的隱私侵犯案件的審判中，和解往往是普遍的處理方式。而在和解中，OpenAI等AI公司并不一定會具有優勢。
因此，頻繁增多的隱私侵犯案件，勢必會倒逼政府及法律部門在AI監管上作出重要舉措，也會迫使AI科技公司收斂自己的權力，更新完善既有的信息政策。
本文鏈接：http://www.tebozhan.com/showinfo-40-2-0.htmlAI界地震！美國對OpenAI展開調查！監管風暴來襲！
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 元宇宙終究沒火過兩年
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號