美英等18國簽署了一項協議,要求企業在設計和使用AI系統時必須符合安全原則。這項協議旨在確保AI系統的安全性和可靠性,以避免被黑客攻擊或惡意使用。
該協議建議僅釋放經過適當安全測試的AI模型,以防止黑客劫持。此外,協議還規定了企業在開發和使用AI系統時必須遵守的一些一般性建議,包括監測AI系統是否被誤用、保護數據不被篡改、調查軟件供應商等。
這項協議是由美國、英國等18個國家簽署的,雖然它沒有法律約束力,但它的重要性不容忽視。該協議的簽署表明許多國家已經認識到,在設計和使用AI系統時,安全性應該是首要考慮的因素,而不是其他因素如酷炫功能、上市時間、降低成本提高競爭力等。
隨著全球產業和社會對AI發展的壓力越來越大,許多國家政府已經采取了一系列措施來規范AI的使用。這項由18個國家簽署的協議是少數幾個有效的手段和架構之一,它為防止AI技術被黑客劫持提供了解決方案,包括僅釋放經過適當安全測試的模型等建議。
AI的興起引發了政府和公眾對相關技術的擔憂,包括可能被用于破壞民主程序、加速詐騙、減少工作機會等危害。然而,這項協議并沒有涉及適當使用AI的相關規范、模型訓練用數據收集方式等棘手問題。此外,2023年10月美國白宮發布的新行政命令旨在加強國家安全并降低AI對消費者、勞工、少數族群的危害。
相比之下,歐洲各立法機關在起草與AI相關的法規方面比美國更快,最近法國、德國、意大利達成了協議,針對專為產生廣泛輸出而設計的AI基礎模型(Foundation model),制定了支持強制性自我管理的監管方式。雖然美國拜登政府敦促國會加速立法,但由于兩黨對立,實質性進展受到阻礙。
本文鏈接:http://www.tebozhan.com/showinfo-27-45378-0.html18國達成AI安全協議,確保技術健康發展
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 金士頓江波龍合資,推動供應鏈自主化