歐盟人工智能法案：四種AI系統風險類型的劃分及監管措施
作者：趙志東 蔡佳雯來源：區塊鏈日報該法案采用風險分級的規制路徑，將人工智能系統的風險劃分成不可接受的風險、高風險、有限風險和輕微風險四種類型，并針對不同類型施加了不同
7 月 28 日消息，微軟人工智能公益項目（Microsoft AI for Good）發布的一篇論文概述了一項實驗，該實驗有超過 1.25 萬名全球參與者，進行了 28.7 萬次圖像評估，結果顯示人類辨別 AI 生成圖像與真實圖像的整體成功率僅為 62%，這表明人類在識破這些虛假圖像方面的能力僅略高于隨機猜測，面臨著較大的挑戰。
研究發現，在各類圖像中，參與者最容易識別出虛假的人像圖像，但面對自然景觀和城市街景等非人物圖像，辨別成功率大幅下降至 59% - 61%。這凸顯了人類在區分 AI 圖像時的困難，尤其是那些沒有明顯人工痕跡或風格線索的圖像。
據了解，實驗采用“真實或虛假”問答游戲的形式，參與者需判斷所見圖像是否由 AI 生成。為確保測試貼近現實場景，研究團隊刻意避免挑選極具迷惑性的“極端案例”，而是選取了人們在日常網絡瀏覽中可能真實遇到的圖像樣本。研究同時強調，隨著 AI 技術持續進步，未來模型生成的圖像將更加逼真，辨別難度將進一步加大。
基于研究結果，微軟呼吁加強技術透明度，推動廣泛采用圖像水印和可靠的 AI 內容檢測工具，以降低 AI 生成內容引發虛假信息傳播的風險。此前，微軟已發起公眾教育活動，旨在提升社會對 AI 偽造信息威脅的認知。
研究團隊還測試了微軟自研的 AI 檢測工具，該系統在各類圖像上的識別準確率均超過 95%，遠高于人類表現。盡管如此，研究人員仍強調，即便是先進的機器檢測手段也并非萬無一失。
值得注意的是，即便圖像帶有可見水印，惡意使用者仍可通過簡單的裁剪或圖像處理工具輕易將其去除或掩蓋，從而繞過視覺警示機制。這使得僅依賴水印的防護策略顯得尤為不足。
為何人類在識別人臉類 AI 圖像時更具優勢？研究人員認為，這可能源于人類天生對面部特征的高度敏感性，更容易察覺 AI 生成人像中的細微異常，如不對稱的眼睛、不自然的皮膚紋理或光線錯誤。有趣的是，研究還發現，早期的生成對抗網絡（GANs）和圖像修復（inpainting）技術反而更具欺騙性。這些技術生成的圖像往往呈現“業余攝影”風格，而非 Midjourney 或 DALL-E 3 等主流模型常見的精致、高飽和度的“影棚風”，因而更易被誤認為真實拍攝。
其中，圖像修復技術尤其值得警惕 —— 其允許將真實照片中的局部區域替換為 AI 生成內容。微軟指出，這種“局部偽造”手段極具隱蔽性，極難被普通用戶識別，為虛假信息和深度偽造（deepfake）攻擊提供了新的溫床，可能被用于制造誤導性新聞或政治宣傳。
這項研究再次敲響警鐘：面對日益逼真的 AI 生成內容，人類的直覺判斷已不足以應對。科技企業必須加快開發更強大的檢測技術和內容溯源機制，構建多層次的防御體系，以遏制 AI 偽造內容在社會層面的惡意傳播。
本文鏈接：http://www.tebozhan.com/showinfo-45-15099-0.html微軟研究：人類辨別 AI 生成圖像成功率僅 62%
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號