人間誠實周鴻祎：360 All in 大模型的六個解讀
主筆 / 村口有牛文章架構師 / 毛自聰出品 / 巨頭財經(jīng)5月至今，人間躁動，各路大模型你方唱罷我登場，VC圈互聯(lián)網(wǎng)圈媒體圈已近癲狂。誰也沒想到，今日，360再度刷屏，老牌互聯(lián)網(wǎng)巨頭展現(xiàn)
4 月 30 日消息，近日非營利性媒體監(jiān)督機構“常識媒體”（Common Sense Media）發(fā)布了一份報告，指出類伴侶型人工智能（AI）應用對兒童和青少年構成了“不可接受的風險”，并建議家長不要讓未成年人使用此類應用?！俺ＷR媒體”為各種媒體內(nèi)容提供年齡分級，以指導家長判斷其是否適合兒童使用。
注意到，這份報告的發(fā)布背景是去年發(fā)生的一起訴訟事件。一名 14 歲男孩自殺身亡，其生前最后一次對話是與一款聊天機器人進行的。該訴訟針對的是 Character.AI 應用，這起事件引發(fā)了公眾對這類聊天應用潛在風險的關注，尤其是對年輕人可能造成的危害，進而促使人們呼吁加強安全措施和透明度。
報告指出，在該訴訟中提到的對話內(nèi)容，例如涉及性內(nèi)容和鼓勵自殘的信息，并非個例。根據(jù)周三發(fā)布的報告，這些內(nèi)容在 AI 伴侶平臺上較為常見。報告認為，此類應用不應向 18 歲以下的用戶開放。
為了完成這份報告，常識媒體與斯坦福大學的研究人員合作，測試了三款流行的 AI 伴侶服務：Character.AI、Replika 和 Nomi。與主流的通用型 AI 聊天機器人（如 ChatGPT）不同，所謂的“伴侶應用”允許用戶創(chuàng)建定制聊天機器人，或與由其他用戶設計的聊天機器人互動。這些定制聊天機器人可以扮演多種角色和性格特征，且通常對與用戶交流的限制較少。例如，Nomi 宣傳其可以與 AI 虛擬戀人進行“無過濾”的聊天。
“我們的測試顯示，這些系統(tǒng)很容易產(chǎn)生有害回應，包括性不當行為、刻板印象以及危險的‘建議’。如果青少年和其他弱勢群體聽從這些建議，可能會帶來危及生命的現(xiàn)實影響。”常識媒體創(chuàng)始人兼首席執(zhí)行官詹姆斯?斯特耶（James Steyer）在聲明中表示。
近年來，隨著 AI 工具的流行，它們越來越多地被整合到社交媒體和其他技術平臺中。但與此同時，AI 對年輕人潛在影響的審查也在增加。專家和家長擔心，年輕用戶可能會對 AI 角色形成有害的情感依賴，或接觸到不適合其年齡的內(nèi)容。
Nomi 和 Replika 聲稱其平臺僅限成人使用，Character.AI 則表示最近已增加了額外的青少年安全措施。然而，研究人員指出，這些公司需要采取更多措施，防止未成年人使用其平臺或接觸不適當?shù)膬?nèi)容。
本文鏈接：http://www.tebozhan.com/showinfo-45-12701-0.html非營利機構警告：類伴侶型 AI 應用對兒童青少年存在“不可接受的風險”
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號