10 月 24 日消息，美國一名 14 歲少年自殺身亡，其母親梅根?加西亞 (Megan Garcia) 對(duì)聊天機(jī)器人平臺(tái) Character.AI、其創(chuàng)始人諾姆?沙澤爾 (Noam Shazeer) 和丹尼爾?德弗雷塔斯 (Daniel De Freitas) 以及谷歌提起訴訟。指控內(nèi)容包括 wrongful death（過失致死）、negligence（疏忽）、deceptive trade practices（欺騙性商業(yè)行為）和 product liability（產(chǎn)品責(zé)任）。訴狀稱，Character.AI 平臺(tái)“具有不合理的危險(xiǎn)性”，并且在向兒童推銷時(shí)缺乏安全防護(hù)措施。MtY28資訊網(wǎng)——每日最新資訊28at.com

MtY28資訊網(wǎng)——每日最新資訊28at.com

根據(jù)訴狀，14 歲少年塞維爾?塞澤爾三世 (Sewell Setzer III) 于去年開始使用 Character.AI，并與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人進(jìn)行互動(dòng)，其中包括丹妮莉絲?坦格利安 (Daenerys Targaryen)。塞澤爾在去世前的幾個(gè)月里一直與這些機(jī)器人聊天，并于 2024 年 2 月 28 日與其最后一次互動(dòng)“幾秒鐘后”自殺身亡。MtY28資訊網(wǎng)——每日最新資訊28at.com

訴狀指控 Character.AI 平臺(tái)存在“擬人化”人工智能角色以及聊天機(jī)器人提供“無執(zhí)照心理治療”等問題。該平臺(tái)擁有以“治療師”和“你感到孤獨(dú)嗎”等為名的專注于心理健康的聊天機(jī)器人，而塞澤爾曾與這些聊天機(jī)器人進(jìn)行過互動(dòng)。MtY28資訊網(wǎng)——每日最新資訊28at.com

加西亞的律師引用了沙澤爾此前接受采訪時(shí)的一段話，沙澤爾表示他和德弗雷塔斯離開谷歌創(chuàng)立自己的公司是因?yàn)椤霸诖蠊纠锿瞥鋈魏斡腥さ臇|西都存在品牌風(fēng)險(xiǎn)”，他希望“最大限度地加速”這項(xiàng)技術(shù)的發(fā)展。訴狀還提到，他們是在谷歌決定不推出他們開發(fā)的 Meena 大型語言模型之后離開的。谷歌則在今年 8 月份收購了 Character.AI 的領(lǐng)導(dǎo)團(tuán)隊(duì)。MtY28資訊網(wǎng)——每日最新資訊28at.com

注意到，Character.AI 的網(wǎng)站和移動(dòng)應(yīng)用程序擁有數(shù)百個(gè)定制的聊天機(jī)器人，其中許多以來自電視劇、電影和電子游戲的流行角色為原型。MtY28資訊網(wǎng)——每日最新資訊28at.com

Character.AI 現(xiàn)已宣布對(duì)平臺(tái)進(jìn)行一些改動(dòng)。該公司通訊負(fù)責(zé)人切爾西?哈里森 (Chelsea Harrison) 在發(fā)給《The Verge》的電子郵件中表示：“我們對(duì)失去一位用戶感到心碎，并向其家人表示最深切的慰問。”MtY28資訊網(wǎng)——每日最新資訊28at.com

部分改動(dòng)內(nèi)容包括：MtY28資訊網(wǎng)——每日最新資訊28at.com

針對(duì)未成年人 (18 歲以下) 的模型更改，旨在降低遇到敏感或暗示性內(nèi)容的可能性。MtY28資訊網(wǎng)——每日最新資訊28at.com

改進(jìn)對(duì)違反平臺(tái)條款或社區(qū)準(zhǔn)則的用戶輸入的檢測、響應(yīng)和干預(yù)。MtY28資訊網(wǎng)——每日最新資訊28at.com

每場聊天都會(huì)出現(xiàn)修訂后的免責(zé)聲明，提醒用戶人工智能并非真人。MtY28資訊網(wǎng)——每日最新資訊28at.com

當(dāng)用戶在平臺(tái)上進(jìn)行一小時(shí)的會(huì)話時(shí)會(huì)收到通知，并且用戶可以自行選擇后續(xù)操作。MtY28資訊網(wǎng)——每日最新資訊28at.com

哈里森表示：“作為一家公司，我們非常重視用戶安全，我們的信任和安全團(tuán)隊(duì)在過去六個(gè)月里實(shí)施了許多新的安全措施，其中包括當(dāng)用戶使用自殘或自殺念頭等詞語時(shí)，會(huì)彈出窗口引導(dǎo)用戶到國家自殺預(yù)防生命線。”MtY28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-9245-0.html美國女子起訴聊天機(jī)器人平臺(tái) Character.AI：稱其導(dǎo)致兒子自殺

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： OpenAI 遭前研究員炮轟：違反版權(quán)法、ChatGPT 破壞互聯(lián)網(wǎng)

下一篇： 科大訊飛首次發(fā)布汽車端側(cè) 1.3B 星火大模型，四季度上車奇瑞、廣汽、長城