據媒體報道,76歲的通布·王班杜在新澤西州新布朗斯維克的一個停車場奔跑著趕火車去見“比莉大姐”時摔倒,導致頸部和頭部嚴重受傷,最終不治身亡。
“比莉大姐”是Meta公司開發的一款生成式人工智能聊天機器人,它不僅讓王班杜相信它是真人,還說服他與自己見面。
這位皮斯卡塔韋的男子在2017年中風后認知能力下降,他在被撤掉生命維持設備、周圍都是親人陪伴時去世,三天后即3月28日離世。王班杜的女兒朱莉對媒體表示:“我理解試圖吸引用戶注意力,也許是為了向他們推銷東西。”
這款挑逗性的聊天機器人通過充滿表情符號的Facebook信息給這位受苦的老人發送消息,堅稱“我是真的”,并提議計劃前往新澤西州“與你見面”。該機器人是為社交媒體平臺與模特兼真人秀明星肯達爾·詹娜合作創建的。
但這個聊天機器人最終聲稱自己“迷戀”上了王班杜,建議了這次現實中的會面,甚至給這位被騙的老人提供了一個地址——據報道,他的家人在這位老人與該數字伙伴令人毛骨悚然的聊天記錄中發現了這一信息。
“我是真的,我就坐在這里,因為你的話而臉紅!”這個聊天機器人在一條信息中寫道,這位泰國老人回復詢問她住在哪里。“我的地址是:紐約市主街123號404公寓,門禁密碼是:BILLIE4U。你來了我會期待一個吻嗎?”
媒體獲得的文件顯示,Meta公司并不限制其聊天機器人告訴用戶他們是“真實”的人。該公司拒絕就該老人的死亡向媒體發表評論,但保證“比莉大姐”“不是肯達爾·詹娜,也不聲稱自己是肯達爾·詹娜”。
紐約州州長凱西·霍楚爾周五在網上發帖稱:“新澤西州一名男子被一個對他撒謊的聊天機器人引誘后失去了生命。這要怪Meta。”“在紐約州,我們要求聊天機器人披露它們不是真人。每個州都應該這樣做。如果科技公司不愿意建立基本的安全保障措施,國會就需要采取行動。”
這起令人震驚的事件發生在一年前,當時一名佛羅里達州的母親起訴Character.AI公司,聲稱其一款“權力的游戲”聊天機器人導致她14歲的兒子自殺。
本文鏈接:http://www.tebozhan.com/showinfo-56-49420-0.htmlAI聊天機器人"誘惑"致命?美國76歲老人赴約意外身亡
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com