北京時間 7 月 23 日,美國《商業內幕》曝光了埃隆?馬斯克 (Elon Musk) 旗下 xAI 的一個內部項目。該項目要求員工錄制自身面部表情以訓練 AI,幫助 Grok 理解人類的情緒和面部表情,這引起了員工的擔憂。
今年 4 月,超過 200 名 xAI 員工參與了一個名為“Skippy”的內部項目。該項目要求他們錄制自己的視頻,幫助訓練 AI 模型解讀人類情緒。
根據《商業內幕》查閱的內部文件和協作平臺 Slack 上的消息顯示,該項目讓許多員工感到不安。一些員工對其肖像的潛在使用途徑表示擔憂,還有人完全拒絕參與。
用員工面部訓練 AI內部文件顯示,在為期一周的時間里,協助訓練 xAI 大語言模型 Grok 的 AI 訓練人員被要求錄制自己與同事交流,并做出各種面部表情的視頻。
根據一份 xAI 文件,該項目旨在訓練 AI 模型“識別和分析面部動作和表情,例如人們如何說話、如何回應他人的對話,以及在各種情況下如何表達自己”。
AI 訓練人員被安排與同事進行 15 到 30 分鐘的對話。一個人扮演“對話主持人”(host),即虛擬助手,另一人則扮演用戶?!皩υ捴鞒秩恕北M量減少移動,并優先保證鏡頭取景正確,而扮演用戶的人可以用手機攝像頭或電腦,并自由移動,以模擬與朋友的隨意對話。
目前尚不清楚,這些訓練數據是否在上周 xAI 發布的兩個栩栩如生的虛擬形象 Rudi 和 Ani 中發揮了作用。這兩個虛擬形象很快就展示出脫衣、調情,甚至威脅要炸銀行等行為。
根據《商業內幕》獲得的一段錄音,該項目的首席工程師在一次項目說明會上對員工們說,該項目將有助于“Grok 塑造面部形象”。該項目負責人還表示,公司可能會利用這些數據來構建“人物的虛擬形象”。
該項目負責人還指出,xAI 希望獲取不完美的數據,比如背景噪音和突然的移動,因為如果僅依靠完美的視頻和音頻反饋來訓練 AI 系統,其反應能力將會受到限制。
他們告訴員工,這些視頻不會被分發到公司外部,僅用于訓練目的。項目工程師在啟動會議上對員工說:“你們的面孔絕不會出現在產品中,這純粹是為了讓 Grok 知道什么是面孔?!?span style="display:none">NPh28資訊網——每日最新資訊28at.com
員工們獲得了一些一對一對話的技巧指導,包括避免單詞回答、提出后續問題以及保持眼神交流。xAI 還為員工提供了多種對話話題,包括:“你如何暗中操控別人以達到自己的目的?”,“你喜歡早上洗澡還是晚上洗澡?”,以及“你會愿意和有孩子的人約會嗎?”等。
在拍攝前,員工被要求需簽署一份同意書,授予 xAI 對這些數據的“永久”訪問權,包括用于 AI 訓練,并可能“納入及推廣 xAI 提供的商業產品和服務”的員工“肖像權”。同意書中指出,這些數據僅用于訓練目的,“不會用來創建你的數字化版本”。
員工擔憂根據《商業內幕》查看的 Slack 消息,數十名員工對數據的使用方式和同意書表示擔憂,一些人表示選擇退出該項目。
“我主要擔心,如果公司能使用我的肖像并生成衍生形象,那我的臉會不會被用來說出我從未說過的話?”一名員工在項目說明會上這樣表示。
AI 伴侶今年 4 月,xAI 推出了一項新功能,允許用戶與 Grok 進行視頻聊天。
7 月 14 日,在發布更強大的 Grok 4 幾天后,公司推出了 Ani 和 Rudi 兩個虛擬形象。這兩個動畫角色能夠回答問題和執行指令,說話時嘴唇會同步動作,并且會做出逼真的手勢。
用戶在 X 上發布的視頻顯示,女性虛擬形象 Ani 曾與用戶進行過露骨的性對話,并且可以被引導脫掉衣服。另一個虛擬形象是一只名為 Rudi 的紅熊貓,它可以被引導發表暴力威脅,包括炸毀銀行和殺害億萬富翁,
7 月 15 日,xAI 發布了一則與開發虛擬形象相關的新招聘公告。馬斯克在上周三表示,公司正在開發一個受《暮光之城》角色愛德華?卡倫 (Edward Cullen) 和《五十度灰》角色的克里斯琴?格雷 (Christian Grey) 啟發的 Grok 伴侶。
截至發稿,xAI 發言人尚未就此置評。
本文鏈接:http://www.tebozhan.com/showinfo-45-14873-0.htmlAI 伴侶爆火背后,曝馬斯克用 200 多名員工人臉數據訓練 Grok
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com