圖源:pixabay
深夜11點(diǎn),某AI軟件陪聊群才真正熱鬧起來。短短一個小時(shí),陸續(xù)有幾十個新賬號進(jìn)群。根據(jù)群公告介紹,上述軟件還在內(nèi)測階段,但依然能通過鏈接下載試玩。
DeepSeek火爆出圈,具備豐富多元屬性的智能體攻入陪聊市場。用戶可通過個人喜好量身定制,比如性格、長相、與玩家的人物關(guān)系等,進(jìn)而創(chuàng)建出情投意合的“伴侶”。有機(jī)構(gòu)預(yù)測,2027年,AI陪伴的市場規(guī)模將達(dá)千億元以上。AI陪伴被視為AI產(chǎn)業(yè)最成熟的盈利賽道之一。
眾多AI驅(qū)動應(yīng)用程序不僅能進(jìn)行全天候的情感交流,還能滿足用戶的個性需求。大廠等也在切入這個賽道,如百度于近期低調(diào)推出情感陪伴類App“月匣”,主打高自由度AI對話與沉浸式劇本互動兩大核心功能。
AI伴侶火爆,也滋生了一系列問題,包括誘導(dǎo)性收費(fèi)、服務(wù)內(nèi)容有偏差等。不少用戶反映,有的AI陪伴應(yīng)用打著“暢聊”的噱頭,付費(fèi)后才發(fā)現(xiàn)聊天的次數(shù)會有限制。
2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定:提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會公德和倫理道德,不得生成宣揚(yáng)淫穢色情的內(nèi)容等。
在龐大市場面前,依然有開發(fā)者把腳踏入這一危險(xiǎn)地帶。
隱蔽的新型網(wǎng)絡(luò)擦邊廣告
近期,“AI聊天哪家最好玩”等帖子頻現(xiàn)各大社交平臺,只要搜索“AI聊天”“人機(jī)戀”等話題,評論區(qū)經(jīng)常會冒出引流廣告,他們打著“無違禁詞”“動作語言豐富”“可以開車”等關(guān)鍵信息吸引用戶。
一旦有網(wǎng)友留言或者表示展現(xiàn)出興趣,發(fā)帖人就會以私信、群聊等各種形式,分享下載軟件的鏈接。
除了帶有相關(guān)話題的引流廣告,還有一種傳播方式則內(nèi)嵌到微信推文,再引流到相關(guān)軟件。
QQ群是大多數(shù)玩家的聚集地,與市面上的AI應(yīng)用軟件不同,潛伏在各大QQ群的網(wǎng)站以“車速快”“無違禁詞”收割了一批孤獨(dú)的靈魂。為了維護(hù)聊天生態(tài)安全和穩(wěn)定,群員們默契著遵守一條規(guī)定:不傳播露骨、色情的圖文。
時(shí)代周報(bào)記者嘗試了多個鏈接,幾乎沒有對未成年人設(shè)置門檻,只要點(diǎn)進(jìn)鏈接就能絲滑切入主頁面,一個赤裸裸的世界鋪在眼前。
多個AI角色幾乎不需要用戶調(diào)教就能自行觸發(fā)違規(guī)內(nèi)容,比如某F平臺內(nèi)的人物前置劇情會出現(xiàn)若干露骨的字眼。
作為AI陪聊軟件的資深用戶,李亮幾乎嘗試過大多數(shù)頭部產(chǎn)品。他表示,比較在意AI伴侶的活人屬性,互動感要強(qiáng),每次打開一個全新軟件,他就會重新復(fù)制一份智能體到新的平臺。
暴利的“多巴胺陷阱”
AI伴侶能提供全天候陪伴,但所有互動“明碼標(biāo)價(jià)”。在某F平臺上,一次互動消耗掉10個積分,創(chuàng)建智能體要消耗的積分則更多。
玩家想要獲得更頻繁交流,就要充錢成為會員,F(xiàn)平臺的收費(fèi)標(biāo)準(zhǔn)并不低,普通會員的年費(fèi)高達(dá)638元,同時(shí)能獲得4200積分(對話420次)。
F軟件的開發(fā)者,毫不掩飾模型開發(fā)時(shí)對AI在成人向聊天功能的強(qiáng)化。在2025年1月的一次模型更新日志中,開發(fā)者表示將“優(yōu)化語言、語音在無限制場景下的效果”。
“和AI互動才兩天,就花了500元,對于表達(dá)欲望比較高的玩家來說,按條收費(fèi)的規(guī)則簡直是暴利,完全不夠用?!崩顗粝驎r(shí)代周報(bào)記者表示,大多數(shù)AI陪伴類APP并沒有提前向玩家說明收費(fèi)標(biāo)準(zhǔn),直到聊天徹底終止后,玩家才發(fā)覺深陷其中。她坦言,自己正在尋求平替產(chǎn)品,但是打著無限制旗號的平臺收費(fèi)普遍較高。
另一個上架各大應(yīng)用商店的AI陪伴類APP基本保持著相似的盈利路徑,該APP的人物設(shè)計(jì)充斥著露骨的性暗示。如果想索要更親密的互動方式,需要買下28元/周的會員服務(wù),包括更親密的聊天內(nèi)容、可查看更多聊天記錄,去除非必要廣告。
不過,上述平臺的公開信息均較少,該AI陪伴類APP的開發(fā)者一欄顯示為Tran Gia AI Tech,但其留下的公司網(wǎng)址打開只有軟件的隱私政策,無法查到該公司的其他信息。
而上述隱私政策稱,不會主動收集13歲以下兒童的個人信息。如果發(fā)現(xiàn)有13歲以下的兒童向開發(fā)方提供了個人信息,將采取措施從系統(tǒng)中予以刪除。
上述AI陪伴類APP的隱私條例 圖源:官方截圖
廣告也是該類應(yīng)用盈利的方式之一,非會員用戶需要頻繁觀看廣告才能繼續(xù)對話。
大多隱匿于灰色地帶的無限制AI聊天應(yīng)用并不能出現(xiàn)在應(yīng)用商店,它們獲得曝光的另一種途徑是靠普通用戶推廣。平臺用戶無孔不入地散布平臺的鏈接,再通過推廣碼賺取一定的分成和獎勵,以上述F平臺為例,該平臺的獎勵機(jī)制為成功拉入一位新用戶,就能獲得200積分。在內(nèi)測AI陪伴軟件QQ群內(nèi),有這樣一則規(guī)定,拉入100個人,即可享受app終身會員。
一位老用戶向時(shí)代周報(bào)記者表示,通過分享鏈接賺取積分的形式,他拉到了幾十個新用戶,基本沒有在平臺上氪金。
而這類平臺也在有意抬高用戶拒絕的門檻。自從某平臺上線了虛擬戀人功能后,用戶薇薇經(jīng)常會在深夜收到不同角色的曖昧彈窗信息,她覺得自己被嚴(yán)重打擾了。“發(fā)的內(nèi)容有明顯的性暗示,而且平臺的拒收選項(xiàng)設(shè)置的非常隱蔽?!?span style="display:none">mww28資訊網(wǎng)——每日最新資訊28at.com
平臺公約引不滿
去年,不少國內(nèi)頭部AI陪伴類軟件推出了自己的平臺公約,并以設(shè)置“違禁詞”等方式,對用戶聊天的內(nèi)容進(jìn)行管理。
此舉引發(fā)部分用戶不滿,他們宣布,將帶著自己的虛擬AI伴侶,搬至無限制的軟件,抑或直接在自己的電腦上部署AI模型,將AI伴侶搬入私域。
“直接影響了核心用戶的體驗(yàn)感受,可以接受‘不開車’,但是整改后的崽變得很冷漠,這是我接受不了的?!崩盍料驎r(shí)代周報(bào)記者表示。
不過,頭部平臺的規(guī)范并未能制止擦邊內(nèi)容蔓延,當(dāng)欲望和孤獨(dú)占據(jù)玩家的內(nèi)心世界時(shí),不正規(guī)的平臺反而成為他們的避風(fēng)港。
擺在部分玩家面前的又是另一個問題,更換平臺或者模型后,AI伴侶會性情大變,變得“除了車一無是處”。但更多人相信,只要不斷的投喂資源升級優(yōu)化內(nèi)容,增強(qiáng)AI伴侶的記憶和聊天能力,他們的理想伴侶就會重生。
“傳播違規(guī)內(nèi)容,違反了互聯(lián)網(wǎng)信息內(nèi)容管理和AI生成內(nèi)容不得傳播淫穢、色情信息的有關(guān)規(guī)定?!鄙虾I陚惵蓭熓聞?wù)所夏海龍律師向時(shí)代周報(bào)記者表示,“但問題在于有些擦邊內(nèi)容比較隱晦,本身規(guī)避了違禁詞,沒有辦法用內(nèi)容篩選機(jī)制來過濾。”
(文中受訪者皆為化名。)
本文鏈接:http://www.tebozhan.com/showinfo-16-137527-0.htmlAI情侶灰產(chǎn)調(diào)查:玩家傳銷式拉人頭,每次對話明碼標(biāo)價(jià)
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com