當(dāng)前位置：首頁 > 元宇宙 > AI

AI“一本正經(jīng)”說假話，誰該為信息真實(shí)性把關(guān)？

來源：責(zé)編：時(shí)間：2025-04-09 07:29:47 21觀看

導(dǎo)讀隨著人工智能（AI）技術(shù)的飛速發(fā)展，它正逐漸滲透到我們的日常生活與工作中，從搜集資料、制作PPT到修改論文，AI的應(yīng)用場景愈發(fā)廣泛。然而，人們在享受AI帶來的便利的同時(shí)，也開始意識到其潛在的風(fēng)險(xiǎn)。大學(xué)生小薛在準(zhǔn)備課堂作業(yè)PPT

隨著人工智能（AI）技術(shù)的飛速發(fā)展，它正逐漸滲透到我們的日常生活與工作中，從搜集資料、制作PPT到修改論文，AI的應(yīng)用場景愈發(fā)廣泛。然而，人們在享受AI帶來的便利的同時(shí)，也開始意識到其潛在的風(fēng)險(xiǎn)。

大學(xué)生小薛在準(zhǔn)備課堂作業(yè)PPT時(shí)，就遇到了AI“一本正經(jīng)說瞎話”的情況。她不確定一句詩中的某個(gè)字，于是向AI助手求證，結(jié)果AI給出了錯(cuò)誤的出處，且在被質(zhì)疑后，依然堅(jiān)持錯(cuò)誤的回答，最終小薛發(fā)現(xiàn)，AI提供的詩句出處與實(shí)際完全不符。

在自媒體公司工作的雅雅也險(xiǎn)些因AI提供錯(cuò)誤信息而“捅了大婁子”。她在更新一篇關(guān)于“造紙史”的公眾號文章時(shí)，使用了AI搜集的資料，其中一段關(guān)于西安博物院藏唐代“開元戶籍冊”殘片的信息，在發(fā)布前核查時(shí)，她發(fā)現(xiàn)網(wǎng)上根本檢索不到相關(guān)信息，甚至無法確認(rèn)該文物是否真實(shí)存在，所涉及的數(shù)據(jù)更是無從考證。

類似的案例在社交媒體上屢見不鮮。有網(wǎng)友發(fā)現(xiàn)AI編造了關(guān)于郭沫若甲骨文研究的考釋，也有網(wǎng)友發(fā)現(xiàn)AI在回答關(guān)于《水滸傳》不同版本譯者的問題時(shí)張冠李戴，更有網(wǎng)友指出AI連法條都能胡編亂造，編得有模有樣。

AI不僅在學(xué)術(shù)和工作領(lǐng)域“不靠譜”，在日常生活中的應(yīng)用也需謹(jǐn)慎。一位B站UP主在嘗試用AI推薦購買汕頭特產(chǎn)時(shí)，發(fā)現(xiàn)AI推薦的店面統(tǒng)統(tǒng)不存在。

專家指出，AI之所以會“胡說八道”，主要是因?yàn)槠浼夹g(shù)原理的固有特點(diǎn)以及訓(xùn)練數(shù)據(jù)的局限性。數(shù)據(jù)過時(shí)、數(shù)據(jù)偏見或錯(cuò)誤、知識盲區(qū)等問題，都可能導(dǎo)致AI生成錯(cuò)誤的內(nèi)容。AI生成的內(nèi)容很大程度上受提問方式的影響，容易呈現(xiàn)片面真實(shí)，刻意回避某類信息。

針對這一問題，專家建議，普通用戶在使用AI時(shí)，應(yīng)優(yōu)化提問技巧，交叉驗(yàn)證與人工審核，使用專業(yè)工具等。對于關(guān)鍵任務(wù)，如法律、醫(yī)療等，建議始終以AI輸出為初稿，由人類專家最終審核。開發(fā)者則需要進(jìn)行模型微調(diào)、搭建知識增強(qiáng)架構(gòu)、形成輸出約束機(jī)制等。

盡管AI技術(shù)的發(fā)展帶來了諸多便利，但我們也不能盲目迷信。大部分AI都提醒了“內(nèi)容由AI生成，請仔細(xì)甄別”。只有理性看待AI，正確使用AI，才能避免其帶來的潛在風(fēng)險(xiǎn)。

舉報(bào) 0收藏 0打賞 0評論 0

更多>同類資訊

聲網(wǎng)商湯強(qiáng)強(qiáng)聯(lián)合，實(shí)時(shí)音視頻AI應(yīng)用開啟新篇章

04-08

中美AI差距急劇縮小，美國領(lǐng)先地位不再穩(wěn)固？

04-08

IBM z17大型機(jī)：以Telum II和Spyre芯片，引領(lǐng)生成式AI新時(shí)代

04-08

AI眼鏡新紀(jì)元：多模態(tài)能力引領(lǐng)DPVR AI Glasses走向未來

04-08

Arm《人工智能就緒指數(shù)報(bào)告》：企業(yè)AI實(shí)施新坐標(biāo)何在？

04-08

神雲(yún)科技CITE25展現(xiàn)AI與云端計(jì)算創(chuàng)新方案，驅(qū)動(dòng)數(shù)據(jù)中心效能升級

04-08

大模型時(shí)代來臨，阿丘科技如何以AI檢測引領(lǐng)工業(yè)視覺新變革？

04-08

AI眼鏡新寵Halliday大熱，炬芯科技端側(cè)芯片如何賦能智能體驗(yàn)？

04-08

寧波普智未來機(jī)器人公司成立，智元機(jī)器人等攜手布局人工智能領(lǐng)域

04-08

NVIDIA豪擲數(shù)億收購Lepton AI，阿里前副總裁賈揚(yáng)清團(tuán)隊(duì)加入

04-08

谷歌DeepMind“鎖人”新招：離職帶薪一年，意在阻截人才外流？

據(jù)報(bào)道，谷歌旗下DeepMind為了防止員工流向競爭對手，采取了一種“激進(jìn)”的競業(yè)禁止協(xié)議。該協(xié)議規(guī)定部分英國員工離職后一年內(nèi)不得為競爭對手工作，期間DeepMind仍支付薪水，相當(dāng)于帶薪休假。這一做法讓一些…

04-08

谷歌DeepMind付錢留AI人才：離職一年不工作，薪水照發(fā)防跳槽

04-08

Meta高管發(fā)聲：Llama 4新AI模型“作弊”傳言純屬謠言

04-08

IBM攜手X-Power共建創(chuàng)新中心，賦能中國制造企業(yè)數(shù)智升級

04-08

輕帆云智能ITSM：如何賦能IT共享服務(wù)中心，實(shí)現(xiàn)高效運(yùn)營？

04-08

點(diǎn)擊查看更多 +

全站最新

美企利用基因技術(shù)培育出類似滅絕恐狼幼崽

蔚來樂道廣告語再惹爭議，“清明換電”被指不尊重傳統(tǒng)

《空洞騎士：絲之歌》實(shí)機(jī)截圖曝光，確定登陸Switch及Switch 2

TCL Q10L系列電視實(shí)測：無黑邊設(shè)計(jì)引領(lǐng)第四代液晶電視新風(fēng)尚

《十日終焉》被指抄襲，《上帝們》反遭下架，原創(chuàng)作者維權(quán)路何在？

星紀(jì)魅族再添大將，前小米中國區(qū)副總裁劉毅加入，離職者聯(lián)盟壯大？