近期，科技界對(duì)AI搜索工具的表現(xiàn)引發(fā)了廣泛關(guān)注。據(jù)科技媒體theregister報(bào)道，盡管AI搜索工具如Perplexity曾一度被視為傳統(tǒng)搜索引擎的有力競(jìng)爭(zhēng)者，其搜索結(jié)果在精確度上甚至超越了谷歌，但近期的版本更新卻使得這些工具的搜索質(zhì)量出現(xiàn)了下滑。rap28資訊網(wǎng)——每日最新資訊28at.com

這一問題并非Perplexity所獨(dú)有，其他主流的AI搜索工具同樣存在類似的問題。theregister認(rèn)為，AI搜索質(zhì)量下降的根本原因在于“模型崩潰”。這一現(xiàn)象指的是AI系統(tǒng)由于過度依賴自身輸出的數(shù)據(jù)進(jìn)行訓(xùn)練，導(dǎo)致其準(zhǔn)確性、多樣性和可靠性逐漸喪失。模型崩潰主要由三個(gè)因素導(dǎo)致：錯(cuò)誤累積、稀有數(shù)據(jù)丟失以及反饋循環(huán)。rap28資訊網(wǎng)——每日最新資訊28at.com

錯(cuò)誤累積意味著每一代AI模型都會(huì)繼承并放大前代模型的缺陷，導(dǎo)致問題不斷累積，難以解決。稀有數(shù)據(jù)丟失則使得一些罕見事件和概念在AI模型的訓(xùn)練中逐漸被淡化，導(dǎo)致模型在處理這些事件和概念時(shí)表現(xiàn)不佳。而反饋循環(huán)則強(qiáng)化了AI模型的狹窄模式，導(dǎo)致輸出結(jié)果重復(fù)或帶有偏見。rap28資訊網(wǎng)——每日最新資訊28at.com

為了提升AI的表現(xiàn)，業(yè)界引入了檢索增強(qiáng)生成（RAG）技術(shù)，使大型語(yǔ)言模型（LLMs）能夠從外部數(shù)據(jù)庫(kù)提取信息，以減少“幻覺”現(xiàn)象的發(fā)生。然而，彭博社的研究卻發(fā)現(xiàn)，即使采用了RAG技術(shù)，包括GPT-4o、Claude-3.5-Sonnet等在內(nèi)的11個(gè)領(lǐng)先模型在處理5000多個(gè)有害提示時(shí)，仍然會(huì)輸出錯(cuò)誤結(jié)果。rap28資訊網(wǎng)——每日最新資訊28at.com

更糟糕的是，RAG技術(shù)的引入還帶來了其他風(fēng)險(xiǎn)。例如，它可能泄露客戶的隱私數(shù)據(jù)，生成誤導(dǎo)性的市場(chǎng)分析及偏見投資建議。這些問題無疑進(jìn)一步加劇了AI搜索工具所面臨的信任危機(jī)。rap28資訊網(wǎng)——每日最新資訊28at.com

AI模型崩潰的后果正在逐漸顯現(xiàn)。由于用戶和企業(yè)為了追求效率，越來越傾向于依賴AI生成的內(nèi)容，而不是投入人力創(chuàng)作高質(zhì)量的內(nèi)容，這導(dǎo)致了“垃圾輸入、垃圾輸出”（Garbage In / Garbage Out，GIGO）現(xiàn)象的普遍存在。從學(xué)生作業(yè)到偽造科研論文，甚至虛構(gòu)小說，AI的濫用正在各個(gè)領(lǐng)域造成不良影響。rap28資訊網(wǎng)——每日最新資訊28at.com

AI模型崩潰還可能導(dǎo)致一些更嚴(yán)重的后果。例如，在醫(yī)療、金融等關(guān)鍵領(lǐng)域，如果AI搜索工具無法提供準(zhǔn)確可靠的信息，可能會(huì)導(dǎo)致誤診、金融欺詐等嚴(yán)重后果。因此，業(yè)界需要高度重視AI模型崩潰的問題，采取有效措施加以解決。rap28資訊網(wǎng)——每日最新資訊28at.com

為了應(yīng)對(duì)AI模型崩潰的挑戰(zhàn)，業(yè)界正在積極探索新的解決方案。例如，一些研究人員正在嘗試通過引入更多的外部數(shù)據(jù)和監(jiān)督訓(xùn)練來提高AI模型的準(zhǔn)確性和可靠性。同時(shí)，也有學(xué)者提出，應(yīng)該加強(qiáng)對(duì)AI模型的監(jiān)管和評(píng)估，確保其在實(shí)際應(yīng)用中的表現(xiàn)符合預(yù)期。rap28資訊網(wǎng)——每日最新資訊28at.com

總之，AI搜索工具的發(fā)展仍然面臨諸多挑戰(zhàn)和問題。盡管這些工具在某些方面表現(xiàn)出色，但在實(shí)際應(yīng)用中仍然存在諸多不足和缺陷。因此，我們需要保持對(duì)AI技術(shù)的審慎態(tài)度，不斷探索和完善其應(yīng)用方式和方法。rap28資訊網(wǎng)——每日最新資訊28at.com

舉報(bào) 0收藏 0打賞 0評(píng)論 0分享 0  更多>同類資訊天問二號(hào)探星啟航！我國(guó)小行星探測(cè)與采樣返回任務(wù)正式拉開序幕05-29綠地張玉良全票連任，70歲再出發(fā)引領(lǐng)“二次創(chuàng)業(yè)”征程05-29百度高管薪酬大漲近九成，李彥宏私人飛機(jī)費(fèi)用也由公司承擔(dān)據(jù)新浪科技，百度財(cái)報(bào)顯示，2024年，百度向年內(nèi)在職的高級(jí)管理人員，支付合共4900萬(wàn)元的現(xiàn)金薪酬；同期，也向非執(zhí)行董事，整體支付合共140萬(wàn)元現(xiàn)金薪酬。其在財(cái)報(bào)里披露，2022年、2023年及2024年，經(jīng)…05-29榮耀CEO李健：五大優(yōu)勢(shì)助力榮耀沖刺全球高科技公司地位5月28日，據(jù)悉榮耀CEO李健表示，榮耀非常有可能成為全球高科技公司，因?yàn)闃s耀有5個(gè)重要保障條件：1、優(yōu)秀的集體領(lǐng)導(dǎo)團(tuán)隊(duì)；2、清晰的戰(zhàn)略；3、堅(jiān)持以消費(fèi)者為中心，從用戶中來到用戶中去的公司文化，目前進(jìn)化到“團(tuán)…05-29影石創(chuàng)新科創(chuàng)板申購(gòu)在即，發(fā)行價(jià)47.27元，募資總額近20億助力發(fā)展從市場(chǎng)份額來看，弗若斯特沙利文數(shù)據(jù)顯示，2023年，影石創(chuàng)新在全景相機(jī)領(lǐng)域市場(chǎng)占有率高達(dá)67.2%，實(shí)現(xiàn)連續(xù)6年穩(wěn)居全球第一，2024年預(yù)計(jì)達(dá)到81.7%，市場(chǎng)地位得到進(jìn)一步鞏固。本次影石創(chuàng)新定價(jià)為47.27…05-29國(guó)產(chǎn)TA-20渦槳教練機(jī)首飛！全球首款全碳纖維復(fù)合材料機(jī)體亮相05-29深演智能赴港上市，年?duì)I收5.4億凈利大幅下滑，中移基金等入股05-28玄瞳Q1季度大爆發(fā)，簽約新伙伴助力增長(zhǎng)加速！05-28數(shù)智新紀(jì)元，「玄瞳智慧100v9.1.3」升級(jí)助力消費(fèi)品企業(yè)增長(zhǎng)！05-28五糧液全產(chǎn)業(yè)鏈閃耀西博會(huì)，展現(xiàn)高質(zhì)量發(fā)展新風(fēng)貌05-28索尼ILME-FX2電影攝影機(jī)發(fā)布：4K全畫幅，售價(jià)19800元起05-28深光發(fā)布APS-C畫幅AF 25mm F1.8鏡頭，新手福音僅需499元05-28榮耀CFO彭求恩：公司正積極籌備上市，將擇機(jī)啟動(dòng)上市進(jìn)程05-28阿斯頓·馬丁DB12 Volante棕櫚灘版限量登場(chǎng)，奢華細(xì)節(jié)盡顯個(gè)性定制魅力05-28郭富城全家馬場(chǎng)現(xiàn)身，方媛疑似三胎肚子微凸，關(guān)之琳同場(chǎng)搶鏡05-28點(diǎn)擊查看更多 +全站最新天問二號(hào)探星啟航！我國(guó)小行星探測(cè)與采樣返回任務(wù)正式拉開序幕Mac用戶新福利！iOS快捷指令團(tuán)隊(duì)AI助手Sky，智能體驗(yàn)再升級(jí)618超值旗艦新選擇！一加Ace 5至尊版性能強(qiáng)勁，價(jià)格親民比亞迪海鷗延保，買還是不買？六年質(zhì)保后真的需要嗎？深藍(lán)汽車車機(jī)開機(jī)廣告惹眾怒，CEO致歉：是我的錯(cuò)華新精科IPO之路坎坷，業(yè)績(jī)波動(dòng)與研發(fā)實(shí)力引關(guān)注熱門內(nèi)容

• 夸克AI升級(jí)新高度，深度搜索Pro將解鎖專業(yè)領(lǐng)域難題
• 夸克深度搜索：AI大腦再進(jìn)化，復(fù)雜問題也能一鍵解鎖滿分答案！
• 騰訊員工工位曝光：個(gè)性十足，寬敞舒適引熱議！
• 臺(tái)灣核電時(shí)代落幕：最后一座核電站正式停運(yùn)
• 上海歡樂谷火災(zāi)背后：曾涉生命權(quán)訴訟，安全監(jiān)管再引關(guān)注
• BOSS直聘緊急下架“秀恩愛”招聘：違規(guī)信息秒處理
• 胖東來與網(wǎng)紅互懟事件升級(jí)，抖音下架29條涉嫌侵權(quán)視頻
• 于東來劉強(qiáng)東強(qiáng)強(qiáng)聯(lián)手！京東物流胖東來供應(yīng)鏈基地6月運(yùn)營(yíng)，年產(chǎn)值25億
• 單身女性試管嬰兒黑幕：違規(guī)醫(yī)院背后的送丁送喜產(chǎn)業(yè)鏈
• Cursor大放異彩！學(xué)生可免費(fèi)享一年P(guān)ro會(huì)員，AI編程教育迎來新機(jī)遇
• 5月19日油價(jià)調(diào)整在即，92號(hào)汽油能否順利回歸6元時(shí)代？
• UU跑腿高管午休跑腿接單，創(chuàng)始人：為讓他們體驗(yàn)基層艱辛
• 劉強(qiáng)東日本街頭變“豬豬俠”，京東外賣二維碼搶鏡外賣大戰(zhàn)
• 阿里2025財(cái)年Q4財(cái)報(bào)出爐：營(yíng)收穩(wěn)增，凈利潤(rùn)大漲22%，AI+云成新引擎？
• 2025年淘寶天貓京東618活動(dòng)時(shí)間正式公布：從5月13日開始到6月18日結(jié)束

本欄最新天問二號(hào)探星啟航！我國(guó)小行星探測(cè)與采樣返回任務(wù)正式拉開序幕綠地張玉良全票連任，70歲再出發(fā)引領(lǐng)“二次創(chuàng)業(yè)”征程國(guó)產(chǎn)TA-20渦槳教練機(jī)首飛！全球首款全碳纖維復(fù)合材料機(jī)體亮相深演智能赴港上市，年?duì)I收5.4億凈利大幅下滑，中移基金等入股玄瞳Q1季度大爆發(fā)，簽約新伙伴助力增長(zhǎng)加速！數(shù)智新紀(jì)元，「玄瞳智慧100v9.1.3」升級(jí)助力消費(fèi)品企業(yè)增長(zhǎng)！

本文鏈接：http://www.tebozhan.com/showinfo-16-154807-0.htmlAI搜索工具陷危機(jī)，模型崩潰致“精準(zhǔn)”變“垃圾”？

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： AI-CRO技術(shù)革新：如何重塑內(nèi)容抓取與優(yōu)化的未來路徑？

下一篇： 天問二號(hào)探星啟航！我國(guó)小行星探測(cè)與采樣返回任務(wù)正式拉開序幕