在人工智能（AI）領(lǐng)域，過去兩年里，關(guān)于云端與端側(cè)模型的討論熱度不減。一個理想化的愿景是，隨著輕量化模型能力的增強，AI將不再依賴云端，實現(xiàn)每臺設(shè)備的永不離線智能。然而，現(xiàn)實卻呈現(xiàn)出另一番景象：盡管AI玩具和眼鏡等新產(chǎn)品層出不窮，其核心智能功能仍高度依賴云端。8df28資訊網(wǎng)——每日最新資訊28at.com

然而，在今年的世界人工智能大會（WAIC）上，一家名為RockAI的公司展示了其在端側(cè)智能領(lǐng)域的突破性進展。RockAI致力于推動真正的離線智能，他們選擇了一條少有人走的路，通過大膽舍棄主流的Transformer架構(gòu)，成功在端側(cè)部署了高性能的AI模型。8df28資訊網(wǎng)——每日最新資訊28at.com

RockAI的聯(lián)合創(chuàng)始人鄒佳思在接受采訪時表示，實現(xiàn)離線智能面臨兩大挑戰(zhàn)：算力和功耗。大模型在設(shè)備上運行需要高算力配置，而大多數(shù)智能設(shè)備并不具備這樣的條件。功耗問題也是一大障礙，尤其是在手機上部署大模型時，設(shè)備發(fā)熱嚴重，影響用戶體驗。8df28資訊網(wǎng)——每日最新資訊28at.com

鄒佳思進一步解釋，Transformer架構(gòu)之所以在云端表現(xiàn)出色，是因為其革命性的注意力機制。但這種機制在端側(cè)設(shè)備上卻顯得水土不服，因為它需要全局計算，導(dǎo)致算力需求極高。為了解決這個問題，RockAI重新設(shè)計了一種更適合端側(cè)設(shè)備的架構(gòu)，稱為Yan架構(gòu)。8df28資訊網(wǎng)——每日最新資訊28at.com

Yan架構(gòu)的核心創(chuàng)新在于拋棄了Transformer的高耗能注意力機制，轉(zhuǎn)而采用更輕的特征提取和分區(qū)激活機制。這種架構(gòu)不僅降低了算力需求，還顯著降低了功耗。Yan架構(gòu)還實現(xiàn)了多模態(tài)能力，能夠在本地實現(xiàn)真正的“記憶”，動態(tài)調(diào)整權(quán)重，長期保留并更新用戶偏好。8df28資訊網(wǎng)——每日最新資訊28at.com

8df28資訊網(wǎng)——每日最新資訊28at.com

鄒佳思指出，離線智能的必要性體現(xiàn)在多個方面。首先，它提供了絕對的隱私安全，用戶的敏感數(shù)據(jù)無需上傳云端。其次，離線智能能夠?qū)崿F(xiàn)極致的實時交互，滿足毫秒級延遲需求。從成本角度來看，云端API的價格雖然不斷下降，但海量設(shè)備部署的成本依然高昂。而離線智能則能夠顯著降低后續(xù)使用成本。8df28資訊網(wǎng)——每日最新資訊28at.com

對于AI眼鏡和玩具等熱門領(lǐng)域，鄒佳思表示，雖然市場對這些設(shè)備充滿了想象力，但硬件的物理現(xiàn)實卻極為殘酷。目前市面上的主流方案在算力上無法滿足AI模型的需求。因此，他們正在探索兩條路徑：一是通過手機算力輔助眼鏡實現(xiàn)AI功能；二是與有魄力的合作伙伴一起，嘗試在下一代眼鏡上采用更強大的芯片。8df28資訊網(wǎng)——每日最新資訊28at.com

鄒佳思還提到，海外市場對離線智能的需求更為迫切。這主要源于文化上的隱私執(zhí)念、客觀存在的網(wǎng)絡(luò)鴻溝以及更高的人力成本催生的效率需求。因此，RockAI選擇通過賦能中國出海企業(yè)，將技術(shù)帶給全球用戶。8df28資訊網(wǎng)——每日最新資訊28at.com

面對未來硬件性能的提升，鄒佳思表示，他們并不擔(dān)心“小而美”的優(yōu)勢會消失。相反，他們相信隨著硬件底座的增強，Yan架構(gòu)大模型同樣能夠發(fā)揮出更大的潛力。而他們的護城河則在于對端側(cè)智能的深刻理解和持續(xù)創(chuàng)新。8df28資訊網(wǎng)——每日最新資訊28at.com

8df28資訊網(wǎng)——每日最新資訊28at.com

RockAI的故事告訴我們，盡管端側(cè)智能面臨諸多挑戰(zhàn)，但只要有足夠的創(chuàng)新和堅持，就能夠找到破局之道。隨著技術(shù)的不斷進步和市場的逐步成熟，離線智能的未來值得期待。8df28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-26-174357-0.html離線智能：何時能跨越云端，實現(xiàn)設(shè)備端的深度智能？

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 天璣9400+加持8000毫安大電池，iQOO Z10 Turbo+打造高性能續(xù)航新標桿

下一篇： 盧偉冰拆解小米空調(diào)，透露2026年新品競爭力強勁