2023年底,伴隨著代號Meteor Lake的一代酷睿Ultra處理器的發布,Intel正式提出了AI PC的新概念。
彼時,乃至之后很長一段時間內,很多人都存在相同的疑問:AI PC和傳統PC到底有何不同?它能替我的工作/生活/學習做什么?值得升級嗎?
事實上,不僅僅是廣大消費者,從業者在AI PC興起之初也有類似的迷茫。
但是,困難的事總是要有人去做的,未知的路總是要有人去走的。
作為AI PC的發起者,Intel憑借持續的路線圖、扎實的技術、廣泛的影響力、強大的號召力,聯合整個業界一起,不斷從軟硬件各個角度推進AI PC,尤其是推動更多的應用開發、場景落地。
令人欣喜的是,AI PC誕生還不到一年半,就已經取得了長足的進步:
隨著Intel酷睿Ultra 200系列全線布局完畢、銳炫B系列顯卡嶄露頭角、至強6家族各系列陸續登場,AI PC無論硬件產品還是應用場景,都越來越豐富、越來越深入。雖然距離完全成熟為時尚早,但確確實實已經邁入了全新的、實用的階段。
尤其是這個新年,我們不止有“DeepFeed”、“DeepSleep”這些傳統的吃吃喝喝、休閑放松,更有DeepSeek。
DeepSeek的重大意義,一方面是中國AI一次革命性的突破,另一方面是通過開源、免費,加速了AI普惠,無論是政企學科等各種單位機構,還是個人,都可以靈活地部署自己的大模型,無論是滿血版、蒸餾版,還是微調、再訓練。
DeepSeek的炸裂表現,無疑是AI歷史上里程碑的一幕,掀起了一股新的浪潮,帶來了更多的思考,也帶來了更多的機遇。
【軟硬全棧:Intel的大模型一體機部署方案】
隨著AI大模型部署需求的高漲,尤其是DeepSeek的火爆,AI通用一體機逐漸為更多人所熟知,市場上也迅速出現了大量產品,不少都直接打出了“DeepSeek一體機”的標簽。
Intel自然沒有錯過這一波機遇,充分發揮了自己獨特的軟硬件“全家桶”優勢。
AI一體機包括訓推一體、模型推理、模型應用等不同類型,主要面向政務、金融、醫療、教育、制造等垂直行業領域。
它的優點有三:
一是開箱即用:硬件、模型、算法、軟件等全部集成,無需再單獨采購、配置、安裝、調優,買回來就能用,大大降低使用門檻,而且因為是本地化部署,延遲更低,響應更快,體驗更流暢。
二是隱私安全:很多企業機構的數據是不能對外的,本地化部署一體機后,可以集成本地知識庫、高效智能體,一切處理都可以在本地進行,不會外傳。
三是高效優化:軟硬件適配優化更深入,可大大提高AI模型的運行效率,從而提升工作效率。
不過,DeepSeek等大模型的本地部署,也不是完全那么簡單,要重點考慮多個因素,才能達成效率和經濟的優化。
比如模型大小,是滿血?還是蒸餾?
比如數據精度,是更精確但更好資源的FP16/BF16?還是比較均衡的FP8?抑或速度更快的INT4/FP4?甚至更低比特?
比如上下文長度,16K-128K如何選擇?
比如吞吐能力,能否滿足時延要求?
比如響應能力,TTFT(首個token)生成時間有沒有超過5秒?TPOT(token生成時間間隔)是否控制在100毫秒之內?
Intel AI全家桶的優勢恰恰就在于,無論你想部署什么樣的模型,獲得什么樣的輸出效果,無論是在邊緣側還是在端側(當然也有云側),都可以找到適合自己的產品組合。
其中,至強一體機適合滿血大模型,銳炫GPU顯卡適合蒸餾模型,酷睿Ultra 200系列則適合蒸餾量化模型。
酷睿Ultra系列的全新命名,當然不完全是改個名字那么簡單,更是標志著開始真正進入AI的新時代。
第一代酷睿Ultra 100H系列(代號Meteor Lake),高可提供36 TOPS算力,算是開始入門。
第二代酷睿Ultra 200系列直接提升了一個檔次,200V系列(代號Lunar Lake)、200H系列(代號Arrow Lake-H)分別可提供高120 TOPS、99 TOPS的算力,不但可以完全滿足Windows 11 AI+ PC的需求,還為部署更大規模模型提供了支撐,14B蒸餾模型都可以直接搞定,保證流暢體驗。
除了基礎的硬件算力,Intel還有著成熟的AI工具鏈和生態支持,總能得到先支持與好用優化,這是競品無法比擬的。
迄今為止,僅僅是在國內,Intel AI PC就已經得到了40多家ISV軟件開發生的適配支持。
Intel的銳炫GPU顯卡雖然在游戲市場占比不高,但是憑借先進的架構、大容量的顯存、完善的工具鏈支持,也悄然成為AI部署的上佳之選。
新發布的銳炫B系列,搭配酷睿Ultra 200系列處理器,單用戶單卡即可部署14B模型(FP8/INT4),雙卡的話可以支持32B+模型(INT4)。
上一代的銳炫A系列依然寶刀不老,搭配至強處理器可以組成四卡、八卡一體機,高可以支持70B模型(FP8/INT4),這也是個非常流行的方案。
不過注意,系統內存容量也是個關鍵因素,建議不少于64GB。
這是使用基于酷睿Ultra 200V系列處理器、32GB內存的輕薄本,本地部署DeepSeek 14B模型基礎版,可以流暢執行知識問答、代碼編寫等任務,輸出速度能達到每秒10 tokens左右。
這里展示了兩個俄羅斯方塊游戲的生成,左側是正常的基礎版,右側則是進階版,每隔20秒左右就會出現兩個新的隨機方塊,可能生成在任意落點,從而大大增加了游戲難度。
挑戰本地部署DeepSeek R1 32B模型,內存也增加到64GB,可以分配大約36GB作為核顯的顯存,生成速度可以達到每秒14 Tokens。
用它開發小游戲,比如打磚塊、五子棋這種級別的,雖然速度說不上飛快,但依然完全在可接受程度內,生成的小游戲也都能正常運行。
本文鏈接:http://www.tebozhan.com/showinfo-24-139694-0.htmlIntel全線進入AI PC時代!軟硬一體 三大優勢無敵
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com