2023年底,伴隨著代號Meteor Lake的一代酷睿Ultra處理器的發(fā)布,Intel正式提出了AI PC的新概念。
彼時,乃至之后很長一段時間內(nèi),很多人都存在相同的疑問:AI PC和傳統(tǒng)PC到底有何不同?它能替我的工作/生活/學(xué)習(xí)做什么?值得升級嗎?
事實(shí)上,不僅僅是廣大消費(fèi)者,從業(yè)者在AI PC興起之初也有類似的迷茫。
但是,困難的事總是要有人去做的,未知的路總是要有人去走的。
作為AI PC的發(fā)起者,Intel憑借持續(xù)的路線圖、扎實(shí)的技術(shù)、廣泛的影響力、強(qiáng)大的號召力,聯(lián)合整個業(yè)界一起,不斷從軟硬件各個角度推進(jìn)AI PC,尤其是推動更多的應(yīng)用開發(fā)、場景落地。
令人欣喜的是,AI PC誕生還不到一年半,就已經(jīng)取得了長足的進(jìn)步:
隨著Intel酷睿Ultra 200系列全線布局完畢、銳炫B系列顯卡嶄露頭角、至強(qiáng)6家族各系列陸續(xù)登場,AI PC無論硬件產(chǎn)品還是應(yīng)用場景,都越來越豐富、越來越深入。雖然距離完全成熟為時尚早,但確確實(shí)實(shí)已經(jīng)邁入了全新的、實(shí)用的階段。
尤其是這個新年,我們不止有“DeepFeed”、“DeepSleep”這些傳統(tǒng)的吃吃喝喝、休閑放松,更有DeepSeek。
DeepSeek的重大意義,一方面是中國AI一次革命性的突破,另一方面是通過開源、免費(fèi),加速了AI普惠,無論是政企學(xué)科等各種單位機(jī)構(gòu),還是個人,都可以靈活地部署自己的大模型,無論是滿血版、蒸餾版,還是微調(diào)、再訓(xùn)練。
DeepSeek的炸裂表現(xiàn),無疑是AI歷史上里程碑的一幕,掀起了一股新的浪潮,帶來了更多的思考,也帶來了更多的機(jī)遇。
【軟硬全棧:Intel的大模型一體機(jī)部署方案】
隨著AI大模型部署需求的高漲,尤其是DeepSeek的火爆,AI通用一體機(jī)逐漸為更多人所熟知,市場上也迅速出現(xiàn)了大量產(chǎn)品,不少都直接打出了“DeepSeek一體機(jī)”的標(biāo)簽。
Intel自然沒有錯過這一波機(jī)遇,充分發(fā)揮了自己獨(dú)特的軟硬件“全家桶”優(yōu)勢。
AI一體機(jī)包括訓(xùn)推一體、模型推理、模型應(yīng)用等不同類型,主要面向政務(wù)、金融、醫(yī)療、教育、制造等垂直行業(yè)領(lǐng)域。
它的優(yōu)點(diǎn)有三:
一是開箱即用:硬件、模型、算法、軟件等全部集成,無需再單獨(dú)采購、配置、安裝、調(diào)優(yōu),買回來就能用,大大降低使用門檻,而且因?yàn)槭潜镜鼗渴穑舆t更低,響應(yīng)更快,體驗(yàn)更流暢。
二是隱私安全:很多企業(yè)機(jī)構(gòu)的數(shù)據(jù)是不能對外的,本地化部署一體機(jī)后,可以集成本地知識庫、高效智能體,一切處理都可以在本地進(jìn)行,不會外傳。
三是高效優(yōu)化:軟硬件適配優(yōu)化更深入,可大大提高AI模型的運(yùn)行效率,從而提升工作效率。
不過,DeepSeek等大模型的本地部署,也不是完全那么簡單,要重點(diǎn)考慮多個因素,才能達(dá)成效率和經(jīng)濟(jì)的優(yōu)化。
比如模型大小,是滿血?還是蒸餾?
比如數(shù)據(jù)精度,是更精確但更好資源的FP16/BF16?還是比較均衡的FP8?抑或速度更快的INT4/FP4?甚至更低比特?
比如上下文長度,16K-128K如何選擇?
比如吞吐能力,能否滿足時延要求?
比如響應(yīng)能力,TTFT(首個token)生成時間有沒有超過5秒?TPOT(token生成時間間隔)是否控制在100毫秒之內(nèi)?
Intel AI全家桶的優(yōu)勢恰恰就在于,無論你想部署什么樣的模型,獲得什么樣的輸出效果,無論是在邊緣側(cè)還是在端側(cè)(當(dāng)然也有云側(cè)),都可以找到適合自己的產(chǎn)品組合。
其中,至強(qiáng)一體機(jī)適合滿血大模型,銳炫GPU顯卡適合蒸餾模型,酷睿Ultra 200系列則適合蒸餾量化模型。
酷睿Ultra系列的全新命名,當(dāng)然不完全是改個名字那么簡單,更是標(biāo)志著開始真正進(jìn)入AI的新時代。
第一代酷睿Ultra 100H系列(代號Meteor Lake),高可提供36 TOPS算力,算是開始入門。
第二代酷睿Ultra 200系列直接提升了一個檔次,200V系列(代號Lunar Lake)、200H系列(代號Arrow Lake-H)分別可提供高120 TOPS、99 TOPS的算力,不但可以完全滿足Windows 11 AI+ PC的需求,還為部署更大規(guī)模模型提供了支撐,14B蒸餾模型都可以直接搞定,保證流暢體驗(yàn)。
除了基礎(chǔ)的硬件算力,Intel還有著成熟的AI工具鏈和生態(tài)支持,總能得到先支持與好用優(yōu)化,這是競品無法比擬的。
迄今為止,僅僅是在國內(nèi),Intel AI PC就已經(jīng)得到了40多家ISV軟件開發(fā)生的適配支持。
Intel的銳炫GPU顯卡雖然在游戲市場占比不高,但是憑借先進(jìn)的架構(gòu)、大容量的顯存、完善的工具鏈支持,也悄然成為AI部署的上佳之選。
新發(fā)布的銳炫B系列,搭配酷睿Ultra 200系列處理器,單用戶單卡即可部署14B模型(FP8/INT4),雙卡的話可以支持32B+模型(INT4)。
上一代的銳炫A系列依然寶刀不老,搭配至強(qiáng)處理器可以組成四卡、八卡一體機(jī),高可以支持70B模型(FP8/INT4),這也是個非常流行的方案。
不過注意,系統(tǒng)內(nèi)存容量也是個關(guān)鍵因素,建議不少于64GB。
這是使用基于酷睿Ultra 200V系列處理器、32GB內(nèi)存的輕薄本,本地部署DeepSeek 14B模型基礎(chǔ)版,可以流暢執(zhí)行知識問答、代碼編寫等任務(wù),輸出速度能達(dá)到每秒10 tokens左右。
這里展示了兩個俄羅斯方塊游戲的生成,左側(cè)是正常的基礎(chǔ)版,右側(cè)則是進(jìn)階版,每隔20秒左右就會出現(xiàn)兩個新的隨機(jī)方塊,可能生成在任意落點(diǎn),從而大大增加了游戲難度。
挑戰(zhàn)本地部署DeepSeek R1 32B模型,內(nèi)存也增加到64GB,可以分配大約36GB作為核顯的顯存,生成速度可以達(dá)到每秒14 Tokens。
用它開發(fā)小游戲,比如打磚塊、五子棋這種級別的,雖然速度說不上飛快,但依然完全在可接受程度內(nèi),生成的小游戲也都能正常運(yùn)行。
本文鏈接:http://www.tebozhan.com/showinfo-24-139694-0.htmlIntel全線進(jìn)入AI PC時代!軟硬一體 三大優(yōu)勢無敵
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com