快科技2月12日消息,國(guó)產(chǎn)GPU廠商景嘉微今天宣布,JM系列、景宏系列與DeepSeek R1系列的成功適配,進(jìn)一步推動(dòng)DeepSeek在云邊端等各類場(chǎng)景的應(yīng)用。
其中,景嘉微JM系列完成了DeepSeek-R1-Distill-Qwen-1.5B模型和DeepSeek-R1-Distill-Qwen-7B模型的適配。
同時(shí),景宏系列已全面兼容并適配DeepSeek R1全系列模型,覆蓋從1.5B至70B參數(shù)規(guī)模的LLaMA及千問(wèn)模型架構(gòu)。
基于vLLM推理框架的部署方案,實(shí)現(xiàn)了高效推理性能與經(jīng)濟(jì)性的雙重優(yōu)勢(shì),為開發(fā)者提供了便捷的開發(fā)支持。
該方案支持快速啟動(dòng)和使用,無(wú)需復(fù)雜配置,助力AI技術(shù)的規(guī)模化落地應(yīng)用。
景嘉微官方還表示,向中國(guó)AI開發(fā)者致敬,這次國(guó)產(chǎn)GPU與國(guó)產(chǎn)大模型結(jié)合,也算是夢(mèng)幻聯(lián)動(dòng)了。
值得一提的是,近期摩爾線程同樣實(shí)現(xiàn)了對(duì)DeepSeek蒸餾模型推理服務(wù)的高效部署,開發(fā)者可以基于摩爾線程全功能GPU,進(jìn)行AI應(yīng)用創(chuàng)新。
此外,用戶也可以基于摩爾線程MTT S80、MTT S4000顯卡,進(jìn)行DeepSeek-R1蒸餾模型的推理部署。
本文鏈接:http://www.tebozhan.com/showinfo-24-130027-0.html國(guó)產(chǎn)GPU景嘉微完成DeepSeek R1系列模型適配
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: AMD銳龍AI處理器輕松本地跑DeepSeek:高支持70B參數(shù)
下一篇: 國(guó)產(chǎn)內(nèi)存加速追趕!長(zhǎng)鑫15nm DRAM今年開發(fā)明年量產(chǎn)