快科技2月12日消息,國產GPU廠商景嘉微今天宣布,JM系列、景宏系列與DeepSeek R1系列的成功適配,進一步推動DeepSeek在云邊端等各類場景的應用。
其中,景嘉微JM系列完成了DeepSeek-R1-Distill-Qwen-1.5B模型和DeepSeek-R1-Distill-Qwen-7B模型的適配。
同時,景宏系列已全面兼容并適配DeepSeek R1全系列模型,覆蓋從1.5B至70B參數規模的LLaMA及千問模型架構。
基于vLLM推理框架的部署方案,實現了高效推理性能與經濟性的雙重優勢,為開發者提供了便捷的開發支持。
該方案支持快速啟動和使用,無需復雜配置,助力AI技術的規模化落地應用。
景嘉微官方還表示,向中國AI開發者致敬,這次國產GPU與國產大模型結合,也算是夢幻聯動了。
值得一提的是,近期摩爾線程同樣實現了對DeepSeek蒸餾模型推理服務的高效部署,開發者可以基于摩爾線程全功能GPU,進行AI應用創新。
此外,用戶也可以基于摩爾線程MTT S80、MTT S4000顯卡,進行DeepSeek-R1蒸餾模型的推理部署。
本文鏈接:http://www.tebozhan.com/showinfo-24-130027-0.html國產GPU景嘉微完成DeepSeek R1系列模型適配
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com