飛騰信息技術(shù)有限公司近日宣布了一項重要技術(shù)突破,其旗下的騰云S5000C與騰銳D3000處理器已成功實現(xiàn)對DeepSeek全系列大模型的全面支持。這一成就覆蓋了數(shù)據(jù)中心和終端場景,且在本地部署的推理效率上,與國外同類產(chǎn)品架構(gòu)解決方案相媲美。
據(jù)悉,DeepSeek-V2.5 236B大模型已在飛騰騰云S5000C平臺上實現(xiàn)了穩(wěn)定運(yùn)行。在配備8塊國產(chǎn)AI卡的條件下,該平臺的整體性能接近國外平臺性能的80%。隨著DeepSeek-V3和R1版本的發(fā)布,飛騰技術(shù)團(tuán)隊迅速在騰云S5000C和騰銳D3000上進(jìn)行了本地部署驗證,從而形成了一套完整的解決方案。
在數(shù)據(jù)中心方面,飛騰騰云S5000C服務(wù)器能夠與多款A(yù)I加速卡協(xié)同工作,實現(xiàn)DeepSeek蒸餾版和全量版的部署。飛騰AI實驗室在單機(jī)8卡服務(wù)器平臺上進(jìn)行了DeepSeek-R1-Distill-Llama-70B版本的測試,推理速度達(dá)到了每秒22個tokens。而對于完整版DeepSeek R1 671B模型,采用分布式推理框架,基于四機(jī)32卡AI服務(wù)器集群成功部署。
在用戶終端方面,基于飛騰騰銳D3000的臺式機(jī)能夠本地部署DeepSeek-R1 7B蒸餾版模型。僅需搭配1張國產(chǎn)推理卡,即可實現(xiàn)AI PC功能,為用戶提供強(qiáng)大的終端計算能力。
關(guān)于飛騰騰云S5000C,這款處理器擁有64核、32核、16核三種形態(tài),兼容ARMv8指令集,并支持硬件虛擬化。它適用于計算服務(wù)器、存儲服務(wù)器、AI服務(wù)器、高端網(wǎng)安以及大型互聯(lián)網(wǎng)數(shù)據(jù)中心等多種場景。
另一方面,飛騰騰銳D3000集成了8個飛騰自主研發(fā)的新一代高性能處理器核FTC862。它兼容64位ARMv8指令集,支持ARM64和ARM32兩種執(zhí)行模式,并具有單精度和雙精度浮點運(yùn)算指令以及ASIMD處理指令。主頻高達(dá)2.5GHz,同樣支持硬件虛擬化,適用于商業(yè)和工業(yè)分級。
本文鏈接:http://www.tebozhan.com/showinfo-45-10598-0.html飛騰CPU成功支持DeepSeek全系列大模型,國產(chǎn)算力再升級!
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com