快科技5月7日消息,作為國家權威技術驗證平臺,中國信通院構建了AI芯片與大模型協同適配的標準化體系,并開展適配驗證工作。
經中國信通院檢測,摩爾線程自主研發的訓推一體計算卡MTT S4000,在推理場景下與DeepSeek-R1 671B大模型的適配結果,符合“AI芯片和大模型通過性適配要求”,成功通過中國信通院《AI芯片和大模型適配能力通過性評測軟硬件環境及測試細則》推理場景驗證。
根據驗證,摩爾線程MTT S4000可實現正常、穩定運行,滿足推理使用需求,符合通過性適配驗證條件,并獲頒檢測證書。
目前,摩爾線程系列訓推一體計算卡正在開展優化性適配驗證工作,相關結果將在檢測流程結束后另行公布。
MTT S4000是基于摩爾線程全功能GPU架構,專為大模型打造的訓推一體通用計算卡,支持FP64、FP32、TF32、FP16、BF16、INT8等各種計算精度,配備48GB顯存,支持vLLM-MUSA推理框架、MUTLASS、Triton-MUSA等組成的完善MUSA生態。
它支持摩爾線程自研的MTLink 1.0技術,可實現多卡互聯、千卡集群部署,支持千億參數大模型的訓練、微調和推理。
同時,它還兼具先進的圖形渲染、視頻編解碼、超高清8K HDR顯示能力求。
近期,摩爾線程還推出了搭載MTT S4000計算卡的MCCX DeepSeek大模型一體機,全面支持從蒸餾版到671B參數全量版DeepSeek模型的部署需求。
本文鏈接:http://www.tebozhan.com/showinfo-24-148547-0.html完美運行DeepSeek-R1 671B:摩爾線程MTT S4000通過中國信通院AI芯片和大模型適配驗證
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com