小米降噪藍牙耳機Necklace分享：聽一首歌 讀懂一個故事
在今天下午的小米Civi 2新品發布會上，小米還帶來了一款新的降噪藍牙耳機Necklace，我們也在發布結束的第一時間給大家帶來這款耳機的簡單分享。現在大家能見到最多的藍牙耳機
快科技3月2日消息，日前摩爾線程宣布，隨著DeepSeek開源周收官，摩爾線程在短時間內，成功實現對DeepSeek各個開源項目的全面支持，涵蓋FlashMLA、DeepEP、DeepGEMM、DualPipe 以及 Fire-Flyer文件系統（3FS）。
摩爾線程表示，這一成果充分驗證了MUSA架構和全功能GPU在生態兼容與快速適配方面的強大優勢。
以下是摩爾線程支持DeepSeek開源周“全家桶”代碼合集：
FlashMLA：
FlashMLA是一款高效的MLA（Multi-Head Latent Attention）推理內核開源倉庫，旨在加速MLA機制的計算，特別適用于DeepSeek系列模型（如DeepSeek-V2、V3和R1）。
摩爾線程基于全新MUSA Compute Capability 3.1計算架構，可提供原生FP8計算能力，同時升級了高性能線性代數模板庫MUTLASS，快速支持了FlashMLA。
借助MUTLASS 0.2.0，摩爾線程發布開源倉庫MT-FlashMLA，能夠快速對DeepSeek FlashMLA進行兼容部署。
MT-FlashMLA開源地址：
https://github.com/MooreThreads/MT-flashMLA
MUTLASS FlashAttention3地址：
https://github.com/MooreThreads/mutlass/tree/main/experimental/mp31_flash_attention_fwd
DeepEP：
DeepEP是一個用于MoE（混合專家）模型訓練和推理的開源EP（expert parallelism，專家并行）通信庫，主要適用于大模型訓練，特別是需要EP的集群訓練。
它通過優化通信信道的使用率，顯著提升了訓練效率。摩爾線程基于MUSA Compute Capability 3.1全功能GPU，第一時間適配了DeepEP。
MT-DeepEP開源地址：
https://github.com/MooreThreads/MT-DeepEP
DeepGEMM：
DeepGEMM是一個支持密集矩陣與混合專家（MoE）矩陣乘法的FP8 GEMM庫，為V3/R1的訓練與推理提供強大動力。
這個開源倉庫基于高性能通用矩陣乘法（GEMM）的C++模板庫進行開發，摩爾線程基于MUTLASS在全新GPU架構上優化實現了FP8矩陣乘法，支持DeepGEMM的相應功能。
MUTLASS FP8 GEMM地址：
https://github.com/MooreThreads/mutlass/tree/main/examples/02_mp31_fp8_gemm_with_collective_builder
https://github.com/MooreThreads/mutlass/tree/main/examples/03_mp31_fp8_scaling_gemm
DualPipe：
DualPipe是DeepSeek-V3提出的雙向流水線并行算法，通過前向計算與后向計算階段的計算與通信完全重疊，顯著減少了“流水線氣泡”（設備空閑等待）。
與傳統流水線并行相比，DualPipe 采用雙向數據流設計，使數據從兩端相向處理，大幅提升了資源利用率與訓練效率。
摩爾線程依托深度學習框架Torch-MUSA（已開源）和MUSA軟件棧全方位的兼容性，實現了對DualPipe這一算法的高效支持。
MT-DualPipe可以完整接入摩爾線程 MT-Megatron框架和MT-TransformerEngine框架（即將開源），實現DeepSeek V3訓練流程的完整復現。
MT-DualPipe開源地址：
https://github.com/MooreThreads/MT-DualPipe
Torch-MUSA開源地址：
https://github.com/MooreThreads/Torch_MUSA
3FS：
Fire-Flyer文件系統（3FS）是一種利用現代SSD和RDMA網絡的全部帶寬的并行文件系統，可以把固態硬盤的帶寬性能利用到極致。
摩爾線程在一天內完成了高性能分布式文件系統3FS的搭建，并高效開發了存儲插件，成功實現與夸娥智算集群的無縫集成，為AI訓練、AI推理、科學計算等場景提供全棧存儲加速方案。
3FS CSI Driver地址：
https://github.com/MooreThreads/csi-driver-3fs
本文鏈接：http://www.tebozhan.com/showinfo-24-135203-0.html國產顯卡動作神速！摩爾線程全面支持DeepSeek開源周成果
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號