AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當(dāng)前位置：首頁(yè) > 科技  > 知識(shí)百科

支持原生 FP8 和 PyTorch 2.5.0，摩爾線程開源發(fā)布 Torch-MUSA v2.0.0

來(lái)源： 責(zé)編： 時(shí)間：2025-05-11 10:24:31 95觀看
導(dǎo)讀 5 月 9 日消息，摩爾線程今日宣布推出 Torch-MUSA v2.0.0 版本，這是其面向 PyTorch 深度學(xué)習(xí)框架的 MUSA 擴(kuò)展庫(kù)的重要升級(jí)。新版本基于 MUSA Compute Capability 3.1 計(jì)算架構(gòu)，支持原生 FP8 數(shù)據(jù)類型，支持 PyTorc

5 月 9 日消息，摩爾線程今日宣布推出 Torch-MUSA v2.0.0 版本，這是其面向 PyTorch 深度學(xué)習(xí)框架的 MUSA 擴(kuò)展庫(kù)的重要升級(jí)。y4i28資訊網(wǎng)——每日最新資訊28at.com

新版本基于 MUSA Compute Capability 3.1 計(jì)算架構(gòu)，支持原生 FP8 數(shù)據(jù)類型，支持 PyTorch 2.5.0，并通過(guò)多項(xiàng)針對(duì) MUSA 計(jì)算平臺(tái)的性能優(yōu)化，進(jìn)一步提升了對(duì) AI 模型和大規(guī)模數(shù)據(jù)處理的支持能力。y4i28資訊網(wǎng)——每日最新資訊28at.com

y4i28資訊網(wǎng)——每日最新資訊28at.com

作為本次升級(jí)的核心亮點(diǎn)，Torch-MUSA v2.0.0 率先在國(guó)產(chǎn) GPU 上實(shí)現(xiàn)了對(duì) FP8 數(shù)據(jù)類型的完整支持。y4i28資訊網(wǎng)——每日最新資訊28at.com

FP8 是當(dāng)前 AI 計(jì)算的一種前沿低精度格式，在支持原生 FP8 的 GPU 上，大語(yǔ)言模型（LLM）訓(xùn)練采用 FP8 混合精度可大幅提高 GPU 算力，顯著降低顯存占用。y4i28資訊網(wǎng)——每日最新資訊28at.com

摩爾線程基于新一代 MUSA Compute Capability 3.1 計(jì)算架構(gòu)的全功能 GPU 原生支持 FP8 計(jì)算，這為 Torch-MUSA v2.0.0 實(shí)現(xiàn) FP8 矩陣乘法和分布式通信優(yōu)化提供了基礎(chǔ)。依托這一底層架構(gòu)優(yōu)勢(shì)，Torch-MUSA v2.0.0 能夠充分發(fā)揮 FP8 的計(jì)算效能，提升大語(yǔ)言模型訓(xùn)練和推理的效率。y4i28資訊網(wǎng)——每日最新資訊28at.com

Torch-MUSA v2.0.0 在 MUSA 計(jì)算平臺(tái)引入多項(xiàng)創(chuàng)新功能，進(jìn)一步提升深度學(xué)習(xí)任務(wù)的執(zhí)行效率：y4i28資訊網(wǎng)——每日最新資訊28at.com

新增虛擬內(nèi)存管理支持：y4i28資訊網(wǎng)——每日最新資訊28at.com

MUSA 虛擬內(nèi)存管理技術(shù)能夠有效緩解 GPU 內(nèi)存碎片化問(wèn)題，降低模型訓(xùn)練過(guò)程中的峰值內(nèi)存占用，特別適用于 FSDP、DeepSpeed 和 Megatron-LM 等主流大模型訓(xùn)練框架。y4i28資訊網(wǎng)——每日最新資訊28at.com

新增 MUSA Graph 支持：y4i28資訊網(wǎng)——每日最新資訊28at.com

MUSA Graph 技術(shù)將多個(gè) MUSA 內(nèi)核整合到一個(gè)圖中，通過(guò)單次 CPU 調(diào)度大幅減少啟動(dòng)開銷，提升計(jì)算效率，同時(shí)與 CUDA Graph 接口高效兼容。y4i28資訊網(wǎng)——每日最新資訊28at.com

torch.compile 增加 Triton 后端支持：y4i28資訊網(wǎng)——每日最新資訊28at.com

為 torch.compile 提供了 Triton-MUSA 后端支持，開發(fā)者可以直接使用 PyTorch 原生接口，獲得更高效的性能表現(xiàn)。y4i28資訊網(wǎng)——每日最新資訊28at.com

Torch-MUSA v2.0.0 在完整支持 PyTorch 2.2.0 的基礎(chǔ)上，新增了對(duì) PyTorch 2.5.0 的支持，使開發(fā)者能夠在基于 MUSA Compute Capability 3.1 計(jì)算架構(gòu)的全功能 GPU 上，無(wú)縫運(yùn)行新版本的 PyTorch。y4i28資訊網(wǎng)——每日最新資訊28at.com

Torch-MUSA 已完全開源，開發(fā)者可通過(guò)訪問(wèn) GitHub 獲取源代碼。附開源地址：y4i28資訊網(wǎng)——每日最新資訊28at.com

https://github.com/MooreThreads/torch_musay4i28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-119-148904-0.html支持原生 FP8 和 PyTorch 2.5.0，摩爾線程開源發(fā)布 Torch-MUSA v2.0.0

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： GNOME 49 桌面環(huán)境煥新視頻播放器：Showtime 取代 Totem 成核心應(yīng)用

下一篇： TIOBE 指數(shù) 5 月排行榜公布：Python“已統(tǒng)治全球編程界”

標(biāo)簽：
  • 熱門焦點(diǎn)
Top