AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 資訊

微軟首款定制 AI 芯片,Maia 100 更多規格公開

來源: 責編: 時間:2024-09-01 11:51:35 76觀看
導讀來源:IT之家 微軟公司出席 Hot Chip 2024 大會,分享了 Maia 100 芯片的規格信息。Maia 100 是臺積電 5nm 節點上制造的最大處理器之一,專門為部署在 Azure 中的大規模 AI 工作負載而設計。Maia 100 芯片規格如下芯片尺寸

來源:IT之家 8lE28資訊網——每日最新資訊28at.com

微軟公司出席 Hot Chip 2024 大會,分享了 Maia 100 芯片的規格信息。Maia 100 是臺積電 5nm 節點上制造的最大處理器之一,專門為部署在 Azure 中的大規模 AI 工作負載而設計。8lE28資訊網——每日最新資訊28at.com

8lE28資訊網——每日最新資訊28at.com

Maia 100 芯片規格如下8lE28資訊網——每日最新資訊28at.com

芯片尺寸:820 平方毫米8lE28資訊網——每日最新資訊28at.com

封裝:采用 COWOS-S 夾層技術的 TSMC N5 工藝8lE28資訊網——每日最新資訊28at.com

HBM BW/Cap;1.8TB/s @ 64GB HBM2E8lE28資訊網——每日最新資訊28at.com

峰值密集 Tensor POPS: 6bit: 3,9bit: 1.5, BF16: 0.88lE28資訊網——每日最新資訊28at.com

L1/L2:500MB8lE28資訊網——每日最新資訊28at.com

后端網絡 BW:600GB/s(12X400gbe)8lE28資訊網——每日最新資訊28at.com

主機 BW(PCIe):32GB/s PCIe Gen5X88lE28資訊網——每日最新資訊28at.com

設計 TDP:700W8lE28資訊網——每日最新資訊28at.com

Provision TDP:500W8lE28資訊網——每日最新資訊28at.com

Microsoft Maia 100 系統采用垂直集成方式,以優化成本和性能。它還采用定制服務器板,配備專門設計的機架和軟件堆棧,以提高性能。8lE28資訊網——每日最新資訊28at.com

Maia 100 架構8lE28資訊網——每日最新資訊28at.com

高速 Tensor 單元可為訓練和推理提供高速處理,同時支持多種數據類型,單元采用 16xRx16 結構。8lE28資訊網——每日最新資訊28at.com

矢量處理器是一個松散耦合的超標量引擎,采用定制指令集架構(ISA),支持包括 FP32 和 BF16 在內的多種數據類型。8lE28資訊網——每日最新資訊28at.com

直接內存訪問(DMA)引擎支持不同的張量分片方案。8lE28資訊網——每日最新資訊28at.com

硬件 semaphores 支持 Maia 系統的異步編程。8lE28資訊網——每日最新資訊28at.com

為提高數據利用率和能效,大型 L1 和 L2 scratch pads 交由軟件管理。8lE28資訊網——每日最新資訊28at.com

Maia 100 采用基于以太網的互聯技術和類似 RoCE 的定制協議,可實現超高帶寬計算。它支持高達 4800 Gbps 的 all-gather 和 scatter-reduced 帶寬,以及 1200 Gbps 的 all-to-all 帶寬。8lE28資訊網——每日最新資訊28at.com

在軟件方面,Maia 軟件開發工具包(SDK)允許任何人快速將其 PyTorch 和 Triton 模型移植到 Maia。Maia SDK 為開發人員提供了多個組件,使他們能夠輕松地將模型部署到 Azure OpenAI 服務。8lE28資訊網——每日最新資訊28at.com

8lE28資訊網——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-16-110801-0.html微軟首款定制 AI 芯片,Maia 100 更多規格公開

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 前員工爆料,OpenAI AGI 安全團隊已流失近半成員

下一篇: 美航天器撞擊測試引發天文奇觀:百年流星雨或將上演?

標簽:
  • 熱門焦點
Top