AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 芯片

英偉達推出最強AI芯片:首發(fā)HMB3e,大模型運行能力提升3.5倍!

來源: 責編: 時間:2023-08-09 23:03:03 368觀看
導(dǎo)讀早在今年5月29日,AI芯片大廠英偉達(NVIDIA) CEO黃仁勛就在COMPUTEX 2023展前發(fā)布會上,正式發(fā)布了升級版的GH200Grace Hopper超級芯片,旨在助力開發(fā)面向生成式AI語言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負載的巨型、下一代模型。G
< style="">

今年5月29日,AI芯片大廠英偉達(NVIDIA) CEO黃仁勛就在COMPUTEX 2023展前發(fā)布會上,正式發(fā)布了升級版的GH200Grace Hopper超級芯片,旨在助力開發(fā)面向生成式AI語言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負載的巨型、下一代模型。idI28資訊網(wǎng)——每日最新資訊28at.com

GH200超級芯片,是將 72 核的Grace CPU、H100 GPU、96GB 的 HBM3 和 512 GB 的 LPDDR5X 集成在同一個封裝中,擁有高達 2000 億個晶體管。這種組合提供了 CPU 和 GPU 之間驚人的數(shù)據(jù)帶寬,高達 900 GB / s,為某些內(nèi)存受限的工作負載提供了巨大的優(yōu)勢。idI28資訊網(wǎng)——每日最新資訊28at.com

相關(guān)文章:《AI性能突破1Eflop!英偉達DGX GH200發(fā)布:256個GH200芯片,144TB共享內(nèi)存!》idI28資訊網(wǎng)——每日最新資訊28at.com

美國當?shù)貢r間8月8日,英偉達又發(fā)布了新一代GH200 Grace Hopper(簡稱“新版GH200”)平臺。但與今年5月發(fā)布的GH200不同的是,新一代GH200搭載了全球首款HBM3e內(nèi)存內(nèi)存容量和帶寬都有顯著提高,專為加速計算和生成式AI時代而打造idI28資訊網(wǎng)——每日最新資訊28at.com

英偉達稱,新版GH200旨在處理世界上最復(fù)雜的生成式AI工作負載,涵蓋大型語言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫,將提供多種配置。新版GH200將于2024年第二季度投產(chǎn)。idI28資訊網(wǎng)——每日最新資訊28at.com

idI28資訊網(wǎng)——每日最新資訊28at.com

具體來說新版GH200芯片平臺基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內(nèi)存以GH100 計算 GPU,搭配 141 GB 的 HBM3e 內(nèi)存,分為六個 24 GB 的堆棧,并使用了 6,144 位的內(nèi)存接口。雖然英偉達實際安裝了 144 GB 的內(nèi)存,但只有 141 GB 是可用的。
idI28資訊網(wǎng)——每日最新資訊28at.com

相比原版GH200平臺,新版GH200平臺的雙芯片配置將內(nèi)存容量提高3.5倍,帶寬增加三倍,一個服務(wù)器就有144個Arm Neoverse高性能內(nèi)核、8 petaflops 的 AI 性能和282GB的最新HBM3e內(nèi)存技術(shù)。idI28資訊網(wǎng)——每日最新資訊28at.com

HBM3e是全新一代的高帶寬內(nèi)存,帶寬達每秒5TB,比原版的GH200所搭載的HBM3快50%,可為新版的GH200提供總共每秒10TB的組合帶寬,使新平臺能運行比前代大3.5倍的模型,同時通過快3倍的內(nèi)存帶寬提高性能。idI28資訊網(wǎng)——每日最新資訊28at.com

據(jù)英偉達介紹,目前配備 HBM3 內(nèi)存的原版GH200Grace Hopper超級芯片平臺已經(jīng)在生產(chǎn)中,并將于下個月開始商業(yè)銷售。而配備 HBM3e 內(nèi)存的新版GH200Grace Hopper超級芯片平臺現(xiàn)在正在樣品測試中,預(yù)計將于 2024 年第二季度上市。idI28資訊網(wǎng)——每日最新資訊28at.com

英偉達強調(diào),新版GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無需推出任何新的軟件版本或步進。英偉達表示,原版 GH200 和升級版 GH200 將在市場上共存,這意味著后者將以更高的價格出售,畢竟其更先進的內(nèi)存技術(shù)帶來的更高性能。idI28資訊網(wǎng)——每日最新資訊28at.com

英偉達表示,配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級芯片平臺完全兼容英偉達的 MGX 服務(wù)器規(guī)范,并且可以與現(xiàn)有的服務(wù)器設(shè)計直接兼容。idI28資訊網(wǎng)——每日最新資訊28at.com

黃仁勛說,為了滿足生成式 AI 不斷增長的需求,數(shù)據(jù)中心需要有針對特殊需求的加速計算平臺。新的GH200 Grace Hopper 超級芯片平臺提供了卓越的內(nèi)存技術(shù)和帶寬,以此提高吞吐量,提升無損耗連接GPU聚合性能的能力,并且擁有可以在整個數(shù)據(jù)中心輕松部署的服務(wù)器設(shè)計。idI28資訊網(wǎng)——每日最新資訊28at.com

快速創(chuàng)建生成式AI的工具包AI WorkbenchidI28資訊網(wǎng)——每日最新資訊28at.com

除了新款GH200,英偉達周二還發(fā)布了新的統(tǒng)一工具包AI Workbench,以及對英偉達Omniverse軟件服務(wù)的重大升級。idI28資訊網(wǎng)——每日最新資訊28at.com

AI Workbench為開發(fā)者提供了統(tǒng)一且便于使用的工具包,可在個人電腦(PC)或工作站上快速創(chuàng)建、測試和微調(diào)生成式AI模型,然后將其擴展到幾乎任何數(shù)據(jù)中心、公共云或者英偉達的DGX云。idI28資訊網(wǎng)——每日最新資訊28at.com

idI28資訊網(wǎng)——每日最新資訊28at.com

英偉達稱,AI Workbench讓企業(yè)的AI項目入門不再復(fù)雜。通過在本地系統(tǒng)運行的簡化界面進行訪問,它讓開發(fā)者能使用自定義數(shù)據(jù)微調(diào)Hugging Face、GitHub 和 NGC 等常用存儲庫中的模型,然后可以在多個平臺上輕松共享模型。idI28資訊網(wǎng)——每日最新資訊28at.com

借助AI Workbench,開發(fā)者只需點擊幾下即可自定義和運行生成式AI,而且他們能夠?qū)⑺斜匾钠髽I(yè)級模型、框架、軟件開發(fā)套件和庫整合到一個統(tǒng)一的開發(fā)者工作區(qū)中。idI28資訊網(wǎng)——每日最新資訊28at.com

用黃仁勛的話來說就是:“人人都可以做到。”idI28資訊網(wǎng)——每日最新資訊28at.com

Omniverse平臺升級 通過OpenUSD軟件利用生成式AIidI28資訊網(wǎng)——每日最新資訊28at.com

英偉達的升級版Omniverse平臺為開發(fā)者和工業(yè)企業(yè)提供新的基礎(chǔ)應(yīng)用與服務(wù),以O(shè)penUSD框架和生成式AI優(yōu)化及增強他們的3D管道。idI28資訊網(wǎng)——每日最新資訊28at.com

升級版Omniverse平臺是一個高性能3D場景描述技術(shù)OpenUSD的原生軟件平臺,用于跨3D工具和應(yīng)用的連接、描述和模擬,能加快創(chuàng)建虛擬世界和工業(yè)數(shù)字化高級工作流程。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics現(xiàn)已通過 OpenUSD 連接到 Omniverse。idI28資訊網(wǎng)——每日最新資訊28at.com

新平臺的亮點包括更新開發(fā)原生OpenUSD應(yīng)用及擴展的引擎——Omniverse Kit,以及英偉達Omniverse Audio2Face基礎(chǔ)應(yīng)用和空間計算功能的更新。idI28資訊網(wǎng)——每日最新資訊28at.com

Omniverse 和模擬技術(shù)副總裁 Rev Lebaredian表示,更新后的Omniverse 讓開發(fā)人員可以通過OpenUSD利用生成式AI強化他們的工具,并且讓工業(yè)企業(yè)能構(gòu)建更大、更復(fù)雜的世界級模擬,作為其工業(yè)應(yīng)用的數(shù)字測試場。idI28資訊網(wǎng)——每日最新資訊28at.com

編輯:芯智訊-浪客劍
idI28資訊網(wǎng)——每日最新資訊28at.com

往期精彩文章

ODM大廠華勤技術(shù)登陸主板:三年累計凈利超65億元,募資55億元!
idI28資訊網(wǎng)——每日最新資訊28at.com

2023美國半導(dǎo)體產(chǎn)業(yè)現(xiàn)狀:36%銷售額來自于中國!
idI28資訊網(wǎng)——每日最新資訊28at.com

張忠謀:美國公司將失去業(yè)務(wù),中國將找到反擊的方法!idI28資訊網(wǎng)——每日最新資訊28at.com

立即生效!印度宣布限制PC相關(guān)產(chǎn)品進口!idI28資訊網(wǎng)——每日最新資訊28at.com

在中國市場,Arm服務(wù)器份額已接近15%!idI28資訊網(wǎng)——每日最新資訊28at.com

AMD凈利同比暴跌94%!環(huán)比暴漲119%!蘇姿豐:AI將帶來數(shù)十億美元增長機會!idI28資訊網(wǎng)——每日最新資訊28at.com

中國宣布對部分無人機實施出口管制!航天彩虹、大疆等企業(yè)或受影響!
idI28資訊網(wǎng)——每日最新資訊28at.com

主頻提升25%!俄羅斯48核CPU仍不是華為鯤鵬920對手!idI28資訊網(wǎng)——每日最新資訊28at.com

顛覆行業(yè)!英飛凌推可回收、可降解PCB:能溶解于90℃熱水,碳排放量減少60%!idI28資訊網(wǎng)——每日最新資訊28at.com

英特爾CEO:如果沒了中國的訂單,再建晶圓廠就沒必要了!
idI28資訊網(wǎng)——每日最新資訊28at.com

2022年全球CIS廠商排名:豪威第三,格科微跌出前五!
idI28資訊網(wǎng)——每日最新資訊28at.com

Cerebras推出全球最強AI超算:5400萬個AI內(nèi)核,算力高達4 exaFLOPS!idI28資訊網(wǎng)——每日最新資訊28at.com

行業(yè)交流、合作請加微信:icsmart01
芯智訊官方交流群:221807116idI28資訊網(wǎng)——每日最新資訊28at.com

idI28資訊網(wǎng)——每日最新資訊28at.com

<

本文鏈接:http://www.tebozhan.com/showinfo-27-5064-0.html英偉達推出最強AI芯片:首發(fā)HMB3e,大模型運行能力提升3.5倍!

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 投資100億歐元!臺積電德國建廠計劃公布:博世/英飛凌/恩智浦參股,2027年底量產(chǎn)!

下一篇: 星紀魅族回應(yīng)裁員傳聞:已決定終止自研芯片業(yè)務(wù)!

標簽:
  • 熱門焦點
Top