IT之家 11 月 9 日消息,國外科技媒體 Semianalysis 近日發(fā)布付費(fèi)文章,表示三款中國特供版 AI 芯片之一,在 LLM 推理中,要比 H100 快 20% 以上。
IT之家此前報(bào)道,英偉達(dá)即將推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片,這三款芯片均基于英偉達(dá) H100 改良而來,官方已經(jīng)生產(chǎn)出這些 GPU 樣品,并預(yù)估下月投入批量生產(chǎn)。
消息稱英偉達(dá)預(yù)計(jì)最快將于 11 月 16 號(hào)之后公布,國內(nèi)廠商最快將在這幾天拿到樣品。
這篇付費(fèi)文章中詳細(xì)介紹了英偉達(dá) H20、L20 和 L2 的詳細(xì)信息,涉及 FLOPS 數(shù)據(jù)、NVLink 帶寬、功耗、內(nèi)存帶寬、內(nèi)存容量、芯片尺寸等。
文章中寫道:
更為重要的是,在這三款中國特供版 GPU 中,其中一款(并未明確是哪款,但應(yīng)該是指 H20)在 LLM 推理中要比 H100 快 20%,而且性能接近于英偉達(dá)明年年初發(fā)布的新款 GPU。
報(bào)道中還提及的一點(diǎn)是,英偉達(dá) HGX H20 采用 HGX 格式,采用臺(tái)積電的 CoWoS 封裝。而另外兩款芯片主要基于 Ada,面向游戲領(lǐng)域,不需要復(fù)雜的封裝。
該文章還預(yù)測(cè)了英偉達(dá) 2024 和 2025 財(cái)年業(yè)績,此前消息稱由于美國不斷地加碼,英偉達(dá)丟失了超過價(jià)值 50 億美元的訂單,而借助這些中國專供 GPU,會(huì)改善英偉達(dá)的業(yè)績表現(xiàn)。
本文鏈接:http://www.tebozhan.com/showinfo-24-19959-0.html消息稱英偉達(dá)針對(duì)中國區(qū)改良版H20在LLM推理中比H100更快
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com