本文由半導(dǎo)體產(chǎn)業(yè)縱橫(ID:ICVIEWS)編譯自tomshardware
GPU短缺實際上是說主板上某些組件的短缺,而不是 GPU 本身。
Nvidia副總裁兼 HPC 驅(qū)動 DGX 系統(tǒng)總經(jīng)理出面澄清了該公司 GPU 容量問題的具體所在。博伊爾表示,問題并非來自英偉達錯誤計算需求或其制造合作伙伴臺積電的晶圓產(chǎn)量問題。
相反,制造足夠的 GPU 來滿足消費者和專業(yè)工作負載(由于人工智能的蓬勃發(fā)展)需求的瓶頸在于隨后的芯片封裝步驟。英偉達的 H 級 GPU 采用臺積電的 2.5D晶圓基片芯片 (CoWoS) 封裝技術(shù),這是一種多步驟、高精度的工程步驟,其復(fù)雜性降低了可在一個芯片中組裝的 GPU 數(shù)量。給定的時間范圍。這可能會對供應(yīng)產(chǎn)生不成比例的影響;所需 GPU 數(shù)量與可用 GPU 數(shù)量之間的差異甚至導(dǎo)致埃隆·馬斯克 (Elon Musk) 表示,事實證明,它們“比藥品更難獲得”。
Charlie Boyle,英偉達DGX 副總裁兼總經(jīng)理說道:因此,當(dāng)人們使用 GPU 短缺這個詞時,他們實際上是在談?wù)撝靼迳夏承┙M件的短缺或積壓,而不是 GPU 本身。這些東西的全球制造有限……但我們預(yù)測了人們想要什么,以及世界可以建造什么。
在芯片成為可用的 GPU 之前,需要經(jīng)過從芯片設(shè)計到制造的多個步驟。其一,芯片設(shè)計階段的問題可能會因設(shè)計疏忽而造成制造瓶頸,從而降低設(shè)計的良率(良率是指完全蝕刻的晶圓中可用芯片的百分比)。稀土金屬或其他材料(例如最近受到限制的鎵)的缺乏將影響長物流鏈中的其他步驟;材料污染、能源中斷和許多其他因素也會如此,正如我們多年來已經(jīng)看到的那樣。
但CoWoS的瓶頸問題可能比預(yù)想的更嚴重。臺積電本身也表示,預(yù)計需要 1.5 年(以及完成額外晶圓廠和擴建現(xiàn)有設(shè)施)才能使封裝工藝積壓恢復(fù)正常。這可能意味著英偉達將不得不決定什么產(chǎn)品用什么樣的封裝技術(shù)——因為沒有足夠的時間和能力來封裝所有產(chǎn)品。
供應(yīng)問題可能來自臺積電的封裝,但最終,英偉達通過其(根據(jù)帕特·基辛格的說法)“令人難以置信的執(zhí)行力”在人工智能領(lǐng)域占據(jù)主導(dǎo)地位。就臺積電而言,它是少數(shù)擁有功能性高性能封裝技術(shù)的廠商之一,而這種技術(shù)是性能擴展的絕對要求。AI 領(lǐng)域肯定需要更多的競爭,比如RX 7900 XTX 等 AMD 游戲 GPU 也被認為正走向AI 數(shù)據(jù)中心。
AMD于6月13日發(fā)布可用于ChatGPT等AI模型的MI300x芯片,挑戰(zhàn)目前占有AI芯片市場超八成份額的英偉達。
用于生成式AI的大型語言模型需要大量的運算,因此需要很大的內(nèi)存支持。AMD于6月曾演示了MI300x運行400億參數(shù)的Falcon模型,而OpenAI的GPT-3模型有1750億個參數(shù)。
AMD公司的這款MI300x芯片及其CDNA架構(gòu)專為大型語言模型和其他先進的AI模型而設(shè),可用于192GB內(nèi)存,也就是說能用于更大規(guī)模的人工智能模型,相比之下,英偉達的H100芯片只能支持120GB內(nèi)存。
除此以外,蘇姿豐還介紹了使用配置MI300x芯片的AMD Infinity架構(gòu)平臺,用于生成式AI的推理和訓(xùn)練,可在一個系統(tǒng)中集合八個MI300x加速器。而英偉達和谷歌(GOOG.US)也開發(fā)出類似的系統(tǒng),可在一個盒中集合八個或以上的GPU用于AI應(yīng)用。
目前眾多大型科技公司都在布局AI和大模型,對這類芯片的需求殷切,AMD積極加入這個市場顯然并非僅僅為了一兩個季度業(yè)績好看,而是為了更長遠的發(fā)展。
需要注意的是,對比于其較為成熟的產(chǎn)品,當(dāng)前AI應(yīng)用產(chǎn)品的貢獻雖增長強勁,卻占比較小,尚不足以帶來壓倒性的推動,在可預(yù)見的將來難以帶來肉眼可見的提升作用,可能要到明年或以后。
而且制造方面也需要競爭。英特爾的代工服務(wù)(IFS) 有望為高性能 GPU 游戲帶來另一位玩家;與此同時,人們還希望三星至少能夠縮小其相對于臺積電的制造技術(shù)差距,從而使其芯片具有足夠的吸引力,吸引另一家制造商參與競爭。三星在封裝方面的投資數(shù)額巨大,但業(yè)界一致認為三星在封裝技術(shù)方面落后于臺積電。三星電子需要一記 "重拳",才能在封裝領(lǐng)域趕超臺積電。
臺積電于 2012 年首次引入 CoWoS 技術(shù),此后不斷升級其封裝能力。如今,英偉達、蘋果和 AMD 的旗艦產(chǎn)品都離不開臺積電及其先進封裝技術(shù)的支持。這也解釋了為什么三星電子在 2022 年領(lǐng)先臺積電一步完成了 3nm 量產(chǎn),但英偉達和蘋果等巨頭仍然希望使用臺積電的生產(chǎn)線。
本文鏈接:http://www.tebozhan.com/showinfo-27-1152-0.html英偉達:GPU供應(yīng)問題涉及封裝而非芯片晶圓
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com