2月27日消息,近日有報道稱,英偉達針對人工智能(AI)和高性能計算(HPC)推出的H100GPU交貨周期出現(xiàn)顯著縮短,由此前的8-11個月銳減至僅3-4個月。這一變化導(dǎo)致部分囤積該芯片的公司開始尋求出售其過剩的H10080GB處理器,原因在于如今從亞馬遜云服務(wù)、谷歌云及微軟Azure等大型云服務(wù)提供商處租用芯片已變得更為便捷。
據(jù)ITBEAR科技資訊了解,The Information的一份報告指出,鑒于H100GPU稀缺性的降低以及維護未使用庫存所帶來的高昂成本,部分公司開始轉(zhuǎn)售其手中的H100 GPU或減少相關(guān)訂單。這與去年眾多企業(yè)爭相搶購英偉達HopperGPU的情況形成了鮮明對比。盡管芯片的可用性有所提升且交貨周期大幅縮短,但報告仍指出,AI芯片的需求依然旺盛,尤其是對于需要訓(xùn)練大型語言模型(LLM)的公司,如OpenAI等。
云服務(wù)提供商(CSP)如亞馬遜AWS等提供的按需租用H100GPU服務(wù),在一定程度上緩解了需求壓力,縮短了用戶的等待時間。然而,由于訓(xùn)練大型語言模型需要大規(guī)模的GPU集群,這類公司仍面臨著供應(yīng)瓶頸的挑戰(zhàn),有時甚至需要等待數(shù)月才能獲得所需的處理能力。因此,盡管交貨周期縮短,但英偉達H100等處理器的市場價格并未出現(xiàn)明顯下降,公司依然能夠保持較高的利潤率。
隨著芯片供應(yīng)瓶頸的逐步緩解,買家的行為也在發(fā)生變化。企業(yè)開始更加注重價格和采購/租賃的合理性,傾向于選擇規(guī)模更小的GPU集群,并更加關(guān)注其業(yè)務(wù)的經(jīng)濟可行性。此外,隨著替代方案(如AMD或AWS的處理器)在性能和軟件支持方面的不斷提升,以及企業(yè)在AI處理器支出方面的日益謹慎,AI領(lǐng)域有望迎來一個更加平衡的市場格局。
本文鏈接:http://www.tebozhan.com/showinfo-45-3523-0.html英偉達H100 GPU交貨周期大減,AI芯片市場格局或迎新變化
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com