4 月 11 日消息，曾幾何時(shí)，英偉達(dá)用于人工智能計(jì)算的 H100 GPU 供不應(yīng)求。然而據(jù) Digitimes 報(bào)道，臺(tái)積電的臺(tái)灣地區(qū)總經(jīng)理 Terence Liao 表示，過(guò)去幾個(gè)月英偉達(dá) H100 的交貨等待時(shí)間已經(jīng)大幅縮短，從最初的 3-4 個(gè)月降至目前的 2-3 個(gè)月（8-12 周）。服務(wù)器代工廠商也透露，相比 2023 年幾乎無(wú)法買(mǎi)到英偉達(dá) H100 的情況，目前供應(yīng)瓶頸正在逐步緩解。6Mm28資訊網(wǎng)——每日最新資訊28at.com

6Mm28資訊網(wǎng)——每日最新資訊28at.com

盡管交貨等待時(shí)間有所縮短，Terence Liao 表示，對(duì)于人工智能硬件的需求仍然非常旺盛。即使價(jià)格昂貴，用于人工智能的服務(wù)器采購(gòu)也正在取代通用服務(wù)器的采購(gòu)。但他認(rèn)為，交付周期太長(zhǎng)正是導(dǎo)致需求看起來(lái)居高不下的主要原因。6Mm28資訊網(wǎng)——每日最新資訊28at.com

注意到，目前 2-3 個(gè)月的交貨等待時(shí)間是英偉達(dá) H100 GPU 史上最短的。僅僅 6 個(gè)月之前，等待時(shí)間還長(zhǎng)達(dá) 11 個(gè)月，大多數(shù)英偉達(dá)的客戶需要等待將近一年的時(shí)間才能拿到他們訂購(gòu)的人工智能 GPU。6Mm28資訊網(wǎng)——每日最新資訊28at.com

自 2024 年初以來(lái)，H100 GPU 交貨等待時(shí)間一直在顯著縮短。今年年初，等待時(shí)間就已經(jīng)從最初的數(shù)月降至 3-4 個(gè)月。現(xiàn)在又進(jìn)一步縮短了一個(gè)月。依這樣的速度，到今年年底甚至更早，或許將不再需要等待。6Mm28資訊網(wǎng)——每日最新資訊28at.com

導(dǎo)致這種情況變化的部分原因可能是，一些公司持有過(guò)剩的 H100 GPU 庫(kù)存，并且為了降低閑置庫(kù)存的高額維護(hù)成本而進(jìn)行轉(zhuǎn)售。此外，亞馬遜云科技 (AWS) 方便了用戶通過(guò)云端租賃英偉達(dá) H100 GPU，這也幫助緩解了部分對(duì) H100 的需求壓力。6Mm28資訊網(wǎng)——每日最新資訊28at.com

目前唯一仍在承受供應(yīng)限制的英偉達(dá)客戶是一些大型企業(yè)，例如 OpenAI，這類(lèi)公司正在研發(fā)自己的大型語(yǔ)言模型 (LLM)。訓(xùn)練大型語(yǔ)言模型需要成千上萬(wàn)顆 GPU 才能快速高效地完成，因此這些公司仍然面臨著供應(yīng)瓶頸的挑戰(zhàn)。6Mm28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-45-3975-0.html英偉達(dá) H100 AI GPU 短缺緩解，交貨時(shí)間從 3-4 個(gè)月降至 2-3 個(gè)月

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： 最高 7.25 美元 分鐘，Adobe 購(gòu)買(mǎi)視頻構(gòu)建 AI 模型與 Sora 競(jìng)爭(zhēng)

下一篇： 1760 億參數(shù)、大小 281GB，Mixtral 8x22B 開(kāi)源模型登場(chǎng)：可 Torrent 下載