xAI推出的Grok 3號稱地表最強AI,但訓練過程中遭遇供電和散熱兩大難題。為解決這些問題,xAI采用了液冷散熱系統,成功突破運算瓶頸。
xAI的Grok 3采用NVIDIA的H100芯片,而液冷散熱系統的引入,使得xAI的數據中心能夠發揮更高的算力。據xAI團隊透露,訓練Grok 2時,由于散熱和供電限制,只能發揮80%的算力。
現在,xAI已擁有20萬顆H100芯片用于訓練Grok 3,這得益于Musk決定自建數據中心,并采用了液冷散熱技術。
xAI的數據中心位于美國田納西州曼菲斯,由Supermicro提供液冷散熱機柜。Supermicro的4U高度H100機柜內含64顆H100 GPU,且原本就留有液冷散熱孔洞,方便客戶轉換散熱方式。
業界認為,AI的發展將推動液冷散熱市場的快速增長。隨著AI服務器TDP的提升,氣冷散熱已接近極限,而液冷散熱成為必然選擇。xAI的Grok 3成功采用液冷散熱,再次凸顯了液冷散熱在AI數據中心中的重要性。
本文鏈接:http://www.tebozhan.com/showinfo-27-132168-0.htmlxAI Grok 3突破訓練難關,液冷散熱成關鍵
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com