快科技7月15日消息,AI基礎(chǔ)設(shè)施企業(yè)TensorWave宣布,已經(jīng)完成了北美地區(qū)大AI訓(xùn)練基地的建設(shè)與部署,采用了多達(dá)8192塊AMD Instinct MI325X AI加速卡。
同時(shí),這也是全球首個(gè)已公開的采用直觸液冷散熱的大型AI數(shù)據(jù)中心。
AMD MI325X是去年剛剛發(fā)布的,采用5nm制造工藝,擁有304個(gè)計(jì)算單元(19456個(gè)核心)、1530億個(gè)晶體管,F(xiàn)P8精度算力2.6千萬億次計(jì)算每秒,搭配256GB HBM3E高帶寬內(nèi)存(顯存),帶寬6TB/s。
雖然AMD新發(fā)布了MI350X、MI355X,但部署尚需時(shí)日,MI325X仍然是已落地的先進(jìn)的AMD AI加速卡。
8192塊放在一個(gè)系統(tǒng)內(nèi),總的核心數(shù)就到了幾乎1.6億個(gè),F(xiàn)P8性能達(dá)到恐怖的2100億億次浮點(diǎn)每秒。
同時(shí),顯存總?cè)萘慷噙_(dá)2048TB,總帶寬超過2PB/s!
單卡功耗就有1000W,滿載情況下一個(gè)小時(shí)就是8000多度電,確實(shí)需要配液冷,所有節(jié)點(diǎn)的GPU都使用了TensorWave自有的芯片直觸液冷循環(huán)系統(tǒng),確保高效帶走熱量。
這套系統(tǒng)將以云服務(wù)的方式,對(duì)外提供租賃服務(wù)。
這還只是TensorWave更宏大工程的第一階段,預(yù)計(jì)今年晚些時(shí)候引入AMD MI350X,支持FP4/FP6格式,性能和帶寬更猛,但功耗也將高達(dá)到1400W。
本文鏈接:http://www.tebozhan.com/showinfo-24-171017-0.html全球首個(gè)直觸液冷!北美大AI訓(xùn)練基地配備8192塊AMD MI325X加速卡、2048TB顯存
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com