快科技7月15日消息,AI基礎設施企業TensorWave宣布,已經完成了北美地區大AI訓練基地的建設與部署,采用了多達8192塊AMD Instinct MI325X AI加速卡。
同時,這也是全球首個已公開的采用直觸液冷散熱的大型AI數據中心。
AMD MI325X是去年剛剛發布的,采用5nm制造工藝,擁有304個計算單元(19456個核心)、1530億個晶體管,FP8精度算力2.6千萬億次計算每秒,搭配256GB HBM3E高帶寬內存(顯存),帶寬6TB/s。
雖然AMD新發布了MI350X、MI355X,但部署尚需時日,MI325X仍然是已落地的先進的AMD AI加速卡。
8192塊放在一個系統內,總的核心數就到了幾乎1.6億個,FP8性能達到恐怖的2100億億次浮點每秒。
同時,顯存總容量多達2048TB,總帶寬超過2PB/s!
單卡功耗就有1000W,滿載情況下一個小時就是8000多度電,確實需要配液冷,所有節點的GPU都使用了TensorWave自有的芯片直觸液冷循環系統,確保高效帶走熱量。
這套系統將以云服務的方式,對外提供租賃服務。
這還只是TensorWave更宏大工程的第一階段,預計今年晚些時候引入AMD MI350X,支持FP4/FP6格式,性能和帶寬更猛,但功耗也將高達到1400W。
本文鏈接:http://www.tebozhan.com/showinfo-24-170104-0.html全球首個直觸液冷!北美大AI訓練基地配備8192塊AMD MI325X加速卡、2048TB顯存
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com