MLPerf,全球最具公信力的人工智能(AI)基準測試,現(xiàn)已進入生成式AI(Generative AI)時代。2023年,MLPerf新增了大型語言模型(LLM)訓(xùn)練基準測試,特別是針對GPT-3。而在2023年11月,又新增了文字轉(zhuǎn)影像生成器Stable Diffusion基準測試。
為了完成這些基準測試,NVIDIA、英特爾(Intel)、Google等科技巨頭紛紛投入最強系統(tǒng)。在最新的基準測試中,NVIDIA憑借搭載1萬顆GPU的超級電腦Eos拔得頭籌。Eos僅用不到4分鐘就完成了所有GPT-3訓(xùn)練基準測試,而微軟(Microsoft)Azure用相同大小的系統(tǒng)測試,完成時間僅落后幾秒鐘。
這些科技巨頭不僅在大型語言模型訓(xùn)練基準測試中競爭激烈,還在文字轉(zhuǎn)影像生成器基準測試中展開角逐。英特爾使用搭載Gaudi 2加速芯片的系統(tǒng)和僅搭載第4代Xeon處理器的系統(tǒng)進行了測試,并啟用了Gaudi 2的8位元浮點(FP8)功能。測試結(jié)果顯示,Gaudi 2系統(tǒng)的單芯片速度略低于NVIDIA系統(tǒng)約3分之1,但卻是Google TPUv5e的3倍。
英特爾Habana Labs營運長Eitan Medina表示,他們預(yù)估FP8將帶來90%的增益,結(jié)果384個加速器的叢集將訓(xùn)練時間縮短了103%。此外,他還指出Gaudi 2的價格明顯低于H100,因此在價格和效能的綜合指標上具有優(yōu)勢。隨著Gaudi 3在2024年的推出,這一優(yōu)勢將進一步增強。
本文鏈接:http://www.tebozhan.com/showinfo-27-27876-0.htmlAI基準測試MLPerf已進入生成式AI時代
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 滬電股份已開始批量交付800G交換機