由于國內大型語言模型(LLM)的爆發式增長,AI算力基礎硬件設施無法滿足需求,導致國內科技大廠如騰訊、阿里巴巴、華為等紛紛向算力租賃業者求助。其中,國內網絡安全廠商也跨界提供GPU算力租賃服務。
據報道,由于NVIDIA多款高端人工智能(AI)GPU芯片出口受限,國內科技大廠在AI算力告急的情況下,不得不向國內算力租賃業者求助。國內算力租賃大廠匯納科技公告稱,由于算力需求大幅增加、算力資源持續緊張,該公司內建NVIDIA A100芯片的高消能服務器算力供應,收費將上調100%。
在市場涌現出的強大需求下,擁有GPU資源的企業也紛紛下海,跨界布局算力租賃。一家網絡安全一線大廠相關人士向媒體表示,該公司也在做算力租賃,主要以NVIDIA的A100/A800加速卡為主。
由于ChatGPT引發的大型語言模型(LLM)風潮橫掃國內市場,LLM訓練的參數量與訓練時的數據量雙雙提升后,亟需更大的算力布局。但當AI推論情境和需求成長后,國內的算力基礎硬件設施無法跟上LLM的需求爆發。
由于NVIDIA高端AI GPU遭到美國政府斷供,再加上新一代國內特供版芯片還不確定,在當前國內的AI算力告急下,廠商瞄準多元算力,表示國內本土芯片已在不斷升級中,將和國產高端芯片業者保持密切聯系。
盡管包括華為昇騰、壁仞科技、摩爾線程等國內本土芯片業者陸續獲得廠商采用測試的機會,但對于國內AI服務器發展熟稔的浪潮信息資深副總裁劉軍,日前在“2023年人工智能計算大會”(AICC 2023)上坦承,要實現多元算力的挑戰不小。劉軍指出,全球高端AI訓練芯片目前已經超過40款左右,但因為每家廠商在開發過程中采用的技術路線不一樣,所以在接口互連等方面還存在較多不兼容之處,這也使得AI算力系統整個開發配置周期拉長、定制化開發投資過大、從既有廠商遷移到國內本土方案的轉換時間過久等挑戰。
本文鏈接:http://www.tebozhan.com/showinfo-27-38260-0.html國內AI算力租賃需求激增,NVIDIA加速卡漲價成常態
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com