DeepSeek-R1的成功引發業界熱議,標志著AI前景從訓練轉向推論,推論算力需求隨之增大。NVIDIA等芯片巨頭因此受益,中國本土AI芯片業者也看到了機遇,紛紛主動接入DeepSeek模型。
然而,盡管中國多家AI芯片廠商在短時間內完成了對DeepSeek模型的兼容,但與NVIDIA相比仍有較大差距。開源中國董事長馬越指出,本土芯片兼容開源模型的數量遠少于NVIDIA。
上海交通大學副教授戴國浩解釋,DeepSeek通過PTX語言優化,讓系統和模型能夠釋放底層硬件效能,而這是大部分深度學習或大模型演算法工程師不會接觸的層面。
中國本土AI芯片業者競相接入DeepSeek背后,關鍵在于AI芯片是否兼容CUDA。沐曦技術長楊建表示,能兼容CUDA的廠商間兼容程度也有不同。完成兼容和優化速度對LLM能否及時上線并完成商業轉化至關重要。
本文鏈接:http://www.tebozhan.com/showinfo-27-130748-0.htmlDeepSeek引領AI推論算力需求,中國本土AI芯片業者積極接入
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com