2 月 1 日消息,近日,DeepSeek 發布 Janus Pro 模型,英特爾 Gaudi 2D AI 加速器現已針對該模型進行優化,為 AI 應用的落地和規?;l展提供的支持。
獲悉,DeepSeek Janus 模型集成了多模態理解和生成功能。該模型首次采用統一的 Transformer 架構,突破了傳統 AIGC 模型依賴多路徑視覺編碼的限制,實現了理解與生成任務的一體化支持。在此基礎上,Janus Pro 通過優化訓練策略和擴展模型規模,顯著提升了文生圖等功能的性能與穩定性,并提供了 10 億參數和 70 億參數兩個版本。
英特爾 Gaudi 2D 憑借 2.45TB / 秒的高帶寬和 96GB HBM 大容量內存,為 Janus Pro 模型提供了強大的計算支持,使其在生圖批處理任務中,隨著批量大小的增加,吞吐性能得到顯著提升,大幅縮短任務處理時間。
與此同時,結合英特爾 Optimum-Habana 框架的優化,英特爾 Gaudi 2D 顯著提升了文生圖任務的吞吐性能和推理效率,僅需約 10 秒即可生成 16 張高質量的圖片。而且,開發者僅需調整數行代碼,即可實現這一結果,極大降低了開發門檻和遷移成本。此外,DeepSeek 的蒸餾模型在至強和 Gaudi 平臺上也得到了支持。
本文鏈接:http://www.tebozhan.com/showinfo-45-10416-0.html英特爾 Gaudi 2D AI 加速器為 DeepSeek Janus Pro 模型進行優化
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com