1 月 3 日消息,創(chuàng)鑫智慧(Neuchips)近日發(fā)布新聞稿,宣布將參加 2024 年 CES 大展,將推出新型 Raptor Gen AI 加速卡和 Evo PCIe 加速卡 LLM 產(chǎn)品。
注:Raptor Gen AI 加速卡此前稱為 N3000,幫助企業(yè)在現(xiàn)有解決方案情況下,小成本部署大型語言模型(LLM)。
Neuchips 首席執(zhí)行官 Ken Lau 在新聞稿中表示:
我們很高興能在 2024 年消費電子展上向業(yè)界推出我們的 Raptor 芯片和 Evo 卡。
Neuchips 的解決方案代表了自然語言處理從價格到性能的巨大飛躍
通過 Neuchips 的新產(chǎn)品,任何組織現(xiàn)在都可以利用 LLM 的強大功能來實現(xiàn)廣泛的人工智能應用。
根據(jù)新聞稿,Raptor Gen AI 加速卡的每秒算力為 200 TOPS,在矩陣乘法、矢量和嵌入表查找等 AI 推斷運算方面表現(xiàn)出色,適合生成式 AI 等場景。
Evo 加速卡采用 8 通道 PCIe Gen5 和 32GB LPDDR5 內(nèi)存,主機 I / O 帶寬為 64GB/s,內(nèi)存帶寬為 1.6Tbps,單卡功耗僅為 55W。
Evo 還具有 100% 的可擴展性,客戶可以通過輕松添加更多芯片來線性提高性能。Neuchips 指出,這種模塊化設(shè)計有助于確保客戶為未來的人工智能工作負載進行投資生產(chǎn)。
此外,Neuchips 還在預告其即將推出的半高半長(HHHL)外形產(chǎn)品 Viper,該產(chǎn)品將于 2024 年下半年推出。該公司表示,Viper 將擁有“更大的部署靈活性”,以緊湊、小巧的設(shè)計帶來數(shù)據(jù)中心級人工智能加速。
本文鏈接:http://www.tebozhan.com/showinfo-24-56454-0.html創(chuàng)鑫智慧預告 CES 2024:將推 Raptor Gen AI 加速卡等產(chǎn)品
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com