6 月 26 日消息,Etched 公司宣布完成 1.2 億美元(備注:當(dāng)前約 8.73 億元人民幣) A 輪融資,將用于開發(fā)和銷售全球首款 Transformer 專用集成電路(ASIC)芯片 Sohu。
查詢公開資料,Etched 公司由兩名哈佛大學(xué)輟學(xué)生加文?烏伯蒂(Gavin Uberti)和克里斯?朱(Chris Zhu)創(chuàng)立,成立時(shí)間不到 2 年。
Sohu 芯片最大的亮點(diǎn)在于直接把 Transformer 架構(gòu)蝕刻到芯片中,烏伯蒂稱 Sohu 采用臺(tái)積電的 4 納米工藝制造,推理性能大大優(yōu)于 GPU 和其他通用人工智能芯片,同時(shí)能耗更低。
在 Llama 70B 吞吐量中,Sohu 每秒可處理超過(guò) 50萬(wàn)個(gè) tokens,讓用戶可以構(gòu)建 GPU 無(wú)法實(shí)現(xiàn)的產(chǎn)品。
Sohu 能夠?qū)崿F(xiàn)實(shí)時(shí)語(yǔ)音代理、毫秒級(jí)處理數(shù)千字文本、更強(qiáng)大的代碼樹搜索、并行比較數(shù)百個(gè)響應(yīng)、多播推測(cè)解碼以及實(shí)時(shí)生成新內(nèi)容等功能,為未來(lái)萬(wàn)億級(jí)參數(shù)模型的運(yùn)行提供了可能。
附上官網(wǎng)鏈接,感興趣的用戶可以深入閱讀。
本文鏈接:http://www.tebozhan.com/showinfo-45-4837-0.html全球首款 Transformer 專用 AI 芯片 Sohu 登場(chǎng):每秒可處理 50 萬(wàn)個(gè) tokens,比英偉達(dá) H100 快 20 倍
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 十六部門:推動(dòng)人工智能技術(shù)在制定個(gè)性化營(yíng)養(yǎng)、運(yùn)動(dòng)干預(yù)方案中的應(yīng)用
下一篇: 振興鄉(xiāng)村發(fā)展 助力青少年教育 中國(guó)三星連續(xù)十一年蟬聯(lián)企業(yè)社會(huì)責(zé)任榜外企第一