3 月 14 日消息,加拿大 AI 初創(chuàng)公司 Cohere昨日發(fā)布了一款名為“Command A”的 AI模型,該模型主打輕量化應(yīng)用,號(hào)稱只需要兩塊英偉達(dá) A100 或 H100 GPU 即可輕松部署,號(hào)稱“表現(xiàn)能和 GPT-4o 相媲美”,實(shí)現(xiàn)“用最少的硬件發(fā)揮最大的性能”。
Cohere 表示,Command A 專門為中小型企業(yè)環(huán)境設(shè)計(jì),其支持 256k 的上下文長度和 23 種語言,作為比較,其他競爭對手的“同類模型”需要 32 塊 GPU 才能部署。
在性能測試中,Command A 最快每秒可以輸出 156 個(gè) Token,據(jù)稱比 GPT-4o 快 1.75 倍。而在指令追蹤、SQL、代理程序和工具任務(wù)的基準(zhǔn)測試上,Command A 也表現(xiàn)出色。
Cohere 援引相應(yīng)性能數(shù)據(jù),聲稱業(yè)界的大語言模型如果“規(guī)模過大”,反而在輸出結(jié)果時(shí)可能會(huì)出現(xiàn)嚴(yán)重的延遲問題;如果只是想快速得到正確答案,Command A 相對是個(gè)不錯(cuò)的選擇。
目前,Cohere 已將相應(yīng) Command A 發(fā)布在Hugging Face 平臺(tái)(點(diǎn)此訪問),對學(xué)術(shù)界開放使用,未來還會(huì)登陸其他云服務(wù)平臺(tái)。
本文鏈接:http://www.tebozhan.com/showinfo-45-11558-0.html加拿大初創(chuàng)公司推出 Command A 輕量級(jí) AI 模型,號(hào)稱僅需兩塊英偉達(dá) A100 H100 GPU 即可部署
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: Google Assistant 停用倒計(jì)時(shí),谷歌 AI 助手開啟遷移至 Gemini
下一篇: 【IT之家評(píng)測室】訊飛曉醫(yī)體驗(yàn)評(píng)測:星火醫(yī)療大模型 X1 加持,更懂你的 AI 健康助手