3 月 12 日消息,Arm 今日宣布將其AI 推理性能優化軟件庫 Kleidi擴展到車用市場,透過 Arm Kleidi,合作伙伴將可充分發掘下一代特定應用 AI 模型在汽車中的優勢,并加快其部署速度。
獲悉,Arm Kleidi 于 2024 年推出,開發人員無需進行任何額外工作,就能利用其為 Arm CPU 上運行的 AI 推理工作負載提供軟件性能優化。此前該軟件庫已被移動設備、云服務和數據中心等關鍵領域應用。
Arm 宣稱,通過其與Corellium 聯合開發的虛擬平臺,亞馬遜 AWS 為 SDV 軟件定義汽車打造了新的概念驗證 AI 聊天機器人,可讓司機直接與汽車進行互動,提出問題或詢問儀表板警報,而無需翻閱汽車用戶手冊。
由于使用了集成 KleidiAI 的最新版 Llama.cpp 來進行開發,AWS 實現了聊天機器人性能的顯著提升:響應時間縮短至 1~3 秒,性能提升達 10 倍。同時 Kleidi 軟件庫為開發人員節省了 6 周的底層軟件優化時間。
Arm 車用事業部產品與解決方案副總裁 Suraj Gajendra 表示:
在汽車產業中,AI 通常被稱為自動駕駛汽車的核心 —— 聽起來頗具未來感,距離其大規模量產上路還有數年時間。
然而,實際的情況是,當下新車型中的很多應用和功能,從自適應巡航控制、個性化車載信息娛樂系統到駕駛和乘客監控系統,都已使用 AI 技術,并且這些特定應用的模型和工作負載已在 Arm 平臺上高效地運行。
這歸功于 Arm 運算平臺卓越的靈活性、性能、效率和可擴展性,使其成為整個汽車行業中開發人員的首選平臺。
本文鏈接:http://www.tebozhan.com/showinfo-45-11448-0.htmlArm 宣布將 AI 推理性能優化軟件庫 Kleidi 擴展到車用市場
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com