天貓精靈Sound Pro體驗：智能音箱沒有音質？來聽聽我的
這幾年除了手機作為智能生活終端最主要的核心之外，第二個可以成為中心點的產品是什么？——是智能音箱。 手機在執行命令的時候有兩種操作方式，手和智能語音助手，而智能音箱只
快科技9月5日消息，近日，第五代英特爾至強處理器，以優秀的表現通過了中國電子技術標準化研究院組織的人工智能服務器系統性能測試（AISBench）。
借此，英特爾也成為首批通過AISBench大語言模型（LLM）推理性能測試的企業。
在AISBench 2.0測試工具的評估下，第五代英特爾至強處理器在ChatGLM V2-6B（60億參數）和Llama2-13B（130億參數）兩個模型上均展現了卓越的性能，能夠滿足輕量級大語言模型的實時推理要求。
測試結果顯示，在60億參數的ChatGLM V2模型通用推理中，當輸入輸出序列為256時，處理器可達每秒2493 token的性能；當輸入輸出序列為2048時，性能為每秒926 token。
在130億參數的Llama2模型通用推理中，當輸入輸出為256時，性能為每秒513 token；當輸入輸出序列為2048時，性能為每秒132 token。
AISBench 2.0的測試結果，驗證了英特爾至強在運行輕量級大語言模型時展現出的優異推理性能。
也使得客戶可以通過基于至強的服務器，構建一個通用AI系統進行數據預處理、模型推理和部署，從而獲得兼具AI性能、效率、準確性和可擴展性的組合。
同時還彰顯了英特爾至強可以為企業提供“開箱即用”的功能，即可以在通用系統上部署一部分AI工作負載，從而為客戶帶來更佳的總體擁有成本（TCO）優勢。
本文鏈接：http://www.tebozhan.com/showinfo-24-111899-0.htmlIntel首批通過AISBench大模型性能測試！5代至強可達每秒2493 token
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號