Redmi Pad評測：紅米充滿野心的一次嘗試
從Note系列到K系列，從藍牙耳機到筆記本電腦，紅米不知不覺之間也已經形成了自己頗有競爭力的產品體系，在中端和次旗艦市場上甚至要比小米新機的表現來得更好，正所謂“大丈夫生居
快科技7月25日消息，日前Meta正式發布了Llama 3.1開源大模型，以其龐大的參數量和卓越性能，首次在多項基準測試中擊敗了GPT-4o等業界領先的閉源模型。
允許開發者自由地進行微調、蒸餾，甚至在任何地方部署，這種開放性為AI技術的普及和創新提供了無限可能。
Llama 3.1支持128k的上下文長度和多語言能力，無論是在基本常識、可操作性還是數學、工具使用和多語言翻譯方面，都展現出了行業領先的能力。
緊隨其后，芯片巨頭Intel迅速響應，宣布其AI產品組合已全面適配Llama 3.1，并針對Intel AI硬件進行了軟件優化。
包括了數據中心、邊緣計算以及客戶端AI產品，確保用戶能夠在Intel平臺上獲得佳的性能體驗。
Intel的適配工作涵蓋了PyTorch及Intel PyTorch擴展包、DeepSpeed、Hugging Face Optimum庫和vLLM等，確保了從研發到部署的全流程支持。
目前，Intel AI PC及數據中心AI產品組合和解決方案已面向全新Llama 3.1模型實現優化，OPEA（企業AI開放平臺）亦在基于Intel至強等產品上全面啟用。
根據基準測試，在第五代Intel至強平臺上以1K token輸入和128 token輸出運行80億參數的Llama 3.1模型，可以達到每秒176 token的吞吐量，同時保持下一個token延遲小于50毫秒。
在配備了酷睿Ultra處理器和銳炫顯卡的AI PC上，進行輕量級微調和應用定制比以往更加容易，并且AI工作負載可無縫部署于CPU、GPU以及NPU上，同時實現性能優化。
基于第五代Intel至強可擴展處理器的Llama 3.1推理延遲
在配備內置Intel銳炫顯卡的Intel酷睿Ultra 7 165H AI PC上，Llama 3.1推理的下一個token延遲
在使用Intel銳炫A770 16GB限量版顯卡的AI PC上，Llama 3.1推理的下一個token延遲
基于Llama 3.1的端到端RAG流水線，由Intel Gaudi 2加速器和至強處理器提供支持
本文鏈接：http://www.tebozhan.com/showinfo-17-103393-0.html終結閉源霸權 Meta Llama 3.1橫空出世！Intel第一時間適配并提供加速
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 2024年《財富》中國500強排行榜揭曉：國家電網位居榜首 京東民企第一
下一篇： 精致女生坐高鐵 帶貨網紅大團建
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號