Rust中的高吞吐量流處理
作者 | Noz編譯 | 王瑞平本篇文章主要介紹了Rust中流處理的概念、方法和優(yōu)化。作者不僅介紹了流處理的基本概念以及Rust中常用的流處理庫，還使用這些庫實(shí)現(xiàn)了一個(gè)流處理程序
2023 年 8 月 24 日 – MediaTek今日宣布利用Meta新一代開源大語言模型（LLM）Llama 2 以及MediaTek先進(jìn)的AI處理器（APU）和完整的AI開發(fā)平臺(tái)（NeuroPilot），建立完整的終端側(cè)AI計(jì)算生態(tài)，加速智能手機(jī)、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的AI應(yīng)用開發(fā)，為終端設(shè)備提供更安全、可靠和差異化的使用體驗(yàn)。預(yù)計(jì)年末采用 MediaTek 新一代天璣旗艦移動(dòng)芯片的智能手機(jī)支持由Llama 2模型開發(fā)的AI應(yīng)用，可為用戶帶來振奮人心的生成式AI應(yīng)用體驗(yàn)。
MediaTek 資深副總經(jīng)理暨無線通信事業(yè)部總經(jīng)理徐敬全博士表示：“生成式AI的日益普及是數(shù)字化轉(zhuǎn)型的重要趨勢(shì)之一，我們的愿景是為L(zhǎng)lama 2的開發(fā)者和終端用戶提供工具，帶來更多令人興奮的AI創(chuàng)新機(jī)遇和產(chǎn)品體驗(yàn)。通過與Meta的伙伴關(guān)系，MediaTek可提供更強(qiáng)大的硬件和軟件整體解決方案，為終端設(shè)備帶來遠(yuǎn)超以往的功能和體驗(yàn)。”
目前，大多數(shù)生成式AI都依賴云計(jì)算，MediaTek基于Llama 2模型成功實(shí)現(xiàn)直接在終端設(shè)備上運(yùn)行生成式AI應(yīng)用。這將為開發(fā)者和用戶提供獨(dú)特優(yōu)勢(shì)，包括無縫的使用體驗(yàn)，更強(qiáng)的用戶信息安全和可靠性，更低延遲，離線運(yùn)算的能力以及更低的運(yùn)營成本，讓每個(gè)人都能享受到生成式AI帶來的便捷與創(chuàng)新。
要在終端設(shè)備上充分釋放生成式AI的潛力，設(shè)備制造商需采用高算力、低功耗的AI處理器（APU），并通過更快、更可靠的網(wǎng)絡(luò)連接來增強(qiáng)設(shè)備的整體算力。如今，每一顆MediaTek 5G智能手機(jī)SoC均搭載AI處理器，已廣泛執(zhí)行生成式AI應(yīng)用成功案例，例如 AI 降噪（AI-NR）、AI 超級(jí)分辨率（AI-SR）以及AI運(yùn)動(dòng)補(bǔ)償（AI-MEMC）等。
MediaTek將于年末推出新一代旗艦移動(dòng)芯片，將采用針對(duì)Llama 2模型而優(yōu)化的軟件棧（NeuroPilot），與搭配支持Transformer模型做骨干網(wǎng)絡(luò)加速的升級(jí)版AI處理器（APU），可減少動(dòng)態(tài)隨機(jī)存取內(nèi)存（DRAM）的讀寫消耗和帶寬占用，進(jìn)一步強(qiáng)化大語言模型和生成式AI應(yīng)用的性能，助力開發(fā)者打造令人驚艷的AI應(yīng)用，加速終端設(shè)備AI應(yīng)用落地發(fā)展。
本文鏈接：http://www.tebozhan.com/showinfo-27-6530-0.htmlMediaTek運(yùn)用Meta Llama 2大語言模型，賦能終端設(shè)備生成式AI應(yīng)用
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)