AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當(dāng)前位置:首頁 > 科技  > 知識百科

微軟宣布為 Win11 用戶優(yōu)化 DeepSeek-R1 模型,讓 Copilot+ PC 實現(xiàn)本地化 AI 推理

來源: 責(zé)編: 時間:2025-01-30 18:45:40 100觀看
導(dǎo)讀 1 月 30 日消息,人工智能正加速向著邊緣計算領(lǐng)域發(fā)展,Copilot+ PC 在其中扮演著重要角色。隨著 DeepSeek R1 出現(xiàn),微軟也意識到了這一模型可能會帶來了一系列變革。微軟今日發(fā)文,宣布推出針對NPU 優(yōu)化的 DeepSeek

1 月 30 日消息,人工智能正加速向著邊緣計算領(lǐng)域發(fā)展,Copilot+ PC 在其中扮演著重要角色。隨著 DeepSeek R1 出現(xiàn),微軟也意識到了這一模型可能會帶來了一系列變革。qPf28資訊網(wǎng)——每日最新資訊28at.com

微軟今日發(fā)文,宣布推出針對NPU 優(yōu)化的 DeepSeek-R1(注:已在 Azure AI Foundry 和 GitHub 上提供),首批將面向搭載高通驍龍 X 芯片的Copilot+ PC 推出,隨后是英特爾酷睿 Ultra 200V 等平臺。qPf28資訊網(wǎng)——每日最新資訊28at.com

qPf28資訊網(wǎng)——每日最新資訊28at.com

微軟表示,首個版本 DeepSeek-R1-Distill-Qwen-1.5B 將在 AI Toolkit 中提供,7B 和 14B版本也將很快推出,從而幫助開發(fā)者充分利用 Copilot+ PC 中強大的 NPU 配置。qPf28資訊網(wǎng)——每日最新資訊28at.com

qPf28資訊網(wǎng)——每日最新資訊28at.com

微軟表示,Copilot+ PC 上的 NPU 開啟了一種新的范式。在這種范式下,生成式 AI 不僅可以在被調(diào)用時執(zhí)行,還可以支持半連續(xù)運行的服務(wù)。這使開發(fā)者能夠利用 AI 推理引擎來構(gòu)建主動和持續(xù)的體驗。微軟表示:qPf28資訊網(wǎng)——每日最新資訊28at.com

通過我們在 Phi Silica 上的工作,我們實現(xiàn)了高效的推理 —— 在首次生成 token 的時間和吞吐率方面表現(xiàn)出色,同時對電池續(xù)航和 PC 資源消耗的影響降至最低。針對 NPU 優(yōu)化的 DeepSeek 模型借鑒了該項目的多項關(guān)鍵經(jīng)驗和技術(shù),包括如何分離模型的各個部分以實現(xiàn)性能與效率的最佳平衡、低比特率量化以及將 Transformer 映射到 NPU。此外,我們還利用 Windows Copilot Runtime(WCR)通過 ONNX QDQ 格式在多樣化的 Windows 生態(tài)系統(tǒng)中實現(xiàn)擴展。qPf28資訊網(wǎng)——每日最新資訊28at.com

微軟表示,要想在 Copilot+ PC 上體驗 DeepSeek 只需下載 AI Toolkit VS Code 擴展即可;以 ONNX QDQ 格式優(yōu)化的 DeepSeek 模型將很快出現(xiàn)在 AI Toolkit 的模型目錄中(直接從 Azure AI Foundry 中拉取)。qPf28資訊網(wǎng)——每日最新資訊28at.com

qPf28資訊網(wǎng)——每日最新資訊28at.com

用戶可以通過點擊“下載”按鈕將其下載到本地。下載完成后,只需打開 Playground 加載“deepseek_r1_1_5”模型,并給出提示詞即可開始實驗。qPf28資訊網(wǎng)——每日最新資訊28at.com

除了為 Copilot+ PC 優(yōu)化的 ONNX 模型外,您還可以通過點擊“DeepSeek R1”下的“Try in Playground”按鈕,在 Azure Foundry 中嘗試云托管的源模型。qPf28資訊網(wǎng)——每日最新資訊28at.com

如下圖所示,微軟還展示了原始模型和量化模型的示例,以展現(xiàn)兩者之間微小但確實存在的差異:qPf28資訊網(wǎng)——每日最新資訊28at.com

qPf28資訊網(wǎng)——每日最新資訊28at.com

▲相同提示下原始模型(左)與 NPU 優(yōu)化模型(右)的響應(yīng)示例,包括模型的推理能力

本文鏈接:http://www.tebozhan.com/showinfo-119-128069-0.html微軟宣布為 Win11 用戶優(yōu)化 DeepSeek-R1 模型,讓 Copilot+ PC 實現(xiàn)本地化 AI 推理

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 網(wǎng)易云音樂宣布為 App 引入“底部導(dǎo)航欄自定義”功能

下一篇: 微軟發(fā)布 Win11 226x1.4830 可選更新:類蘋果“連續(xù)互通”功能 Resume 上線

標(biāo)簽:
  • 熱門焦點
Top