AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 元宇宙 > AI

AMD 推出開源項目“GAIA”實現本地大模型高效運行:針對銳龍 AI 300 系列處理器優化,目前僅適用于 Windows

來源: 責編: 時間:2025-03-25 10:05:47 9觀看
導讀 3 月 22 日消息,當地時間周四,AMD 宣布推出專為本地運行大語言模型(LLM)設計的應用GAIA(發音為/?ɡa?.?/)并在 Github 開源,目前僅限于 Windows 平臺。GAIA 是一款生成式 AI 應用,能夠在 Windows PC 上實現本地化

3 月 22 日消息,當地時間周四,AMD 宣布推出專為本地運行大語言模型(LLM)設計的應用GAIA(發音為/?ɡa?.?/)并在 Github 開源,目前僅限于 Windows 平臺。qbD28資訊網——每日最新資訊28at.com

qbD28資訊網——每日最新資訊28at.com

GAIA 是一款生成式 AI 應用,能夠在 Windows PC 上實現本地化私密運行 LLM,并針對銳龍 AI 300 系列處理器進行了優化,標志著 AMD 在邊緣計算領域的又一重要布局。qbD28資訊網——每日最新資訊28at.com

qbD28資訊網——每日最新資訊28at.com

在 NPU 上運行 GAIA 可提高 AI 特定任務的性能。從 Ryzen AI 軟件版本 1.3 開始,混合支持部署同時使用 NPU 和核顯的量化 LLM。qbD28資訊網——每日最新資訊28at.com

qbD28資訊網——每日最新資訊28at.com

其核心組件基于 ONNX TurnkeyML 的 Lemonade SDK 開發,采用檢索增強生成(RAG)技術框架,通過本地向量索引實現 YouTube、GitHub 等外部數據的實時檢索與分析。qbD28資訊網——每日最新資訊28at.com

系統工作流包含 LLM 連接器、LlamaIndex RAG 管道和代理 Web 服務器三大模塊,支持 Llama、Phi 等主流模型。功能模塊包含四大 AI 智能體:qbD28資訊網——每日最新資訊28at.com

Chaty:支持歷史對話的聊天機器人qbD28資訊網——每日最新資訊28at.com

Clip:YouTube 視頻搜索與問答專家qbD28資訊網——每日最新資訊28at.com

Joker:具備幽默風格的笑話生成器qbD28資訊網——每日最新資訊28at.com

Simple Prompt:模型直接交互測試工具qbD28資訊網——每日最新資訊28at.com

qbD28資訊網——每日最新資訊28at.com

硬件方面,AMD 提供普通版與混合版兩種安裝方案。普通安裝包兼容任意 Windows PC(含非 AMD 硬件設備),通過Ollama后端實現跨平臺支持。qbD28資訊網——每日最新資訊28at.com

混合安裝包專為配備銳龍 AI 300 系列處理器的設備進行優化,可智能分配 NPU 與集成顯卡的計算負載。AMD 表示,Ryzen AI 軟件自 1.3 版本起支持量化模型在 NPU 和集成顯卡間的混合部署。qbD28資訊網——每日最新資訊28at.com

隱私與性能優勢方面:qbD28資訊網——每日最新資訊28at.com

本地化處理確保醫療、金融等敏感行業數據不出境qbD28資訊網——每日最新資訊28at.com

響應延遲降低至毫秒級(相較云端方案縮短 40-60%)qbD28資訊網——每日最新資訊28at.com

NPU 專用架構實現每瓦性能提升,支持離線環境運行qbD28資訊網——每日最新資訊28at.com

該項目采用 MIT 開源協議,代碼庫已在 GitHub 開放。AMD 特別鼓勵開發者貢獻自定義代理模塊,目前已有多個行業定制化代理處于開發階段。qbD28資訊網——每日最新資訊28at.com

此外,盡管 GAIA 目前暫不支持 Linux / macOS 系統,但 AMD 官方文檔透露未來可能擴展多平臺支持。qbD28資訊網——每日最新資訊28at.com

附 Github 地址:https://github.com/amd/gaiaqbD28資訊網——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-45-11632-0.htmlAMD 推出開源項目“GAIA”實現本地大模型高效運行:針對銳龍 AI 300 系列處理器優化,目前僅適用于 Windows

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 意大利出版全球首份“AI 報紙”,完全由生成式人工智能技術撰寫

下一篇: 嵐圖CEO親身實測,智駕安全五星標準引領行業新高度

標簽:
  • 熱門焦點
  • 元宇宙終究沒火過兩年

    來源:傳播體操在ChatGPT快速破圈的同時,元宇宙的熱度卻一瀉千里。雖然互聯網大廠們都沒有否認元宇宙的長期想象力,但在行動上卻都紛紛表示了對元宇宙短期前景的悲觀。號稱改變
  • 虛擬人再升級,企業可以解放雙手了?

    來源:伯虎財經今天想跟大家來嘮嘮AI,其實聊到這個話題很多人都不陌生了。在ChatGPT和AIGC大熱背后,還有一位低調的“大佬”——虛擬人。比如咱們熟知的虛
  • AIGC產品測評TOP25丨誰能搶到下個十年的“船票”?

    Tech星球(微信ID:tech618) 文 | 何煦陽策劃 | 楊曉鶴封面來源 | 圖蟲創意 2016年,李彥宏站在百度聯盟峰會的講臺上,向所有人宣布:互聯網的下一幕是人工智能。同年,Google 旗下 Dee
  • VR/AR迷失元宇宙“硝煙”

    不溫不火的VR/AR可穿戴設備因元宇宙崛起火了一陣,又隨著元宇宙回歸平靜。1月份,微軟在 Surface 設備、HoloLens 混合現實硬件和 Xbox 等部門裁員,其中負責混合現實硬件(MR)的Holo
  • 元宇宙風口下,視覺中國如何重估?

    要說橫跨2021年和2022年,到目前仍然很火的概念,元宇宙肯定要算一個。不僅互聯網巨頭們紛紛布局,上市公司們趨之若鶩,還被不少地方政府寫入了產業規劃,大有在2022年
  • 高通成立歐洲XR實驗室;ICICB計劃進軍元宇宙......

    擴展現實(XR)通過計算機將真實與虛擬相結合,打造了一個可人機交互的虛擬環境,將AR、VR、MR多種技術相融合,為體驗者帶來了虛擬世界與現實世界之間無縫轉換的“沉浸
  • 以用戶為中心,Web3和區塊鏈如何將用戶放在首位

    競爭優勢正在改變競爭優勢是每個企業都在努力爭取的,由谷歌、Facebook和Netflix等大型科技公司主導的市場中,兩大重要類別的競爭優勢十分突出。第一個競爭優勢來
  • 韓國流行音樂巨頭SM與Binance達成NFT合作伙伴關系

    韓國流行音樂巨頭 SM Entertainment 與加密貨幣交易所 Binance(幣安)達成“Play2Create”NFT 合作伙伴關系。SM 娛樂一直在投資打造元宇宙該公司于 2020 年 10
  • 初探元宇宙

    2021年可以被稱為“元宇宙”元年。繼2021年3月沙盒游戲平臺Roblox將“元宇宙”概念放入招股書中,被稱為“元宇宙”第一股后,Facebook更名為Meta, 引發全球范圍內
Top