隨著人工智能（AI）技術的快速成熟，AI逐漸進入市場普及階段，各行業紛紛希望通過AI實現轉型升級。據研華邊緣服務器事業群副總經理鮑志偉透露，結合大型語言模型（LLM）與邊緣AI的模式正成為行業熱點，特別是代理式AI（Agentic AI）在邊緣端的落地實踐，被認為是未來邊緣計算市場的重要方向。
鮑志偉指出，邊緣AI的發展得益于LLM模型的逐步縮小，使其能夠在資源有限的邊緣端運行，無需依賴云端資源。與云端LLM不同，邊緣AI主要針對特定問題進行反應。因此，在導入AI應用前，不同產業需先明確需要解決的問題，并根據需求構建相應的解決方案。
目前，實時邊緣AI應用已展現出較大成長潛力。例如，將AI引入現有智能設備，用于預防性維護、智能品質監測等場景。當設備需要維護或檢測到品質問題時，AI可自動觸發維護排程或不良品處理流程。此外，自助零售終端和自動化客服終端也通過AI增強了互動性。更進一步的應用包括優化LLM推理能力，例如AI客服、電子郵件與文件摘要生成、網絡安全與欺詐檢測等。
鮑志偉還提到，邊緣AI已能支持特定領域的專業訓練。例如，金融與法律領域的AI模型可用于法務文件分析和風險評估；醫療領域則可輔助診斷和患者數據分析。甚至在軟件開發中，AI也能協助代碼生成與錯誤檢測。據透露，這些應用已有實際案例落地，更多細節將在AI EXPO Taiwan 2025上進一步披露。
然而，要讓LLM在邊緣端順利運行，除了滿足算力需求外，還需應對不同場景的環境挑戰。研華等工業電腦（IPC）廠商正積極開發支持多種開源LLM的硬件平臺，同時注重優化LLM的推論能力，確保平臺具備低延遲和可擴展性，以滿足不斷增長的應用需求。
鮑志偉強調，隨著LLM在邊緣端的應用范圍擴大，IPC廠商在產品規劃中還需關注用戶需求的持續變化，提供靈活且高效的邊緣AI解決方案，助力各行業實現智能化轉型。

本文鏈接：http://www.tebozhan.com/showinfo-27-138566-0.html邊緣AI應用加速落地，研華解析產業新趨勢

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 臺灣無人機產業亮相德國展會，與多國達成合作

下一篇： 蘋果申請折疊屏Apple Watch專利，未來或成獨立智能設備