回首2023年科技產業最大的驚喜是生成式AI,在該技術的幫助下,人們可以用真正的自然語言與計算機進行交流。這一以前只能出現在科幻電影里的場景,僅在一年時間里,就走入人們日常生活。近日,高通技術公司公共關系副總裁ClareConley撰文表示,生成式AI在幾乎每個行業都是無可爭議的變革性技術,2024年人們將繼續感受到它帶來的影響。高通正在積極地開發部署領先的邊緣AI、高性能低功耗計算、以及5G等連接技術,為更多用戶隨時隨地提供AI能力。
不過目前生成式AI的發展,尤其是廣泛地普及應用,還有成本、隱私、時延等許多困難需要克服。將生成式AI從云端向終端側轉移,成為加速生成式AI普及的重要路線。在ClareConley的文章中,高通技術公司高級副總裁兼技術、規劃和邊緣解決方案業務總經理馬德嘉(DurgaMalladi)表示:“隨著生成式AI日益融入人們的生活,5G智能手機、PC、汽車甚至物聯網設備等個人終端,將成為多模態生成式AI模型的中樞。”
此前不管是文本生成式AI ChatGPT,或者圖片生成式AIMidjourney,主要通過云端向用戶提供生成服務。這些云端生成式AI服務極度依賴GPU,而支持AI云端運算的GPU一直奇貨可居,GPU的供應能力,成為制約生成式AI普及擴展的最大的阻力。而隨著終端側設備的AI計算能力的不斷提升,發展終端側生成式AI,能幫助AI產業突破眼前的這一困境。在5G手機、PC、智能汽車等終端側運行生成式AI,能拓寬消費者和企業獲取強大生成式AI能力的途徑。馬德嘉表示:“生成式AI從云端轉向個人終端的轉變,能為消費者和企業提供更關注隱私和更個性化的全新AI體驗,并能為開發者降低云成本。隨著終端側運行多模態生成式AI大模型的能力不斷提升,從云端向混合AI或終端側AI的轉變勢不可擋。”
終端側AI的性能,在2023年獲得飛速的發展。以高通的移動平臺為例,在2023年10月底舉行的驍龍峰會中,高通發布第三代驍龍85G移動平臺,該平臺將智能手機的AI能力提升到全新水平,可在0.6秒內生成一張圖片,可以運行超過100億參數規模的生成式AI模型。由于該平臺優異的表現,在人民網主辦的第二十屆人民匠心獎評選活動中,獲評人民匠心技術獎。在PC方面,高通發布全新一代AIPC平臺驍龍XElite,可提供驚人的75TOPS算力,以及在筆記本電腦上運行超130億參數的生成式AI大模型。隨著5G智能手機、PC等終端側AI性能的高速提升,2024年,生成式AI也將帶領智能終端走向全新的篇章。
本文鏈接:http://www.tebozhan.com/showinfo-45-3131-0.html第三代驍龍8登上人民匠心獎榜單,高通高管:生成式AI將從云端向終端轉移
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com