石頭自清潔掃拖機(jī)器人G10S評測：多年黑科技集大成之作 懶人終極福音
科技圈經(jīng)常能看到一個詞叫“縫合怪”，用來形容那些把好多功能或者外觀結(jié)合在一起的產(chǎn)品，通常這樣的詞是貶義詞，但如果真的是產(chǎn)品縫合的好、縫合的實用的話，那它就成了中性詞，今
AI早已有之，但無論是深藍(lán)在國際象棋上戰(zhàn)勝卡斯帕羅夫，還是AlphaGo在圍棋上擊敗柯潔，都沒有像ChatGPT這樣引發(fā)全民熱潮。
正是這一波AIGC(生成式AI)，第一次讓AI來到了每一個普通人的身邊，真正改變了人們的日常生活、工作，而不再是一個高大上的科技概念。
如今無論是互聯(lián)網(wǎng)廠商還是傳統(tǒng)科技廠商，無論是手機(jī)廠商還是PC廠商，無論是芯片硬件廠商還是軟件廠商，自家產(chǎn)品不搞點AI，都不好意思和人打招呼。
當(dāng)然了，對于如今人們的生活和工作來說，核心的設(shè)備一是智能手機(jī)，二是PC電腦，它們也都在AI的路上銜枚疾進(jìn)，很多人也經(jīng)常正路，PC AI和手機(jī)AI，究竟哪個才是王道？
首先公平地講，PC AI和手機(jī)AI無所謂孰優(yōu)孰劣，關(guān)鍵是誰更適合用在哪里。
另一方面，對于AI而言，基礎(chǔ)的前提一是算力是否夠強(qiáng)大、模型和算法是否夠豐富，二就是應(yīng)用場景是否夠廣泛、靈活。
無需贅言，手機(jī)和PC相比無論CPU性能還是GPU性能，根本不在一個檔次，即便加入獨(dú)立的AI引擎，也是看不見尾燈的。
新發(fā)布的高通驍龍8 Gen3已經(jīng)升級為第九代AI引擎，甚至將Hexagon DSP數(shù)字信號處理器升級為專門的NPU神經(jīng)網(wǎng)絡(luò)單元，并結(jié)合整個平臺不同模塊的力量，AI性能比上代幾乎翻番。
但即便如此，它也只能處理100億參數(shù)的大語言模型，每秒執(zhí)行Token的數(shù)量多不過20個。
聯(lián)發(fā)科天璣9300配備了第七代APU處理器，具備生成式AI引擎，但也只是實現(xiàn)了70億參數(shù)大語言模型端側(cè)落地、130億參數(shù)大語言模型端側(cè)運(yùn)行，70億參數(shù)的生成速度也只有每秒20 Tokens。
更關(guān)鍵的是，手機(jī)端硬件平臺性能優(yōu)先，尤其是運(yùn)行大模型必須的內(nèi)存容量捉襟見肘，即便是高端配置的16GB也過根本不夠用。
為此，聯(lián)發(fā)科不得不動用了各種優(yōu)化手段，包括內(nèi)存硬件壓縮、LoRA融合、Fusion技能擴(kuò)充等等，才勉強(qiáng)夠用。
在PC端，16GB內(nèi)存如今已經(jīng)是起碼的配置，32GB都隨處可見，再加上PC處理器的強(qiáng)大算力，這些限制根本就不是事兒。
比如Intel 13代酷睿處理器，尚沒有獨(dú)立的AI引擎，但憑借XPU的加速，再加上簡單的低比特量化、軟件優(yōu)化，只需16GB內(nèi)存，就可以通過BigDL-LLM框架，輕松運(yùn)行160億參數(shù)的大語言模型，還可以快速對接新興模型，包括但不限于：LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper，等等。
這里說的BigDL-LLM，是專門針對Intel硬件的一個低比特量化設(shè)計開源框架，支持INT3、INT4、INT5、INT8等各種低比特數(shù)據(jù)精度，性能更好，內(nèi)存占用更少。
基于這個框架，使用i9-12900K處理器，只開啟4個核心來運(yùn)行ChatGLM2 60億參數(shù)模型，生成效果就相當(dāng)迅速，打開全部8個P核、8個E核之后生成速度可達(dá)每秒22 Tokens，已經(jīng)不弱于很多云側(cè)計算。
換言之，無論是需要將全部算力投入AI模型的運(yùn)算，還是兼顧其他任務(wù)，PC端都可以輕松完成。
可以看出，無論哪種情況，Intel PC側(cè)都已經(jīng)可以很好地完成相應(yīng)的AI工作，提供令人滿意的算力和效率。
當(dāng)然，60億參數(shù)對于PC處理器來說是小菜一碟，換成LLaMA2 130億參數(shù)大語言模型、StarCoder 155億參數(shù)代碼大模型，Intel酷睿處理器也都能獲得良好的運(yùn)行速度。
再換成Arc銳炫顯卡，速度就更快了，比如ChatGLM2模型中生成速度可以超過每秒50 Tokens。
正是得益于如此快速的大語言模型運(yùn)行速度，即便是一臺輕薄筆記本，也可以在日常工作中及時提供各種幫助。
比如包括但不限于：聊天助手、情感分析、中英文翻譯、故事創(chuàng)作、生成大綱、信息提取、美食指南、旅游規(guī)劃、代碼生成等等。
除了基于大語言模型的工作和生活助手，AIGC常使用的另一個場景就是Stable Diffusion文生圖、文勝文，這一點如今無論手機(jī)還是PC都可以做到。
當(dāng)然，還是受制于算力，新的手機(jī)平臺雖然號稱可以在1秒鐘之內(nèi)完成Stable Diffusion文生圖，但是無論生成中的迭代次數(shù)、引導(dǎo)系數(shù)、關(guān)鍵詞數(shù)量，還是圖片的尺寸、分辨率、質(zhì)量，都不得不做出妥協(xié)，也導(dǎo)致圖片的應(yīng)用范圍有限。
在PC上，無論使用CPU還是GPU，完全可以根據(jù)自己的需要，任意設(shè)定參數(shù)，花個幾分鐘，就能生成用于高級設(shè)計、創(chuàng)作的素材。
尤其是在Intel平臺上，通過與AI社區(qū)積極合作，基于OpenVINO PyTorch后端的方案，可以通過Pytorch API讓社區(qū)開源模型很好地運(yùn)行在Intel客戶端處理器、集成顯卡、獨(dú)立顯卡、專用AI引擎之上。
Stable Diffusion中更是實現(xiàn)了Automatic1111 WebUI，以及FP16的高精度，無論文生圖、圖生圖還是局部修復(fù)，都可以獲得更好的體驗。
事實上，如今已經(jīng)有很多設(shè)計師、UP主開始在PC和工作站上使用Stable Diffusion生成所需要的高質(zhì)量素材，得到精美的CG動畫、模型等等，從而節(jié)省大量的精力和時間，將更多頭腦投入在創(chuàng)作階段。
接下來的酷睿Ultra，更是將引入全新升級的CPU/GPU架構(gòu)，以及全新的NPU AI獨(dú)立引擎。
它通過單獨(dú)設(shè)置的神經(jīng)計算引擎、推理流水線，徹底接手端側(cè)的AI推理負(fù)載，其中MAC陣列可以高效執(zhí)行矩陣算法和卷積運(yùn)算，每周期效率多達(dá)2048。
這樣的性能更是手機(jī)端望塵莫及的，速度超快的同時功耗更是極低，有利于延長筆記本續(xù)航時間。
更進(jìn)一步，酷睿Ultra AI引擎還可以聯(lián)合CPU、GPU，共同分擔(dān)AI負(fù)載中的不同工作，各自以高效率執(zhí)行，達(dá)到整體平臺效能的優(yōu)化。
總之，無論是手機(jī)端還是PC端，AI都是大勢所趨，性能會越來越好，模型和算法會越來越精妙，應(yīng)用場景也會越來越豐富。
對于手機(jī)端而言，AIGC可以隨時隨地應(yīng)用，也可以實現(xiàn)很好的個性化，有著極佳的靈活性。
但同時也不得不受制于手機(jī)平臺的性能、算力，也限制了應(yīng)用場景，尤其是大模型不可能完整地從云端搬到本地，導(dǎo)致能實現(xiàn)的應(yīng)用和生成速度存在天然局限，即便是在應(yīng)用直接、廣泛的AI助手中也是如此，需要更多地走端云合作的路子。
對于PC端而言，性能、算力可以幾乎無限制地擴(kuò)展，能夠輕松、完整地運(yùn)行各種大模型，無論你需要生成的圖片多么精致、文字多么復(fù)雜，給予一定的時間都可以完成，而且這個時間正在快速縮短，因此在內(nèi)容生產(chǎn)力的AIGC創(chuàng)作方面，PC仍舊是不二之選。
雖然PC的便捷性不如手機(jī)，但如今的筆記本也在快速進(jìn)化，推動著AIGC的快速演進(jìn)和普及。
一方面，筆記本做得越來越輕薄、精致，性能卻越來越好，比如在Intel Evo嚴(yán)苛認(rèn)證的多年推動之下，筆記本的綜合性能、擴(kuò)展能力、續(xù)航水平都達(dá)到了空前的高度，可以長時間、輕負(fù)擔(dān)地隨時隨地完成工作。
另一方面，筆記本開始有了自己的AI引擎，正快速開啟AI PC新時代，尤其是Intel近啟動了聲勢浩大的AI PC加速計劃，鼓勵A(yù)I創(chuàng)新應(yīng)用，很快就吸引了100多家ISV軟件合作伙伴，開發(fā)了300多項AI加速功能，預(yù)計到2025年將惠及上億臺PC。
本文鏈接：http://www.tebozhan.com/showinfo-24-30905-0.htmlAIGC風(fēng)潮席卷手機(jī)：但在PC面前 還是個弟弟
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號