從 Pulsar Client 的原理到它的監(jiān)控面板
背景前段時(shí)間業(yè)務(wù)團(tuán)隊(duì)偶爾會(huì)碰到一些 Pulsar 使用的問(wèn)題，比如消息阻塞不消費(fèi)了、生產(chǎn)者消息發(fā)送緩慢等各種問(wèn)題。雖然我們有個(gè)監(jiān)控頁(yè)面可以根據(jù) topic 維度查看他的發(fā)送狀態(tài)，
對(duì)整天關(guān)心前沿AI的差評(píng)君來(lái)說(shuō)，比起大廠的新模型發(fā)布會(huì)，近我倒是被這么個(gè)新聞吸引了。
一個(gè)17歲的高中生，靠華為云MaaS這個(gè)平臺(tái)，自己動(dòng)手搞出了一個(gè)專門(mén)幫唇腭裂小朋友做語(yǔ)言康復(fù)訓(xùn)練的AI應(yīng)用。
至于MaaS是個(gè)啥咱先按下不表，有一說(shuō)一就這個(gè)事，已經(jīng)挺天方夜譚的了。
你想想，17歲那都快是10后了，也不是什么大廠工程師團(tuán)隊(duì)，只靠自己DIY 就能搞出來(lái)實(shí)打?qū)嵱杏玫?AI 產(chǎn)品，這特么太牛逼了也。
不過(guò)這小姑娘自己倒是坦誠(chéng)，說(shuō)這波還得是開(kāi)發(fā)平臺(tái)的功勞大。
該說(shuō)不說(shuō)，如果沒(méi)有MaaS平臺(tái)，大多數(shù)企業(yè)要想在自家生意里用上AI，那可遠(yuǎn)遠(yuǎn)不是下載個(gè)app這么簡(jiǎn)單。
對(duì)絕大多數(shù)企業(yè)來(lái)說(shuō)，想真正用上大模型，得先回答三個(gè)直擊靈魂的問(wèn)題：有錢(qián)嗎，有人嗎，安全不？
道理也很簡(jiǎn)單，你要在服務(wù)器里部署，總得有高端的AI芯片吧，這就需要砸錢(qián)了。
然后你要訓(xùn)練模型，光自己也玩不轉(zhuǎn)，從底層到框架再到開(kāi)發(fā)，這都得專業(yè)的程序員給你干活。所以說(shuō)干這玩意兒是真要燒錢(qián)的。
而且要命的是，公司的客戶數(shù)據(jù)、生產(chǎn)訣竅、財(cái)務(wù)信息，這些都是身家性命。把這些核心機(jī)密數(shù)據(jù)，喂給第三方的通用大模型去訓(xùn)練，萬(wàn)一數(shù)據(jù)泄露了，或者被拿去訓(xùn)練了競(jìng)爭(zhēng)對(duì)手的模型，那后果不堪設(shè)想。
那有差友估計(jì)就要問(wèn)了，要這么說(shuō)，合著你要不是大廠，就跟AI沒(méi)關(guān)系了唄？
倒也不至于。買(mǎi)不起，還可以云啊。互聯(lián)網(wǎng)廠商們給出的新版本答案就是：MaaS（Model as a Service，模型即服務(wù)）。
這詞看著陌生，其實(shí)熟悉云計(jì)算的差友應(yīng)該都知道，SaaS（軟件即服務(wù)）和PaaS（平臺(tái)即服務(wù)）。前者是“租軟件”用（比如Office 365），不用自己裝了，但還是要有服務(wù)器啥的。后者是不用你自己買(mǎi)服務(wù)器、搭環(huán)境了，可以“租平臺(tái)/工廠”用（比如在云上開(kāi)發(fā)App）。
而現(xiàn)在，大模型成了新的生產(chǎn)力基座，所以MaaS就應(yīng)運(yùn)而生，成了云計(jì)算的新階段了。
也就是說(shuō)，MaaS的本質(zhì)，就是把那些昂貴、復(fù)雜、難以駕馭的AI大模型，變成像水電煤一樣的、即開(kāi)即用的公共設(shè)施。
正因?yàn)榇蠹业男枨蟠_實(shí)大，所以現(xiàn)在國(guó)內(nèi)外所有云計(jì)算巨頭，基本都在拼命布局MaaS，像什么微軟、亞馬遜早就開(kāi)始搞了。
不過(guò)，大家都在搞MaaS，那問(wèn)題就來(lái)了：咋證明你家的MaaS就比別家的強(qiáng)，憑啥我要選你？
該說(shuō)不說(shuō)，要理解一個(gè)頂級(jí)的MaaS平臺(tái)是啥樣的，咱還是得把視角放在更成熟的國(guó)內(nèi)，比如華為云的MaaS就提供了一個(gè)絕佳的樣本。
舉個(gè)例子，企業(yè)用AI，怕的就是萬(wàn)國(guó)造，硬件、軟件、框架、模型要是來(lái)自不同廠家，不兼容不說(shuō)，出了問(wèn)題互相甩鍋，性能也發(fā)揮不出來(lái)。
佳的方案，其實(shí)是得把硬件、框架、網(wǎng)關(guān)這套三位一體的東西都打通，能做到這一步的很難，但牛逼就在于華為云就真做到了。
具體咋搞的呢？首先，華為在硬件上走出了一條區(qū)別于大家買(mǎi)英偉達(dá)，AMD 的道路。不光自己造硬件，并且成功實(shí)現(xiàn)了超越。
聽(tīng)起來(lái)有點(diǎn)離譜，但事實(shí)確實(shí)如此。。。。
這么說(shuō)吧，現(xiàn)在你想跑個(gè)千億大模型，瓶頸就不光是顯卡啥的，更重要的是在卡和卡之間的溝通效率。
傳統(tǒng)方案就像在擁堵的城市高速上開(kāi)車，而一些改進(jìn)方案，頂多是給VIP們修了條“專用通道”或開(kāi)通了“電話專線”，還是治標(biāo)不治本。
就是這種業(yè)界很難搞定的問(wèn)題，到了通信出身的華為這里，反而專業(yè)對(duì)口了。華為直接給這個(gè)數(shù)據(jù)傳輸體系整個(gè)重構(gòu)了。
簡(jiǎn)單來(lái)說(shuō)，它首先用光纖替代了傳統(tǒng)的電線，數(shù)據(jù)交換進(jìn)化成光了，速度直接拉到極限；更牛的是，它這波直接拋棄了以CPU為核心的傳統(tǒng)架構(gòu)，這些計(jì)算單元不圍著你CPU GPU啥的轉(zhuǎn)了，而是大家地位平等，可以直接圓桌對(duì)話。
這就是CloudMatrix384超節(jié)點(diǎn)，這玩意已經(jīng)能把384顆昇騰NPU，和192顆鯤鵬CPU連起來(lái)了。前幾天華為開(kāi)發(fā)者大會(huì)2025（HDC 2025）上，華為云放還出了基于CloudMatrix 384超節(jié)點(diǎn)的新的昇騰云服務(wù)。
這個(gè)新版本還能實(shí)現(xiàn)超節(jié)點(diǎn)自由，想用上超節(jié)點(diǎn)，不一定要買(mǎi)一整個(gè)，通過(guò)昇騰云提供的云端算力，僅即開(kāi)即用，而且想買(mǎi)多少買(mǎi)多少，可以自由調(diào)配。
打個(gè)比方，如果說(shuō)傳統(tǒng)的多卡通信是點(diǎn)對(duì)點(diǎn)“打電話”，那華為云這個(gè)超節(jié)點(diǎn)，就相當(dāng)于給所有硬件拉了個(gè)微信群，信息可以瞬間廣播和共享，溝通效率直接提升了一個(gè)時(shí)代。
這種新架構(gòu)，也讓每張芯片都能更專注于自己的任務(wù)，從而節(jié)省出內(nèi)存去干更多、更專業(yè)的事。
就比如DeepSeek R1這種MoE（專家混合）模型，放到這上面簡(jiǎn)直是完美配套，一個(gè)“專家”配一個(gè)卡，一個(gè)節(jié)點(diǎn)就能支持384個(gè)“專家”并行推理，整體性能直接翻了三倍。
終效果就是：?jiǎn)慰ㄍ评硗掏铝恐苯榆S升到2300 Tokens/s，在關(guān)鍵指標(biāo)上，做到了領(lǐng)先于國(guó)際主流芯片的SOTA（頂尖）水平。要知道，四月份發(fā)布的版本還是1920token/s ，到現(xiàn)在才兩個(gè)月就又提升了20%，這超節(jié)點(diǎn)的持續(xù)進(jìn)步能力真可以說(shuō)是恐怖如斯。
現(xiàn)在像新浪啥的這些公司現(xiàn)在都已經(jīng)安排上了，完事人家用完一看，好家伙，推理交付效率提升超過(guò)50%，NPU利用率提升超過(guò)40%。還有像中科院就直接用超節(jié)點(diǎn)打造了自己的科研大模型訓(xùn)練框架，可以說(shuō)是徹底擺脫了對(duì)英偉達(dá)的依賴。
除了硬件之外，在軟件上，人家還專門(mén)給昇騰優(yōu)化了一個(gè)推理框架。
這就相當(dāng)于你有一套頂尖電競(jìng)設(shè)備，完事還專門(mén)找了個(gè)國(guó)服選手來(lái)操作，于是模型任務(wù)就可以通過(guò)非常nb的拆解來(lái)實(shí)現(xiàn)低時(shí)延、高吞吐；再加上足夠智能網(wǎng)關(guān)調(diào)度啥的，效率還能再提升50%。
看到這，你再聯(lián)想一下任老爺子前幾天說(shuō)的：“芯片問(wèn)題其實(shí)沒(méi)必要擔(dān)心”，這下明白了吧，我只能說(shuō)還得是你啊華子，懂得都懂。
但對(duì)一家頂尖的MaaS廠商來(lái)說(shuō)，光有了技術(shù)，也不完全夠，關(guān)鍵得你能幫人家干活干的好。用行話說(shuō)，應(yīng)用必須落地到行業(yè)級(jí)，才是見(jiàn)功力的MaaS服務(wù)，比如華為云MaaS的思路就是，“讓AI從場(chǎng)景里長(zhǎng)出來(lái)”。
這話其實(shí)就有意思了，你AI是要給人家服務(wù)的，那你肯定得貼合人家行業(yè)需求，不能只會(huì)做聊天機(jī)器人吧？
然而其實(shí)現(xiàn)在市面上很多大模型，你看上去啥都懂，但真干活兒肯定就拉了。
原因嘛，說(shuō)來(lái)也簡(jiǎn)單，這因?yàn)樗鼈兇蠖嗍?ldquo;給AI找場(chǎng)景”，拿著通用AI的錘子，所以看啥都像釘子，用前人的話這就不夠群眾路線，沒(méi)接上地氣兒。
那華為云咋就敢說(shuō)自己這是從場(chǎng)景里長(zhǎng)出來(lái)的呢，我研究了一下，發(fā)現(xiàn)原理也很簡(jiǎn)單粗暴，華為服務(wù)這些千行百業(yè)已經(jīng)三十年了，說(shuō)直接點(diǎn)人家本來(lái)就懂行。
比如說(shuō)在MaaS這方面兒，人家直接提供了140多種解決方案模板，20多種都是經(jīng)過(guò)商業(yè)化驗(yàn)證的場(chǎng)景化方案。翻譯成人話就是，人家把盈利的標(biāo)準(zhǔn)答案都給你搞來(lái)了，直接照抄就行。
像什么銷售數(shù)據(jù)分析、文旅導(dǎo)游啥的業(yè)務(wù)，甚至都不需要你敲代碼，直接復(fù)制就行了，5分鐘就能用。
你要想自己再搞開(kāi)發(fā)，那也很方便。
就比如你想調(diào)用第三方的服務(wù)，加個(gè)智能導(dǎo)航、一鍵修圖啥的功能，在華為云MaaS里直接點(diǎn)就完了，
人家專門(mén)拉來(lái)了美圖影像、通達(dá)信、天眼查等行業(yè)大佬，把它們強(qiáng)的AI能力，做成了15種以上的優(yōu)質(zhì)MCP服務(wù)（AI功能插件）。想要什么能力，就即插即用，極其省心。
所以說(shuō)，你要把這些都放一塊兒一比，看上去大家都在搞MaaS，但人華為云這一拳下去，那是練了30年的功力，誰(shuí)試誰(shuí)知道。
還有除此之外，前面咱也說(shuō)了，數(shù)據(jù)安全是所有企業(yè)的命根子，在這點(diǎn)上，華為云也是行家了。
像是在模型安全在這塊兒，你不是怕AI泄露數(shù)據(jù)，生成不該生成的內(nèi)容嗎，沒(méi)事，它專門(mén)搞了個(gè)叫ModelArts Guard的模型，用AI來(lái)監(jiān)督AI，讓英雄去查英雄，讓好漢去查好漢。
而且這玩意還拿了國(guó)家信通院安全評(píng)估的滿級(jí)，也是業(yè)界高分，完全能保證你的AI內(nèi)容安全合規(guī)。
實(shí)際上，網(wǎng)絡(luò)安全這方面，確實(shí)也是華為的高綱領(lǐng)，工作人員告訴我們，這兩年友商們其實(shí)經(jīng)常出事故，但華為云從2024年初至今，重大安全事故的次數(shù)是0，真就一次也沒(méi)翻過(guò)。
所以華為云這MaaS，確實(shí)還是很讓人放心的。
從某種意義上說(shuō)，AI產(chǎn)業(yè)的上半場(chǎng)，是模型參數(shù)、技術(shù)指標(biāo)的軍備競(jìng)賽，只屬于少數(shù)巨頭。這也是業(yè)界經(jīng)常有人出來(lái)詬病AI無(wú)用的原因，落地起來(lái)確實(shí)有困難。
于是到了AI的下半場(chǎng)，我覺(jué)得大概率還是會(huì)朝著“AI咋樣才能落到行業(yè)”這個(gè)方向去，所以像這種MaaS模式一出現(xiàn)，其實(shí)就可以說(shuō)這種轉(zhuǎn)變已經(jīng)開(kāi)始了。
而從華為云MaaS的創(chuàng)新實(shí)力，行業(yè)化和安全性來(lái)看，中國(guó)AI走向產(chǎn)業(yè)的道路也已經(jīng)走的很堅(jiān)實(shí)了。
所以總而言之，還是那句話，AI的能力是云端的屠龍之技，但更重要的是怎么把它轉(zhuǎn)化為各行百業(yè)手中的鋤頭、錘子和手術(shù)刀。
從這個(gè)角度想的話，未來(lái)的競(jìng)爭(zhēng)，可能就不再是誰(shuí)的模型更會(huì)寫(xiě)詩(shī)，而是誰(shuí)能更好地為大家創(chuàng)造真實(shí)的價(jià)值。
本文鏈接：http://www.tebozhan.com/showinfo-22-163647-0.html高中生也能輕松上手 華為整出了個(gè)大模型“瑞士軍刀”
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)