撰稿 | 云昭
出品 | 51CTO技術(shù)棧(微信號:blog51cto)
一種神奇的組合出現(xiàn)了!Rust和無服務(wù)器搭配,可能比使用Python要省下一大筆錢!
眾所周知,Lambda函數(shù)和大型運行時是一個糟糕的組合,因為跟本機代碼相比,冷啟動速度較慢,內(nèi)存需求更高。另一方面,許多開發(fā)人員使用Java和Python比使用Rust等系統(tǒng)語言開發(fā)起來會更有效率。
然而現(xiàn)在,不需要用Rust重寫整個Lambda函數(shù)(Python),就可以真正的“降本增效”。
一位云咨詢公司CloudEX的工程主管,Merdler Kravitz舉了一個Lambda函數(shù)的例子,該函數(shù)使用Python列出S3(簡單存儲服務(wù))存儲桶。事實證明,用于Python的AWS SDK Boto3過于膨脹,通過用Rust替換需要Boto3的函數(shù),可以在成本和性能方面獲得巨大收益——即使Python仍在用于其他代碼。
用Rust替換Python代碼的關(guān)鍵是PyO3,它為Python提供了Rust綁定。Rust代碼中的屬性將函數(shù)公開為標準Python接口。
結(jié)果,在Merdler Kravitz提出的例子中,冷啟動速度快了三倍,對內(nèi)存的要求也低得多。對于1GB的RAM,Rust和Boto3代碼具有相似的性能,但對于256MB的RAM,增強版Rust仍然表現(xiàn)良好,而另一個則不然。
在Lambda中使用Rust的成本效益:re:Invent上的一個例子
尤其是在無服務(wù)器平臺上,減少所需的計算資源可以降低成本?!癛ust平均比Python更便宜,大概是后者的1/3到1/4,”他聲稱。
在re:Invent會上,AWS同時宣布了其用于Rust的SDK已準備好生產(chǎn)。 去年11月早些時候,這家云巨頭基于“最小容器映像”為Lambda添加了對亞馬遜Linux 2023的支持,并表示其關(guān)鍵用途之一是“在使用編譯為本地代碼的語言時,如Go或Rust?!?span style="display:none">eWq28資訊網(wǎng)——每日最新資訊28at.com
至少自2015年以來,Rust對AWS服務(wù)的非官方支持就一直存在,當時Matthew Mayer和Anthony DiMarco在Rust 1.0發(fā)布后不久啟動了一個名為Rusoto的獨立項目,目標包括學習Rust。根據(jù)Rust crate 存儲庫crates.io的統(tǒng)計數(shù)據(jù),Rusoto的下載量已超過1100萬次。
AWS Rust SDK的第一個alpha是由當時在AWS的iliana etaoin于2021年推出的,她是Rusoto的共同維護者。
根據(jù)介紹,官方的Rust SDK現(xiàn)在支持300多項AWS服務(wù),并“支持異步/等待、非阻塞IO和構(gòu)建器等現(xiàn)代Rust語言功能”。
AWS Lambda還有一個實驗性的Rust運行時,它簡化了Rust中的運行功能,并包括支持Lambda事件、擴展和Lambda runtime API的crate 。一個名為Cargo Lambda的相關(guān)項目支持使用Lambda模擬器進行本地開發(fā)和測試,以及在Windows或macOS上開發(fā)時為Linux進行交叉編譯,無論開發(fā)人員的PC上運行的是什么,都可以選擇ARM64和x86-64。使用Rust構(gòu)建Lambda,亞馬遜官方也給出了詳細的文檔。
圖片
當然,實驗性代碼不用于生產(chǎn),因此在Lambda上使用Rust還為時過早。不過現(xiàn)在,可以看出回報將會很大。
榜樣的力量是無窮的。據(jù)某職場社交平臺上亞馬遜內(nèi)部員工反饋,“這里人人都用Rust”,有網(wǎng)友還指出,Rust編譯器團隊的leader Jon Gjergeset,也在亞馬遜任職。
圖片
這位員工甚至做出了判斷:Rust 早晚會替代C++。
都有哪些場景使用Rust?一個簡單的回答就是所有使用C/C++的場景。
但與此次亞馬遜宣布的部分替換Python而言,還有一個場景Python越來越有被替代的風險。
就是進入到“大模型應(yīng)用開發(fā)”語境后,原來的“Python+Docker”的機器學習開發(fā)框架正在面臨嚴重的挑戰(zhàn)。
構(gòu)建機器學習應(yīng)用時,更多人會想到Python+Docker,然而當時間來到“大模型時代”,再基于這一組合構(gòu)建大模型應(yīng)用似乎就會不合時宜,Python的性能和Docker的冷啟動問題都注定了這一事實:當處理需要大量計算的大型數(shù)據(jù)集或復(fù)雜模型時,不太可能會成為這一領(lǐng)域的主流選擇。
一方面,Python是解釋性語言,編譯速度較慢,維護方面的問題也較為嚴重;另一方面,Docker越發(fā)暴露出磁盤空間消耗、硬件加速器支持、可移植性、安全依賴等問題。
基于此,有業(yè)界人士認為:Rust+WASM更有希望取代Python+Docker,成為LLM生態(tài)構(gòu)建基礎(chǔ)設(shè)施的主要場景。這不得不讓人想到馬斯克那句“AGI會建立在Rust上”的猜測。
圖片
單講Rust,Rust為什么會被追捧為AGI時代的編程語言?
首先,編譯極快:Rust 是一種編譯語言,以其極快的性能而聞名。當與基于堆棧的虛擬機的二進制指令格式 WebAssembly 結(jié)合使用時,這兩個組合有望提供無與倫比的執(zhí)行速度。
其次,內(nèi)存安全:Rust 的突出特點之一是它強調(diào)內(nèi)存安全而不犧牲性能。這確保了應(yīng)用程序既快速又安全。
然后,并發(fā)性:Rust 的并發(fā)性方法是獨一無二的。它確保在編譯時捕獲數(shù)據(jù)競爭(并發(fā)系統(tǒng)中最常見和最具挑戰(zhàn)性的錯誤之一)。這意味著開發(fā)者可以編寫并發(fā)代碼,而不必擔心引入難以檢測的運行時錯誤。
此外,富有表現(xiàn)力的類型系統(tǒng):Rust 擁有強大且富有表現(xiàn)力的類型系統(tǒng)。該系統(tǒng)不僅有助于在編譯時捕獲錯誤,而且還允許開發(fā)者以清晰簡潔的方式表達他們的意圖。
同時,現(xiàn)代包管理:Cargo,Rust 的包管理器,簡化了管理依賴項、構(gòu)建項目甚至發(fā)布庫的過程。因其易用性和高效性而受到贊譽的工具。
最后,快速增長的生態(tài):Rust 的生態(tài)正在蓬勃發(fā)展。像“ndarray”、“l(fā)lm”、“candle”和“burn”這樣的庫證明了大模型相關(guān)的社區(qū)積極參與擴展 Rust 的LLM應(yīng)用開發(fā)的能力。
那么為什么還需要WebAssembly?
與絕大部分 “現(xiàn)代編程語言” 不同,Rust 的一個亮點是它可以直接編譯成機器碼,不需要一個中間的 “運行時”。然而,許多場景諸如瀏覽器、云原生、邊緣設(shè)備等,直接運行機器碼是不被允許的。即便熟練Rust也缺少一個與之相匹配的運行時才能跑得通。
在實踐中,人們會發(fā)現(xiàn) WebAssembly 就成為了 Rust 運行時的首選之一。細心的人也可能注意到:Rust 編譯器也添加了 Wasm 平臺的 target。兩者簡直天作之合。
國內(nèi)開發(fā)跟國外開發(fā)有個很顯然的不同。
國內(nèi)軟件行業(yè)的大型底層項目相對國外來說少的多,開發(fā)方向主要在需求不斷更迭的上層邏輯。
過去三四十年,開發(fā)者更多專注于業(yè)務(wù)應(yīng)用層上,做功能模塊的排序與堆疊,而底層代碼的研究更多像一個個毛線團,想要條分縷析,并非一日之功,只能說這并不適合當時快速擴張的主旋律。
圖片
然而,我們也慢慢看到新的開發(fā)主題正在到來:業(yè)務(wù)側(cè)更關(guān)注安全、可靠,更關(guān)心供應(yīng)鏈的依賴是否可持續(xù),更關(guān)心會不會被卡脖子。比如:去年微軟Azure的首席技術(shù)官 Mark Russinovich 的一條推文上了技術(shù)圈的熱搜,他想要棄用C++,搬家到Rust上的意圖非常強烈。
圖片
據(jù)說有意思的是,微軟所有70%的常見漏洞和暴露都與內(nèi)存安全問題有關(guān)。而且,盡管人們花了很多努力來修復(fù)這些問題,但它們?nèi)栽陲j升。
為此,微軟安全響應(yīng)中心已經(jīng)啟動了安全系統(tǒng)編程語言計劃,打算將他們的項目遷移到Rust項目中。甚至后來大家都知道的Windows內(nèi)核,也開始用Rust來重寫。
所以我們看到眾多知名企業(yè)也在大力投入 Rust,比如國外的企業(yè)如微軟、谷歌成為了 Rust 基金會白金贊助商之一,AWS 更是直接將 Rust 官方團隊的成員招入麾下開啟了搶人大戰(zhàn),Meta(原 Facebook)正式宣布 Rust 作為其服務(wù)端支持的語言等等。
再比如,國內(nèi)科技公司如華為、字節(jié)跳動等公司均在內(nèi)部培養(yǎng)了 Rust 團隊并推動 Rust 的落地,PingCAP 采用了 Rust 實現(xiàn) TiKV,以及眾多明星初創(chuàng)企業(yè)如達坦科技和海致星圖直接選擇 Rust 作為其產(chǎn)品的主力語言。
圖片
根據(jù)字節(jié)跳動Volo負責人吳迪的演講內(nèi)容整理,有增刪
然而,有一種觀點認為:國內(nèi)不會大規(guī)模使用 Rust,即便要用 Rust,應(yīng)該會從各大云廠商開始,而且是各種底層項目,目前云廠商更主流的語言是 Golang,因為 Golang 的開發(fā)效率相當?shù)母?,這很符合國內(nèi)云廠商的商業(yè)邏輯。幸運的是,字節(jié)跳動正在從 Golang 轉(zhuǎn)向 Rust。
一個語言的興起,往往是它解決了所處時代的痛點問題。PHP解決了門戶網(wǎng)站快速搭建的問題,Python降低了編程的門檻,Java解決了移動時代的應(yīng)用開發(fā)需求,C/C++則很早在系統(tǒng)底層做出了40多年前的貢獻。
Rust也是如此。與絕大部分 “現(xiàn)代編程語言” 不同,在一個強調(diào)底層安全、快速、可靠的新背景下,Rust被選中了。從15年穩(wěn)定版算起,Rust的確走過的時間還很短。它已經(jīng)連續(xù)8年成為開發(fā)者中最受尊敬的語言!
2023年StackOverflow開發(fā)人員調(diào)查顯示,85%使用Rust的開發(fā)人員希望明年再次使用它。
圖片
最后來個小花絮,2023過去,那些在日常中應(yīng)用和開發(fā)Rust,是怎么樣一種感覺?
我們選取了這四種有態(tài)度的看法,全當一窺國內(nèi)Rust開發(fā)者的現(xiàn)狀,可以看出也是一個升級打怪的過程,以此共勉吧——
全職Rust的開發(fā)者:「一開始做Rust全職還是挺開心的,但是沒兩個月激情就沒了,天天寫真的夠嗆,現(xiàn)在也變成天天吐槽“垃圾Rust”了?!?span style="display:none">eWq28資訊網(wǎng)——每日最新資訊28at.com
帶隊Rust項目的leader:「建議自己培養(yǎng),別聽網(wǎng)上瞎扯 Rust 入門有多么難。只要公司里有一個很懂 Rust 的,其他人就都可以快速上手。」
上岸者:「自己不去作死搞復(fù)雜的帶三四個 lifetime 的 generic,一般不會出問題。Rust 上手寫業(yè)務(wù)只要一個月,想寫花里胡哨的東西才需要經(jīng)驗。」
使用Rust8年以上的大牛:「我?guī)У男氯舜蠖加蠮ava或C等語言基礎(chǔ), 基本上一個月都能上手, 算法, 異步和多線程都沒問題, 甚至還有文科生轉(zhuǎn)過來寫rust的, 他們都覺得不難?!?span style="display:none">eWq28資訊網(wǎng)——每日最新資訊28at.com
https://devclass.com/2023/12/21/rust-in-aws-lambda-a-magic-ingredient-to-reduce-cost-and-increase-performance/
https://zhuanlan.zhihu.com/p/624525824
https://juejin.cn/post/7181794889238052901
https://www.zhihu.com/question/537491737/answer/2527548502
https://zhuanlan.zhihu.com/p/667210058
本文鏈接:http://www.tebozhan.com/showinfo-26-61004-0.htmlRust又被降本增效選中!Rust替代Python,亞馬遜云成本降為1/4!
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com