當(dāng)前位置：首頁(yè) > 科技 > 軟件

互聯(lián)網(wǎng)高并發(fā)設(shè)計(jì)的手段:架構(gòu)、算法、代碼

來(lái)源：責(zé)編：時(shí)間：2023-11-01 09:19:21 284觀看

導(dǎo)讀性能優(yōu)化目標(biāo)1、縮短響應(yīng)時(shí)間2、提高并發(fā)數(shù)(增加吞吐量)3、讓系統(tǒng)處于合理狀態(tài)圖片性能優(yōu)化手段1、空間換時(shí)間系統(tǒng)時(shí)間是瓶頸：緩存復(fù)用計(jì)算結(jié)果，降低時(shí)間開(kāi)銷，因?yàn)閏pu時(shí)間較內(nèi)存容量更加昂貴。2、時(shí)間換空間數(shù)據(jù)大小

性能優(yōu)化目標(biāo)

1、縮短響應(yīng)時(shí)間

2、提高并發(fā)數(shù)(增加吞吐量)

3、讓系統(tǒng)處于合理狀態(tài)

圖片

性能優(yōu)化手段

1、空間換時(shí)間

系統(tǒng)時(shí)間是瓶頸：緩存復(fù)用計(jì)算結(jié)果，降低時(shí)間開(kāi)銷，因?yàn)閏pu時(shí)間較內(nèi)存容量更加昂貴。

2、時(shí)間換空間

數(shù)據(jù)大小是瓶頸
網(wǎng)絡(luò)傳輸是瓶頸，使用系統(tǒng)時(shí)間換取傳輸?shù)目臻g，使用HTTP的gzip壓縮算法
app的請(qǐng)求分類接口,使用版本號(hào)判斷哪些數(shù)據(jù)更新,只下載更新的數(shù)據(jù)

3、找到系統(tǒng)瓶頸

分析系統(tǒng)的業(yè)務(wù)流程，找到關(guān)鍵路徑并分解優(yōu)化
調(diào)用了多少RPC接口，載入多少數(shù)據(jù)，是用什么算法，非核心流程是否異步化。

性能優(yōu)化層次

1、架構(gòu)設(shè)計(jì)層次

如何拆分系統(tǒng) 如何使用部分系統(tǒng)整體負(fù)載更加均衡充分發(fā)揮硬件設(shè)施性能優(yōu)勢(shì) 減少系統(tǒng)內(nèi)部開(kāi)銷等

2、算法邏輯層次

關(guān)注算法選擇是否高效，算法邏輯優(yōu)化，空間時(shí)間優(yōu)化任務(wù)執(zhí)行吃力，使用無(wú)鎖數(shù)據(jù)結(jié)構(gòu)。

空間換時(shí)間:ThreadLocal

時(shí)間換空間：采用壓縮算法壓縮數(shù)據(jù)，更復(fù)雜的邏輯減少數(shù)據(jù)傳輸。

3、代碼優(yōu)化層次

關(guān)注代碼細(xì)節(jié)優(yōu)化,代碼實(shí)現(xiàn)是否合理,是否創(chuàng)建了過(guò)多的對(duì)象，循環(huán)遍歷是否高效,cache使用是否合理

優(yōu)化層次：從整理到細(xì)節(jié)，從全局角度到局部視角。

代碼優(yōu)化層次(1)

循環(huán)遍歷是否合理高效,不要在循環(huán)里調(diào)RPC接口,傳輸分布式緩存執(zhí)行SQL等
先調(diào)用批量接口組裝好數(shù)據(jù),再循環(huán)處理
代碼邏輯避免生成過(guò)多的對(duì)象和無(wú)效對(duì)象
輸出Log時(shí)候的log級(jí)別判斷避免new無(wú)效對(duì)象
ArrayList、HashMap初始容量設(shè)置是否合理
對(duì)數(shù)據(jù)對(duì)象是否合理重用比如RPC查到的數(shù)據(jù)能復(fù)用則必須復(fù)用，根據(jù)數(shù)據(jù)訪問(wèn)特性選擇合適數(shù)據(jù)結(jié)構(gòu),比如讀多寫少考慮 CopyOrWriteArrayList(寫時(shí)copy副本)，會(huì)否正確初始化數(shù)據(jù)，有些全局共享的數(shù)據(jù)，餓漢式模式，在用戶使用之前先初始化好。

代碼優(yōu)化層次(2)

CPU Cache結(jié) 構(gòu)
速度越來(lái)越高：內(nèi)存 - >L3->L2->L1多級(jí)緩存
本質(zhì)上內(nèi)存是一個(gè)大的一維數(shù)組，二維數(shù)組在內(nèi)存中按行排列，先存放a[0]行，再存放a[1]行
第一種遍歷方式，是行遍歷，先遍歷完一行再遍歷第二行，符合局部性原理Cache Hit (緩存命中率高)
第二種遍歷方式，是列遍歷，遍歷完第一列遍歷第二列，由于下一列和上一列的數(shù)組元素在內(nèi)存中并不是連續(xù)的，很可能導(dǎo)致Cache Miss ( 緩存未命中 ) , CPU 需要去內(nèi)存載入數(shù)據(jù)，速度較CPU L1Cache的速度降低了很多(主存100ns,L1 cache 0.5ns)

圖片

數(shù)據(jù)優(yōu)化層次

select count(*)from table where add  time<"2017- 11-0623:59:59"  and  status=0  add  count in(1,2) ORDER BY id ASC;

代碼邏輯要適應(yīng)數(shù)據(jù)變化的場(chǎng)景

圖片

算法優(yōu)化邏輯層次

●用更高效的算法替換現(xiàn)有算法，而不改變其接口

● 增量式算法，復(fù)用之前的計(jì)算結(jié)果，比如一個(gè)報(bào)表服務(wù)，要從全量數(shù)據(jù)中生成報(bào)表數(shù)據(jù)量很大，但是每次增量的數(shù)據(jù)較少，則可以考慮只計(jì)算增量數(shù)據(jù)和之前計(jì)算結(jié)果合并，這樣處理的數(shù)據(jù)量就小很多

● 并發(fā)和鎖的優(yōu)化，讀多寫少的業(yè)務(wù)場(chǎng)景下，基于CAS的LockFree比mutex 性能更好

● 當(dāng)系統(tǒng)時(shí)間是瓶頸,采取空間換時(shí)間邏輯算法,分配更多空間節(jié)省系統(tǒng)時(shí)間

● 緩存復(fù)用計(jì)算結(jié)果，降低時(shí)間開(kāi)銷， CPU時(shí)間較內(nèi)存容量更加昂貴

● 當(dāng)系統(tǒng)空間容量是瓶頸，采取時(shí)間換空間算法策略

● 網(wǎng)絡(luò)傳輸是瓶頸，使用系統(tǒng)時(shí)間換取空間的壓縮， HTTP的gzip 壓縮算法

● APP的請(qǐng)求分類接口，使用版本號(hào)判斷哪些數(shù)據(jù)更新，只下載更新的數(shù)據(jù)，使用更多的代碼邏輯處理更細(xì)粒度的數(shù)據(jù)

● 并行執(zhí)行，比如一段邏輯調(diào)用了多個(gè)RPC接口，而這些接口之間并沒(méi)有數(shù)據(jù)依賴，則可以考慮并行調(diào)用，降低響應(yīng)時(shí)間

● 異步執(zhí)行，分析業(yè)務(wù)流程中的主次流程，把次要流程拆分出來(lái)異步執(zhí)行，更進(jìn)一步可以拆分到單獨(dú)的模塊去執(zhí)行，比如使用消息隊(duì)列，徹底和核心流程解耦，提高核心流程的穩(wěn)定性以及降低響應(yīng)時(shí)間

架構(gòu)層次優(yōu)化

● 系統(tǒng)微服務(wù)化

● 無(wú)狀態(tài)化設(shè)計(jì)，動(dòng)態(tài)水平彈性擴(kuò)展

● 調(diào)用鏈路梳理，熱點(diǎn)數(shù)據(jù)盡量靠近用戶

● 分布式Cache 、多級(jí)多類型緩存

● 提前拒絕，保證柔性可用

● 容量規(guī)劃

● 分庫(kù)分表，讀寫分離，數(shù)據(jù)分片

案例：

圖片

Feed流系統(tǒng)分級(jí)緩存

讀多寫少、冷熱數(shù)據(jù)明顯，熱點(diǎn)數(shù)據(jù)緩存到調(diào)用鏈路更靠近用戶的地方

● L1緩存容量小負(fù)責(zé)抗最熱點(diǎn)的數(shù)據(jù)， L2緩存考慮目標(biāo)是容量，緩存更大范圍的數(shù)據(jù)(一般用戶的timeline), 高熱點(diǎn),數(shù)據(jù)單獨(dú)緩存，比如設(shè)置白名單，大V 的用戶數(shù)據(jù)放在L1緩存

● feed(關(guān)注的feed 、topic 的feed,一些運(yùn)營(yíng)的feed),前幾頁(yè)的訪問(wèn)比例，前三頁(yè)占了90%+,針對(duì)這種業(yè)務(wù)特性，把前面幾頁(yè)數(shù)據(jù)作為熱點(diǎn)數(shù)據(jù)提到L1 cache

Feed系統(tǒng)消息發(fā)布

寫擴(kuò)散 (PUSH)

● 推送策略：拆分?jǐn)?shù)據(jù)并行推，活躍用戶先推，非活躍用戶慢慢推

● 有 1w個(gè)用戶關(guān)注，發(fā)了一個(gè)feed,拆分成100份,每份100個(gè)并行推

● 1w個(gè)用戶里活躍的可能有2000個(gè)，活躍用戶先推，非活躍用戶慢慢推，保證活躍用戶體驗(yàn)，非活躍用戶推了很大概率也不看

讀擴(kuò)散(PULL)

圖片

Feed系統(tǒng)存儲(chǔ)選型

圖片

本文鏈接：http://www.tebozhan.com/showinfo-26-16297-0.html互聯(lián)網(wǎng)高并發(fā)設(shè)計(jì)的手段:架構(gòu)、算法、代碼

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： C++“中年危機(jī)”有救了！C++之父新動(dòng)作！

下一篇：基于Python+Django+協(xié)同過(guò)濾推薦算法實(shí)現(xiàn)的【電影推薦與管理系統(tǒng)】

標(biāo)簽：

熱門焦點(diǎn)

掘力計(jì)劃第 20 期：Flutter 混合開(kāi)發(fā)的混亂之治

在掘力計(jì)劃系列活動(dòng)第20場(chǎng)，《Flutter 開(kāi)發(fā)實(shí)戰(zhàn)詳解》作者，掘金優(yōu)秀作者，Github GSY 系列目負(fù)責(zé)人戀貓的小郭分享了Flutter 混合開(kāi)發(fā)的混亂之治。Flutter 基于自研的 Skia 引擎
自動(dòng)化在DevOps中的力量：簡(jiǎn)化軟件開(kāi)發(fā)和交付

自動(dòng)化在DevOps中扮演著重要角色，它提升了DevOps的效能。通過(guò)自動(dòng)化工具和方法，DevOps團(tuán)隊(duì)可以實(shí)現(xiàn)以下目標(biāo)：消除手動(dòng)和重復(fù)性任務(wù)。簡(jiǎn)化流程。在整個(gè)軟件開(kāi)發(fā)生命周期中實(shí)現(xiàn)更
.NET 程序的 GDI 句柄泄露的再反思

一、背景1. 講故事上個(gè)月我寫過(guò)一篇如何洞察 C# 程序的 GDI 句柄泄露文章，當(dāng)時(shí)用的是 GDIView + WinDbg 把問(wèn)題搞定，前者用來(lái)定位泄露資源，后者用來(lái)定位泄露代碼，后面有朋友反
猿輔導(dǎo)與新東方的兩種“歸途”

作者｜卓心月出品｜零態(tài)LT（ID：LingTai_LT）如何成為一家偉大企業(yè)？答案一定是對(duì)“勢(shì)”的把握，這其中最關(guān)鍵的當(dāng)屬對(duì)企業(yè)戰(zhàn)略的制定，且能夠站在未來(lái)看現(xiàn)在，即使這其中的
攜眾多高端產(chǎn)品亮相ChinaJoy，小米帶來(lái)一場(chǎng)科技與人文的視聽(tīng)盛宴

7月28日，全球數(shù)字娛樂(lè)領(lǐng)域最具知名度與影響力的年度盛會(huì)中國(guó)國(guó)際數(shù)碼互動(dòng)娛樂(lè)展覽會(huì)（簡(jiǎn)稱ChinaJoy）在上海新國(guó)際博覽中心盛大開(kāi)幕。作為全球領(lǐng)先的科
OPPO、vivo、小米等國(guó)內(nèi)廠商Q2在印度智能手機(jī)市場(chǎng)份額依舊高達(dá)55%

7月20日消息，據(jù)外媒報(bào)道，研究機(jī)構(gòu)的報(bào)告顯示，在全球智能手機(jī)出貨量同比仍在下滑的大背景下，印度這一有潛力的市場(chǎng)也未能幸免，出貨量同比也有下滑，多家廠
四年持續(xù)更迭堅(jiān)持探索行業(yè)無(wú)人之境，HarmonyOS 4帶來(lái)五大升級(jí)多項(xiàng)創(chuàng)新

除了華為每年新發(fā)布的旗艦手機(jī)系列，上億花粉更加期待鴻蒙系統(tǒng)每次的跨版本大更新。8月4日，HarmonyOS 4于HDC 2023正式發(fā)布，這也是該系統(tǒng)歷經(jīng)四年的再
郭明錤稱華為和江淮汽車合作開(kāi)發(fā)問(wèn)界MPV，定價(jià)100萬(wàn)左右、計(jì)劃明年量產(chǎn)

8 月 1 日消息，郭明錤今天在 Medium 平臺(tái)發(fā)布博文，稱華為正在和江淮汽車合作，開(kāi)發(fā)售價(jià)在 100 萬(wàn)元的問(wèn)界 MPV，預(yù)計(jì)在 2024 年第 2 季度量產(chǎn)，銷量目標(biāo)為
三星Galaxy Z Fold5官方渲染圖曝光：13.4mm折疊厚度依舊感人

據(jù)官方此前宣布，三星將于7月26日在韓國(guó)首爾舉辦Unpacked活動(dòng)，屆時(shí)將帶來(lái)帶來(lái)包括Galaxy Buds 3、Galaxy Watch 6、Galaxy Tab S9、Galaxy Z Flip 5、

AVt天堂网手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

互聯(lián)網(wǎng)高并發(fā)設(shè)計(jì)的手段:架構(gòu)、算法、代碼

性能優(yōu)化目標(biāo)

性能優(yōu)化手段

1、空間換時(shí)間

2、時(shí)間換空間

3、找到系統(tǒng)瓶頸

性能優(yōu)化層次

1、架構(gòu)設(shè)計(jì)層次

2、算法邏輯層次

3、代碼優(yōu)化層次

數(shù)據(jù)優(yōu)化層次

算法優(yōu)化邏輯層次

架構(gòu)層次優(yōu)化

Feed流系統(tǒng)分級(jí)緩存

掘力計(jì)劃第 20 期：Flutter 混合開(kāi)發(fā)的混亂之治

自動(dòng)化在DevOps中的力量：簡(jiǎn)化軟件開(kāi)發(fā)和交付

.NET 程序的 GDI 句柄泄露的再反思

猿輔導(dǎo)與新東方的兩種“歸途”

攜眾多高端產(chǎn)品亮相ChinaJoy，小米帶來(lái)一場(chǎng)科技與人文的視聽(tīng)盛宴

OPPO、vivo、小米等國(guó)內(nèi)廠商Q2在印度智能手機(jī)市場(chǎng)份額依舊高達(dá)55%

四年持續(xù)更迭堅(jiān)持探索行業(yè)無(wú)人之境，HarmonyOS 4帶來(lái)五大升級(jí)多項(xiàng)創(chuàng)新

郭明錤稱華為和江淮汽車合作開(kāi)發(fā)問(wèn)界MPV，定價(jià)100萬(wàn)左右、計(jì)劃明年量產(chǎn)

三星Galaxy Z Fold5官方渲染圖曝光：13.4mm折疊厚度依舊感人

最新推薦

猜你喜歡

熱門推薦

相關(guān)資訊