AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 軟件

11個高可用設(shè)計實戰(zhàn)技巧,輕松應對大廠面試

來源: 責編: 時間:2024-07-03 10:07:03 115觀看
導讀大家好,我是Tom哥。大型互聯(lián)網(wǎng)架構(gòu)設(shè)計,講究一個四件套組合拳玩法,高并發(fā)、高性能、高可用、高擴展。如果能掌握這四個方面,應付大廠面試以及日常工作中的架構(gòu)方案設(shè)計基本不是什么難題。今天,Tom哥就帶大家學習下高可用都

大家好,我是Tom哥。VTI28資訊網(wǎng)——每日最新資訊28at.com

大型互聯(lián)網(wǎng)架構(gòu)設(shè)計,講究一個四件套組合拳玩法,高并發(fā)、高性能、高可用、高擴展。VTI28資訊網(wǎng)——每日最新資訊28at.com

如果能掌握這四個方面,應付大廠面試以及日常工作中的架構(gòu)方案設(shè)計基本不是什么難題。VTI28資訊網(wǎng)——每日最新資訊28at.com

今天,Tom哥就帶大家學習下高可用都有哪些設(shè)計技巧?VTI28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片VTI28資訊網(wǎng)——每日最新資訊28at.com

一、系統(tǒng)拆分

有句古話 "牽一發(fā)而動全身"。VTI28資訊網(wǎng)——每日最新資訊28at.com

面對一個龐然大物,如果沒有一個合理的分工分層。任何一個小小失誤都會被無限放大,釀成巨大災難。VTI28資訊網(wǎng)——每日最新資訊28at.com

萬物相通,回到我們的軟件架構(gòu)。VTI28資訊網(wǎng)——每日最新資訊28at.com

早前的系統(tǒng)都是單體系統(tǒng),比如電商業(yè)務,會員、商品、訂單、物流、營銷等模塊都堆積在一個系統(tǒng)。每到節(jié)假日搞個大促活動,系統(tǒng)擴容時,一擴全擴,一掛全掛。只要一個接口出了問題,整個系統(tǒng)都不可用。VTI28資訊網(wǎng)——每日最新資訊28at.com

“雞蛋不能放在一個籃子里”,這種連帶風險換誰都承受不起。VTI28資訊網(wǎng)——每日最新資訊28at.com

因此,系統(tǒng)拆分 成了更多人的選擇。VTI28資訊網(wǎng)——每日最新資訊28at.com

慢慢的就有了我們現(xiàn)在看到的微服務架構(gòu),將一個復雜的業(yè)務域按DDD的思想拆分成若干子系統(tǒng),每個子系統(tǒng)負責專屬的業(yè)務功能,做好垂直化建設(shè),各個子系統(tǒng)之間做好邊界隔離,降低風險蔓延。VTI28資訊網(wǎng)——每日最新資訊28at.com

二、解耦

軟件開發(fā)有個重要原則“高內(nèi)聚、低耦合”。VTI28資訊網(wǎng)——每日最新資訊28at.com

小到接口抽象、MVC 分層,大到 SOLID 原則、23種設(shè)計模式。核心都是降低不同模塊間的耦合度,避免一處錯誤改動影響到整個系統(tǒng)。VTI28資訊網(wǎng)——每日最新資訊28at.com

就以開閉原則為例,對擴展是開放的,對修改是關(guān)閉的。隨著業(yè)務功能迭代,如何做到每次改動不對原來的舊代碼產(chǎn)生影響。VTI28資訊網(wǎng)——每日最新資訊28at.com

Spring 框架給我們提供了一個很好的思路,里面有個重要設(shè)計 AOP ,全稱(Aspect Oriented Programming),面向切面編程。VTI28資訊網(wǎng)——每日最新資訊28at.com

核心就是采用動態(tài)代理技術(shù),通過對字節(jié)碼進行增強,在方法調(diào)用的時候進行攔截,以便于在方法調(diào)用前后,增加我們需要的額外處理邏輯。VTI28資訊網(wǎng)——每日最新資訊28at.com

當然還有一個重要思路就是事件機制,通過發(fā)布訂閱模式,新增的需求,只需要訂閱對應的事件通知,針對性消費即可。不會對原來的代碼侵入性修改,是不是會好很多。VTI28資訊網(wǎng)——每日最新資訊28at.com

三、異步

同步指一個進程在執(zhí)行請求的時候,若該請求需要一段時間才能返回信息,那么這個進程將會一直等待下去,直到收到返回信息才繼續(xù)執(zhí)行下去。VTI28資訊網(wǎng)——每日最新資訊28at.com

效率會大大降低,聰明的人想到了 異步 方式。VTI28資訊網(wǎng)——每日最新資訊28at.com

如果是非實時響應的動作可以采用異步來完成,線程不需要一直等待,而是繼續(xù)執(zhí)行后面的邏輯。VTI28資訊網(wǎng)——每日最新資訊28at.com

如:線程池(ThreadPoolExecutor)、消息隊列 等都是這個原理VTI28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片VTI28資訊網(wǎng)——每日最新資訊28at.com

比如一個用戶在淘寶下了一筆購物訂單,關(guān)心的是訂單是否創(chuàng)建成功,能否進行后續(xù)的付款流程VTI28資訊網(wǎng)——每日最新資訊28at.com

至于其他業(yè)務動作,如短信通知、郵件通知、生成訂單快照、創(chuàng)建超時任務記錄,這些非核心動作用戶并不是特別關(guān)心。VTI28資訊網(wǎng)——每日最新資訊28at.com

我們可以采用消息隊列的發(fā)布/訂閱 機制,數(shù)據(jù)庫插入訂單記錄后,發(fā)布一條消息到 MQ,然后就可以告知用戶下單成功。VTI28資訊網(wǎng)——每日最新資訊28at.com

其他事情,由不同的 Task 任務訂閱消息異步處理,彼此間互不干擾。VTI28資訊網(wǎng)——每日最新資訊28at.com

四、重試

重試主要是體現(xiàn)在遠程的RPC調(diào)用,受 網(wǎng)絡(luò)抖動、線程資源阻塞 等因素影響,請求無法及時響應。VTI28資訊網(wǎng)——每日最新資訊28at.com

為了提升用戶體驗,調(diào)用方可以通過 重試 方式再次發(fā)送請求,嘗試獲取結(jié)果。比過:瀏覽器的 F5 刷新機制就是類似道理。VTI28資訊網(wǎng)——每日最新資訊28at.com

接口重試是一把雙刃劍,雖然客戶端收到了響應超時結(jié)果,但是我們無法確定,服務端是否已經(jīng)執(zhí)行完成。如果盲目地重試,可能會帶來嚴重后果。比如:銀行轉(zhuǎn)賬。VTI28資訊網(wǎng)——每日最新資訊28at.com

重試通常跟冪等組合使用,如果一個接口支持了 冪等,那你就可以隨便重試VTI28資訊網(wǎng)——每日最新資訊28at.com

關(guān)于的 冪等 的解決方案VTI28資訊網(wǎng)——每日最新資訊28at.com

  • 插入前先執(zhí)行查詢操作,看是否存在,再決定是否插入
  • 增加唯一索引
  • 建防重表
  • 引入狀態(tài)機,比如付款后,訂單狀態(tài)調(diào)整為已付款,SQL 更新記錄前 增加條件判斷
  • 增加分布式鎖
  • 采用 Token 機制,服務端增加 token 校驗,只有第一次請求是合法的

五、補償

我們知道不是所有的請求都能收到成功響應。除了上面的 重試 機制外,我們還可以采用補償玩法,實現(xiàn)數(shù)據(jù)最終一致性。VTI28資訊網(wǎng)——每日最新資訊28at.com

業(yè)務補償根據(jù)處理的方向分為兩部分:VTI28資訊網(wǎng)——每日最新資訊28at.com

  • 正向。多個操作構(gòu)成一個分布式事務,如果部分成功、部分失敗,我們會通過最大努力機制將失敗的任務推進到成功狀態(tài)
  • 逆向。同上道理,我們也可以采用反向操作,將部分成功任務恢復到初始狀態(tài)

注意:補償操作有個重要前提,業(yè)務能接受短時間內(nèi)的數(shù)據(jù)不一致。VTI28資訊網(wǎng)——每日最新資訊28at.com

補償有很多的實現(xiàn)方式:VTI28資訊網(wǎng)——每日最新資訊28at.com

1、本地建表方式,存儲相關(guān)數(shù)據(jù),然后通過定時任務掃描提取,并借助反射機制觸發(fā)執(zhí)行VTI28資訊網(wǎng)——每日最新資訊28at.com

2、也可以采用簡單的消息中間件,構(gòu)建業(yè)務消息體,由下游的的消費任務執(zhí)行。如果失敗,可以借助MQ的重試機制,多次重試VTI28資訊網(wǎng)——每日最新資訊28at.com

六、備份

任何服務器都有宕機的可能性,一旦存儲了數(shù)據(jù),帶上狀態(tài),如果發(fā)生故障,數(shù)據(jù)丟失,后果是我們無法承受的。VTI28資訊網(wǎng)——每日最新資訊28at.com

所以,容災備份也就變成了互聯(lián)網(wǎng)的基本能力。VTI28資訊網(wǎng)——每日最新資訊28at.com

那如何備份,不同的框架有不用的玩法。我們以 Redis 為例:VTI28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片VTI28資訊網(wǎng)——每日最新資訊28at.com

Redis 借助 RDB 和 AOF 來實現(xiàn)兩臺服務器間的數(shù)據(jù)同步VTI28資訊網(wǎng)——每日最新資訊28at.com

  • RDB,全量數(shù)據(jù)同步
  • AOF,增量數(shù)據(jù)同步,回放日志

一旦主節(jié)點掛了怎么辦?VTI28資訊網(wǎng)——每日最新資訊28at.com

這里引入哨兵機制。哨兵機制可以實現(xiàn)主從庫的自動切換,有效解決了故障轉(zhuǎn)移。整個過程分為三個階段:監(jiān)控、選主、通知。VTI28資訊網(wǎng)——每日最新資訊28at.com

除了 Redis 中間件外,其他常見的 MySQL、Kafka 消息中間件、HBase 、ES 等 ,凡是涉及到數(shù)據(jù)存儲的介質(zhì),都有備份機制,一旦主節(jié)點掛了,會啟用備份節(jié)點,保證數(shù)據(jù)不會丟失。VTI28資訊網(wǎng)——每日最新資訊28at.com

七、多活策略

雖然有了上面的備份策略,那是不是就萬事大吉呢?VTI28資訊網(wǎng)——每日最新資訊28at.com

在一些極端情況,如:機房斷電、機房火災、地震、山洪等不可抗力因素,所有的服務器都可能出現(xiàn)故障,無法對外提供服務,導致整體業(yè)務癱瘓。VTI28資訊網(wǎng)——每日最新資訊28at.com

為了降低風險,保證服務的24小時可用性,我們會采用 多活策略。VTI28資訊網(wǎng)——每日最新資訊28at.com

常見的多活方案有,同城雙活、兩地三中心、三地五中心、異地雙活、異地多活VTI28資訊網(wǎng)——每日最新資訊28at.com

不同的方案技術(shù)要求、建設(shè)成本、運維成本也都不一樣。VTI28資訊網(wǎng)——每日最新資訊28at.com

多活的技術(shù)方案復雜,需要考慮的問題點也非常多,這里只是拋磚引玉就不過多展開VTI28資訊網(wǎng)——每日最新資訊28at.com

八、隔離

隔離屬于物理層面的分割,將若干的系統(tǒng)低耦合設(shè)計,獨立部署,從物理上隔開。VTI28資訊網(wǎng)——每日最新資訊28at.com

每個子系統(tǒng)有自己獨立的代碼庫,獨立開發(fā),獨立發(fā)布。一旦出現(xiàn)故障,也不會相互干擾。當然如果不同子系統(tǒng)間有相互依賴,這種情況比較特殊,需要有默認值或者異常特殊處理,這屬于業(yè)務層面解決方案。VTI28資訊網(wǎng)——每日最新資訊28at.com

隔離屬于分布式技術(shù)的衍生產(chǎn)物,我們最常見的微服務解決方案。VTI28資訊網(wǎng)——每日最新資訊28at.com

將一個大型的復雜系統(tǒng)拆分成若干個微服務系統(tǒng),這些微服務子系統(tǒng)通常由不同的團隊開發(fā)、維護,獨立部署,服務之間通過 RPC 遠程調(diào)用。VTI28資訊網(wǎng)——每日最新資訊28at.com

隔離使得系統(tǒng)間邊界更加清晰,故障可以更加隔離開來,問題的發(fā)現(xiàn)與解決也更加快速,系統(tǒng)的可用性也更高。VTI28資訊網(wǎng)——每日最新資訊28at.com

九、限流

高并發(fā)系統(tǒng),如果遇到流量洪峰,超過了當前系統(tǒng)的承載能力。我們要怎么辦?VTI28資訊網(wǎng)——每日最新資訊28at.com

一種方案,照單全收,CPU、內(nèi)存、Load負載飚的很高,最后處理不過來,所有請求都超時無法正常響應。VTI28資訊網(wǎng)——每日最新資訊28at.com

另一種解決方案,“舍得,有舍有得”,多余的流量我們直接丟棄。VTI28資訊網(wǎng)——每日最新資訊28at.com

限流定義:VTI28資訊網(wǎng)——每日最新資訊28at.com

限制到達系統(tǒng)的并發(fā)請求數(shù)量,保證系統(tǒng)能夠正常響應部分用戶請求,而對于超過限制的流量,則通過拒絕服務的方式保證整體系統(tǒng)的可用性。VTI28資訊網(wǎng)——每日最新資訊28at.com

根據(jù)作用范圍:限流分為單機版限流、分布式限流VTI28資訊網(wǎng)——每日最新資訊28at.com

1、單機版限流VTI28資訊網(wǎng)——每日最新資訊28at.com

主要借助于本機內(nèi)存來實現(xiàn)計數(shù)器,比如通過AtomicLong#incrementAndGet(),但是要注意之前不用的key定期做清理,釋放內(nèi)存。VTI28資訊網(wǎng)——每日最新資訊28at.com

純內(nèi)存實現(xiàn),無需和其他節(jié)點統(tǒng)計匯總,性能最高。但是優(yōu)點也是缺點,無法做到全局統(tǒng)一化的限流。VTI28資訊網(wǎng)——每日最新資訊28at.com

2、分布式限流VTI28資訊網(wǎng)——每日最新資訊28at.com

單機版限流僅能保護自身節(jié)點,但無法保護應用依賴的各種服務,并且在進行節(jié)點擴容、縮容時也無法準確控制整個服務的請求限制。而分布式限流,以集群為維度,可以方便的控制這個集群的請求限制,從而保護下游依賴的各種服務資源。VTI28資訊網(wǎng)——每日最新資訊28at.com

限流支持多個維度:VTI28資訊網(wǎng)——每日最新資訊28at.com

  • 整個系統(tǒng)一定時間內(nèi)(比如每分鐘)處理多少請求
  • 單個接口一定時間內(nèi)處理多少流量
  • 單個IP、城市、渠道、設(shè)備id、用戶id等在一定時間內(nèi)發(fā)送的請求數(shù)
  • 如果是開放平臺,則為每個appkey設(shè)置獨立的訪問速率規(guī)則

常見的限流算法:VTI28資訊網(wǎng)——每日最新資訊28at.com

  • 計數(shù)器限流
  • 滑動窗口限流
  • 漏桶限流
  • 令牌桶限流

十、熔斷

熔斷,其實是對調(diào)用鏈路中某個資源出現(xiàn)不穩(wěn)定狀態(tài)時(如:調(diào)用超時或異常比例升高),對這個資源的調(diào)用進行限制,讓請求快速失敗,避免影響到其它的資源而導致級聯(lián)錯誤。VTI28資訊網(wǎng)——每日最新資訊28at.com

熔斷的主要方式是使用斷路器阻斷對故障服務器的調(diào)用VTI28資訊網(wǎng)——每日最新資訊28at.com

斷路器有三種狀態(tài),關(guān)閉、打開、半打開。VTI28資訊網(wǎng)——每日最新資訊28at.com

狀態(tài)機:VTI28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片VTI28資訊網(wǎng)——每日最新資訊28at.com

1、關(guān)閉(Closed)狀態(tài):在這個狀態(tài)下,請求都會被轉(zhuǎn)發(fā)給后端服務。同時會記錄請求失敗的次數(shù),當請求失敗次數(shù)在一段時間超過一定次數(shù)就會進入打開狀態(tài)。VTI28資訊網(wǎng)——每日最新資訊28at.com

2、打開(Open)狀態(tài):在這個狀態(tài)下,熔斷器會直接拒絕請求,返回錯誤,而不去調(diào)用后端服務。同時,會有一個定時器,時間到的時候會變成半打開狀態(tài)。目的是假設(shè)服務會在一段時間內(nèi)恢復正常。VTI28資訊網(wǎng)——每日最新資訊28at.com

3、半打開(Half Open)狀態(tài):在這個狀態(tài)下,熔斷器會嘗試把部分請求轉(zhuǎn)發(fā)給后端服務,目的是為了探測后端服務是否恢復。如果請求失敗會進入打開狀態(tài),成功情況下會進入關(guān)閉狀態(tài),同時重置計數(shù)。VTI28資訊網(wǎng)——每日最新資訊28at.com

目前,市面流行的解決方案是阿里的開源框架 Sentinel,提供了Dashboard控制臺用于定義資源以及規(guī)則配置VTI28資訊網(wǎng)——每日最新資訊28at.com

十一、降級

降級是系統(tǒng)保護的一種重要手段。VTI28資訊網(wǎng)——每日最新資訊28at.com

正如 “好鋼用在刀刃上”,為了使有限資源發(fā)揮最大價值,我們會臨時關(guān)閉一些非核心功能,減輕系統(tǒng)壓力,并將有限資源留給核心業(yè)務。VTI28資訊網(wǎng)——每日最新資訊28at.com

比如電商大促,業(yè)務在峰值時刻,系統(tǒng)抵擋不住全部的流量時,系統(tǒng)的負載、CPU 的使用率都超過了預警水位,可以對一些非核心的功能進行降級,降低系統(tǒng)壓力,比如把商品評價、成交記錄等功能臨時關(guān)掉。棄車保帥,保證 創(chuàng)建訂單、訂單支付 等核心功能的正常使用。VTI28資訊網(wǎng)——每日最新資訊28at.com

當然,不同業(yè)務、不同公司,處理方式也各不相同,需要結(jié)合實際場景,和業(yè)務方同學一塊討論,最后達成一個統(tǒng)一認可的降級方案。VTI28資訊網(wǎng)——每日最新資訊28at.com

總結(jié)下來:降級是通過暫時關(guān)閉某些非核心服務或者組件從而保護核心系統(tǒng)的可用性。VTI28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-26-98409-0.html11個高可用設(shè)計實戰(zhàn)技巧,輕松應對大廠面試

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 閑魚總裁季山回應社區(qū)店:未來三年會在線下店方面堅定投入,考慮開放加盟

下一篇: 如何正確使用上線部署,泳道、預發(fā)布到底如何理解?

標簽:
  • 熱門焦點
Top