石頭自清潔掃拖機器人G10S評測：多年黑科技集大成之作 懶人終極福音
科技圈經常能看到一個詞叫“縫合怪”，用來形容那些把好多功能或者外觀結合在一起的產品，通常這樣的詞是貶義詞，但如果真的是產品縫合的好、縫合的實用的話，那它就成了中性詞，今
百舸流量運營平臺承接著京東金融APP核心資源位和京東APP部分重要資源位，大促單接口QPS達到10w+,壓測單接口到20w+,典型的c端讀鏈路高并發場景。接下來，聊聊我們的系統都有哪些應對高并發的“武功秘籍”。
緩存是提高系統的并發和提升系統的性能利器。redis分布式緩存用來解決緩存容量和性能問題，本地緩存用來解決redis的熱key問題和提升性能。
詳情可以查看之前的文章《服務端應用多級緩存架構方案》。
限流是保護系統的一種策略，限流是控制接受請求的速率，通過壓測提前預知系統可承載的并發量，是對系統資源的前置保護，保證系統容量范圍內的請求能夠正常返回，超過容量的請求丟棄。
可通過JSF配置限流或者sentinel實現限流。經典算法：令牌桶，漏桶，滑動時間窗口。
熔斷也是保護系統的一種手段，分布式系統中系統之間通過微服務調用，偶爾會出現依賴的某個服務不可用或者耗時驟增，導致耗盡業務線程池，從而拖垮整個服務，可通過sentinel配置慢調用比例或者異常比例策略，達到熔斷閾值后，接下來的熔斷時長內請求會自動被熔斷。經過熔斷時長后熔斷器會進入探測恢復狀態（HALF-OPEN 狀態），若接下來的一個請求成功通過后，則結束熔斷，否則繼續熔斷。 實際過程中，需要結合上下游鏈路，設置合理的超時時間以及兜底數據。
常見的降級類型有：日常降級；大促非核心接口降級；大促日志降級，只打印error級別日志。
系統解耦：完成一項業務指令通常需要多個微服務協作，核心業務完成后，可通過消息的方式進行異步解耦，讓其他服務訂閱消息，完成各自的業務邏輯，適用于無需用戶等待感知的場景。
提升性能:在C端用戶等待的感知的場景，需要多個微服務協作，如果串行RPC調用，耗時是每個服務耗時之和，可通過CompletableFuture實現RPC異步調用，當使用時匯總結果，提升系統的性能。
池化技術思想： 池化思想的解決的核心思想是通過預先創建數據庫連接或者線程放入池中，以便在需要時可以重復使用，減少創建和銷毀的開銷，提高系統的性能和并發。
數據庫連接池：如果是部署多臺機器，注意多臺機器連接數是否超過數據庫最大連接數，避免出現連接不上問題。
業務線程池：自定義線程池，根據業務采用合適的拒絕策略，注意線程隔離，避免某個接口異常拖垮整個應用。
減少調用鏈路，優化代碼邏輯執行順序，將阻斷校驗流程前置，優化數據結構和算法，優化查詢邏輯，減少IO次數等。
使用G1垃圾回收器，應用系統根據自己的業務情況配置JVM參數，常規4C8G通用配置可參考：
-Xms4096m -Xmx4096m -XX:MaxMetaspaceSize=256m -XX:MetaspaceSize=256m -XX:+UseG1GC -XX:MaxGCPauseMillis=80核心參數：-Xms初始堆大小，-Xmx最大堆大小，MaxMetaspaceSize最大元空間大小，MetaspaceSize表示Metaspace首次使用不足時觸發Full GC（全面垃圾回收）的閾值，垃圾回收機制使用G1回收器，MaxGCPauseMillis在jvm垃圾回收過程中允許停頓的最大毫秒時間。
應用服務應該設計為無狀態的，可通過增加應用實例數量來應對突發流量，將流量分到每臺機器上，同樣可以將應用進行按照業務拆分，單獨部署，提高系統并發。
合并批量請求，將多次調用改為一次批量調用，減少網絡開銷。
通過定時任務或者初始化腳本提前將數據加載到內存，提高系統的性能，常見的有緩存數據預熱，ES數據預熱等。
針對應用升級或者重啟抖動，可以通過JSF預熱的方式，應用重啟后，在預熱時間內，流量逐漸增加的方式，減少抖動。
JSF預熱可參考文章《后端服務之應用預熱》
業務數據通常存儲在支持事務的關系型數據庫中，當在面對復雜查詢場景時捉襟見肘，可將數據通過binlog異構到ES中，ES支持復雜場景的查詢并且有較高的性能，輕松突破數據庫單表數據量大及多表關聯查詢瓶頸。
數據異構可參考文章《記一次生產慢sql索引優化及思考》 中的目錄五：長期優化方案。
分庫和分表各抗什么？
分表：當一個表中的數據量過大時，會導致查詢速度變慢、插入和更新操作效率下降等問題。通過分表，每個小表的數據量就相對較小，性能問題得以緩解。
分庫：當一個數據庫實例無法承受大量數據的存儲和并發時，可通過分庫來分散系統壓力。
通常情況下，分庫和分表是結合使用的。
數據庫優化中常見的是sql優化，是否命中索引，提高服務器硬件配置。
以上為百舸系統處理高并發問題的一些策略，高并發架構是演進而來，避免過度設計，沒有一個技術能解決所有的問題，抓住關鍵矛盾，使用前一定要做好調研和評估，還有哪些？歡迎補充。
本文鏈接：http://www.tebozhan.com/showinfo-26-84020-0.html對號入座，快看看你的應用系統用了哪些高并發技術？
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號