AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 軟件

在Kubernetes中實現gRPC流量負載均衡

來源: 責編: 時間:2023-10-27 17:21:17 291觀看
導讀在嘗試將gRPC服務部署到Kubernetes集群中時,一些用戶(包括我)面臨的挑戰之一是實現適當的負載均衡。在深入了解如何平衡gRPC的方式之前,我們首先需要回答一個問題,即為什么需要平衡流量,如果Kubernetes已經完成了這項工作。

在嘗試將gRPC服務部署到Kubernetes集群中時,一些用戶(包括我)面臨的挑戰之一是實現適當的負載均衡。在深入了解如何平衡gRPC的方式之前,我們首先需要回答一個問題,即為什么需要平衡流量,如果Kubernetes已經完成了這項工作。OOm28資訊網——每日最新資訊28at.com

本文關注于Kubernetes和Golang。OOm28資訊網——每日最新資訊28at.com

OOm28資訊網——每日最新資訊28at.com

為什么在Kubernetes中無法適當地平衡gRPC流量?

之所以難以平衡gRPC流量的主要原因是人們將gRPC視為HTTP,這就是問題的根源。設計上它們是不同的,雖然HTTP為每個請求創建和關閉連接,但gRPC使用HTTP2協議,在長時間的TCP連接上運行,使得平衡更加困難,因為多個請求通過同一個連接進行多路復用。然而,這并不是配置gRPC服務在Kubernetes中出現平衡問題的唯一原因,以下是一些常見的錯誤配置:OOm28資訊網——每日最新資訊28at.com

  • 錯誤的gRPC客戶端配置
  • 錯誤的Kubernetes服務配置

錯誤的gRPC客戶端配置

設置gRPC客戶端時常見的情況是選擇默認配置,這對于1-1連接類型完全有效,但對于生產環境來說并不如我們所希望的有效。這背后的原因是因為默認的gRPC客戶端提供了使用簡單的IP/DNS記錄連接的可能性,這只會創建一個與目標服務的連接。OOm28資訊網——每日最新資訊28at.com

因此,需要為與多個服務器建立連接進行不同的設置,將連接類型從1-1轉換為1-N。OOm28資訊網——每日最新資訊28at.com

默認設置:OOm28資訊網——每日最新資訊28at.com

func main(){  conn, err := grpc.Dial("my-domain:50051", grpc.WithInsecure())  if err != nil {    log.Fatalf("error connecting with gRPC server: %v", err)  }    defer conn.Close()  cli := test.NewTestServiceClient(conn)  rs, err := cli.DoSomething(context.Background(), ...)  .  .  .}

新的設置:OOm28資訊網——每日最新資訊28at.com

func main(){  conn, err := grpc.Dial("my-domain:50051", grpc.WithInsecure())  if err != nil {    log.Fatalf("error connecting with gRPC server: %v", err)  }    defer conn.Close()  cli := test.NewTestServiceClient(conn)  rs, err := cli.DoSomething(context.Background(), ...)  .  .  .}

這里有兩個重要的更改需要注意:OOm28資訊網——每日最新資訊28at.com

  • 地址: 最終解析的地址將類似于 dns:///my-domain:50051,之所以使用這種格式是因為Dial函數允許我們使用由Scheme://Authority/Endpoint組成的目標,而在我們的情況下,我跳過了Authority。因此,首先我添加了dns作為方案,因為我希望解析一個域并持續觀察其更改,解析器選項有透傳(默認)、dns和手動,更多詳情請參閱這里。
  • 負載均衡器選項: 如果我們的客戶端現在連接到多個服務器,那么我們的gRPC客戶端可以根據所選擇的負載均衡算法平衡請求。

總結一下,我們的gRPC客戶端現在能夠創建不同的連接,前提是域名解析為多個A或AAAA記錄,而且不僅如此,現在還能夠將請求均勻地分配到不同的服務器。OOm28資訊網——每日最新資訊28at.com

現在讓我們看看如何讓它與Kubernetes一起工作的缺失部分。OOm28資訊網——每日最新資訊28at.com

錯誤的Kubernetes服務配置

在Kubernetes中創建服務非常簡單,我們只需要定義服務名稱、端口和選擇器,以便服務可以動態地將Pod分組并自動平衡請求,如下所示:OOm28資訊網——每日最新資訊28at.com

apiVersion: v1kind: Servicemetadata:  name: my-servicespec:  selector:    app: my-app  ports:    - name: grpc      protocol: TCP      port: 50051      targetPort: 50051

那么,對于先前的設置,問題在于默認的Kubernetes服務只創建了一個DNS記錄,鏈接到單個IP。因此,當您執行類似 nslookup my-service.{namespace}.svc.cluster.local 的操作時,返回的是一個單個IP,這使得在常見的gRPC實現中連接圖看起來像這樣:OOm28資訊網——每日最新資訊28at.com

OOm28資訊網——每日最新資訊28at.com

例如,使用默認的Kubernetes服務的連接圖:OOm28資訊網——每日最新資訊28at.com

綠線表示與客戶端的活動連接,黃色表示未活動的Pod。客戶端與Kubernetes服務創建了持久連接,同時服務也與其中一個Pod創建了連接,但這并不意味著服務與其余的Pod沒有連接。OOm28資訊網——每日最新資訊28at.com

讓我們使用一個無頭服務來解決這個問題:OOm28資訊網——每日最新資訊28at.com

apiVersion: v1kind: Servicemetadata:  name: my-servicespec: clusterIP: None **this is the key*** selector:    app: my-app  ports:    - name: grpc      protocol: TCP      port: 50051      targetPort: 50051

創建了無頭服務后,nslookup看起來有些不同,現在它返回與之關聯的記錄(將Pod的IP分組到服務中),從而使gRPC客戶端更好地了解需要連接的服務器數量。OOm28資訊網——每日最新資訊28at.com

現在您已經看到了gRPC客戶端的配置,您必須知道為什么Kubernetes服務返回與一組Pod關聯的IP非常重要。原因是客戶端可以看到所有需要建立連接的服務器。在這一點上,您可能已經意識到了一個注意事項,即平衡的責任現在在客戶端部分,而不在Kubernetes的一側。我們現在需要從Kubernetes那里得到的主要任務是保持與服務關聯的Pod列表的最新狀態。OOm28資訊網——每日最新資訊28at.com

OOm28資訊網——每日最新資訊28at.com

例如,在具有無頭Kubernetes服務的連接圖中,可以看到連接發生了一些變化,現在我們不通過Kubernetes服務來訪問Pod,而是使用Kubernetes服務來檢索與域名關聯的Pod列表,然后直接與Pod建立連接。但是不要因為直接連接到Pod而感到驚慌,因為我們在客戶端中設置了DNS解析器類型,該解析器將持續監視與無頭服務的更改,并將與可用的Pod保持最新的連接。OOm28資訊網——每日最新資訊28at.com

為什么不使用服務網格?

如果可以的話,請使用服務網格,因為在服務網格中,所有這些設置都是透明的,而且最重要的是它是與編程語言無關的。關鍵區別在于服務網格利用了Sidecar模式和控制平面來編排入站和出站流量,還可以看到所有網絡和流量類型(HTTP、TCP等),從而能夠正確平衡請求。簡而言之,如果您不使用服務網格,那么您需要直接從每個客戶端連接到多個服務器,或者連接到一個L7代理來幫助平衡請求。OOm28資訊網——每日最新資訊28at.com

附加信息

盡管先前的設置可以工作,但我在嘗試在alpine Linux映像中進行Pod輪換或擴展時重新平衡連接時遇到了問題。經過一些研究,我意識到我并不是唯一遇到這種問題的人,可以查看這里和這里的一些相關的GitHub問題。這就是為什么我決定創建自己的解析器的原因,您可以在這里查看我創建的自定義解析器,我創建的自定義解析器非常基礎,但現在可以正常工作,gRPC客戶端現在可以再次監聽域名的更改,我還為該庫添加了一個可配置的監聽器,它每隔一段時間查找域名并更新提供給gRPC連接管理器的IP集合,如果您想貢獻,歡迎加入。OOm28資訊網——每日最新資訊28at.com

另一方面,因為我想深入了解,所以我決定創建自己的gRPC代理(我也學到了很多東西),利用了gRPC的http2基礎,我可以創建一個代理,而無需更改proto負載消息或甚至不知道proto文件的定義(還使用了前面提到的自定義解析器)。OOm28資訊網——每日最新資訊28at.com

最后,我想說的是,如果您的gRPC客戶端需要與許多服務器連接,我強烈建議使用代理作為平衡的機制,因為將這個機制放在主應用程序中將增加復雜性和資源消耗,嘗試保持許多打開的連接并重新平衡它們,想象一下,如果最終的平衡在應用程序中,您將有一個與N個服務器連接的實例(1-N),但是使用代理,您將有一個與M個代理連接到N個服務器的實例(1-M-N),其中M<N,因為每個代理實例可以處理與不同服務器的許多連接。OOm28資訊網——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-26-15439-0.html在Kubernetes中實現gRPC流量負載均衡

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 事與愿違:可變類出現了線程安全問題

下一篇: 游戲全球發行平臺的實踐與探索

標簽:
  • 熱門焦點
Top