技術分享:詳解Docker負載均衡和服務發現

Docker 是一個開源項目,誕生於 2013 年初,最初是 dotCloud 公司內部的一個業餘項目,自開源後受到廣泛的關注和討論,以至於dotCloud 公司後來都改名為 Docker Inc。

Docker 是一個使用Go語言開發的開源的應用容器引擎,是PaaS提供商dotCloud開源的一個容器引擎。Docker 遵從 Apache 2.0 協議,項目代碼在 GitHub 上進行維護。

簡單講,Docker就是一個可以分配資源的進程隔離模型。Docker 項目的目標是實現輕量級的操作系統虛擬化解決方案。

技術分享:詳解Docker負載均衡和服務發現

相關術語解釋

  • Dubbo:阿里巴巴公司開源的一個高性能優秀的服務框架,使得應用可通過高性能的 RPC 實現服務的輸出和輸入功能,可以和Spring框架無縫集成。
  • LVS:Linux Virtual Server的簡寫,意即Linux虛擬服務器,是一個虛擬的服務器集群系統。
  • Ipvs:IP虛擬服務器(IP Virtual Server,簡寫為IPVS)。是運行在LVS下的提供負載平衡功能的一種技術
  • Nginx:一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器。
  • HAProxy:一個使用C語言編寫的自由及開放源代碼軟件[1],其提供高可用性、負載均衡,以及基於TCP和HTTP的應用程序代理。
  • 南北通信:指的是整個容器集群入口的通信。南北通信的特點往往是通信量比較大,因此我們首先用SLB將流量分散到各個主機節點。
  • 東西通信:指的是集群內部,容器和容器間的通信方式。

技術原理介紹

容器化帶來的問題

在缺省網絡模型中,容器每次重啟後,IP會發生變動,在一個大的分佈式系統保證IP地址不變是比較複雜的事情。

IP頻繁發生變動,動態應用部署無法預知容器的IP地址,client端如何發現server端的訪問端點?

問題解決方案

根據客戶端是否有感知進行分類。

客戶端的發現:client 訂閱註冊中心,有一個固定的註冊中心地址,client訂閱某個服務的註冊中心,註冊中心根據服務的運行狀態推送某個服務的訪問端點列表給client端。該方案的實現舉例有Dubbo、DNS的解析等。

技術分享:詳解Docker負載均衡和服務發現

服務端的發現:服務端提供某個服務固定的訪問端點,客戶端直接訪問該端點即可達到與服務端通信的目的,該訪問端口對接後端具有動態IP的容器,作為請求的入口,負責請求轉發到後端的容器。

該方案的實現舉例就是各種對後端負載均衡的實現,包括LVS 、Nginx、HAProxy等。

我們可以認為如下公式基本成立:"服務端的發現" = "負載均衡器" + "路由配置自動更新"

對比客戶端的發現,服務端發現對客戶端無感知,由於很多已有的應用或者系統並不是按照類似Dubbo這種服務化的框架實現的,這些應用或者系統的客戶端對服務發現都是無感知的,因此服務端的發現就表現出了獨特的優勢。

客戶端的服務發現方法中,DNS是一個例外,幾乎所有的客戶端都支持DNS。下面介紹客戶端DNS和服務端的負載均衡器做服務發現的幾個方案。

微服務發現方案

DNS解析到多個IP

優點:Docker版本大於1.10即原生支持容器集群內部DNS的服務發現。

缺點:由於DNS TTL生效時間的存在,解析的結果不能做到實時,即使TTL設置為0,某些應用或者方法庫會緩存DNS解析的結果,導致會解析到已經失效的地址上。

內核空間 LVS/IPVS

優點:IPVS的方案是Docker在未來會正式發佈的1.12版本中採用的方案,主要是做到了4層的負載均衡,請求的轉發實現在內核中,不需要二次拷貝請求和響應的內容,不需要解析和處理7層HTTP協議,效率高。

缺點:缺少7層負載均衡的支持,一個服務的負載均衡會佔用主機的一個端口,服務與服務之間暴露的端口如果相同會產生衝突。

用戶空間Nginx

優點:同時支持4層和7層負載均衡的代理,多進程模型方便利用多核性能,具有cache功能,亦可作為靜態文件Web服務器,7層可以根據區分HOST字段來複用同一個80端口,解決端口衝突的問題。

7層負載會解析HTTP協議,支持多層路由,包括根據域名不同進行路由,根據路徑不同進行路由,內部重定向等多種HTTP協議層的功能。

缺點:負載均衡調度算法較少,對後端進行健康檢查的策略較少。

用戶空間 HAProxy

優點:同時支持用戶空間4層和7層負載均衡的代理,是一個純粹的軟負載均衡器,支持Round-Robin,static-rr,least-conn,source-IP等多種調度算法,對後端進行健康檢查的策略完備,包括TCP端口檢查,HTTP請求檢查,可執行程序檢查等帶外檢查。

7層可以根據區分HOST字段來複用同一個80端口,解決端口衝突的問題。7層負載會解析HTTP協議,支持多層路由,包括根據域名不同進行路由,根據路徑不同進行路由,內部重定向等多種HTTP協議層的功能。

缺點:不能作為靜態文件服務器,不支持Cache緩存功能。

容器服務的負載均衡方案

經過前面優缺點的分析和結合相關產品的優勢,提供了以下解決方案。

Docker自帶的DNS 服務發現,只要Docker版本大於1.1,就支持DNS的服務發現。其特點是為:

1)每個容器提供獨立的DNS解析;

2)可以通過容器名與別名(Aliases)方式在整個網絡作用域內解析到某個容器的IP;

3)通過鏈接別名的方式(Link Aliases)在容器的作用域內設置DNS解析,好處是不同容器的相同別名不會衝突。

4)對外部的DNS解析請求進行代理。如下圖所示:

技術分享:詳解Docker負載均衡和服務發現

SLB做到動態綁定的原理:Swarm監管容器的狀態,如果容器正常運行,則把容器加入到SLB的後端,如果容器發現異常,則把容器從SLB的後端摘下來。

HAProxy實現動態服務發現的原理:HAProxy容器內除了有HAProxy軟件,還有腳本程序監管容器的狀態,根據容器的健康狀況重新生成負載均衡信息,然後重新加載(reload)HAProxy,使得新的負載均衡信息生效。

實現不停服rolling_update原理:平滑升級的關鍵在於每一時刻均有至少一個容器還能正常提供服務。

1)需要部署多個容器,將容器分為A、B兩批更新。

2)更新容器時,先將A批容器的路由從SLB或者HAProxy上面摘下來。

3) 更新A批容器

4)A批容器健康檢查正常後,重新加入路由

5)摘下B批容器的路由

6)更新B批容器。

實現灰度發佈原理:不通版本的服務可以共享同一路由信息,通過調整SLB或者HAProxy權重的方式來做到灰度發佈。

根據場景提供服務形態

簡單路由服務:基於HAProxy,我們加了一層Wrapper,做到動態發現處於運行狀態的容器,加入到負載均衡中,我們稱之為簡單路由服務(Routing service),其公網IP通過一個SLB對外進行暴露。主要解決如下需求:

7層服務端點對公網暴露,即承接公網訪問集群內使用7層協議的服務的流量。

7層服務端點對內網暴露,即容器集群內的負載均衡和服務發現:如下圖所示,集群內的服務發現利用了Docker自帶的DNS resolver配合了HAProxy的負載均衡和健康檢查。圖中的LB即為簡單路由服務下的HAProxy容器。

技術分享:詳解Docker負載均衡和服務發現

1)首先通過Docker自帶的DNSresolver將域名restserver.local解析到HAProxy容器的IP,此處會優先選擇當前節點的HAProxy容器進行負載均衡;

2)RestClient請求域名restserver.local時,請求先走到代理容器LB;

3)LB根據從Discovery Service獲取到的負載均衡信息代理到提供相應服務的容器後端RestServer Contaienr。

場景和對應的路由服務總結

如圖表所示,我們將容器集群外進入容器集群內的入口通信稱為南北通信,將集群內容器和容器之間的流量成為東西通信。

技術分享:詳解Docker負載均衡和服務發現

我們根據不同的通信形式和協議層提供不同的服務來滿足用戶的需求,例如對應南北通信,如果是使用7層協議的服務,我們推薦用戶使用集群的SLB進行流量轉發,最終的流量會轉發到每個主機的HAProxy容器上面,然後在分發到相應的處理請求的服務上。

end:如果你覺得本文對你有幫助的話,記得關注點贊轉發,你的支持就是我更新動力。


分享到:


相關文章: