負載均衡通器常有兩種實現(xiàn)手段,一種是服務(wù)端負載均衡器,另一種是客戶端負載均衡器,而我們今天的主角 Ribbon 就屬于后者——客戶端負載均衡器。
服務(wù)端負載均衡器的問題是,它提供了更強的流量控制權(quán),但無法滿足不同的消費者希望使用不同負載均衡策略的需求,而使用不同負載均衡策略的場景確實是存在的,所以客戶端負載均衡就提供了這種靈活性。 然而客戶端負載均衡也有其缺點,如果配置不當,可能會導致服務(wù)提供者出現(xiàn)熱點,或者壓根就拿不到任何服務(wù)的情況,所以我們本文就來了解一下這 7 種內(nèi)置負載均衡策略的具體規(guī)則。
Ribbon 介紹
Ribbon 是 Spring Cloud 技術(shù)棧中非常重要的基礎(chǔ)框架,它為 Spring Cloud 提供了負載均衡的能力,比如 Fegin 和 OpenFegin 都是基于 Ribbon 實現(xiàn)的,就連 Nacos 中的負載均衡也使用了 Ribbon 框架。
Ribbon 框架的強大之處在于,它不僅內(nèi)置了 7 種負載均衡策略,同時還支持用戶自定義負載均衡策略,所以其開放性和便利性也是它得以流行的主要原因。
服務(wù)端負載均衡器和客戶端負載均衡器的區(qū)別如下圖所示:客戶端負載均衡器的實現(xiàn)原理是通過注冊中心,如 Nacos,將可用的服務(wù)列表拉取到本地(客戶端),再通過客戶端負載均衡器(設(shè)置的負載均衡策略)獲取到某個服務(wù)器的具體 ip 和端口,然后再通過 Http 框架請求服務(wù)并得到結(jié)果,其執(zhí)行流程如下圖所示:
負載均衡設(shè)置
以 Nacos 中的 Ribbon 負載均衡設(shè)置為例,在配置文件 application.yml 中設(shè)置如下配置即可:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule #設(shè)置負載均衡策略
因為 Nacos 中已經(jīng)內(nèi)置了 Ribbon,所以在實際項目開發(fā)中無需再添加 Ribbon 依賴了,這一點我們在 Nacos 的依賴樹中就可以看到,如下圖所示:Ribbon 默認的負載均衡策略是輪詢模式,我們配置 3 個服務(wù)提供者的執(zhí)行結(jié)果如下圖所示:然后,我們再將 Ribbon 負載均衡策略設(shè)置為隨機模式,配置內(nèi)容如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #設(shè)置隨機負載均衡
重啟客戶端,執(zhí)行結(jié)果如下圖所示:
7種負載均衡策略
1.輪詢策略
輪詢策略:RoundRobinRule,按照一定的順序依次調(diào)用服務(wù)實例。比如一共有 3 個服務(wù),第一次調(diào)用服務(wù) 1,第二次調(diào)用服務(wù) 2,第三次調(diào)用服務(wù)3,依次類推。此策略的配置設(shè)置如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule #設(shè)置負載均衡
2.權(quán)重策略
權(quán)重策略:WeightedResponseTimeRule,根據(jù)每個服務(wù)提供者的響應時間分配一個權(quán)重,響應時間越長,權(quán)重越小,被選中的可能性也就越低。它的實現(xiàn)原理是,剛開始使用輪詢策略并開啟一個計時器,每一段時間收集一次所有服務(wù)提供者的平均響應時間,然后再給每個服務(wù)提供者附上一個權(quán)重,權(quán)重越高被選中的概率也越大。此策略的配置設(shè)置如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.WeightedResponseTimeRule
3.隨機策略
隨機策略:RandomRule,從服務(wù)提供者的列表中隨機選擇一個服務(wù)實例。此策略的配置設(shè)置如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #設(shè)置負載均衡
4.最小連接數(shù)策略
最小連接數(shù)策略:BestAvailableRule,也叫最小并發(fā)數(shù)策略,它是遍歷服務(wù)提供者列表,選取連接數(shù)最小的?個服務(wù)實例。如果有相同的最小連接數(shù),那么會調(diào)用輪詢策略進行選取。此策略的配置設(shè)置如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule #設(shè)置負載均衡
5.重試策略
重試策略:RetryRule,按照輪詢策略來獲取服務(wù),如果獲取的服務(wù)實例為 null 或已經(jīng)失效,則在指定的時間之內(nèi)不斷地進行重試來獲取服務(wù),如果超過指定時間依然沒獲取到服務(wù)實例則返回 null。此策略的配置設(shè)置如下:
ribbon:
ConnectTimeout: 2000 # 請求連接的超時時間
ReadTimeout: 5000 # 請求處理的超時時間
springcloud-nacos-provider: # nacos 中的服務(wù) id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #設(shè)置負載均衡
6.可用性敏感策略
可用敏感性策略:AvailabilityFilteringRule,先過濾掉非健康的服務(wù)實例,然后再選擇連接數(shù)較小的服務(wù)實例。此策略的配置設(shè)置如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.AvailabilityFilteringRule
7.區(qū)域敏感策略
區(qū)域敏感策略:ZoneAvoidanceRule,根據(jù)服務(wù)所在區(qū)域(zone)的性能和服務(wù)的可用性來選擇服務(wù)實例,在沒有區(qū)域的環(huán)境下,該策略和輪詢策略類似。此策略的配置設(shè)置如下:
springcloud-nacos-provider: # nacos中的服務(wù)id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.ZoneAvoidanceRule
項目源碼
https://gitee.com/mydb/spring-cloud-alibaba-example
總結(jié)
Ribbon 為客戶端負載均衡器,相比于服務(wù)端負載均衡器的統(tǒng)一負載均衡策略來說,它提供了更多的靈活性。Ribbon 內(nèi)置了 7 種負載均衡策略:輪詢策略、權(quán)重策略、隨機策略、最小連接數(shù)策略、重試策略、可用性敏感策略、區(qū)域性敏感策略,并且用戶可以通過繼承 RoundRibbonRule 來實現(xiàn)自定義負載均衡策略。
阿Q說代碼專注于后端技術(shù)棧分享:文章風格多變、配圖通俗易懂、故事生動有趣
90篇原創(chuàng)內(nèi)容
公眾號
-
spring
+關(guān)注
關(guān)注
0文章
340瀏覽量
14358 -
負載均衡器
+關(guān)注
關(guān)注
0文章
18瀏覽量
2607
發(fā)布評論請先 登錄
相關(guān)推薦
評論