微服務架構 | 4.1 基於 Ribbon 的負載均衡詳解

多氯環己烷 發表於 2022-01-26
微服務


前言

參考資料
《Spring Microservices in Action》
《Spring Cloud Alibaba 微服務原理與實戰》
《B站 尚矽谷 SpringCloud 框架開發教程 周陽》

Spring Cloud Ribbon 是基於 Netflix Ribbon 實現的一套客戶端負載均衡的工具;提供客戶端的軟體負載均衡演算法和服務呼叫;


1. Ribbon 基礎知識

1.1 Ribbon 是什麼

  • Spring Cloud Ribbon 是基於 Netflix Ribbon 實現的一套客戶端負載均衡的工具;提供客戶端的軟體負載均衡演算法和服務呼叫;
  • Ribbon 客戶端元件提供一系列完善的配置項如連線超時,重試等。簡單的說,就是在配置檔案中列出 Load Balancer(簡稱LB)後面所有的機器,Ribbon 會自動基於某種規則(如簡單輪詢,隨機連線等)去連線這些機器;
  • 可以很容易使用Ribbon實現自定義的負載均衡演算法;

1.2 與 Ribbon 互動的三種級別層次

  • Spring DiscoveryClient:提供了對 Ribbon 和 Ribbon 中快取的註冊服務的最低層次訪問;
  • 啟用了 RestTemplate 的 Spring DiscoveryClient
  • Netflix Feign 客戶端

1.3 Ribbon在工作時分成兩步

Ribbon 架構圖

  • 第一步先選擇 EurekaServer,它優先選擇在同一個區域內負載較少的 server;
    第二步再根據使用者指定的策略,在從 server 取到的服務註冊列表中選擇一個地址;

1.4 服務的提供者與消費者

  • 提供者:服務提供者將自己註冊進註冊中心,讓消費者發現;在本例中有多個提供者給消費者提供服務;
  • 消費者:消費者使用服務發現,找到提供者並呼叫提供者服務;在本例中只有一個消費者在多個提供者中選出一個為自己服務;

1.5 Ribbon 核心元件 IRule

IRule 負載均衡

  • 根據特定演算法中從服務列表中選取一個要訪問的服務;
  • 定義了負載均衡的方式;
  • 有以下幾種負載均衡的實現方式:
    • RoundRobinRule:輪詢;
    • RandomRule:隨機;
    • RetryRule:先按照 RoundRobinRule 的策略獲取服務,如果獲取服務失敗則在指定時間內會進行重試,獲取可用的服務;
    • WeightedResponseTimeRule:對 RoundRobinRule 的擴充套件,響應速度越快的例項選擇權重越大,越容易被選擇;
    • BestAvailableRule:會先過濾掉由於多次訪問故障而處於斷路器跳閘狀態的服務,然後選擇一個併發量最小的服務;
    • AvailabilityFilteringRule:先過濾掉故障例項,再選擇併發較小的例項;
    • ZoneAvoidanceRule:預設規則,複合判斷 server 所在區域的效能和 server 的可用性選擇伺服器;

2. 服務消費者獲取提供者的三個層次示例

2.1 引入 pom.xml 依賴

<dependency>
  <groupId>org.springframework.cloud</groupId>
  <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>
  • 如果使用 Eureka 作為註冊中心,則不用引入該依賴,因為 Eureka 的依賴裡包含 ribbon 相關依賴 jar 包;

2.2 使用 Spring DiscoveryClient 查詢服務例項

2.2.1 在主程式類上新增註解

  • @EnableDiscoveryClient:表明可以被註冊中心發現。是 Sring Cloud 的觸發器,其作用是使應用程式能夠使用 DiscoveryClient 和 Ribbon 庫;

2.2.2 使用 DiscoveryClient 查詢資訊

在服務消費者的 client 包下;

@Component
public class ProviderDiscoveryClient {

    //自動注入 DiscoveryClient 類,該類用於與 Ribbon 互動
    @Autowired
    private DiscoveryClient discoveryClient;

    public Provide getProvide(String providerId) {
        RestTemplate restTemplate = new RestTemplate();
        //獲取服務提供者的所有例項列表,ServiceInstance 用於儲存關於服務的特定例項(包括主機名、埠荷 URL)
        List<ServiceInstance> instances = discoveryClient.getInstances("provider-instance-name");

        if (instances.size()==0) return null;
        //檢索要呼叫的服務端點
        String serviceUri = String.format("%s/providers/%s",instances.get(0).getUri().toString(), providerId);

		//使用標準的 Spring REST 模板類去呼叫服務
        ResponseEntity< provider > restExchange =
                restTemplate.exchange(
                        serviceUri,
                        HttpMethod.GET,
                        null, Provider.class, providerId);
        
        return restExchange.getBody();
    }
}
  • 這種方法存在以下問題:

    • 沒有利用 Ribbon 的客戶端負載均衡,呼叫哪個服務例項需要開發人員定義;
    • 開發人員必須構建一個用來呼叫服務的 URL;
    • 例項化 ResTemplate 類,不符合 Spring IoC 規範;
  • 結合本篇《5. 本地負載均衡器的實現(消費者)》即可用到客戶端負載均衡,即:開發人員定義了本地負載均衡器來實現了負載均衡;

2.3 使用帶有 Ribbon 功能的 Spring RestTemplate 呼叫服務

2.3.1 在主程式類上新增註解

@SpringBootApplication //只需要這個註解即可
public class Application {
  @LoadBalanced //告訴 Spring Cloud 建立一個支援 Ribbon 的 RestTemplate
  @Bean
  public RestTemplate getRestTemplate(){
      return new RestTemplate();
  }
  public static void main(String[] args) {
        SpringApplication.run(Application.class, args);
  }
}
  • Spring Cloud 早期版本中,RestTemplate 類預設自動支援 Ribbon;
  • 自從 Spring Cloud 釋出 Angel 版本後,Spring Cloud 中的 RestTemplate 不再支援 Ribbon;
  • 因此,後續版本必須使用 @LoadBalanced 註解顯式標註,才能將 Ribbon 和 RestTemplate 一起使用;
  • *RestTemplate 不一定放在主程式類裡;也可以在 config 包下新建一個 ApplicationContextConfig 配置類,將 RestTemplate 放在該類裡:
@Configuration
public class ApplicationContextConfig{
    @Bean
    @LoadBalanced
    public RestTemplate getRestTemplate(){
        return new RestTemplate();
    }
}

2.3.2 使用 Ribbon 的 RestTemplate 來呼叫服務

在服務消費者的 client 包下;

@Component
public class ProviderRestTemplateClient {
    //自動注入即可,不用例項化
    @Autowired
    RestTemplate restTemplate;

    public Provider getProvider(String providerId){
        ResponseEntity<Provider> restExchange =
                restTemplate.exchange(
                        //使用 Eureka 服務 ID 來構建目標 URL
                        "http://provider-instance-name/providers/{providerId}",
                        HttpMethod.GET,
                        null, Provider.class, providerId);
        return restExchange.getBody();
    }
}
  • 通過使用 RestTemplate 類,Ribbon 將在所有服務例項之間輪詢負載均衡所有請求;

2.4 使用 Netflix Feign 客戶端呼叫服務

Feign 相關知識將在下篇《4.2 基於 Feign 與 OpenFeign 的服務介面呼叫》中說明,這裡僅把重點放在與上述兩種呼叫提供者服務的區別與對比;

2.4.1 在主程式類上新增註解

@EnableFeignClients:表示啟用 Feign 客戶端;

2.4.2 定義用於呼叫服務提供者的 Feign 介面

@FeignClient("provider-instance-name") //標識服務為 feign 的客戶端
public interface ProviderFeignClient {
    //定義端點的路徑和動作
    @RequestMapping( 
            method= RequestMethod.GET,
            value="/providers/{providerId}",
            consumes="application/json")
    //定義傳入端點的引數,該方法可以由客戶端呼叫以觸發組織服務        
    Provider getProvider(@PathVariable("providerId") String providerId);
}
  • 要是用 ProviderFeignClient 類,開發人員只需要自動裝配並使用它即可;

3. 通過 java 配置類自定義負載均衡演算法示例(消費者服務)

指切換預設的負載均衡演算法,切換後的仍為現成的(與本地負載均衡器有所區別,本地負載均衡器要自己實現);

3.1 編寫配置類

  • 注意:自定義配置類不能放在 @ComponentScan 所掃描的當前包下以及子包下,否則自定義的配置類會被所有的Ribbon客戶端所共享,達不到自定義的目的;
  • @ComponentScan 註解被封裝到主啟動類上的 @SpringBootApplication 註解。其預設掃描主啟動類所在包及其子包,因此我們要返回上一級目錄新建一個 myRule 目錄存放我們自定義的負載均衡配置類;

自定義負載均衡演算法的檔案目錄結構

@Configuration
public class MySelfRule {
    @Bean
    public IRule myRule(){
        return new RandomRule();//定義為隨機
    }
}

3.2 主啟動類上新增註解

  • @RibbonClient(name = "provider-instance-name" ,configuration=MySelfRule.class):表示使用自定義負載均衡演算法;
    • name:指定服務提供者的例項名稱;
    • configuration:指定需要使用哪個配置類的負載均衡;
    • 表示 provider 服務使用 MySelfRule 對應的 Ribbon 配置;
  • 同樣,需要對 RestTemplate 類用 @LoadBalanced 註解顯示宣告;

4. 通過配置自定義負載均衡演算法示例(消費者服務)

指切換預設的負載均衡演算法,切換後的仍為現成的(與本地負載均衡器有所區別,本地負載均衡器要自己實現);

4.1 修改 bootstrap.yml 配置檔案

  • 上述 java 配置類的效果等價於下面這樣的配置檔案:
#服務提供者的例項名稱
provider-instance-name:
  ribbon:
    #代表 Ribbon 使用的負載均衡策略,屬性的值為:IRule 的實現類
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
    
    #其他可用的配置屬性
    # NFLoadBalancerClassName : 配置 ILoadBalancer 的實現類
    # NFLoadBalancerPingClassName : 配置 IPing 的實現類
    # NIWSServerListClassName: 配置 ServerList 的實現類
    # NIWSServerListFilterClassName: 配置 ServerListtFilter 的實現類

4.2 主程式類

  • 不需要 @RibbonClient 註解;
  • 同樣,需要對 RestTemplate 類用 @LoadBalanced 註解顯示宣告;

5. 本地負載均衡器的實現(消費者)

本地負載均衡器不同於自定義負載均衡演算法;前者的負載均衡演算法需要自己手動實現,後者只是切換成另一種現成的負載均衡演算法;

5.1 不使用 RestTemplate

  • 即主程式類不需要對 RestTemplate 類用 @LoadBalanced 註解顯示宣告;
  • 可以刪去也可以註釋 @LoadBalanced 註解;

5.2 定義負載均衡介面

可以新建一個包,專門存放我們自己寫的負載均衡演算法;

public interface LoadBalancer{
    ServiceInstance instances(List<ServiceInstance> serviceInstances);
}

5.3 實現負載均衡介面

  • 可以根據業務要求寫不同的負載均衡演算法,這裡僅提供一種示例;
  • 該示例實現了一種較為簡單的原子性的負載均衡演算法;
@Component
public class MyLB implements LoadBalancer{
    private AtomicInteger atomicInteger = new AtomicInteger(0);
    public final int getAndIncrement(){
        int current;
        int next;

        do {
            current = this.atomicInteger.get();
            next = current >= 2147483647 ? 0 : current + 1;
        }while(!this.atomicInteger.compareAndSet(current,next));
        System.out.println("*****第幾次訪問,次數next: "+next);
        return next;
    }

    //負載均衡演算法:rest介面第幾次請求數 % 伺服器叢集總數量 = 實際呼叫伺服器位置下標  ,每次服務重啟動後rest介面計數從1開始。
    @Override
    public ServiceInstance instances(List<ServiceInstance> serviceInstances){
        int index = getAndIncrement() % serviceInstances.size();
        return serviceInstances.get(index);
    }
}

5.4 在 controller 介面中使用本地負載均衡器

  • 類似於本篇《2.2 使用 Spring DiscoveryClient 查詢服務例項》;
  • 不同之處在於 2.2 沒有負載均衡功能,這裡在 2.2 的基礎上,開發人員自己定義了本地負載均衡器,不使用 Ribbon 提供的負載均衡,故《5.1 不使用 RestTemplate》中提到的不用對 RestTemplate 類使用 @LoadBalanced 註解顯示宣告
@RestController
public class OrderController{
    //服務提供者示例的名字
    public static final String PAYMENT_URL = "http://provider-instance-name";
    @Resource
    private RestTemplate restTemplate;
    @Resource
    private LoadBalancer loadBalancer;
    @Resource
    private DiscoveryClient discoveryClient;
 
    @GetMapping(value = "/provider/mylb")
    public String getProviderLB(){
        //獲取服務提供者的所有例項列表
        List<ServiceInstance> instances = discoveryClient.getInstances("provider-instance-name");
        if(instances == null || instances.size() <= 0){
            return null;
        }
        //使用本地負載均衡器選出提供者服務
        ServiceInstance serviceInstance = loadBalancer.instances(instances);
        URI uri = serviceInstance.getUri();
        return restTemplate.getForObject(uri+"/provider/mylb",String.class);
    }
}


最後

新人制作,如有錯誤,歡迎指出,感激不盡!
歡迎關注公眾號,會分享一些更日常的東西!
如需轉載,請標註出處!
微服務架構 | 4.1 基於 Ribbon 的負載均衡詳解