微服務架構 | 4.1 基於 Ribbon 的負載均衡詳解

多氯環己烷發表於2022-01-26

微服務架構負載

前言

參考資料：
《Spring Microservices in Action》
《Spring Cloud Alibaba 微服務原理與實戰》
《B站尚矽谷 SpringCloud 框架開發教程周陽》

Spring Cloud Ribbon 是基於 Netflix Ribbon 實現的一套客戶端負載均衡的工具；提供客戶端的軟體負載均衡演算法和服務呼叫；

1. Ribbon 基礎知識

1.1 Ribbon 是什麼

Spring Cloud Ribbon 是基於 Netflix Ribbon 實現的一套客戶端負載均衡的工具；提供客戶端的軟體負載均衡演算法和服務呼叫；
Ribbon 客戶端元件提供一系列完善的配置項如連線超時，重試等。簡單的說，就是在配置檔案中列出 Load Balancer（簡稱LB）後面所有的機器，Ribbon 會自動基於某種規則（如簡單輪詢，隨機連線等）去連線這些機器；
可以很容易使用Ribbon實現自定義的負載均衡演算法；

1.2 與 Ribbon 互動的三種級別層次

Spring DiscoveryClient：提供了對 Ribbon 和 Ribbon 中快取的註冊服務的最低層次訪問；
啟用了 RestTemplate 的 Spring DiscoveryClient；
Netflix Feign 客戶端；

1.3 Ribbon在工作時分成兩步

Ribbon 架構圖

第一步先選擇 EurekaServer，它優先選擇在同一個區域內負載較少的 server；
第二步再根據使用者指定的策略，在從 server 取到的服務註冊列表中選擇一個地址；

1.4 服務的提供者與消費者

提供者：服務提供者將自己註冊進註冊中心，讓消費者發現；在本例中有多個提供者給消費者提供服務；
消費者：消費者使用服務發現，找到提供者並呼叫提供者服務；在本例中只有一個消費者在多個提供者中選出一個為自己服務；

1.5 Ribbon 核心元件 IRule

IRule 負載均衡

根據特定演算法中從服務列表中選取一個要訪問的服務；
定義了負載均衡的方式；
有以下幾種負載均衡的實現方式：
- RoundRobinRule：輪詢；
- RandomRule：隨機；
- RetryRule：先按照 RoundRobinRule 的策略獲取服務，如果獲取服務失敗則在指定時間內會進行重試，獲取可用的服務；
- WeightedResponseTimeRule：對 RoundRobinRule 的擴充套件，響應速度越快的例項選擇權重越大，越容易被選擇；
- BestAvailableRule：會先過濾掉由於多次訪問故障而處於斷路器跳閘狀態的服務，然後選擇一個併發量最小的服務；
- AvailabilityFilteringRule：先過濾掉故障例項，再選擇併發較小的例項；
- ZoneAvoidanceRule：預設規則，複合判斷 server 所在區域的效能和 server 的可用性選擇伺服器；

2. 服務消費者獲取提供者的三個層次示例

2.1 引入 pom.xml 依賴

<dependency>
  <groupId>org.springframework.cloud</groupId>
  <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

如果使用 Eureka 作為註冊中心，則不用引入該依賴，因為 Eureka 的依賴裡包含 ribbon 相關依賴 jar 包；

2.2 使用 Spring DiscoveryClient 查詢服務例項

2.2.1 在主程式類上新增註解

@EnableDiscoveryClient：表明可以被註冊中心發現。是 Sring Cloud 的觸發器，其作用是使應用程式能夠使用 DiscoveryClient 和 Ribbon 庫；

2.2.2 使用 DiscoveryClient 查詢資訊

在服務消費者的 client 包下；

@Component
public class ProviderDiscoveryClient {

    //自動注入 DiscoveryClient 類，該類用於與 Ribbon 互動
    @Autowired
    private DiscoveryClient discoveryClient;

    public Provide getProvide(String providerId) {
        RestTemplate restTemplate = new RestTemplate();
        //獲取服務提供者的所有例項列表，ServiceInstance 用於儲存關於服務的特定例項（包括主機名、埠荷 URL）
        List<ServiceInstance> instances = discoveryClient.getInstances("provider-instance-name");

        if (instances.size()==0) return null;
        //檢索要呼叫的服務端點
        String serviceUri = String.format("%s/providers/%s",instances.get(0).getUri().toString(), providerId);

		//使用標準的 Spring REST 模板類去呼叫服務
        ResponseEntity< provider > restExchange =
                restTemplate.exchange(
                        serviceUri,
                        HttpMethod.GET,
                        null, Provider.class, providerId);
        
        return restExchange.getBody();
    }
}

這種方法存在以下問題：
- 沒有利用 Ribbon 的客戶端負載均衡，呼叫哪個服務例項需要開發人員定義；
- 開發人員必須構建一個用來呼叫服務的 URL；
- 例項化 ResTemplate 類，不符合 Spring IoC 規範；
結合本篇《5. 本地負載均衡器的實現（消費者）》即可用到客戶端負載均衡，即：開發人員定義了本地負載均衡器來實現了負載均衡；

2.3 使用帶有 Ribbon 功能的 Spring RestTemplate 呼叫服務

2.3.1 在主程式類上新增註解

@SpringBootApplication //只需要這個註解即可
public class Application {
  @LoadBalanced //告訴 Spring Cloud 建立一個支援 Ribbon 的 RestTemplate
  @Bean
  public RestTemplate getRestTemplate(){
      return new RestTemplate();
  }
  public static void main(String[] args) {
        SpringApplication.run(Application.class, args);
  }
}

Spring Cloud 早期版本中，RestTemplate 類預設自動支援 Ribbon；
自從 Spring Cloud 釋出 Angel 版本後，Spring Cloud 中的 RestTemplate 不再支援 Ribbon；
因此，後續版本必須使用 @LoadBalanced 註解顯式標註，才能將 Ribbon 和 RestTemplate 一起使用；
*RestTemplate 不一定放在主程式類裡；也可以在 config 包下新建一個 ApplicationContextConfig 配置類，將 RestTemplate 放在該類裡：

@Configuration
public class ApplicationContextConfig{
    @Bean
    @LoadBalanced
    public RestTemplate getRestTemplate(){
        return new RestTemplate();
    }
}

2.3.2 使用 Ribbon 的 RestTemplate 來呼叫服務

在服務消費者的 client 包下；

@Component
public class ProviderRestTemplateClient {
    //自動注入即可，不用例項化
    @Autowired
    RestTemplate restTemplate;

    public Provider getProvider(String providerId){
        ResponseEntity<Provider> restExchange =
                restTemplate.exchange(
                        //使用 Eureka 服務 ID 來構建目標 URL
                        "http://provider-instance-name/providers/{providerId}",
                        HttpMethod.GET,
                        null, Provider.class, providerId);
        return restExchange.getBody();
    }
}

通過使用 RestTemplate 類，Ribbon 將在所有服務例項之間輪詢負載均衡所有請求；

2.4 使用 Netflix Feign 客戶端呼叫服務

Feign 相關知識將在下篇《4.2 基於 Feign 與 OpenFeign 的服務介面呼叫》中說明，這裡僅把重點放在與上述兩種呼叫提供者服務的區別與對比；

2.4.1 在主程式類上新增註解

@EnableFeignClients：表示啟用 Feign 客戶端；

2.4.2 定義用於呼叫服務提供者的 Feign 介面

@FeignClient("provider-instance-name") //標識服務為 feign 的客戶端
public interface ProviderFeignClient {
    //定義端點的路徑和動作
    @RequestMapping( 
            method= RequestMethod.GET,
            value="/providers/{providerId}",
            consumes="application/json")
    //定義傳入端點的引數，該方法可以由客戶端呼叫以觸發組織服務        
    Provider getProvider(@PathVariable("providerId") String providerId);
}

要是用 ProviderFeignClient 類，開發人員只需要自動裝配並使用它即可；

3. 通過 java 配置類自定義負載均衡演算法示例（消費者服務）

指切換預設的負載均衡演算法，切換後的仍為現成的（與本地負載均衡器有所區別，本地負載均衡器要自己實現）；

3.1 編寫配置類

注意：自定義配置類不能放在 @ComponentScan 所掃描的當前包下以及子包下，否則自定義的配置類會被所有的Ribbon客戶端所共享，達不到自定義的目的；
@ComponentScan 註解被封裝到主啟動類上的 @SpringBootApplication 註解。其預設掃描主啟動類所在包及其子包，因此我們要返回上一級目錄新建一個 myRule 目錄存放我們自定義的負載均衡配置類；

自定義負載均衡演算法的檔案目錄結構

@Configuration
public class MySelfRule {
    @Bean
    public IRule myRule(){
        return new RandomRule();//定義為隨機
    }
}

3.2 主啟動類上新增註解

@RibbonClient(name = "provider-instance-name" ,configuration=MySelfRule.class)：表示使用自定義負載均衡演算法；
- name：指定服務提供者的例項名稱；
- configuration：指定需要使用哪個配置類的負載均衡；
- 表示 provider 服務使用 MySelfRule 對應的 Ribbon 配置；
同樣，需要對 RestTemplate 類用 @LoadBalanced 註解顯示宣告；

4. 通過配置自定義負載均衡演算法示例（消費者服務）