Spring Cloud Feign 效能最佳化

使用最新的Spring Boot2.0.3和 Spring Cloud F 系列進行微服務架構開發，在做壓測的時候遇到了很多問題，經過一日一夜的原始碼和 google，終於弄出一套方案。

關鍵字：com.netflix.hystrix.exception.HystrixRuntimeException；  timeout；  could not be queued for execution

1、替換 tomcat

首先，把 tomcat 換成 undertow，這個效能在 Jmeter 的壓測下，undertow 比 tomcat 高一倍

第一步，pom 修改

<dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
            <exclusions>
                <exclusion>
                    <groupId>org.springframework.boot</groupId>
                    <artifactId>spring-boot-starter-tomcat</artifactId>
                </exclusion>
            </exclusions>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-undertow</artifactId>
        </dependency>

第二步，配置

server: 
  undertow: 
    max-http-post-size: 0 
# 設定IO執行緒數, 它主要執行非阻塞的任務,它們會負責多個連線, 預設設定每個CPU核心一個執行緒,數量和CPU 核心數目一樣即可
    io-threads: 4# 阻塞任務執行緒池, 當執行類似servlet請求阻塞操作, undertow會從這個執行緒池中取得執行緒,它的值設定取決於系統的負載  io-threads*8
    worker-threads: 32# 以下的配置會影響buffer,這些buffer會用於伺服器連線的IO操作,有點類似netty的池化記憶體管理# 每塊buffer的空間大小,越小的空間被利用越充分
    buffer-size: 1024# 每個區分配的buffer數量 , 所以pool的大小是buffer-size * buffers-per-region#   buffers-per-region: 1024 # 這個引數不需要寫了# 是否分配的直接記憶體
    direct-buffers: true

2、替換 HTTPClient

其次把普通的 HTTPURLConnection 替換為使用 HTTPClient
第一步 pom 增加對應的包

<dependency>
             <groupId>io.github.openfeign</groupId>
             <artifactId>feign-httpclient</artifactId>
          </dependency>

第二部，在 application.yml或者 bootstrap.yml 裡面配置

# feign配置feign:
  hystrix:    # 在feign中開啟hystrix功能，預設情況下feign不開啟hystrix功能
    enabled: true
  ## 配置httpclient執行緒池
  httpclient:
    enabled: true
  okhttp: 
    enabled: false

第三步，配置 HTTPClient Bean

import java.util.Timer;import java.util.TimerTask;import java.util.concurrent.TimeUnit;import org.apache.http.client.HttpClient;import org.apache.http.client.config.RequestConfig;import org.apache.http.impl.client.DefaultConnectionKeepAliveStrategy;import org.apache.http.impl.client.HttpClientBuilder;import org.apache.http.impl.conn.PoolingHttpClientConnectionManager;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;@Configurationpublic class HttpPool {    @Bean
    public HttpClient httpClient(){
        System.out.println("===== Apache httpclient 初始化連線池開始===" );        // 生成預設請求配置
        RequestConfig.Builder requestConfigBuilder = RequestConfig.custom();        // 超時時間
        requestConfigBuilder.setSocketTimeout(5 * 1000);        // 連線時間
        requestConfigBuilder.setConnectTimeout(5 * 1000);
        RequestConfig defaultRequestConfig = requestConfigBuilder.build();        // 連線池配置
        // 長連線保持30秒
        final PoolingHttpClientConnectionManager pollingConnectionManager = new PoolingHttpClientConnectionManager(30, TimeUnit.MILLISECONDS);        // 總連線數
        pollingConnectionManager.setMaxTotal(1000);        // 同路由的併發數
        pollingConnectionManager.setDefaultMaxPerRoute(100);        // httpclient 配置
        HttpClientBuilder httpClientBuilder = HttpClientBuilder.create();        // 保持長連線配置，需要在頭新增Keep-Alive
        httpClientBuilder.setKeepAliveStrategy(new DefaultConnectionKeepAliveStrategy());
        httpClientBuilder.setConnectionManager(pollingConnectionManager);
        httpClientBuilder.setDefaultRequestConfig(defaultRequestConfig);
        HttpClient client = httpClientBuilder.build();        // 啟動定時器，定時回收過期的連線
        Timer timer = new Timer();
        timer.schedule(new TimerTask() {            @Override
            public void run() {
                System.out.println("=====closeIdleConnections===");
                pollingConnectionManager.closeExpiredConnections();
                pollingConnectionManager.closeIdleConnections(5, TimeUnit.SECONDS);
            }
        }, 10 * 1000, 5 * 1000);
        System.out.println("===== Apache httpclient 初始化連線池完畢===");        return client;
    }


}

3、配置 Hystrix

第一步，還是匯入包

<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-hystrix</artifactId>
        </dependency>

第二步，配置

# 配置hystrix的引數hystrix:
  threadpool:    # default: 預設引數，作用的所有的hystrix的客戶端,如果需要對某個具體的介面，可以寫介面+方法名稱
    default:
      coreSize: 500
  command:    default:
      fallback:        # 是否開啟回退方法
        enabled: true
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 30000 #預設為1000

作者：breezedancer
連結：