跟我學SpringCloud | 第四篇:熔斷器Hystrix
1. 熔斷器
服務雪崩
在正常的微服務架構體系下,一個業務很少有隻需要呼叫一個服務就可以返回資料的情況,這種比較常見的是出現在demo中,一般都是存在呼叫鏈的,比如A->B->C->D,如果D在某一個瞬間出現問題,比如網路波動,io偏高,導致卡頓,隨著時間的流逝,後續的流量繼續請求,會造成D的壓力上升,有可能引起當機。
你以為這就是結束麼,圖樣圖森破,這才是噩夢的開始,在同一個呼叫鏈上的ABC三個服務都會隨著D的當機而引發當機,這還不是結束,一個服務不可能只有一個介面,當它開始卡頓當機時,會影響到其他呼叫鏈的正常呼叫,最終導致所有的服務癱瘓。
如下圖所示:
熔斷器
相信大家都知道家用電閘,原來老式的電閘是使用保險絲的(現在很多都是空氣開關了),當家裡用電量過大的時候,保險絲經常燒斷,這麼做是保護家裡的用電器,防止過載。
熔斷器的作用和這個很像,它可以實現快速失敗,如果在一段時間內服務呼叫失敗或者異常,會強制要求當前呼叫失敗,不在走遠端呼叫,走服務降級操作(返回固定資料或者其他一些降級操作)。從而防止應用程式不斷地嘗試執行可能會失敗的操作,使得應用程式繼續執行而不用等待修正錯誤,或者浪費CPU時間去等到長時間的超時產生。熔斷器也可以自動診斷錯誤是否已經修正,如果已經修正,應用程式會再次嘗試呼叫操作。
熔斷器模式就像是那些容易導致錯誤的操作的一種代理。這種代理能夠記錄最近呼叫發生錯誤的次數,然後決定使用允許操作繼續,或者立即返回錯誤。 Hystrix會有一個熔斷時間視窗,具體轉換邏輯如下:
熔斷器就是保護服務高可用的最後一道防線。
2. Hystrix
1. 斷路器機制
斷路器很好理解, 當Hystrix Command請求後端服務失敗數量超過一定比例(預設50%), 斷路器會切換到開路狀態(Open)。這時所有請求會直接失敗而不會傳送到後端服務。斷路器保持在開路狀態一段時間後(預設5秒), 自動切換到半開路狀態(HALF-OPEN)。這時會判斷下一次請求的返回情況, 如果請求成功, 斷路器切回閉路狀態(CLOSED), 否則重新切換到開路狀態(OPEN)。Hystrix的斷路器就像我們家庭電路中的保險絲, 一旦後端服務不可用, 斷路器會直接切斷請求鏈, 避免傳送大量無效請求影響系統吞吐量, 並且斷路器有自我檢測並恢復的能力。
2. Fallback
Fallback相當於是降級操作。對於查詢操作, 我們可以實現一個fallback方法, 當請求後端服務出現異常的時候, 可以使用fallback方法返回的值。fallback方法的返回值一般是設定的預設值或者來自快取。
3. 資源隔離
在Hystrix中, 主要通過執行緒池來實現資源隔離。通常在使用的時候我們會根據呼叫的遠端服務劃分出多個執行緒池。例如呼叫產品服務的Command放入A執行緒池, 呼叫賬戶服務的Command放入B執行緒池。這樣做的主要優點是執行環境被隔離開了。這樣就算呼叫服務的程式碼存在bug或者由於其他原因導致自己所線上程池被耗盡時, 不會對系統的其他服務造成影響。但是帶來的代價就是維護多個執行緒池會對系統帶來額外的效能開銷。如果是對效能有嚴格要求而且確信自己呼叫服務的客戶端程式碼不會出問題的話, 可以使用Hystrix的訊號模式(Semaphores)來隔離資源。
3. Feign Hystrix
上一篇我們使用了producer和consumers,熔斷器是隻作用在服務呼叫端,因此上一篇使用到的consumers我們可以直接拿來使用。因為,Feign中已經依賴了Hystrix所以在maven配置上不用做任何改動。
1. 配置檔案application.yml新增
server:
port: 8081
spring:
application:
name: spring-cloud-consumers
eureka:
client:
service-url:
defaultZone: http://localhost:8761/eureka/
feign:
hystrix:
enabled: true
其中新增了feign.hystrix.enabled = true
2. 建立fallback類,繼承與HelloRemote實現回撥的方法
package com.springcloud.consumers.fallback;
import com.springcloud.consumers.remote.HelloRemote;
import org.springframework.stereotype.Component;
import org.springframework.web.bind.annotation.RequestParam;
/**
* Created with IntelliJ IDEA.
*
* @User: weishiyao
* @Date: 2019/7/2
* @Time: 23:14
* @email: inwsy@hotmail.com
* Description:
*/
@Component
public class HelloRemoteFallBack implements HelloRemote {
@Override
public String hello(@RequestParam(value = "name") String name) {
return "hello " + name + ", i am fallback massage";
}
}
3. 新增fallback屬性
在HelloRemote類新增指定fallback類,在服務熔斷的時候返回fallback類中的內容。
package com.springcloud.consumers.remote;
import com.springcloud.consumers.fallback.HelloRemoteFallBack;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
/**
* @Author: shiyao.wei
* @Date: 2019/7/2 11:14
* @Version: 1.0
* @Desc:
*/
@FeignClient(name= "SPRING-CLOUD-PRODUCER", fallback = HelloRemoteFallBack.class)
public interface HelloRemote {
@RequestMapping(value = "/hello")
String hello(@RequestParam(value = "name") String name);
}
所有改動結束。
4. 測試
現在我們測試看下結果,老規矩,順次啟動註冊中心Eureka、provider、consumer
訪問上一節我們訪問過的連結:http://localhost:8081/hello/spring
現在可以看到頁面正常顯示:hello spring,producer is ready
現在我們手動把provider停掉,再訪問一下連結看一下:
現在頁面已經顯示我們熔斷後的資訊了:hello spring, i am fallback massage
現在說明我們的測試已經成功了。
好了,現在可以將程式碼打包扔到Github上去了:)
參考:
微服務框架Spring Cloud介紹 Part5: 在微服務系統中使用Hystrix, Hystrix Dashboard與Turbine