![頭圖.png](https://ucc.alicdn.com/pic/developer-ecology/7a6e1dac584249878c77c33e318281e0.png)

作者 | 宿何

> **導讀**：前幾篇我們主要站在應用釋出的場景，描述在釋出過程中會遇到的灰度、監控、回滾、優雅上下線等保障釋出能順利進行的注意事項。作為一個程式設計師 GG，可灰度的釋出順利上線往往意味著準點下班。而我們今天要分享的內容則關係到我們能否擁有一個高質量的休息時間，即線上的高可用保障。

# 前言

阿里巴巴十多年的 雙11，錘鍊出來了一套業界領先的高可用技術，有一些已經商業化（雲產品 PTS、AHAS），也有的開源瞭如：Sentinel、ChaosBlade。我們這一系列的高可用章節也主要介紹這方面的內容。今天介紹熔斷部分，即開源產品 Sentinel 的核心能力。

# 問題定義

在一個常見的分散式應用中，一個請求先透過終端到達 Gateway，再經過防火牆和網路負載均衡，其中還包括呼叫下游的其它服務和第三方應用，才能到達前端網路服務；如下圖所示：

![1.png](https://ucc.alicdn.com/pic/developer-ecology/b026fb827a4546baaf1054db54244ea9.png)

和這樣一個架構一樣，大家可能也會遇到如下的一些熟悉的 Case ：

- 瞬間洪峰流量導致系統超出最大負載，load 飆高，系統崩潰導致無法正常提供服務；
- “黑馬”熱點資料擊穿快取，DB 被打垮，擠佔正常流量；
- 呼叫端被不穩定服務拖垮，執行緒池被佔滿，導致整個呼叫鏈路卡死甚至系統雪崩；
- ......

這些不穩定的場景可能會導致嚴重後果。大家可能想問：如何做到均勻平滑的使用者訪問？如何預防流量過大或服務不穩定帶來的影響？這時候我們就要請出微服務穩定性的法寶 —— 高可用流量防護，其中重要的手段就是流量控制和熔斷降級，它們是保障整個系統穩定性重要的一環。

## 1. 流量控制

流量是非常隨機性的、不可預測的。前一秒可能還風平浪靜，後一秒可能就出現流量洪峰了（例如 雙11 零點的場景）。然而我們系統的容量總是有限的，如果突然而來的流量超過了系統的承受能力，就可能會導致請求處理不過來，堆積的請求處理緩慢，CPU/Load 飆高，最後導致系統崩潰。因此，我們需要針對這種突發的流量來進行限制，在儘可能處理請求的同時來保障服務不被打垮，這就是流量控制。

![2.png](https://ucc.alicdn.com/pic/developer-ecology/8a1a92a62d724eacbfe4cc5d3365a0a7.png)

## 2. 熔斷降級

一個服務常常會呼叫別的模組，可能是另外的一個遠端服務、資料庫，或者第三方 API 等。例如，支付的時候，可能需要遠端呼叫銀聯提供的 API；查詢某個商品的價格，可能需要進行資料庫查詢。然而，這個被依賴服務的穩定性是不能保證的。如果依賴的服務出現了不穩定的情況，請求的響應時間變長，那麼呼叫服務的方法的響應時間也會變長，執行緒會產生堆積，最終可能耗盡業務自身的執行緒池，服務本身也變得不可用。

![3.png](https://ucc.alicdn.com/pic/developer-ecology/5ff76a2b8a4f4cb292f78ebfdbd56bb0.png)

# Spring Cloud 中如何做熔斷？

在原來的 Spring Cloud 產品族中，有自帶的熔斷元件 Hystrix ，是 Netflix 公司提供的一個開源的元件，提供了熔斷、隔離、降級的這些特性，不過 Hystrix 在 2018 年 11 月份開始，就不再迭代開發，進入維護的模式。不過好訊息是也就是這一年開源了 Spring Cloud for Alibaba 產品族，其中的 Sentinel 完美的對 Hystrix 做了補充，下面針對 Sentinel 做一些基本介紹。

## Sentinel 工作原理

Sentinel 以資源流量（URL、執行緒、本地函式、Dubbo 服務等）為切入點，根據使用者輸入的規則，自適應的做到流量控制、熔斷降級、系統負載保護等多個維度，全方位的保障系統的穩定性。並提供了一套具備豐富的應用場景、完備的實時監控、廣泛的開源生態、完善靈活的 SPI 擴充套件點的完美的高可用解決方案產品，一個基本的原理介紹圖如下，詳細介紹請參考[官方文件](https://github.com/alibaba/Sentinel/wiki/Sentinel%E5%B7%A5%E4%BD%9C%E4%B8%BB%E6%B5%81%E7%A8%8B)。

![4.png](https://ucc.alicdn.com/pic/developer-ecology/e03ff2befb3a4582a0297dabbdc55506.png)

在使用上，針對主流框架預設提供自動適配的能力來定義需要保護的資源，並提供設施對資源進行實時統計和呼叫鏈路分析。同時，Sentinel 也提供開放的介面，方便您自定義並改變規則。

# 快速使用 Sentinel 的方式

除了在開源提供的方案之外，Sentinel 已經以多種形態進入到了各種雲產品的組合解決方案中，列舉如下：

## 1. 在 AHAS 中使用

Sentinel 現在已經是阿里云云產品 AHAS 的重要能力，使用方式請參考[官方文件](https://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494380&idx=2&sn=04dbcc6f5bf25dd2bd1d20d95034f41a&chksm=fae6e123cd916835aa46f18d3098c143fab1fd8931985adc55f3f2226d31fa685fbcf9739543&token=828513051&lang=zh_CN)，相比開源的方式接入，雲產品主要省去了繁瑣的配置，提供了更快的接入方式，以及更友好的產品管控介面，以及更強大的能力；當然除此之外，最重要的是在接入和執行的過程中，都可以獲得原廠同學的直接的支援。

### 2. 在容器服務 Kubernetes 叢集中使用

在容器服務中我們目前做到了純白屏和雲原生的方式進行安裝，使用方式請參考[官方文件](https://help.aliyun.com/document_detail/101132.html)來安裝所需的 pilot，在叢集中安裝完 pilot 之後，會自動選擇叢集中打上了相應 AHAS 註解的 POD 進行 Sentinel Agent 的掛載，配置如下：

```
annotations:
  # 是否開啟 AHAS 應用流控外掛, on、true 表示開啟, off、false表示關閉
  ahasPilotAutoEnable: "on"
  # 服務名稱，會顯示在 AHAS 控制檯上
  ahasAppName: "<your-service-name>"
```

### 3. 在 EDAS 中使用

在 EDAS 中，如果選擇的是部署在容器服務 K8s 叢集或 Serverless K8s 叢集中的應用支援透過重新部署來接入 AHAS，並可在 EDAS 內嵌的監控頁面中實時監控流量規則，所有的配置能力都能透過一個控制檯白屏化操作完成，全面視覺化地保障您的應用可用性，使用方式可以[參考文件](https://help.aliyun.com/document_detail/174047.html)。

# 結尾

本文簡單介紹了高可用流量防護的背景和手段，在熔斷的場景下，我們理解十年的積累打磨了高可用產品 AHAS 來為 Kubernetes Spring Cloud 應用保駕護航。除此之外，AHAS 高可用防護還提供以下能力：

- 針對不穩定弱依賴的熔斷降級能力，支援慢呼叫比例/異常比例策略，支援漸進式恢復策略；
- 機器維度的系統自適應保護，智慧化調配系統流量；
- 全自動託管、高可用的叢集流量控制；
- 針對 Nginx 閘道器及 Spring Cloud Gateway、Zuul 等 API Gateway 的閘道器流控；
- 針對 Istio/Envoy 叢集的 Mesh 高可用防護。

需要注意的是，流控降級的配置是需要結合容量規劃、依賴梳理來做的。我們可以藉助[阿里雲 PTS](https://help.aliyun.com/product/29260.html) 等壓測工具對我們的服務進行全鏈路壓測，瞭解每個服務的最大承受能力，來確定流控和熔斷降級的閾值。同時，業務系統需要具備實時監控的能力，以便實時地根據流量情況做出相應的限流降級策略調整，我們下面的章節中將介紹這一利器。

相關文章推薦：

- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 —— 開發篇》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247491668&idx=1&sn=c9839f78ff31d6f5da285a259d804f53&chksm=fae6eb9bcd91628d28b0db9b53a091132df7535d320aee9c85fea241dc4e964e746b83a69dc8&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 部署篇(開發部署）》](https://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492052&idx=1&sn=8ff93e6f7b398e6a509239910b61b975&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 部署篇(工具部署)》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492264&idx=1&sn=0bb4d0364b42af36886face9f3adec10&chksm=fae6e967cd916071e691a9296282755b771036a4a1182f51dadcbb3a3aebe76a6bdad298b69d&token=888059135&lang=zh_CN&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（可灰度）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492479&idx=1&sn=ac1463d4cd7b4323590766643d92dcb0&chksm=fae6e8b0cd9161a6d02057ca28971101aec9bc8ee823f0f4d12fc9b691bc8e122e542725f7ac&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 診斷（線上聯調）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492850&idx=1&sn=03793cf561ceca40d75b50c0c23c708e&chksm=fae6ef3dcd91662b7cd92d07beba3bab05c1ef641bce204b3f9dd80cad55ea7dd1ccee1c2109&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（可監控）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494008&idx=1&sn=652adea2451811af1eacd1455c7fe939&chksm=fae6e2b7cd916ba1cbbee83a31f04cd79f0471b62979c26374d291ee89c6f9a24feeaa3f4481&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（可回滾）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494202&idx=1&sn=1c22caff3014652c595f5169bff20a10&chksm=fae6e1f5cd9168e37c5dd9ec7d19573c443d8c926309bcde4bd0e57ffa2aee12be697e15cdc2&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（優雅上下線）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494244&idx=1&sn=d6b6ff87866a7b29ee7c4e5eb37b3d82&chksm=fae6e1abcd9168bddf4b03d2908d0423b17f3383ce89f6a8349bea06b36ab5fcbd79028d4781&scene=21#wechat_redirect)

> “[阿里巴巴雲原生](https://mp.weixin.qq.com/s/4ZMQyKDGwMZ03Bo41LUTWg)關注微服務、Serverless、容器、Service Mesh 等技術領域、聚焦雲原生流行技術趨勢、雲原生大規模的落地實踐，做最懂雲原生開發者的公眾號。”</your-service-name>

SpringCloud 應用在 Kubernetes 上的最佳實踐 — 高可用（熔斷）

相關文章