*作者：宿何*

微服務的穩定性一直是開發者非常關注的話題。隨著業務從單體架構向分散式架構演進以及部署方式的變化，服務之間的依賴關係變得越來越複雜，業務系統也面臨著巨大的高可用挑戰。應用高可用服務 AHAS (Application High Availability Service) 是經阿里巴巴內部多年高可用體系沉澱下來的雲產品，以流量與容錯為切入點，從流量控制、不穩定呼叫隔離、熔斷降級、熱點流量防護、系統自適應保護、叢集流控等多個維度來幫助保障服務的穩定性，同時提供秒級的流量監控分析功能。AHAS 不僅在阿里內部淘寶、天貓等電商領域有著廣泛的應用，在網際網路金融、線上教育、遊戲、直播行業和其他大型政央企行業也有著大量的實踐。

![1.png](https://p1-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/4fd15a46a8f14a6f83d9095b76ad12e0~tplv-k3u1fbpfcp-watermark.image?)

流控是保障微服務穩定性最常用也是最直接的一種控制手段。每個系統、服務都有其能承載的容量上限，流控的思路非常簡單，當某個介面的請求 QPS 超出一定的上限後，拒絕多餘的請求，防止系統被突發的流量打垮。市面上最常見的方案是單機維度的流控，比如透過 PTS 效能測試預估某個介面的容量上限是 100 QPS，服務有 10 個例項，則配置單機流控 10 QPS。但很多時候，由於流量分佈的不確定性，單機維度的流量控制存在一些效果不佳的情況。

## 典型場景 1:精確控制對下游的呼叫總量

![2.png](https://p1-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/aa5e95ea090d4eaab4ce4980e4f82c64~tplv-k3u1fbpfcp-watermark.image?)

**場景：** 服務 A 需要頻繁呼叫服務 B 的查詢介面，但服務 A 和 B 的容量存在差異，服務 B 約定最多給服務 A 提供總共 600 QPS 的查詢能力，透過流控等手段進行控制。

**痛點：** 若按照單機流控的策略配置，由於呼叫邏輯、負載均衡策略等原因，A 呼叫 B 到達每個例項的流量分佈可能非常不均，部分流量較大的服務 B 例項觸發單機流控，但總體限制量尚未達到，導致 SLA 未達標。這種不均的情況經常會發生在呼叫某個依賴服務或元件（如資料庫訪問）的時候，這也是叢集流控的一個典型場景：精確控制微服務叢集對下游服務（或資料庫、快取）的呼叫總量。

## 典型場景 2：業務鏈路入口進行請求總量控制

![3.png](https://p6-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/43037105c3e94a6ca0e22ce39da31d65~tplv-k3u1fbpfcp-watermark.image?)

**場景：** 在 Nginx/Ingress 閘道器、API Gateway (Spring Cloud Gateway, Zuul) 進行入口流量控制，希望精確控制某個或某組 API 的流量來起到提前保護作用，多餘流量不會打到後端系統。

**痛點：** 如果按照單機維度配置，一方面不好感知閘道器機器數變化，另一方面閘道器流量不均可能導致限流效果不佳；而且從閘道器入口角度來講，配置總體閾值是最自然的手段。

## AHAS 叢集流控

AHAS 叢集流控可以精確地控制某個服務介面在整個叢集的實時呼叫總量，可以解決單機流控因流量不均勻、機器數頻繁變動、均攤閾值太小導致限流效果不佳的問題，結合單機流控兜底，更好地發揮流量防護的效果。

對於上面的場景，透過 AHAS 叢集流控，無論是 Dubbo 服務呼叫、Web API 訪問，還是自定義的業務邏輯，均支援精確控制呼叫總量，而無關呼叫邏輯、流量分佈情況、例項分佈。既可以支撐數十萬 QPS 大流量控制，也支援分鐘小時級業務維度小流量精確控制。防護觸發後的行為可由使用者自定義（如返回自定義的內容、物件）。

AHAS 叢集防護具有以下幾大優勢：

- **場景豐富：** 全面覆蓋從閘道器/Mesh 入口流量精確防護、Web/RPC 服務/SQL 呼叫精確流控，到分鐘小時級業務維度流量控制的場景，支援數十萬 QPS 量級；

- **低使用成本：** 無需特殊接入方式，開箱即用，快速配置；

- **全自動管控與運維：** 自動化管控與分配 token server 資源，自動化運維能力保障可用性，使用者無需關注服務端資源準備與分配，只需關注規則配置與業務流程；

- **低效能損耗：** 效能模式下對業務鏈路完全無時延增加，精確模式對業務鏈路的 RT 損耗控制在 3ms 之內，使用者可放心使用；

- **配套的可觀測能力，** 實時瞭解介面穩定性與規則生效情況。

下面我們就來用一個示例來介紹一下，如何快速將應用接入 AHAS 來玩轉叢集流控能力，保障服務穩定性。

## 快速玩轉 AHAS 叢集流控

第一步，我們將服務或閘道器接入 AHAS 流量防護。AHAS 提供多種快速便捷的無侵入接入手段：

![4.png](https://p6-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/0b32281d19a74352848b3543838bfaf2~tplv-k3u1fbpfcp-watermark.image?)

AHAS 流量防護支援 Java/Go/C++/PHP 等多語言原生接入，以及 Nginx/Ingress 閘道器接入和 Mesh 接入；Java 應用支援全方位的 20+ 種微服務框架/元件（詳情見文末相關連結）：

- Web 服務端：Spring Web/Spring Boot/Spring Cloud/Tomcat/Jetty/Undertow

- Web client：OkHttp/Apache HttpClient

- RPC：Dubbo/Feign/gRPC

- DAO/快取：MyBatis/Spring Data JPA/Memcached/Jedis client

- MQ consumer：RocketMQ client/Kafka client/RocketMQ client

- API Gateway：Spring Cloud Gateway/Zuul 1.x

- Reactor 框架

接入 AHAS 成功後，只要觸發服務呼叫/介面訪問，即可在 AHAS 控制檯（詳情見文末相關連結）看到自己的服務，並可以在監控頁面看到自己的介面：

![5.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/57c5872bb8e04689a68895215654d6b7~tplv-k3u1fbpfcp-watermark.image?)

第二步，我們在應用左側選單的“叢集流控-叢集配置”頁面，開啟叢集流控功能。測試應用我們可以開啟“試用”叢集，不同的叢集規格可以承載不同的 QPS 量級：

![6.png](https://p6-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/f23922f5fddd40068f8fa73437e11b18~tplv-k3u1fbpfcp-watermark.image?)

第三步，我們在實時監控頁面找一個介面，點選右上角的“+”號，新增流控規則（詳情見文末相關連結）。以下示例中，我們對 /doSomething 這個介面配置叢集流控規則，這個介面總的訪問量每秒鐘不超過 200 次。規則狀態為“開啟”，代表新增後實時生效。

![7.png](https://p9-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/7b750d73b4c2463faa167f03040a1e12~tplv-k3u1fbpfcp-watermark.image?)

點選下一步，我們還可以給選擇的 Web/RPC 呼叫配置防護規則觸發後的處理邏輯（詳情見文末相關連結），如自定義返回值。最終配置完成後，我們點選新增按鈕，這條規則就會生效到每個節點。

配置完畢後，我們可以嚮應用叢集中不同機器發起一定數量的該介面請求，可以發現每秒鐘超過 200 個請求後會自動返回我們在規則中預設好的返回行為；同時控制檯實時監控頁面也可以看到，多餘的流量被拒絕，介面每秒鐘透過的總量級平穩在 200 QPS：

![8.png](https://p1-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/fcf3590f6d35407abcfc2d873eff6424~tplv-k3u1fbpfcp-watermark.image?)

透過幾步簡單的配置，我們就可以快速體驗 AHAS 叢集流控給業務流量帶來“如絲般順滑”的保護能力；同時最近 AHAS 還新上線 Nginx/Ingress 閘道器入口流量防護、Web 請求引數流控（詳情見文末相關連結）等核心功能，歡迎大家點選閱讀原文，在前往 AHAS 控制檯進行快速體驗。

***相關連結***

*1）全方位的 20+ 種微服務框架/元件：*
*https://help.aliyun.com/document_detail/128800.html*

*2）AHAS 控制檯：*
*https://common-buy.aliyun.com/?commodityCode=ahas_001#/buy*

*3）新增流控規則：*
*https://help.aliyun.com/document_detail/174871.html*

*4）防護規則觸發後的處理邏輯
https://help.aliyun.com/document_detail/290938.html*

*5）Nginx/Ingress 閘道器入口流量防護
https://help.aliyun.com/document_detail/209640.html*

*6）Web 請求引數流控
https://help.aliyun.com/document_detail/337922.html*

如何利用 “叢集流控” 保障微服務的穩定性？

相關文章