*作者：十眠*

## 背景

微服務的穩定性一直是開發者非常關注的話題。隨著業務從單體架構向分散式架構演進以及部署方式的變化，服務之間的依賴關係變得越來越複雜，業務系統也面臨著巨大的高可用挑戰。疫情期間，大家可能都經歷過以下的場景：

-   線上預約購買口罩時瞬間洪峰流量導致系統超出最大負載，load 飆高，使用者無法下單；
-   線上選課時同一時刻提交選課的請求過多，系統無法響應；
-   線上辦公/教學時同時線上會議的使用者過多，會議比較卡；

這些可用性下降的場景會嚴重影響使用者體驗，所以我們需要預先透過一些手段來提前對不穩定的因素進行防護，同時在突發流量的情況下我們也要具備快速止損的能力。

### 流控降級 - 保障微服務穩定性重要的一環

影響微服務可用性的因素有非常多，而這些不穩定的場景可能會導致嚴重後果。我們從微服務流量的視角來看，可以粗略分為兩類常見的場景：

1. 服務自身流量超過承載能力導致不可用。比如激增流量、批次任務投遞導致服務負載飆高，無法正常處理請求。

流量是非常隨機性的、不可預測的。前一秒可能還風平浪靜，後一秒可能就出現流量洪峰了（例如雙十一零點的場景）。然而我們系統的容量總是有限的，如果突然而來的流量超過了系統的承受能力，就可能會導致請求處理不過來，堆積的請求處理緩慢，CPU/Load 飆高，最後導致系統崩潰。因此，我們需要針對這種突發的流量來進行限制，在儘可能處理請求的同時來保障服務不被打垮。

![1.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/c937e0c3bfa04a9ab9955d9de967ebc2~tplv-k3u1fbpfcp-zoom-1.image "1.png")

2. 服務因依賴其他不可用服務，導致自身連環不可用。比如我們的服務可能依賴好幾個第三方服務，假設某個支付服務出現異常，呼叫非常慢，而呼叫端又沒有有效地進行預防與處理，則呼叫端的執行緒池會被佔滿，影響服務自身正常運轉。在分散式系統中，呼叫關係是網狀的、錯綜複雜的，某個服務出現故障可能會導致級聯反應，導致整個鏈路不可用。

一個服務常常會呼叫別的模組，可能是另外的一個遠端服務、資料庫，或者第三方 API 等。例如，支付的時候，可能需要遠端呼叫銀聯提供的 API；查詢某個商品的價格，可能需要進行資料庫查詢。然而，這個被依賴服務的穩定性是不能保證的。如果依賴的服務出現了不穩定的情況，請求的響應時間變長，那麼呼叫服務的方法的響應時間也會變長，執行緒會產生堆積，最終可能耗盡業務自身的執行緒池，服務本身也變得不可用。現代微服務架構都是分散式的，由非常多的服務組成。不同服務之間相互呼叫，組成複雜的呼叫鏈路。以上的問題在鏈路呼叫中會產生放大的效果。複雜鏈路上的某一環不穩定，就可能會層層級聯，最終導致整個鏈路都不可用。因此我們需要對不穩定的服務進行熔斷降級，暫時切斷不穩定呼叫，避免區域性不穩定因素導致整體的雪崩。

![2.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/6aa97e4fe4d1464395fa7f84e141d1a8~tplv-k3u1fbpfcp-zoom-1.image "2.png")

MSE 服務治理基於阿里限流降級元件 Sentinel 的穩定性防護能力，以流量為切入點，從流量控制、併發控制、熔斷降級、熱點防護、系統自適應保護等多個維度來幫助保障服務的穩定性，覆蓋微服務、雲原生閘道器、Service Mesh 等幾大場景。

介紹完流控降級的場景與能力之後，下面講請出我們今天要重點介紹的主人公：執行時動態 Enhance 能力。我們將介紹如何透過 MSE 服務治理一鍵實現任意點位的流控降級，任意點位包含但不限於 Web、Rpc、SQL、Redis 等訪問介面、任意編寫的業務方法、框架的介面等等。

## 執行時 Enhance 能力 - 一鍵實現任意點位的流控降級

如何在執行時，給任意指定的方法增加一個流控降級能力呢？下面我將以一個 Demo 為例簡單介紹。我們編寫了如下一個業務程式碼，我們編寫了一個簡單的 Spring Boot 應用，其中 a 方法是一個隨意編寫的內部方法。

```
@SpringBootApplication
public class AApplication {

public static void main(String[] args) {
        SpringApplication.run(AApplication.class, args);
    }

@Api(value = "/", tags = {"入口應用"})
    @RestController
    class AController {
        ...
    @ApiOperation(value = "HTTP 全鏈路灰度入口", tags = {"入口應用"})
        @GetMapping("/a")
        public String restA(HttpServletRequest request) {
            return a(request);
        }
        
        private String a(HttpServletRequest request) {
            StringBuilder headerSb = new StringBuilder();
            Enumeration<string> enumeration = request.getHeaderNames();
            while (enumeration.hasMoreElements()) {
                String headerName = enumeration.nextElement();
                Enumeration<string> val = request.getHeaders(headerName);
                while (val.hasMoreElements()) {
                    String headerVal = val.nextElement();
                    headerSb.append(headerName + ":" + headerVal + ",");
                }
            }
            return "A"+SERVICE_TAG+"[" + inetUtils.findFirstNonLoopbackAddress().getHostAddress() + "]" + " -> " +
                    restTemplate.getForObject("http://sc-B/b", String.class);
        }
        ...
    }
}
```

到目前為止監控是看不到 a 方法的，我們只能看到 restA 的介面或者說是 GET:/a 的監控資料，並且可以對其配置限流降級規則。

![3.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/f58fbdd82551416097236cc412660e4a~tplv-k3u1fbpfcp-zoom-1.image "3.png")

開源的方式我們需要在程式碼中增加Sentinel的依賴，並且對 com.alibabacloud.mse.demo.AApplication.AController#a 方法配置註解或者編碼方式增加 Sentinel 能力

```
// 註解方式進行埋點，註解方式受 AOP 代理的諸多限制
@SentinelResource("com.alibabacloud.mse.demo.AApplication.AController:a")
private String a(HttpServletRequest request) {
    StringBuilder headerSb = new StringBuilder();
    Enumeration<string> enumeration = request.getHeaderNames();
    while (enumeration.hasMoreElements()) {
        String headerName = enumeration.nextElement();
        Enumeration<string> val = request.getHeaders(headerName);
        while (val.hasMoreElements()) {
            String headerVal = val.nextElement();
            headerSb.append(headerName + ":" + headerVal + ",");
        }
    }
    return "A"+SERVICE_TAG+"[" + inetUtils.findFirstNonLoopbackAddress().getHostAddress() + "]" + " -> " +
            restTemplate.getForObject("http://sc-B/b", String.class);
}

// SDK 方式增加流控降級能力，需要侵入業務程式碼
private String a(HttpServletRequest request) {
    Entry entry = null;
    try {
        entry = SphU.entry("HelloWorld");
        
        StringBuilder headerSb = new StringBuilder();
        Enumeration<string> enumeration = request.getHeaderNames();
        while (enumeration.hasMoreElements()) {
            String headerName = enumeration.nextElement();
            Enumeration<string> val = request.getHeaders(headerName);
            while (val.hasMoreElements()) {
                String headerVal = val.nextElement();
                headerSb.append(headerName + ":" + headerVal + ",");
            }
        }
        return "A"+SERVICE_TAG+"[" + inetUtils.findFirstNonLoopbackAddress().getHostAddress() + "]" + " -> " +
                restTemplate.getForObject("http://sc-B/b", String.class);
    } catch (BlockException ex) {
      System.err.println("blocked!");
    } finally {
        if (entry != null) {
            entry.exit();
        }
    }
}
```

需要編碼那就自然會有許多的弊端，要增加依賴要改程式碼，要重新發布，難以做到即上即下...到處都是成本。

那麼我們如何可以不編寫一行程式碼，就可以做到對 com.alibabacloud.mse.demo.AApplication.AController#a 的限流降級能力呢？

### 配置執行時白屏化規則

配置執行時白屏化規則，並選擇當前應用的自定義埋點型別的介面，並填入類與方法。

![4.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/ff6708fb11e64f8fa583022c784d0462~tplv-k3u1fbpfcp-zoom-1.image "4.png")

當然可以看到，我們白屏化規則能力不僅僅支援動態限流降級，還支援任意點位的訪問日誌以及請求上下文的收集

![5.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/82a979c9bd1a402dbf5ad45189559424~tplv-k3u1fbpfcp-zoom-1.image "5.png")

### 觀察到指定方法的監控資料

我們在應用治理找到目標應用，在介面監控 > 自定義埋點中看到指定方法com.alibabacloud.mse.demo.AApplication.AController#a 的監控資料

![6.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/aa2129e8f56941e48cf74f205193ad0d~tplv-k3u1fbpfcp-zoom-1.image "6.png")

### 配置流控規則

我們可以點選介面概覽右上角的“新增防護規則”按鈕，新增一條流控規則：

![7.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/5597cb99a45a4f4dbea8b51682787059~tplv-k3u1fbpfcp-zoom-1.image "7.png")

我們可以配置最簡單的 QPS 模式的流控規則，比如上面的例子即限制該介面每秒單機呼叫量不超過 1 次。

配置規則後，稍等片刻即可在監控頁面看到限流效果：

![8.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/359ddb34828e42c6abbb8f40809eea7a~tplv-k3u1fbpfcp-zoom-1.image "8.png")

被拒絕的流量也會返回錯誤資訊。MSE 自帶的框架埋點都有預設的流控處理邏輯，如 Web 介面被限流後返回 429 Too Many Requests，DAO 層、java 方法被限流後丟擲異常等。

## 總結

我們將執行時白屏化能力抽象為如下規則：WhiteScreenRule = Taget + Action****

![9.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/3cc46e737f574168bf18faaeb540f13d~tplv-k3u1fbpfcp-zoom-1.image "9.png")

**Target:**

-   ResourceTarget: 目標介面，支援 Web、Rpc、SQL 以及任意的自定義方法
-   WorkloadTarget: 目標例項，可以選擇所有機器或指定機器 IP
-   TrafficCondition: 是否僅針對異常、慢呼叫、全鏈路灰度標籤

**Action:**

-   相關上下文診斷資訊的收集，引數、返回值、執行緒上下文、Target 物件、類載入器資訊等
-   後續鏈路是否日誌列印
-   進行限流降級
-   指定流量進行打標染色（規劃中）

近期 MSE 將推出基於上述規則的模型結合動態 Enhance 能力的日誌治理，我們不僅僅有基於動態 Enhance 能力的任意點位的限流降級，還可以幫助我們洞察全鏈路流量執行的行為，並做出實時的治理與保護。

![10.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/cf3d450b9b7247ffbc04f238141b6d81~tplv-k3u1fbpfcp-zoom-1.image "10.png")

MSE Sentinel 不僅在阿里內部淘寶、天貓等電商領域有著廣泛的應用，在網際網路金融、線上教育、遊戲、直播行業和其他大型政央企行業也有著大量的實踐。有了針對任何方法都可以做到限流降級的能力後，我們可以快速賦予任意一個微服務系統具備流量防護的能力，讓我們有更多的時間專注於業務的快速發展，關於系統的穩定性就放心地交給 MSE ，讓專業的團隊做專業的事情。

MSE 雲原生閘道器預付費、MSE 註冊配置預付費首購 8 折，首購 1 年及以上 7 折。點選[此處](https://www.aliyun.com/product/aliware/mse)，檢視更多詳情~</string></string></string></string></string></string>

無需編寫一行程式碼，實現任何方法的流量防護能力

相關文章