*作者：* *十眠、洵沐*

## 背景

微服務體系架構中，服務之間的依賴關係錯綜複雜，有時某個功能發版依賴多個服務同時升級上線。我們希望可以對這些服務的新版本同時進行小流量灰度驗證，這就是微服務架構中特有的全鏈路灰度場景，透過構建從閘道器到整個後端服務的環境隔離來對多個不同版本的服務進行灰度驗證。在釋出過程中，我們只需部署服務的灰度版本，流量在呼叫鏈路上流轉時，由流經的閘道器、各個中介軟體以及各個微服務來識別灰度流量，並動態轉發至對應服務的灰度版本。如下圖：

![1.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/190c36e7804a469b87fca4b314a1b672~tplv-k3u1fbpfcp-zoom-1.image "1.png")

上圖可以很好展示這種方案的效果，我們用不同的顏色來表示不同版本的灰度流量，可以看出無論是微服務閘道器還是微服務本身都需要識別流量，根據治理規則做出動態決策。當服務版本發生變化時，這個呼叫鏈路的轉發也會實時改變。相比於利用機器搭建的灰度環境，這種方案不僅可以節省大量的機器成本和運維人力，而且可以幫助開發者實時快速的對線上流量進行精細化的全鏈路控制。

全鏈路灰度能力提升了微服務架構帶來的快速迭代、穩定性驗證的優勢，給企業生產環境的系統帶來了真真切切的好處。本文將著重介紹 MSE 服務治理基於全鏈路灰度能力的應用場景與痛點延伸出來了新的能力。

## 全鏈路之執行時白屏化能力

在我們生產環境使用全鏈路灰度的過程中，我們常常會遇到一些問題。

-   我們配置全鏈路灰度的流量流向是否符合預期，我們的流量是否按照我們配置的灰度規則進行匹配。

-   我們灰度的流量出現了大量的慢呼叫、異常，我該如何確定是我們新版本程式碼的業務問題還是因為我們在流量灰度過程中考慮不全導致的系統問題，如何快速定位問題，從而實現高效的迭代。

-   在我們設計灰度系統的過程中，我們需要考慮如何對我們的灰度流量進行打標，有些時候在入口應用、微服務介面出可能難以找到合適的流量特徵（引數、headers 等攜帶的具備業務語義的標識），在這樣的場景下我們如何快捷地對我們的流量進行打標。

基於以上一些列的問題，也是我們在支援雲上客戶落地全鏈路灰度的過程中不斷碰到的問題。執行時白屏化能力也就是我們在這個過程中抽象設計出來的一個能力。

執行時白屏化的目的是為了幫助我們洞察全鏈路灰度的流量匹配以及執行的行為。

我們基於流量路由的規則將執行時白屏化規則抽象為如下：

WhiteScreenRule = Taget + Action****

*![2.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/2191edcbdea942b7a323730303c05601~tplv-k3u1fbpfcp-zoom-1.image "2.png")*

**Target：**

-   ResourceTarget: 目標介面，支援Web、Rpc 以及自定義方法

![3.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/4dde88c9224141618aa6445629da195f~tplv-k3u1fbpfcp-zoom-1.image "3.png")

-   WorkloadTarget: 目標例項，可以選擇所有機器或指定機器 IP

![4.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/8553dc00731541c8885eecd7833d832d~tplv-k3u1fbpfcp-zoom-1.image "4.png")

-   TrafficCondition: 是否僅針對異常、慢呼叫、全鏈路灰度標籤

**![5.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/21b9ba9f814c430db655ca0c9d7a2f62~tplv-k3u1fbpfcp-zoom-1.image "5.png")**

**Action：**

-   相關上下文診斷資訊的收集
-   後續鏈路進行流量染色
-   後續鏈路是否日誌列印

![6.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/37b2c27c846847e8a83a85fde42f1050~tplv-k3u1fbpfcp-zoom-1.image "6.png")

下面我們來詳細看一下如何運用執行時白屏化能力解決我們在全鏈路灰度過程中遇到的問題。

### 灰度流量的匹配以及流向是否符合預期

![7.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/5e61a7bbc6344d7dbefd4a523b223997~tplv-k3u1fbpfcp-zoom-1.image "7.png")

針對如上場景我們只需配置 Zuul 應用入口的白屏化匹配規則即可：

![8.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/42bf0e4099054ad4a1c7c293387061e6~tplv-k3u1fbpfcp-zoom-1.image "8.png")

我們可以快速觀察到全鏈路中灰度流量的引數、返回值、headers 等特徵屬性。我們也可以快速發現全鏈路是否符合預期以及定位不符合預期的原因。

![9.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/bb694323d3b74ce881b315e4c1da3b84~tplv-k3u1fbpfcp-zoom-1.image "9.png")

## 全鏈路之配置灰度

除了微服務例項和流量的灰度，微服務應用中的配置項也應該具備相應的灰度能力，以應對灰度應用對特殊配置值的訴求。

微服務應用通常會引入配置中心做配置管理，其提供動態的配置推送能力使得應用無需重啟就可以動態地改變執行邏輯。但配置中心的管理維度僅僅是配置項本身，並不能感知到前來獲取配置的服務例項的環境資訊，即無法區分請求配置的是正式環境的例項還是灰度環境的例項。在這種背景下，如果某項配置在正式環境和灰度環境中需要使用不同值，它們在配置中心中必須作為不同的配置項，我們可能需要寫出這樣的程式碼：

```
...
if (env == "gray") {
    cfg = getConfig("cfg-1");
} else if (env == "gray2") {
    cfg = getConfig("cfg-2");
} else {
    cfg = getConfig("cfg-base");
}
...
```

這一場景在 A/B 測試中非常常見。隨著配置項和灰度環境的增加，這類程式碼還會重複許多次。此外，一套灰度環境中往往存在多個服務，每個服務都需要獨立維護一套類似的程式碼。最終的解決方案如圖所示，同一配置項在不同環境中使用的配置值需要在使用者應用中主動進行區分。

![10.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/8d98a1d39aba4bd3ae8039a7a170da16~tplv-k3u1fbpfcp-zoom-1.image "10.png")

究其原因，還是來自於配置中心無法感知服務例項的環境資訊，使得我們必須在程式碼中代替配置中心行使這一任務，從而導致了環境資訊對業務程式碼產生了侵入。

針對這一問題，MSE 的配置標籤推送功能將配置管理場景下的環境資訊的感知下沉到平臺側，由 Agent 負責。使用者只需接入 MSE，就可輕鬆在全鏈路灰度場景中使用配置推送能力，免去業務程式碼中繁瑣的環境資訊檢測邏輯。如圖所示：

![11.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/f175b04d5ccc49a1ad1b7c1c6188ba67~tplv-k3u1fbpfcp-zoom-1.image "11.png")

具體操作步驟可以參考微服務治理實戰派：***<https:>***

### 步驟一：還原線上場景

我們將部署 spring-cloud-zuul、spring-cloud-a、spring-cloud-b、spring-cloud -c 四個業務應用和註冊中心 Nacos Server。其呼叫鏈路如下：

![12.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/aee68042cbb842d0a33d374a3fbc4398~tplv-k3u1fbpfcp-zoom-1.image "12.png")

這些應用都是最簡單的 Spring Cloud 和 Dubbo 應用，您可以在下方連結獲取到專案原始碼：

***<https:>***

登入 MSE 治理中心控制檯，在左側導航欄單擊**應用治理**，輸入 cfg-spring-cloud-a ，點選搜尋圖示。選擇 cfg-spring-cloud-a 應用卡片，可進入應用詳情頁面。

接著在左側導航欄選擇**應用配置 > 配置列表**，點選開關 configValue 前的 + ，可以看到此時 A 應用中基線版本和灰度版本的配置值相同，均為應用中的初始值。

![13.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/cd8b582059f74da49df9383f515f5ac1~tplv-k3u1fbpfcp-zoom-1.image "13.png")

### 步驟二：配置應用 spring-cloud-a 的灰度規則

在 cfg-spring-cloud-a 的應用詳情頁中，選擇左側導航欄的**流量治理**，點選**標籤路由**。如圖：

![14.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/1361fdafe8d142719635e4bbf5e2263e~tplv-k3u1fbpfcp-zoom-1.image "14.png")

接著我們為灰度例項配置灰度規則。點選**標籤 gray >流量規則 > 新增**，配置如下的灰度規則，點選確定。

![15.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/58b4aa101ccb488fa83f4d3fde9e5706~tplv-k3u1fbpfcp-zoom-1.image "15.png")

### 步驟三：驗證配置灰度

接下來我們來驗證配置灰度。

**1. 對灰度例項執行標籤推送**

回到 cfg-spring-cloud-a 的應用詳情頁的**應用配置 > 配置列表**，選擇開關 configValue 後的**按標籤推送**。在彈窗中選擇標籤 gray，並設定灰度環境中的配置值。

![16.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/f8719c50739b40cfb7e5d564b075d21b~tplv-k3u1fbpfcp-zoom-1.image "16.png")

之後點選**下一步：值對比**，再點選**標籤推送**，完成推送。此時在控制檯上可以看到灰度例項的配置值已經變為了我們剛剛設定的值。****

![17.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/f7c9eac4cb284b05bd5d9b107ffddaf6~tplv-k3u1fbpfcp-zoom-1.image "17.png")

**2. 驗證配置灰度生效**

登入容器服務控制檯，點選左側導航欄的**叢集** ，進入部署了應用的叢集。在叢集詳情頁中選擇**網路 > 服務**，找到 zuul-slb，點選其外部端點，訪問服務呼叫頁面。

輸入 /A/a ，可以訪問到基線版本的 A 應用，可以看到其配置值仍為初始值。

![18.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/8e015abfcecf4527a9726f81e9868a85~tplv-k3u1fbpfcp-zoom-1.image "18.png")

輸入 /A/a?name=xiaoming ，可以透過剛剛配置的灰度規則訪問到灰度版本的 A 應用，可以看到其配置值已經變為了我們剛剛推送的值。

![19.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/2db3513138644cf5b0096a0358243ec1~tplv-k3u1fbpfcp-zoom-1.image "19.png")

**3. 驗證灰度配置值的永續性**

標籤推送的配置值是持久化的。這意味著即使灰度環境中的應用重啟也能自動從 MSE Agent 獲取到之前推送的配置值。

登入容器服務控制檯，點選左側導航欄的**叢集** ，進入部署了應用的叢集。在叢集詳情頁中選擇**工作負載 > 無狀態**。勾選 spring-cloud-a-gray 負載，點選**批次重新部署**。您也可以使用 kubectl 工具進行負載重部署，模擬灰度應用重啟的過程。

應用重啟完成後，重新執行上一步中訪問灰度應用的流程，可以發現配置值仍然為之前推送的配置值。

## 總結

本文介紹了基於全鏈路灰度延伸出來的執行時白屏化、配置灰度等能力，完善全鏈路灰度的場景，進一步提升了全鏈路灰度的易用性。全鏈路灰度是微服務治理中比較重要的一個場景，MSE 的全鏈路灰度能力還在隨著客戶場景的深入而不斷擴充套件與迭代，我們需要持續地投入把這樣一個重要的場景做深做透做到更加易用，可以預見的關於全鏈路灰度能力的打磨我們還有很多的路要持續探索，目前全鏈路灰度已經有近百家企業使用，我們一直相信只有經過客戶持續打磨的產品才會愈發歷久彌新。如果您也感興趣，歡迎使用與體驗。

MSE 雲原生閘道器預付費、MSE 註冊配置預付費首購 8 折，首購 1 年及以上 7 折。點選閱讀[此處](https://www.aliyun.com/product/aliware/mse)，即享優惠！</https:></https:>

微服務全鏈路灰度新能力

相關文章