![頭圖.png](https://ucc.alicdn.com/pic/developer-ecology/5fb9a18c44d0457aa571699407c0f5ea.png)

作者 | 牛兔

> **導讀**：本文是《SpringCloud 應用在 Kubernetes 上的最佳實踐》系列文章的第 11 篇，從前面兩期開始我們進入到了高可用專題，分別介紹了流量防護和故障演練相關內容。本文將從另一個視角介紹如何保障業務高可用性：即業務準備階段，提前進行線上的瓶頸定位和容量評估，以便更低成本、更高效/真實的發現系統瓶頸點，做到最精確的容量評估。

# 高可用體系介紹

首先來介紹下高可用體系，應用生命週期的高可用都有哪些策略、分別可以實現什麼能力呢？

![1.png](https://ucc.alicdn.com/pic/developer-ecology/829cbe245b3c4292b5f2f37b9acdbdb6.png)

![2.png](https://ucc.alicdn.com/pic/developer-ecology/e56b37a5302f4015918267022a399b84.png)

從上圖示意中可以看出，應用生命週期的整個過程中，都有相應的高可用策略，如前面 2 篇文章介紹的流量防護即為線上執行時的線上管控相關策略，混沌工程即為系統演練的相關策略，而全鏈路壓測即為規劃階段的重要策略，其包括線上壓測（即環境選擇）、容量規劃（即壓測實施）、彈性伸縮（即生態內聯動）。

以下將重點介紹容量評估的重要性，以及如何實施壓測來實現容量評估。

# 為何要進行容量評估？

關於容量評估的重要性及必要性已經是個老生常談的問題了，分別從技術角度和業務戰略角度總結如下：

![3.png](https://ucc.alicdn.com/pic/developer-ecology/58d7474836db435fbae8d1cc69d4eb0f.png)

容量評估的目的自然是解決容量問題，如新業務上線前的準備，大型營銷活動的準備等等。大型活動中洪峰流量引起的系統表現不確定性，是最經典的適用場景。一個理想的營銷活動週期應該是有如下閉環流程：

![4.png](https://ucc.alicdn.com/pic/developer-ecology/c52abb89effe437db696ba5593cc8652.png)

效能測試是容量評估的核心手段，效能測試之後透過客戶端-應用系統-基礎負載一系列的監控分析，最終可得出瓶頸點位於何處、應如何有針對性地最佳化。上圖可以看出，效能測試透過真實、高效的壓測方式進行容量評估/瓶頸定位&解決，最終來保障活動穩定進行。

# 如何進行效能測試？

阿里巴巴全鏈路壓測從 2013 年到現在也已經是第 7 個年頭了，在這 7 年間我們不斷積累、總結、最佳化進步，進行這樣一種大規模的專案活動，離不開有效的流程把控及分工管理。關於全鏈路壓測的前期準備，這邊將不做贅述，有興趣的同學可以參考文章[《獨家揭秘 | 阿里怎麼做 雙11 全鏈路壓測？》](https://mp.weixin.qq.com/s?__biz=MzU4NzU0MDIzOQ==&mid=2247487981&idx=4&sn=0ed7d053d48b07532687bfe5cbc51d98&scene=21#wechat_redirect)。以下將重點介紹壓測執行階段操作。

進行全鏈路壓測之前，單應用會進行內部壓測，以便能提升全鏈路壓測的效率，即解決內部問題之後再解決聯動問題。故以下將分別介紹 Spring Cloud 應用的壓測以及全鏈路壓測分別如何執行。

## 1. 單應用壓測 Spring Cloud 應用

單應用的壓測不少開發者會選擇開源 JMeter 進行壓測，甚至還會進行自建平臺以便實現高併發能力。這兩者都不推薦，他們都有較為明顯的劣勢。阿里雲效能測試服務（PTS Performance Testing Service）提供了雲端壓測服務，其完美相容了 JMeter，只需把指令碼上傳上來即可發起壓測。

![5.png](https://ucc.alicdn.com/pic/developer-ecology/9e7a630ea05b4ffabbfecc87cae7b2e4.png)

同時，目前 PTS 上已經支援直接進行微服務壓測，不需要自己設定進行外掛管理和升級，只需直接在 PTS 中選擇對應的叢集等資訊，即可快速發起壓測。

![6.png](https://ucc.alicdn.com/pic/developer-ecology/3b861f26676d4686b81d06ff78a615c5.png)

## 2. 全鏈路壓測

如前面介紹效能壓測流程中所屬，整個全鏈路壓測包括的前期事宜較多，如環境選擇與改造、資料準備、安全策略等，這部分內容在此不做贅述，有興趣的可以查閱《Performance Test Together》主題相關介紹。本處主要介紹全鏈路壓測的實施：即配置與線上業務模型一樣的業務場景，從公網發起真實流量進行多維度和場景的壓測，驗證容量能力和瓶頸問題的定位。

一般正式壓測會按照壓測計劃，執行多種壓測策略。淘寶的 雙11 大促壓測，一般包含這樣幾步：

- **峰值脈衝**：即完全模擬 0 點大促目標峰值流量，進行大促態壓測，觀察系統表現；

- **系統摸高**：取消限流降級保護功能，抬高當前壓測值（前提是當前的目標壓測值已經達到，則可以進行摸高測試），觀察系統的極限值是多少，可進行多輪提升壓力值壓測，直到系統出現異常為止。簡化摸高測試的提升資訊；

- **限流降級驗證**：顧名思義，即驗證限流降級保護功能是否正常，修改限流降級的作用與驗證方法，更簡化，（AHAS 引入）商業化產品AHAS(應用高可用服務，Application High Availability Service）提供了全面的限流降級能力，可進行全鏈路的降級保護；

- **破壞性測試**：這個主要是為了驗證預案的有效性，類似於容災演練時的預案執行演練。即為持續保持大促態壓測，並驗證預案的有效性，觀察執行預案之後對系統的影響。修改破壞性測試的內容。

## 3. 在 PTS 上壓測

上述壓測場景的實施，均可以在 PTS 上操作實現，且配置不同的壓測量級資料，來進行多輪壓測，並觀察其系統表現。壓測不應該是一次性的操作，而應該是反覆的、多輪驗證的操作。以下以峰值脈衝為例，介紹如何在 PTS 上實施壓測。

首先是場景的構建。PTS 提供了豐富的建立場景方式，包括 JSON、JMX、YAML 指令碼的匯入，純互動 0 編碼 UI 建立、雲端錄製器錄製結果匯入、完美相容 JMeter 指令碼等。下圖作為示例：

![7.png](https://ucc.alicdn.com/pic/developer-ecology/2e6172076be84af292ff117d5865958c.png)

業務場景構建完成之後，以 PTS 自研原生引擎（即純互動 UI 編排模型）為例，提供了豐富的壓力來源定製化能力，可實現多地域/運營商的來源定製，更真實地模擬真實流量情況。

![8.png](https://ucc.alicdn.com/pic/developer-ecology/bc6bfbbf6ca4409e8efb80210024e12a.png)

同時，可透過 SLA + 定時任務能力，實現“無人值守”壓測，對核心業務鏈路進行週期性的效能摸頂。

![9.png](https://ucc.alicdn.com/pic/developer-ecology/2ac94e7a83754209904cb9e4f8105546.png)

壓測結束後，PTS 提供了可下載的壓測報告，有詳細統計資料及趨勢圖資料，取樣日誌以及新增了的監控資料，可快速進行問題方向的定位於分析。

## 4. 在 EDAS 上壓測 Spring Cloud 應用

EDAS 的微服務治理能力，同時打通了與 PTS 服務的相應的壓測能力，進入到服務查詢頁面之後點選壓測按鈕即可開始在 PTS 的效能測試，如下圖：

![10.png](https://ucc.alicdn.com/pic/developer-ecology/d0d9c2eb509b41efa87b5cda5eb666f2.png)

# 結尾

本文簡單介紹了下業務高可用體系的相關策略，容量評估的重要性以及核心手段-效能測試的實施方式，同時在 Spring Cloud 下的快速應用。此外，PTS 還提供了更多功能：

- 全鏈路壓測的流量隔離改造
- JMeter 的環境管理及本地化外掛
- 壓測過程中，雲上業務的架構監控
- JMeter 的高階流量定製
- ......

以效能壓測為主線，進行應用系統規劃期的容量驗證，並以壓測資料結果為參考，透過應用高可用服務 AHAS 中流量防護進行從閘道器到應用多維度的系統防護，以此來實現業務系統上線後的高可用性。後續 PTS 和 AHAS 會提供更多的智慧化功能，來更好地幫助實現線上業務在各種極端場景下的連續性。

相關文章推薦：

- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 —— 開發篇》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247491668&idx=1&sn=c9839f78ff31d6f5da285a259d804f53&chksm=fae6eb9bcd91628d28b0db9b53a091132df7535d320aee9c85fea241dc4e964e746b83a69dc8&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 部署篇(開發部署）》](https://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492052&idx=1&sn=8ff93e6f7b398e6a509239910b61b975&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 部署篇(工具部署)》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492264&idx=1&sn=0bb4d0364b42af36886face9f3adec10&chksm=fae6e967cd916071e691a9296282755b771036a4a1182f51dadcbb3a3aebe76a6bdad298b69d&token=888059135&lang=zh_CN&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（可灰度）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492479&idx=1&sn=ac1463d4cd7b4323590766643d92dcb0&chksm=fae6e8b0cd9161a6d02057ca28971101aec9bc8ee823f0f4d12fc9b691bc8e122e542725f7ac&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 診斷（線上聯調）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247492850&idx=1&sn=03793cf561ceca40d75b50c0c23c708e&chksm=fae6ef3dcd91662b7cd92d07beba3bab05c1ef641bce204b3f9dd80cad55ea7dd1ccee1c2109&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（可監控）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494008&idx=1&sn=652adea2451811af1eacd1455c7fe939&chksm=fae6e2b7cd916ba1cbbee83a31f04cd79f0471b62979c26374d291ee89c6f9a24feeaa3f4481&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（可回滾）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494202&idx=1&sn=1c22caff3014652c595f5169bff20a10&chksm=fae6e1f5cd9168e37c5dd9ec7d19573c443d8c926309bcde4bd0e57ffa2aee12be697e15cdc2&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 線上釋出（優雅上下線）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494244&idx=1&sn=d6b6ff87866a7b29ee7c4e5eb37b3d82&chksm=fae6e1abcd9168bddf4b03d2908d0423b17f3383ce89f6a8349bea06b36ab5fcbd79028d4781&scene=21#wechat_redirect)
- [《SpringCloud 應用在 Kubernetes 上的最佳實踐 — 高可用（熔斷）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494380&idx=2&sn=04dbcc6f5bf25dd2bd1d20d95034f41a&chksm=fae6e123cd916835aa46f18d3098c143fab1fd8931985adc55f3f2226d31fa685fbcf9739543&scene=21#wechat_redirect)
- [《Spring Cloud 應用在 Kubernetes 上的最佳實踐 — 高可用（混沌工程）》](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494460&idx=2&sn=2d50c4257bf7ee4f780255923c3f4c51&chksm=fae6e0f3cd9169e56378a5c85ca54a1eda4e607bd339192be19d99774889fc1818f554f925db&scene=21#wechat_redirect)

### 課程推薦

去年，CNCF 與 阿里雲聯合釋出了《雲原生技術公開課》已經成為了 Kubernetes 開發者的一門“必修課”。今天，阿里雲再次集結多位具有豐富雲原生實踐經驗的技術專家，正式推出《雲原生技術實踐公開課》。課程內容由淺入深，專注講解“ 落地實踐”。還為學習者打造了真實、可操作的實驗場景，方便驗證學習成果，也為之後的實踐應用打下堅實基礎。點選連結檢視課程：[https://developer.aliyun.com/learning/roadmap/cloudnative2020](https://developer.aliyun.com/learning/roadmap/cloudnative2020)

> “[阿里巴巴雲原生](http://mp.weixin.qq.com/s?__biz=MzUzNzYxNjAzMg==&mid=2247494790&idx=2&sn=5eed1563d00b91df4d502e1482914615&chksm=fae6e749cd916e5f435f89d4c8008f6b830af9a9b017d095f99b21f85655038014f559607cc2&token=158395959&lang=zh_CN#rd)關注微服務、Serverless、容器、Service Mesh 等技術領域、聚焦雲原生流行技術趨勢、雲原生大規模的落地實踐，做最懂雲原生開發者的公眾號。”

SpringCloud 應用在 Kubernetes 上的最佳實踐 —— 高可用（容量評估）

相關文章