*作者：元毅、子白*

## 導讀

在雲原生容器時代，使用者需要面對不同的業務場景：週期性的業務，Serverless 按需使用等。在使用自動彈性中， 會發現這樣或那樣的問題，其中最需要關注的是彈性滯後、冷啟動問題。阿里巴巴雲原生團隊和阿里達摩院決策智慧時序團隊合作開發 AHPA 彈性預測產品，該產品主要出發點是基於檢測到的週期做“定時規劃”，透過規劃實現提前擴容的目的，在保證業務穩定的情況下，讓你真正實現按需使用。

## 背景
使用者對雲彈效能力的期望越來越高，這個期望主要來自兩方面。一是雲原生概念的崛起，從 VM 時代到了容器時代，雲的使用模式正在發生變化。二是新型業務模式的崛起，這些崛起的新型業務模式在設計之初就是基於雲來建構的，天然就有對彈性的訴求。

有了雲，使用者不再需要自己從物理機、機房搭建基礎設施，雲給使用者提供了非常彈性的基礎設施。雲的最大優勢就是可以給使用者提供彈性的資源供給，特別是到了雲原生時代，使用者對彈性的訴求也越來越強烈。彈性需求強度在 VM 時代還是人工操作分鐘級別的，在容器時代，已經達到秒級的要求，使用者面對不同的業務場景，對雲的期望和要求也正在發生變化：

-   **週期性的業務場景：** 新型業務比如直播、線上教育和遊戲，這些業務有一個很大的共同點就是有非常明顯的週期性，這種週期性促使客戶思考面向彈性的業務架構。再加上雲原生的理念很自然的就想到按需彈起一批服務起來，用完就釋放。

-   **Serverless 的到來：** Serverless 的核心理念是按需使用，自動彈性。使用者不需要容量規劃。但當你真正開始使用 Serverless 的時候，會發現這樣或那樣的問題，其中最需要關注的是彈性滯後、冷啟動問題。對於響應時延敏感的業務，這是不可接受的。

那麼面對上面的場景，當前 Kubernetes 中現有的彈性方案是否可以解呢？

## 傳統彈性方案面臨的問題

一般在 Kubernetes 中管理應用例項數有三種方式：固定例項數、HPA 和 CronHPA 。使用最多的是固定例項數，固定例項數最大的問題就是在業務波谷時造成很明顯的資源浪費。為了解決資源浪費的問題所以有了 HPA，但 HPA 的彈性觸發是滯後的，這就導致資源的供給也會滯後，資源不能及時供給可能會導致業務穩定性下降。CronHPA 可以定時伸縮，看起來可以解決彈性滯後的問題，但具體定時粒度有多細、業務量有變化時需要頻繁地手動調節定時彈性策略嗎？如果這樣做，這就會帶來非常繁重的運維複雜度，也很容易出錯。

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/ef3a2345a99b44b79c031d6098a27451~tplv-k3u1fbpfcp-zoom-1.image)

## AHPA 彈性預測

AHPA（Advanced Horizontal Pod Autoscaler）彈性預測主要出發點是基於檢測到的週期做“定時規劃”，透過規劃實現提前擴容的目的。但既然是規劃就會有疏漏，所以需要對規劃的例項數有一個實時調整的能力。所以本方案有兩個彈性策略：主動預測和被動預測。主動預測基於達摩院 RobustPeriod 演算法[1] 識別週期長度然後利用RobustSTL 演算法[2] 提起出週期性趨勢，主動預測下個週期應用的例項數量；被動預測基於應用實時資料設定例項數量，可以很好的應對突發流量。此外，AHPA 還增加了兜底保護策略，使用者可以設定例項數量的上下界。AHPA 演算法中最終生效的例項數是主動預測、被動預測及兜底策略中的最大值。

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/0186f62194aa4beaa78457612f21b377~tplv-k3u1fbpfcp-zoom-1.image)

### 架構

彈性首先是要在業務穩定的情況下進行的，彈性伸縮的核心目的不僅是幫使用者節省成本，更是增強業務的整體穩定性、免運維能力和構建核心競爭力。AHPA 架構設計的基本原則：

-   **穩定性：** 保證使用者服務穩定的情況下進行彈性伸縮

-   **免運維：** 不給使用者增加額外的運維負擔，包括：不在使用者側增加新的 Controller、Autoscaler 配置語義比 HPA 更清晰

-   **面向 Serverless：** 以應用為中心，面向應用維度的設計，使用者無需關心例項個數的配置，按需使用、自動彈性。

架構如下：

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/c7decec283244f99af66d4a519a79cbd~tplv-k3u1fbpfcp-zoom-1.image)

-   **豐富的資料指標：** 支援包括 CPU、Memory、QPS、RT 以及外部指標等

-   **穩定性保障：** AHPA 的彈性邏輯基於主動預熱、被動兜底的策略，並結合降級保護，保證了資源穩定。

-   主動預測：根據歷史預測出未來一段時間的趨勢結果，適用於週期性的應用。
-   被動預測：實時預測。針對突發流量場景，透過被動預測實時準備資源。
-   降級保護：支援配置多個時間區間範圍最大、最小例項。

-   **多種伸縮方式：** AHPA 支援伸縮方式包括 Knative、HPA 以及 Deployment：

-   Knative：解決 Serverless 應用場景下，基於併發數/QPS/RT 彈性冷啟動的問題
-    HPA：簡化 HPA 彈性策略配置，降低使用者使用彈性的門檻，解決使用 HPA 面臨的冷啟動的問題
-   Deployment：直接使用 Deployment，自動擴縮容

### 適應場景

AHPA 適應場景包括：

-   有明顯週期性場景。如直播、線上教育、遊戲服務場景等
-   固定例項數+彈性兜底。如常態業務下應對突發流量等
-   推薦例項數配置場景

### 預測效果

開啟 AHPA 彈性後，我們提供視覺化頁面，用於檢視 AHPA 效果。下面是一個基於 CPU 指標進行預測的示例（與使用 HPA 比較）：

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/55d23fab7c814a7c98ab46a04464b561~tplv-k3u1fbpfcp-zoom-1.image)

說明：

-   Predict CPU Oberserver：藍色表示 HPA 實際的 CPU 使用量，綠色表示預測出來的 CPU 使用量。綠色曲線大於藍色，表明透過預測給出的容量是足夠的。

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/1b6158807e0a40738eee099525124bee~tplv-k3u1fbpfcp-zoom-1.image)

-   Predict POD Oberserver：藍色表示使用 HPA 實際的擴所容 Pod 數，綠色表示預測出來的擴所容 Pod 數，綠色曲線小於藍色，表明透過預測彈性的 Pod 數更低。
-   週期性：根據歷史 7 天的資料，透過預測演算法檢測到該應用具備週期性。

結論：預測結果表明，彈性預測趨勢符合預期。

## 邀測試用

點選[**此處**](https://help.aliyun.com/document_detail/412229.html)檢視阿里雲容器服務 AHPA 彈性預測產品文件詳情。當前 AHPA 已開啟使用者邀測，歡迎感興趣的使用者點選文件中“**提交工單**”位置申請白名單，期待您的試用及反饋。

## 參考文獻

*[1] (阿里達摩院決策智慧時序團隊) Qingsong Wen, Kai He, Liang Sun, Yingying Zhang, Min Ke, and Huan Xu. RobustPeriod: Robust Time-Frequency Mining for Multiple Periodicity Detection,  in Proc. of 2021 ACM SIGMOD/PODS International Conference on Management of Data (SIGMOD 2021), Xi'an, China, Jun. 2021.*

*[2] (阿里達摩院決策智慧時序團隊) Qingsong Wen, Jingkun Gao, Xiaomin Song, Liang Sun, Huan Xu, Shenghuo Zhu. RobustSTL: A Robust Seasonal-Trend Decomposition Algorithm for Long Time Series, in Proc. of the 33rd AAAI Conference on Artificial Intelligence (AAAI 2019), 2019, pp. 5409-5416, Honolulu, Hawaii, Jan. 2019.*

*[3] (阿里達摩院決策智慧時序團隊) Qingsong Wen, Zhe Zhang, Yan Li and Liang Sun. Fast RobustSTL: Efficient and Robust Seasonal-Trend Decomposition for Time Series with Complex Patterns, in Proc. of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining (KDD 2020), San Diego, CA, Aug. 2020.*

AHPA：開啟 Kubernetes 彈性預測之門

相關文章