*作者：志敏，徙遠*

### 回顧2021年，雲原生領域有哪些重要意義的事件？

#### 1. 基於容器的分散式雲管理加速落地：

*2021年5月阿里雲峰會上，阿里雲釋出了一雲多形態的部署方式，基於飛天架構的一朵雲可以全面覆蓋從核心地域到客戶資料中心的各種計算場景，為客戶提供低成本、低延遲、本地化的公共雲產品。*

在一雲多形態釋出之前，阿里雲容器服務在 2019 年雲棲大會上釋出了雲下Kubernetes 註冊叢集能力，支援統一納管雲上雲下不同 Kubernetes 叢集。2021年，阿里雲容器服務進一步全面升級了中心雲、本地雲、邊緣雲容器叢集的統一管理，能夠將成熟的雲原生可觀測、安全防護能力部署到使用者環境，更可以將雲端先進的中介軟體、資料分析和 AI 能力下沉到本地，滿足客戶對於產品豐富度以及資料管控的需求，加速業務創新。並依託強大的彈性算力，透過託管彈性節點，企業可以按需從本地擴容到雲端，實現秒級伸縮，從容應對週期性或突發業務流量高峰。

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/a96236700fbf43f6a1d1f049e8242df8~tplv-k3u1fbpfcp-zoom-1.image)

截至 2021 年，基於 Kubernetes 來遮蔽異構環境的差異，搭建分散式雲架構已經成為企業和雲廠商的共識。

#### 2. Knative1.0正式釋出：

Knative 作為一款基於 Kubernetes 之上的開源 Serverless 編排框架，提供面向 Kubernetes 標準化 API 進行 Serverless 應用編排能力。Knative 支援諸多特性：基於流量的自動彈性、灰度釋出、多版本管理、縮容到0、事件驅動 Eventing等。根據 CNCF 2020 中國雲原生調查報告，Knative 已經成為 Kubernetes 上安裝 Serverless 的首選。

2021 年 11 月，Knative 釋出了 1.0 版本，同月 Google 宣佈將 Knative 捐贈給雲原生計算基金會 (CNCF)。阿里雲提供了 Knative 的託管，並結合阿里雲基礎設施提供了比如冷啟動最佳化、基於預測的智慧彈性等增強，實現了社群標準和雲服務優勢的深度整合。

### 2021年容器技術取得了哪些突破？背後是解決什麼問題？

在2021年，企業對容器的擁抱更加積極，對容器核心技術的啟動效率、資源開銷、排程效率都有了更高的要求，阿里雲容器團隊也支援了新一代的容器架構升級，透過對容器、裸金屬、作業系統等全棧最佳化，持續挖掘容器的潛能。

**高效排程：** 全新升級 Cybernetes 排程器，支援對多架構神龍的 NUMA 負載感知、拓撲排程和細粒度的資源隔離和混部，提升應用效能30%。此外，在排程器上做了大量端到端最佳化，在1000節點規模叢集中，可以提供20000Pods／min以上的排程速度，確保線上服務和離線任務都能高效地執行在 K8s 上；

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/e5660d02ac264e8d855918a5eb819c5d~tplv-k3u1fbpfcp-zoom-1.image)

**高效能容器網路：** 最新一代的阿里雲容器網路 Terway 3.0，一方面透過神龍晶片 offload 虛擬化網路開銷，一方面在 OS 核心中透過 eBPF 實現容器 Service 轉發和網路策略，真正實現零損耗，高效能。

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/ce03fd43f52740f2b4eef8bfe618f616~tplv-k3u1fbpfcp-zoom-1.image)

**容器最佳化 OS：** 面向容器場景，推出輕量、快速、安全、映象原子管理的容器最佳化作業系統 LifseaOS，相比傳統作業系統軟體包數量減少 60%，映象大小減少 70%，OS 首次啟動從傳統 OS 的 1min 以上下降到了 2s 左右。支援映象只讀和 ostree 技術，將 OS 映象版本化管理，更新作業系統上的軟體包、或者固化的配置時，以整個映象為粒度進行更新。

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/493e6d98ddf245efb9cc236fbef56dae~tplv-k3u1fbpfcp-zoom-1.image)

**高密部署極致彈性：** 基於阿里雲安全沙箱容器 2.0，最佳化沙箱容器內的資源開銷，最小可達 30M 左右，實現了在單一物理機上的 2000 例項的高密服務能力。同時透過管控鏈路的縮短以及元件的精簡，並輔以對沙箱記憶體分配流程、host cgroup 管理流程和 IO 鏈路的最佳化，實現了 Serverless 場景的 6 秒 3000 彈性容器例項的彈效能力。

### 企業對容器的應用規模呈現什麼趨勢？核心訴求點是什麼？

隨著企業進一步的大規模使用容器，企業內部使用容器的範圍也從開始的線上業務逐漸向 AI 大資料演進，對 GPU 等異構資源的管理和 AI 任務和作業管理的需求也越來越多。同時，開發人員在考慮如何透過雲原生技術，以統一架構、統一技術堆疊支撐更多型別的工作負載，以避免不同負載，使用不同架構和技術，帶來“煙囪”系統、重複投入和運維負擔。

**深度學習、AI任務，正是社群尋求雲原生技術支撐的重要工作負載之一。** 在阿里雲，我們提出“**雲原生AI**”的定義、技術全景圖和參考架構，以期為這個全新技術領域，提供可落地的最佳實踐，並推出了雲原生 AI 套件，透過資料計算類任務的編排、管理，以及對各種異構計算資源的容器化統一排程和運維，顯著提高 GPU/NPU 等異構計算叢集的資源使用效率和 AI 工程交付速度。

針對 AI 計算類任務的特性，在 Kubernetes 核心 Scheduler Framework 的基礎上進行了大量擴充套件和增強，提供了支援 Gang Scheduling、Capacity Scheduling、Binpack 等任務排程策略，提升叢集的資源利用率。並與 K8s 社群積極合作，持續推動 K8s 排程器框架演進，保證了 K8s 排程器透過標準的 plugin 機制，可按需擴充套件出各種排程策略，來滿足各種工作負載的排程需求。同時避免了類似其他 custom scheduler 對叢集資源分配帶來資料不一致的風險。

支援 GPU 共享排程和拓撲感知排程，NPU/FPGA 等定製晶片排程，提升 AI 任務的資源利用率，同時透過阿里雲自研 cGPU 方案，在無需修改應用容器的前提下，提供了 GPU 視訊記憶體和算力的隔離。

在計算和儲存分離的大背景驅動下，基於 Fluid 提供一層高效便捷的資料抽象，將資料從儲存抽象出來，透過資料親和性排程和分散式快取引擎加速，實現資料和計算之間的融合，從而加速計算對資料的訪問。並支援以 Alluxio 和 JindoFS 為快取引擎。

支援 GPU 等異構資源的彈性伸縮，透過智慧的削峰填谷，避免不必要的雲上資源消費。同時支援彈性模型訓練和模型推理。

### 企業對容器的應用提出了哪些新的需求？

隨著5G、IoT、音影片、直播、CDN 等行業和業務的發展，我們看到一個行業趨勢：企業開始將更多的算力和業務下沉到距離資料來源或者終端使用者更近的地方，從而來獲得很好的響應時間和降低成本。

這明顯區別傳統的中心式的雲端計算模式，從而延伸出邊緣計算。邊緣計算作為雲端計算的延伸，將被廣泛應用於混合雲/分散式雲、IoT 等場景，它需要未來的基礎設施能夠去中心化、邊緣設施自治、以及強大的邊緣雲端託管能力。雲原生架構的新邊界——“雲邊端一體“的IT基礎設施開始出現在整個行業面前，而這也是企業對雲原生技術、容器化應用在新場景落地的需求。

邊緣計算雲原生架構和技術體系需要解決以下問題：雲邊運維協同、彈性協同、網路協同、邊緣IoT裝置管理、輕量化、成本最佳化等。針對雲邊端一體的新需求，在2021年，OpenYurt 社群（CNCF Sandbox專案）也釋出了 0.4、0.5 等版本，持續最佳化邊緣容器的 IoT 裝置管理、資源開銷、網路協同等能力。

### 從技術維度看，容器發展亟待解決的主要問題是什麼？

隨著企業的 K8s 應用大規模使用和落地，如何持續提升 K8s 叢集的整體穩定性是核心挑戰。K8s 叢集作為一個分散式系統存在高度複雜性，在應用、基礎設施、部署過程中任何一個地方的問題，都可能導致業務系統的故障。這不僅需要應用 K8s 的企業有對雲原生容器技術的高可用體系保障，還需要企業雲原生運維體系理念的整體升級。

**以 SLO 定義驅動可觀測性體系：** 針對 K8s 的容量規模建設了效能壓測常態化能力，必須對 K8s 叢集之上的業務場景能夠對包括節點數、POD 數、Job 數，核心 Verb 的 QPS 數有明確瞭解。結合業務的真實場景進行 SLO 的梳理，持續關注請求量，延遲、錯誤數、飽和度等黃金指標。

**常態化的故障演練和混沌測試：** 比如結合混沌工程理念的 ChaosBlade，對容器叢集的不同風險動作，注入不同的異常案例，從VM、K8s、網路、儲存到應用的全方面故障模擬。

**精細化的流控風控：** 針對壓測和故障演練過程中發現的異常進行防護能力建設，可以藉助 Kubernetes 在1.20 beta了 API 優先順序和公平性的細粒度流控策略。阿里雲容器服務也內建了自研的 UserAgentLimiter 進一步保障 K8s。

**除了全域性高可用能力的建設外，需要有SRE團隊平臺化能力的建設：**

打造統一的K8s運維服務介面，沉澱運維和可觀測能力，讓每個 SRE/DEV 能夠無差別的OnCAll 或支援，有 2 個子目標：1）儘量避免發生問題；2）儘快發現和定位問題，以及儘快恢復問題，建設全域性高可用應急體系。

**重實踐和演練：** 基於場景進行實踐，知行合一。從知觸發，到行完成是一個閉環，然後不斷透過知行的一個迴圈過程。以賽帶練，比如雙十一大促，限電，斷網等極端場景，穩定性建設，需要針對極端場景進行，容量的規劃和壓測，元件治理等都是需要一些特殊的場景催生。有了賽場，要打好這場仗，就需要通力協作，就會不斷形成一個大的協同協作機制。

**固化知識，沉澱 playbook：** 這件事是要打造標準，在做標準的過程中，有的先一步落到系統裡面，有的沉澱到 playbook 裡面，有的體現到流程裡面，流程一定是我們優秀工程師和SRE的最佳實踐。系統、playbook、流程都是不斷轉化的，相輔相成的。

### 容器技術在2022年的發力點是什麼？容器的未來有哪些想象空間？

日前，國際權威諮詢機構 Forrester 釋出全球容器能力報告《 The Forrester WaveTM: PublicCloud Container Platforms, Q1 2022 》，報告顯示，**阿里雲是國內唯一進入該報告“領導者”象限的服務商，且容器產品綜合能力評分最高。**

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/996019c2880b4d299863d50c1883451d~tplv-k3u1fbpfcp-zoom-1.image)

![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/0ac8c09c9bdf4d49a017d0f0679a5554~tplv-k3u1fbpfcp-zoom-1.image)阿里雲容器技術在2022年會重點關注幾個方向：

**綠色低碳：** 持續發揮容器技術的高效排程和彈效能力，幫助企業提升整體的IT效率。結合最新的節能資料中心技術、新一代神龍架構、自研晶片、容器最佳化作業系統實現上下游的全棧最佳化，提升應用的整體效能和排程效率。以資料驅動的方式，根據應用執行時資源畫像實現智慧化排程和實時調整，簡化應用資源配置的複雜性，進一步提升應用的混合部署，降低資源成本，助力企業整體 的 FinOps 管理。

**AI 工程化：** AI 要成為企業生產力，就必須以工程化的技術來解決模型開發、部署、管理、預測、推理等全鏈路生命週期管理的問題。我們發現，AI 工程化領域有三大亟待推進的事情：**資料和算力的雲原生化，排程和程式設計正規化的規模化，開發和服務的標準化普惠化。** 這些需要持續最佳化 GPU 等異構架構的高效排程，結合分散式快取、分散式資料集加速等技術，結合 KubeflowArena 的AI任務流水線和生命週期管理，全面升級AI工程化能力。

**智慧自治：** 透過引入更多的資料化智慧化手段，推動容器的智慧化運維體系，降低企業對複雜容器叢集和應用的管理，增強 K8s master、元件和節點的自愈自恢復能力，提供更加友好的異常診斷、K8s 配置推薦、彈性預測等能力.

**安全合規：** 全面推進 DevOps 向 DevSecOps 演進。面向 Helm、Operator 等 OCI  Artifacts 最佳化整體的安全定義、簽名、同步和三方交付；加固容器的南北向和東西向的網路隔離和治理，推進零信任的鏈路安全；進一步提升安全容器和機密計算容器的效能和可觀測能力。

點選[此處](https://www.aliyun.com/activity/middleware/ackanywhere?spm=5176.21213303.5534283410.1.6afc3edahlGA85&scm=20140722.S_card@@%E5%8D%A1%E7%89%87@@2070._.ID_card@@%E5%8D%A1%E7%89%87@@2070-RL_ack%20anywhere-OR_ser-V_2-P0_0)，進入阿里雲 ACK Anywhere 官網。

技術盤點：容器技術的演進路線是什麼？未來有哪些想象空間？

相關文章