作者 | 張維（賢維） 阿里雲函式計算開發工程師

**導讀**：Serverless Kubernetes 是以容器和 kubernetes 為基礎的 Serverless 服務，它提供了一種簡單易用、極致彈性、最優成本和按需付費的 Kubernetes 容器服務，其無需節點管理和運維，無需容量規劃，讓使用者更關注應用而非基礎設施的管理。我們可以把 Serverless Kubernetes 簡稱為 ASK。

# Serverless 容器

首先從 Serverless 開始講起，相信我們已經熟知 Serverless 理念的核心價值，其中包括無需管理底層基礎設施，無需關心底層 OS 的升級和維護，因為 Serverless 可以讓我們更加關注應用開發本身，所以應用的上線時間更短。同時 Serverless 架構是天然可擴充套件的，當業務使用者數或者資源消耗增多時，我們只需要建立更多的應用資源即可，其背後的擴充套件性是使用者自己購買機器所無法比擬的。Serverless 應用一般是按需建立，使用者無需為閒置的資源付費，可以降低整體的計算成本。  
![image.gif](https://intranetproxy.alipay.com/skylark/lark/0/2020/gif/285843/1593589855373-10105968-0dc3-4573-b0ff-5e3a89466b0d.gif "image.gif")![1.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590056134-6e052749-0b89-4b4e-adfc-f883de1ad3c6.png?x-oss-process=image%2Fresize%2Cw_1500 "1.PNG")

以上所講的幾種都是 Serverless 理念的核心價值，也是 Serverless 容器與其他 Sererless 形態的相同之處。然而，Serverless 容器和其他 Serverless 形態的差異，在於它是基於容器的交付形態。  
![image.gif](https://intranetproxy.alipay.com/skylark/lark/0/2020/gif/285843/1593589855377-2617ccd7-ca4f-46b4-94a3-73a6a63d3700.gif "image.gif")![2.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590070188-7b274ed9-a5cf-4ca2-9b0a-529e69c50c19.png?x-oss-process=image%2Fresize%2Cw_1500 "2.PNG")

基於容器意味著通用性和標準性，我們可以 Build once and Run anywhere，容器不受語言和庫的限制，無論任何應用都可以製作成容器映象，然後以容器的部署方式啟動。基於容器的標準化，開源社群以 Kubernetes 為中心構建了豐富的雲原生 Cloud Native 生態，極大地豐富了 Serverless 容器的周邊應用框架和工具，比如可以非常方便地部署 Helm Chart 包。基於容器和 Kubernetes 標準化，我們可以輕鬆地在不同環境中（線上線下環境），甚至在不同雲廠商之間進行應用遷移，而不用擔心廠商鎖定。這些都是 Serverless 容器的核心價值。

![3.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590080574-ab569833-80f7-48cd-85c9-c61b25ee2e4f.png?x-oss-process=image%2Fresize%2Cw_1500 "3.PNG")

▲ Serverless 容器產品 Landscape

當下各大雲廠商都推出了自己的 Serverless 容器服務，上圖為 Gartner 評估機構整理的 Serverless 容器產品 Landscape，其中阿里雲有 Serverless Kubernetes ASK 和 ECI；AWS 有 Fargate，基於 Fargate 有 EKS on Fargate 和 ECS on Fargate 兩種形態；Azure 有 ACI。另外 Gartner 也預測，到 2023 年，將有 70% 的 AI 應用以容器和 Serverless 方式執行。

# ASK/ACK on ECI 容器服務

下面介紹阿里雲 Serverless 容器產品家族：ECI、 ACK on ECI 和 Serverless Kubernetes。

## 1. ECI

![image.gif](https://intranetproxy.alipay.com/skylark/lark/0/2020/gif/285843/1593589855554-2b23dc30-510d-47cb-ae56-fccc5dec3d48.gif "image.gif")![4.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590104995-a7a23b73-8ed5-4bd3-8c20-6e32f7902ceb.png?x-oss-process=image%2Fresize%2Cw_1500 "4.PNG")

ECI 全稱是“Elastic Container Instance 彈性容器例項”，是 Serverless 容器的底層基礎設施，實現了容器映象的啟動。ECI 讓容器成為和 ECS 一樣的雲上一等公民。ECI 底層執行環境基於安全容器技術進行強隔離，每個 ECI 擁有一個獨立的 OS 執行環境，保證執行時的安全性。ECI 支援 0.25c 到 64c 的 CPU 規格，也支援 GPU，按需建立按秒收費。和 ECS 一樣，ECI 也支援 Spot 可搶佔式例項，在一些場景中可以節省 90% 的成本。ECI 例項的啟動時間目前約是 10s 左右，然後開始拉取容器映象。我們也提供了映象快照功能，每次容器啟動時從快照中讀取映象，省去遠端拉取的時間。值得強調的是，ECI 和 ECS 共用一個彈性計算資源池，這意味著 ECI 的彈性供給能力可以得到最大程度的充分保障，讓 ECI 使用者享受彈性計算資源池的規模化紅利。

ECI 只可以做到單個容器例項的建立，而沒有編排的能力，比如讓應用多副本擴容，讓 SLB 和 Ingress 接入 Pod 流量，所以我們需要在編排系統 Kubernetes 中使用 ECI，我們提供了兩種在 Kubernetes 中使用 ECI 的方式。一個是 ACK on ECI，另外一個是 ASK。

![5.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590130871-d9ffd9c0-c57e-4b41-bb73-a8c18a1abb8d.png?x-oss-process=image%2Fresize%2Cw_1500 "5.PNG")

在與 Kubernetes 編排系統的整合中，我們以 Pod 的形式管理每個 ECI 容器例項，每個 Pod 對應一個 ECI 例項， ECI Pod 之間相互隔離，一個 ECI Pod 的啟動時間約是 10s。因為是在 Kubernetes 叢集中管理 ECI Pod，所以完全連線了 Kubernetes 生態，有以下幾點體現：

-   很方便地用 Kubectl 管理 ECI Pod，可以使用標準的 Kubernetes 的 API 操作資源；  
    
-   透過 Service 和 Ingress 連線 SLB 和 ECI Pod；  
    
-   使用 Deployment / Statefulset 進行容器編排，使用 HPA 進行動態擴容；  
    
-   可以使用 Proms 來監控 ECI Pod；  
    
-   執行 Istio 進行流量管理，Spark / Presto 做資料計算，使用 Kubeflow 進行機器學習；  
    
-   部署各種 Helm Chart。

這些都是使用 Kubernetes 管理容器例項的價值所在。

需要留意的是 Kubernetes 中的 ECI Pod 是 Serverless 容器，所以與普通的 Pod 相比，不支援一些功能（比如 Daemonset），不支援 Prividge 許可權，不支援 HostPort 等。除此之外，ECI Pod 與普通 Pod 能力一樣，比如支援掛載雲盤、NAS 和 OSS 資料卷等。

## 2. ACK on ECI

![image](https://intranetproxy.alipay.com/skylark/lark/0/2020/webp/285843/1593589855135-0baba53a-c9b2-44e3-9b7c-addba69a8b72.webp "image")

接下來我們看下在 ACK Kubernetes 叢集中使用 ECI 的方式。這種方式適合於使用者已經有了一個 ACK 叢集，叢集中已經有了很多 ECS 節點，此時可以基於 ECI 的彈效能力來執行一些短時間 Short-Run 的應用，以解決元叢集資源不足的問題，或者使用 ECI 來支撐應用的快速擴容，因為使用 ECI 進行擴容的效率要高於 ECS 節點擴容。

在 ACK on ECI 中，ECS 和 ECI Pod 可以互聯互通，ECI Pod 可以訪問叢集中的 Coredns，也可以訪問 ClusterIP Service。

## 3. Serverless Kubernetes

![image.gif](https://intranetproxy.alipay.com/skylark/lark/0/2020/gif/285843/1593589855536-8bdb3643-6666-451d-bcd7-ba7c88c479c4.gif "image.gif")![7.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590368498-93e03b50-2336-439a-8f4e-3e8a89f622e9.png?x-oss-process=image%2Fresize%2Cw_1500 "7.PNG")

與 ACK on ECI 不同的是，ASK Serverless Kubernetes 叢集中沒有 ECS 節點，這是和傳統 Kubernetes 叢集最主要的差異，所以在 ASK 叢集中無需管理任何節點，實現了徹底的免節點運維環境，是一個純粹的 Serverless 環境，它讓 Kubernetes 的使用門檻大大降低，也丟棄了繁瑣的底層節點運維工作，更不會遇到節點 Notready 等問題。在 ASK 叢集中，使用者只需關注應用本身，而無需關注底層基礎設施管理。

ASK 的彈效能力會優於普通 Kubernetes 叢集，目前是 30s 建立 500 個 Pod 到 Running 狀態。叢集中 ECI Pod 預設是按量收費，但也支援 Spot 和預留例項劵來降低成本。在相容性方面，ASK 中沒有真實節點存在，所以不支援 Daemonset 等與節點相關的功能，像 Deployment / Statefulset / Job / Service / Ingress / CRD 等都是無縫支援的。

ASK 中預設的 Ingress 是基於 SLB 7 層轉發實現，使用者無需部署 Nginx Ingress，維護更加簡單。

同時基於 SLB 7 層我們實現了 Knative Serving 能力，其中 Knative Controller 被 ASK 託管，使用者無需負擔 Controller 的成本。

與 ACK 一樣，ASK 和 Arms / SLS 等雲產品實現了很好的整合，可以很方便地對 Pod 進行監控，把 Pod 日誌收集到 SLS 中。

![8.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590403625-db6e246c-643f-4ab5-87be-52a565d6ed0a.png?x-oss-process=image%2Fresize%2Cw_1500 "8.PNG")

這是 ASK 的整體架構，核心部分是 ASK-Schduler，它負責 Watch Pod 的變化，然後建立對應的 ECI 例項，同時把 ECI 例項狀態同步到 Pod。叢集中沒有真實 ECS 節點註冊到 Apiserver。這個 Nodeless 架構解耦了 Kubernetes 編排層和 ECI 資源層，讓 Kubernetes 徹底擺脫底層節點規模導致的彈性和容量限制，成為面向雲的 Nodeless Kubernetes 彈性架構。

# ASK 典型功能

下面介紹 ASK 的幾個典型功能：

## 1. GPU 例項

![image.gif](https://intranetproxy.alipay.com/skylark/lark/0/2020/gif/285843/1593589855540-dcc28fab-318a-4802-9396-455dc0529967.gif "image.gif")![9.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590428616-28b06d66-f78c-4f4b-85bd-9f73bdc81b72.png?x-oss-process=image%2Fresize%2Cw_1500 "9.PNG")

第一個是 GPU 例項，在 Serverless 叢集中使用 GPU 容器例項是一件非常簡單的事情，不需要安裝 GPU 驅動，只需要指定 GPU Pod 規格，以及容器需要的 GPU 卡數，然後就可以一鍵部署，這對於機器學習場景可以極大提高開發和測試的效率。

## 2. Spot 搶佔式例項

![10.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590459157-e7ab2236-59a1-4ac0-bfb8-9f31e06011f7.png?x-oss-process=image%2Fresize%2Cw_1500 "10.PNG")

第二個是 Spot 搶佔式例項。搶佔式例項是一種按需例項，可以在資料計算等場景中降低計算成本。搶佔式例項建立成功後擁有一小時的保護週期。搶佔式例項的市場價格會隨供需變化而浮動，我們支援兩種 Spot 策略，一種是完全根據市場出價，一種是指定價格上限，我們只需要給 Pod 加上對應的 Annotation 即可，使用方法非常簡單。

## 3. 彈性負載 Elastic Workload

![11.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590470961-0940756f-70ec-4d5a-9cb5-0ff87ba28fbb.png?x-oss-process=image%2Fresize%2Cw_1500 "11.PNG")

第三個重要功能是彈性負載 Elastic Workload，彈性負載實現了 Deployment 多個副本排程在不同的單元上，比如 ECS、ECI 和 ECI-Spot 上，透過這種混合排程的模式，可以降低負載的計算成本。在這個示例中，Deployment 是 6 個副本，其中 2 個為正常的 ECI Pod，其他副本為 ECI-Spot 例項。

# ASK 使用場景

上面我們已經對 Serverless Kubernetes 做了基本的產品和功能介紹，那麼 ASK 適合在哪些場景中使用呢？

## 1. 免運維應用託管

![12.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590498061-cd479fc0-e41e-4de9-9e21-57c2c0755e34.png?x-oss-process=image%2Fresize%2Cw_1500 "12.PNG")

Serverless 叢集最大的特點是解決了底層節點資源的運維問題，所以其非常適合對應用的免運維託管，讓使用者關注在應用開發本身。在傳統 K8s 叢集中的應用可以無縫部署在 Serverless 叢集中，包括各種 Helm Chart。同時結合預留例項劵可以降低 Pod 的長計算成本。

## 2. ECI 彈性資源池

![13.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590512244-6a06bcd1-055d-4be0-a152-2ac12e03ecdf.png?x-oss-process=image%2Fresize%2Cw_1500 "13.PNG")

第二個場景是 ACK on ECI 的優勢，我們可以選擇把 ECI 作為彈性資源池，加到已有的 Kubernetes 叢集中，當應用業務高峰來臨時，透過 ECI 動態靈活地擴容，相比 ECS 節點擴容更有效率，這種比較適合電商或者線上教育這類有著明顯波峰波谷的業務場景，使用者無需管理一個很大的節點資源池，透過 ECI 彈效能力來降低整體計算成本。

## 3. 大資料計算

![14.PNG](https://intranetproxy.alipay.com/skylark/lark/0/2020/png/285843/1593590526482-15ad8cc6-d9a4-48c7-84cf-7b0fe64cca17.png?x-oss-process=image%2Fresize%2Cw_1500 "14.PNG")

第三個場景是大資料計算，很多使用者使用 Serverless 叢集或者 ACK on ECI 來進行 Spark / Presto / AI 等資料計算或者機器學習，利用 ECI 可以輕鬆解決資源規劃和不足的問題。

## 4. CI/CD 持續整合

![image.gif](https://intranetproxy.alipay.com/skylark/lark/0/2020/gif/285843/1593589855482-f3220125-cb87-4d43-932e-59fce02e18e6.gif "image.gif")

第四個場景是 CI/CD 持續整合，將 Jenkins 和 Gitlab-Runner 對接 ASK 叢集，按需建立 CI/CD 構建任務，構建完成後直接部署到 ASK 測試環境進行驗證，這樣我們無需為 Job 類任務維護一個固定資源池，按需建立極大降低成本，另外如果結合 Spot 例項還能進一步降低成本。

以上就是 Serverless Kubernetes 叢集的典型場景，另有快速使用連結、產品文件以及使用示例，供大家學習交流。

從零入門 Serverless | 一文講透 Serverless Kubernetes 容器服務

相關文章