*作者：學仁*

## 簡介

K8s Job 是 Kubernetes 中的一種資源，用來處理短週期的 Pod，相當於一次性任務，跑完就會把 Pod 銷燬，不會一直佔用資源，可以節省成本，提高資源利用率

阿里任務排程 SchedulerX 和雲原生結合，重磅推出視覺化 K8s 任務，針對指令碼使用者，遮蔽了容器服務的細節，不用構建映象就可以讓不熟悉容器的同學（比如運維和運營同學）玩轉K8s Job，受益容器服務帶來的降本增效福利。針對容器使用者，SchedulerX 不但完全相容原生的 K8s Job，還能支援歷史執行記錄、日誌服務、重跑任務、報警監控、視覺化任務編排等能力，為企業級應用保駕護航。架構圖如下：

![1.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/b2789ec52e6f4a7fac45fc50eb8afc55~tplv-k3u1fbpfcp-zoom-1.image "1.png")

## 特性一：快速開發 K8s 視覺化指令碼任務

Kubernetes 的 Job，常見用來做離線資料處理和運維工作（比如每天凌晨 2 點把 mysql 資料同步到大資料平臺，每隔 1 小時更新一次 redis 快取等），一般以指令碼實現居多。這裡以一個簡單的場景舉例子，來對比兩種方案的差異。

### Kubernetes 原生解決方案

K8s 排程的最小單位是 Pod，想跑指令碼任務，需要提前把指令碼打包到映象裡，然後在 YAML 檔案中配置指令碼命令，下面以透過 python 指令碼查詢資料庫為例子：

-   **編寫 python 指令碼 demo.py**

```
#!/usr/bin/python
# -*- coding: UTF-8 -*-

import MySQLdb

# 開啟資料庫連線
db = MySQLdb.connect("localhost", "testuser", "test123", "TESTDB", charset='utf8' )

# 使用cursor()方法獲取操作遊標 
cursor = db.cursor()

# SQL 查詢語句
sql = "SELECT * FROM EMPLOYEE \
WHERE INCOME > %s" % (1000)
try:
    # 執行SQL語句
    cursor.execute(sql)
    # 獲取所有記錄列表
    results = cursor.fetchall()
    for row in results:
        fname = row[0]
        lname = row[1]
        age = row[2]
        sex = row[3]
        income = row[4]
        # 列印結果
        print "fname=%s,lname=%s,age=%s,sex=%s,income=%s" % \
        (fname, lname, age, sex, income )
        except:
            print "Error: unable to fetch data"
            
            # 關閉資料庫連線
db.close()
```

-   **編寫 Dockerfile**

```
FROM python:3

WORKDIR /usr/src/app

COPY requirements.txt ./
RUN pip install --no-cache-dir -r requirements.txt

COPY demo.py /root/demo.py

CMD [ "python", "/root/demo.py" ]
```

-   **製作 docker 映象，推到映象倉庫中**

```
docker build -t registry.cn-beijing.aliyuncs.com/demo/python:1.0.0 .
docker push registry.cn-beijing.aliyuncs.com/demo/python:1.0.0
```

-   **編寫 K8s Job 的 YAML 檔案，image 選擇第 3 步製作的映象，command 的命令為執行指令碼**

```
apiVersion: batch/v1
kind: Job
metadata:
  name: demo-python
spec:
  template:
    spec:
      containers:
      - name: demo-python
        image: registry.cn-beijing.aliyuncs.com/demo/python:1.0.0
        command: ["python",  "/root/demo.py"]
      restartPolicy: Never
  backoffLimit: 4
```

我們看到要在容器服務中跑指令碼，需要這麼多步驟，如果要修改指令碼，還需要重新構建映象和重新發布 K8s Job，非常麻煩。

### 阿里雲解決方案

阿里任務排程 SchedulerX 結合雲原生技術，提出了一套視覺化的指令碼任務解決方案，透過任務排程系統來管理指令碼，直接線上編寫指令碼，不需要構建映象，就可以將指令碼以 Pod 的方式在使用者的 K8s 叢集當中執行起來，使用非常方便，如下圖：

![2.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/07454262f8b84493976c95dbde993d0f~tplv-k3u1fbpfcp-zoom-1.image "2.png")

1. 在 SchedulerX 任務管理新建一個 K8s 任務，資源型別選擇 Python-Script（當前支援shell/python/php/nodejs 四種指令碼型別）

![3.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/9101b2b3a81a4ab1b88aa91c15243221~tplv-k3u1fbpfcp-zoom-1.image "3.png")
2. 點選執行一次，在 Kubernetes 叢集中可以看到 pod 啟動，pod 名稱為 schedulerx-python-{JobId}

![4.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/f8a22b309421413b8e9085159ad87178~tplv-k3u1fbpfcp-zoom-1.image "4.png")

3. 在 SchedulerX 控制檯也可以看到歷史執行記錄

![5.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/9e10ec0aae7841c4b40a471f647ca2ee~tplv-k3u1fbpfcp-zoom-1.image "5.png")

4. 在 SchedulerX 控制檯可以看到 Pod 執行的日誌

![6.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/6201a912e32849b4a98119baa3925183~tplv-k3u1fbpfcp-zoom-1.image "6.png")

下面透過一個表格更方便的看到兩個方案的差異：

![7.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/334c6d9cba154e21943c60f4f856c691~tplv-k3u1fbpfcp-zoom-1.image "7.png")

## 特性二：完全相容原生 K8s Job

SchedulerX 不但能夠快速開發 K8s 指令碼任務，遮蔽容器服務的細節，給不熟悉容器服務的同學帶來福音，同時還能託管原生 K8s Job。

### 原生自帶的Job方案

-   **Job**

以官方提供的 Job 為例：

1. 編寫 YAML 檔案 pi.yaml，故意寫一個錯誤，bpi(-1)是非法的

```
apiVersion: batch/v1
kind: Job
metadata:
  name: pi
spec:
  template:
    spec:
      containers:
      - name: pi
        image: perl:5.34
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(-1)"]
      restartPolicy: Never
  backoffLimit: 4
```

2. 在 K8s 叢集中執行該 Job，並檢視 Pod 的狀態和日誌：

![8.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/bb173edab80d42dc8f561d4604c9f674~tplv-k3u1fbpfcp-zoom-1.image "8.png")

K8s 原生的 Job 不支援重跑，修改完 Job 後想要重跑，需要先刪除，再重新 apply，非常麻煩。

![9.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/a6dca3d62a684b2b8e8cbdf08af3f7ca~tplv-k3u1fbpfcp-zoom-1.image "9.png")

-   **CronJob**

以官方提供的 CronJob 為例：

1. 編寫 hello.yaml

```
apiVersion: batch/v1
kind: CronJob
metadata:
  name: hello
spec:
  schedule: "* * * * *"
  jobTemplate:
    spec:
      template:
        spec:
          containers:
          - name: hello
            image: perl:5.34
            command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(100)"]
          restartPolicy: OnFailure
```

2. 在 K8s 叢集中執行該 CronJob，檢視 pod 歷史記錄和日誌

![10.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/d2c8fec1310c40bb961ad34b1e88a84b~tplv-k3u1fbpfcp-zoom-1.image "10.png")

發現原生的 CronJob 只能檢視最近3條執行記錄，想要檢視更久之前的記錄無法看到，這在業務出現問題想排查的時候就變得尤為困難。

### 阿里雲解決方案

阿里任務排程 SchedulerX 可以託管原生 K8s 任務，方便移植，使用 SchedulerX 託管，可以享有任務排程的特性，比如任務重跑、歷史記錄、日誌服務、報警監控等。

1. 新建 K8s 任務，任務型別選擇 K8s，資源型別選擇 Job-YAML，列印 bpi(-1)

![11.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/5b3f962f66034624967e1107bcd3ac2c~tplv-k3u1fbpfcp-zoom-1.image "11.png")

2. 透過工具來生成 cron 表示式，比如每小時第 8 分鐘跑

![12.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/59e94ac3c3d7430c92ecffe20590baf3~tplv-k3u1fbpfcp-zoom-1.image "12.png")

3. 排程時間還沒到，也可以手動點選“執行一次”來進行測試

![13.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/0546ceeca91c4994af1ae418baeb0df6~tplv-k3u1fbpfcp-zoom-1.image "13.png")

4. 在 K8s 叢集中可以看到 Job 和 Pod 啟動成功

![14.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/20be44832db349998b8aa05687bed949~tplv-k3u1fbpfcp-zoom-1.image "14.png")

5. 在 SchedulerX 控制檯也可以看到歷史執行記錄

![15.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/77581d52efd349e5bd8c2842cb28934e~tplv-k3u1fbpfcp-zoom-1.image "15.png")

6. 在 SchedulerX 控制檯可以看到任務執行日誌

![16.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/a13cc43593b94b24a1ccbed53cccb25b~tplv-k3u1fbpfcp-zoom-1.image "16.png")

7. 線上修改任務的 YAML，列印 bpi(100)

![17.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/ff0c35d3694b4fd98a39caa2d97713c7~tplv-k3u1fbpfcp-zoom-1.image "17.png")

8. 不需要刪除 Job，透過控制檯來重跑任務

![18.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/75f2bf7140b9452483ebc2780e13d865~tplv-k3u1fbpfcp-zoom-1.image "18.png")

9. 任務重跑成功，且能看到新的日誌

![19.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/d36fb134c6d4483a9b1f0ce0c70b39c9~tplv-k3u1fbpfcp-zoom-1.image "19.png")

下面透過一個表格來對比兩個方案的差異

![21.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/eccd20dbc88d4464a0da24fa54503747~tplv-k3u1fbpfcp-zoom-1.image "21.png")

## 特性三：增強原生 Job，支援視覺化任務編排

在資料處理場景下，任務之間往往有依賴關係，比如 A 任務依賴 B 任務的完成才能開始執行。

### Kubernetes 原生解決方案

當前 K8s 中主流的解決方案是使用 argo 進行工作流編排，比如定義一個 DAG 如下：

```
# The following workflow executes a diamond workflow
# 
#   A
#  / \
# B   C
#  \ /
#   D
apiVersion: argoproj.io/v1alpha1
kind: Workflow
metadata:
  generateName: dag-diamond
spec:
  entrypoint: diamond
  templates:
  - name: diamond
    dag:
      tasks:
      - name: A
        template: echo
        arguments:
          parameters: [{name: message, value: A}]
      - name: B
        depends: "A"
        template: echo
        arguments:
          parameters: [{name: message, value: B}]
      - name: C
        depends: "A"
        template: echo
        arguments:
          parameters: [{name: message, value: C}]
      - name: D
        depends: "B && C"
        template: echo
        arguments:
          parameters: [{name: message, value: D}]

- name: echo
    inputs:
      parameters:
      - name: message
    container:
      image: alpine:3.7
      command: [echo, "{{inputs.parameters.message}}"]
```

我們看到構建這麼簡單的一個 DAG，就需要寫這麼多 YAML，如果依賴關係複雜，則 YAML 就變得非常難維護。

### 阿里雲解決方案

阿里任務排程 SchedulerX 支援透過視覺化的工作流進行任務編排

1. 建立一個工作流，可以匯入任務，也可以在當前畫布新建任務，透過拖拽構建一個工作流

![22.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/944282abfe4d4233b494c39ce3e7cc3b~tplv-k3u1fbpfcp-zoom-1.image "22.png")

2. 點選執行一次，可以實時看到工作流的執行情況，方便排查任務卡在哪個環節：

![23.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/c8a49213a6024885917e5e8120b42c88~tplv-k3u1fbpfcp-zoom-1.image "23.png")

3. 如果有任務失敗了，透過控制檯檢視日誌

![24.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/71169a14b482410489d571f2c50c3c48~tplv-k3u1fbpfcp-zoom-1.image "24.png")

4. 把任務修改正確，在工作流例項圖上，原地重跑失敗的節點

![25.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/1f84aff9f5c642328027b08e9fb3a416~tplv-k3u1fbpfcp-zoom-1.image "25.png")

5. 失敗的任務會重新按照最新的內容執行

![26.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/4231aa3e20d041dfa61642a170ffc3e1~tplv-k3u1fbpfcp-zoom-1.image "26.png")

6. 當上遊都執行成功，下游就可以繼續執行了

![27.png](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/dfe733174b6e4b279f265aa5febd085d~tplv-k3u1fbpfcp-zoom-1.image "27.png")

## 總結

透過任務排程 SchedulerX 來排程你的 K8s 任務，能夠降低學習成本，加快開發效率，讓你的任務失敗可報警，出問題可排查，打造雲原生可觀測體系下的視覺化 K8s 任務。

如何視覺化編寫和編排你的 K8s 任務

相關文章