![頭圖.png](https://ucc.alicdn.com/pic/developer-ecology/7530cdd02afa443ba842ee4a45b0439c.png)

作者 | 顧榮  南京大學PASALab, Fluid專案co-founder
來源 | [阿里巴巴雲原生公眾號](https://mp.weixin.qq.com/s/vgM8RyByxvHq9_dIcJxZDA)

> **導讀**：為了解決大資料、AI 等資料密集型應用在雲原生場景下，面臨的異構資料來源訪問複雜、存算分離 I/O 速度慢、場景感知弱排程低效等痛點問題，南京大學PASALab、阿里巴巴、Alluxio 在 2020 年 6 月份聯合發起了開源專案 Fluid。

Fluid 是雲原生環境下資料密集型應用的高效支撐平臺，專案自開源釋出以來吸引了眾多相關方向領域專家和工程師的關注，在大家的積極反饋下社群不斷演進。近期 Fluid 0.5 版本正式釋出，在該版本中，Fluid 主要新增改善以下三個方面內容：

- 豐富資料集的操作功能，支援線上彈性擴縮容、後設資料備份和恢復。

- 支援多樣環境配置部署，滿足使用者的個性化部署配置需求。

- 新增資料快取引擎實現，增加使用者在公有云上的引擎選擇。

**Fluid 開源專案地址**：[https://github.com/fluid-cloudnative/fluid](https://github.com/fluid-cloudnative/fluid)

這三大主要功能的開發需求來自眾多社群使用者的實際生產反饋，此外 Fluid v0.5 還進行了一些 bug 修復和文件更新，歡迎使用體驗 Fluid v0.5！

**Fluidv0.5 下載連結**：[https://github.com/fluid-cloudnative/fluid/releases](https://github.com/fluid-cloudnative/fluid/releases)

下文是本次新版本釋出功能的進一步介紹。

# 豐富資料集的操作功能

在本版本中 Fluid 重點豐富了核心抽象物件 —— Dataset（資料集）的相關操作功能，從而使資料密集型應用能夠更好地利用雲原生提供的彈性、可觀測性等基礎功能，並增強了使用者對資料集管理的靈活性。

## 1. 資料集線上彈性快取擴縮容

這是社群使用者一直期待的功能！在 Fluid v0.5 之前，如果使用者想要調整資料集的快取能力，需要以全部解除安裝快取引擎再重部署的方式完成。這種方式耗時耗力，還必須考慮資料快取全部丟失的高昂代價。因此，在新版本中，我們為資料集提供了對快取彈性擴縮容的支援，使用者可以根據自己的場景需求，以不停機方式 on-the-fly 地按需增加某資料集的快取容量以加速資料訪問（擴容）或減少某個不頻繁使用的資料集的快取容量（縮容），從而實現更加精細的彈性資源分配，提高資源利用率。Fluid 內建的控制器會根據策略選擇合適的擴縮容節點，例如在縮容時會結合節點上執行任務情況和節點快取比例作為篩選條件。

執行彈性資料集的快取能力彈性擴縮容，使用者只需執行如下命令：

```
kubectl scale alluxioruntimes.data.fluid.io {datasetName}  --replicas={num}
```

其中 datasetName 對應於資料集的名稱，replicas 指定快取節點的數目。

有關資料集手動擴縮容及其效果的演示影片：[http://cloud.video.taobao.com/play/u/2987821887/p/1/e/6/t/1/302459823704.mp4](http://cloud.video.taobao.com/play/u/2987821887/p/1/e/6/t/1/302459823704.mp4)

更多關於資料集手動擴縮容的操作細節，請參考 Github 上的[示例文件](https://github.com/fluid-cloudnative/fluid/blob/master/docs/zh/samples/dataset_scaling.md)。

## 2. 後設資料的備份與恢復

該功能增強了 Fluid 資料集後設資料管理的靈活性。先前的 Fluid v0.4 已經支援將資料集的後設資料（例如，檔案系統 inode tree）載入至本地，並且會記錄資料集的一些關鍵統計資訊（例如，資料量大小和檔案數量）。然而，一旦使用者銷燬本地資料集，這些後設資料資訊也都將丟失，重新構建資料集時需再次從底層儲存系統獲取。

因此，在 Fluid v0.5 中，我們新增了一個 K8s 自定義資源物件 —— DataBackup，為使用者提供了宣告式的 API 介面，以控制資料備份的相關行為。DataBackup 自定義資源物件構建的一個簡單示例如下所示：

```
apiVersion: data.fluid.io/v1alpha1
kind: DataBackup
metadata:
  name: hbase-backup
spec:
  dataset: hbase
  backupPath: pvc://<pvcname>/subpath1/subpath2/
```

再次建立資料集時，只需新增一個指定備份檔案位置的欄位：

```
apiVersion: data.fluid.io/v1alpha1
kind: Dataset
metadata:
  name: hbase
spec:
  dataRestoreLocation:
    path: pvc://pvc-local/subpath1/
  mounts:
    - mountPoint:  https://mirrors.tuna.tsinghua.edu.cn/apache/hbase/2.2.6/
```

此時，Fluid 將首先從備份檔案載入後設資料和資料集統計資訊，從而很大地提高後設資料載入速度。
 
更多關於進行資料集後設資料備份與恢復的操作細節，請參考 Github 上的[示例文件](https://github.com/fluid-cloudnative/fluid/blob/master/docs/zh/samples/backup_and_restore_metadata.md)。

## 3. 資料集的可觀測性最佳化

Fluid v0.5 還進一步增強了資料集的可觀測效能力，具體包括兩個部分：

### 1）與 Prometheus 相結合![1.jpg](https://ucc.alicdn.com/pic/developer-ecology/0124fa313cf746a686ad08b7fd8907e9.jpg)

該特效能夠支援資料集的可用性和效能指標收集，並且透過 Grafana 進行視覺化展示。目前已支援 AlluxioRuntime 的實現，使用者可以方便地瞭解當前可快取節點、快取空間、現有快取比例、遠端讀、短路讀等效能指標。整個配置過程非常簡單，達到了對於資料集監控系統“開箱即用"的效果。

具體的使用方法，請參考 Github 上的[示例文件](https://github.com/fluid-cloudnative/fluid/blob/master/docs/zh/operation/monitoring.md)。

### 2）新增資料集快取命中率指標

該功能可以標識過去 1 分鐘內對該資料集的全部訪問中有多少訪問命中了分散式快取。該指標一方面能夠幫助使用者分析他們資料密集型應用中的效能瓶頸，量化檢視 Fluid 在整個應用執行的工作流中起到的效果；另一方面能夠幫助使用者在應用效能提升和快取資源佔用間進行行權衡，做出合理的擴縮容決策。

這一指標被新增在 Fuild v0.5 的 `Dataset.Status.CacheStates` 的 Dataset CRD 資源狀態中，具體來說包括：

- Cache Hit Ratio：過去一分鐘分散式快取命中的訪問百分比。

- Local Hit Ratio：過去一分鐘本地快取命中的訪問百分比。

- Remote Hit Ratio：過去一分鐘遠端快取命中的訪問百分比。

> 注: 對於分散式快取而言，資料命中有兩種不同的快取命中情況。**本地快取命中**指的是訪問發起者可直接在同結點訪問到快取資料。**遠端快取命中**指的是訪問發起者需要透過網路訪問其他結點上的快取資料。

在 Fluid v0.5 中，使用者可以使用以下命令方便地檢視快取命中率指標：

```
kubectl get dataset <dataset-name> -o wide
NAME        ...  CACHE HIT RATIO   AGE
<dataset-name> ...  86.2%           16m
```

# 支援多樣環境配置部署

自 Fluid 0.4 版本釋出以來，我們根據社群使用者實際部署反饋的問題和需求，對 Fluid 在多樣環境下的部署配置增加了更多支援。

## 1. 支援 Fuse 的 global 模式

在 Fluid 中，Dataset 資源物件中所定義的遠端檔案是可被排程的，這意味著你能夠像管理 Pod 一樣管理遠端檔案快取到 Kubernetes 叢集上的位置。執行計算的 Pod 可以透過 Fuse 客戶端訪問資料檔案。在先前版本的 Fluid 中，Fuse 客戶端總是會排程到快取所在的節點上，但是使用者不能自由控制 Fuse 的排程。

在 Fluid v0.5 中，我們為 Fuse 新增了 global 部署模式。在該模式下，Fuse 預設會全域性部署到所有節點上。使用者也可以透過指定 Fuse 的 nodeSelector 來影響 Fuse 的排程結果。同時，快取會優先排程部署在執行計算 Pod 數量較多的節點上。

具體使用非常簡單，可以參考 Github 上的[示例文件](https://github.com/fluid-cloudnative/fluid/blob/master/docs/zh/samples/fuse_affinity.md)。

## 2. 支援 HDFS 的使用者級配置

很多社群使用者使用分散式快取系統 [Alluxio ](https://www.alluxio.io/)作為 Fluid 資料集的快取引擎。在資料集持久化儲存於 HDFS 檔案系統的情況下，要使得 Alluxio 能夠正常訪問底層 HDFS，Alluxio 叢集需要提前獲取該 HDFS 的各類配置資訊。

在 Fluid v0.5 中，我們使用 Kubernetes 的原生資源為上述場景提供支援。使用者首先需要將 HDFS 的相關配置檔案（e.g. `hdfs-site.xml` 和 `core-site.xml`）以 `ConfigMap` 方式建立到 Kubernetes 環境中，接著在建立的 `AlluxioRuntime` 資源物件中引用上述建立的 `ConfigMap` 從而實現上述功能。

`AlluxioRuntime` 資源物件的一個示例如下所示：

```
apiVersion: data.fluid.io/v1alpha1
kind: AlluxioRuntime
metadata:
  name: my-hdfs
spec:
  ...
  hadoopConfig: <configmap-name>
  ...
```

至此，建立出的 Alluxio 叢集將能夠正常地訪問 HDFS 叢集中的資料。更多內容可參考 Github 上的[示例文件](https://github.com/fluid-cloudnative/fluid/blob/master/docs/zh/samples/hdfs_configuration.md)。

# 新增資料快取引擎實現

Fluid 預設使用的分散式快取 Runtime 是 AlluxioRuntime，為了支援不同環境使用者對快取系統的需求，在之前的版本中 Fluid 已經將分散式快取 Runtime 接入框架做成了可插拔的架構。在 Fluid v0.5 中，來自阿里雲的社群貢獻者基於該框架開發了 JindoRuntime，新增了一種支撐 Fluid Dataset 資料管理和快取的執行引擎實現。使用者可以在 Fluid 中透過 JindoRuntime 使用 JindoFS 的 Cache 模式進行遠端檔案的訪問和快取。在 Fluid 上使用和部署 JindoRuntime 流程簡單、相容原生 K8s 環境、開箱即用。

# 總結

在 Fluid v0.5 中，我們對 Fluid 的功能特性與使用者體驗都進行了豐富和增強。

**首先**，Fluid v0.5 進一步增加了資料集的功能操作：

- 提供資料集線上彈性擴縮容能力，實現更靈活、更精細的叢集資源分配控制。

- 新增 DataBackup CRD，實現了資料集檔案後設資料等資訊的備份與恢復，幫助完成資料集快取系統的快速重啟。

- 新增快取命中率指標，幫助使用者更好量化分析 Fluid 提供的加速效果。

**其次**，Fluid 支援更多環境模式和配置，滿足更多真實場景的部署需求。

**最後**，Fluid 新增了基於 JindoFS 的分散式快取 Runtime —— JindoRuntime，為使用者在多樣化部署環境中提供不同的快取引擎選擇。

我們會繼續廣泛關注和採納社群建議，推動 Fluid 專案的長期發展，期待聽到大家更多的反饋。

## 鳴謝

感謝為此版本做出貢獻的社群小夥伴們，他們包括來自阿里雲的王濤、騰訊雲的謝遠東、中國電信的仇伶瑋、南京大學 PASALab 的徐之浩、候浩軍、陳國旺、陳雨銓等同學。

## 作者簡介

顧榮 博士，南京大學計算機系副研究員，Fluid 開源專案 co-founder、Alluxio 開源專案 PMC 成員，研究方向大資料處理系統，已在 TPDS、ICDE、JPDC、IPDPS、ICPP 等領域前沿期刊會議發表論文30餘篇，主持國家自然科學基金面上專案/青年專案、中國博士後科學基金特別資助專案多項，研究成果落地應用於阿里巴巴、百度、位元組跳動、中國石化、華泰證券等公司和開源專案 Apache Spark、Alluxio，獲 2018 年度江蘇省科學技術一等獎、2019 年度江蘇省計算機學會青年科技獎，擔任中國計算機學會系統軟體專委會委員/大資料專委會通訊委員、江蘇省計算機學會大資料專委會秘書長。</configmap-name></dataset-name></dataset-name></pvcname>

Fluid 0.5 版本釋出：開啟資料集快取線上彈性擴縮容之路

相關文章