## 前言

首先介紹下在本文出現的幾個比較重要的概念：
> **函式計算（Function Compute）**: [函式計算](https://statistics.functioncompute.com/?title=%E6%80%A5%E9%80%9F%E6%90%AD%E5%BB%BA%20Serverless%20AI%20%E5%BA%94%E7%94%A8%EF%BC%9A%E4%B8%BA%E4%BD%A0%E5%86%99%E8%AF%97&author=%E5%80%9A%E8%B4%A4&url=http%3A%2F%2Ffc.console.aliyun.com%2F%3Ffctraceid%3DYXV0aG9yJTNEJUU1JTgwJTlBJUU4JUI0JUE0JTI2dGl0bGUlM0QlRTYlODAlQTUlRTklODAlOUYlRTYlOTAlQUQlRTUlQkIlQkElMjBTZXJ2ZXJsZXNzJTIwQUklMjAlRTUlQkElOTQlRTclOTQlQTglRUYlQkMlOUElRTQlQjglQkElRTQlQkQlQTAlRTUlODYlOTklRTglQUYlOTc%3D&src=article)是一個事件驅動的服務，透過函式計算，使用者無需管理伺服器等執行情況，只需編寫程式碼並上傳。函式計算準備計算資源，並以彈性伸縮的方式執行使用者程式碼，而使用者只需根據實際程式碼執行所消耗的資源進行付費。函式計算更多資訊[參考](https://help.aliyun.com/product/50980.html)。
> **Fun**: Fun 是一個用於支援 Serverless 應用部署的工具，能幫助您便捷地管理函式計算、API 閘道器、日誌服務等資源。它透過一個資源配置檔案（template.yml），協助您進行開發、構建、部署操作。Fun 的更多文件[參考](https://github.com/aliyun/fun)。

**備註: 本文介紹的技巧需要 Fun 版本大於等於 3.2.0。**

![](https://data-analysis.cn-shanghai.log.aliyuncs.com/logstores/article-logs/track_ua.gif?APIVersion=0.6.0&title=%E6%80%A5%E9%80%9F%E6%90%AD%E5%BB%BA%20Serverless%20AI%20%E5%BA%94%E7%94%A8%EF%BC%9A%E4%B8%BA%E4%BD%A0%E5%86%99%E8%AF%97&author=%E5%80%9A%E8%B4%A4&src=article)

## 依賴工具

本專案是在 MacOS 下開發的，涉及到的工具是平臺無關的，對於 Linux 和 Windows 桌面系統應該也同樣適用。在開始本例之前請確保如下工具已經正確的安裝，更新到最新版本，並進行正確的配置。

- [Docker](https://www.docker.com/)
- [Fun](https://github.com/alibaba/funcraft)
- [Fcli](https://github.com/aliyun/fcli)

Fun 和 Fcli 工具依賴於 docker 來模擬本地環境。
對於 MacOS 使用者可以使用 [homebrew](https://brew.sh/) 進行安裝：

```bash
brew cask install docker
brew tap vangie/formula
brew install fun
brew install fcli
```

Windows 和 Linux 使用者安裝請參考：

1. [https://github.com/aliyun/fun/blob/master/docs/usage/installation.md](https://github.com/alibaba/funcraft/blob/master/docs/usage/installation.md)
2. [https://github.com/aliyun/fcli/releases](https://github.com/aliyun/fcli/releases)

安裝好後，記得先執行 `fun config` 初始化一下配置。

**注意**, 如果你已經安裝過了 fun，確保 fun 的版本在 3.2.0 以上。

```bash
$ fun --version
3.2.2
```

## 背景

AI model serving 是函式計算一個比較典型的應用場景。資料科學家訓練好模型以後往往需要找軟體工程師把模型變成系統或者服務，通常把這個過程稱之為 model serving。函式計算無需運維和彈性伸縮的特性，正好符合資料科學家對高可用分散式系統的訴求。本文將介紹把一個 TensorFlow CharRNN 訓練的自動寫五言絕句古詩的模型部署到函式計算的例子。

基本上所有的 FaaS 平臺為了減少平臺的冷啟動，都會設定程式碼包限制，函式計算也不例外。由於 python TensorFlow 依賴庫和訓練的模型的檔案有數百兆，即使壓縮也遠超了函式計算 50M 程式碼包大小的限制。對於這類超大體積的檔案，函式計算命令列 Fun 工具原生支援了這種大依賴部署（3.2.0 版本以上），按照嚮導的提示操作即可。

## 快速開始

### 1. 克隆 poetry 專案

```bash
git clone https://github.com/vangie/poetry.git
```

### 2. 安裝依賴

由於訓練模型的指令碼比較費時，所以訓練好的模型已經提前存放在 model 目錄中。如果您想重新訓練模型，執行 `make train` 即可。

```bash
$ fun install
using template: template.yml
start installing function dependencies without docker

building poetry/poetry
Funfile exist, Fun will use container to build forcely
Step 1/3 : FROM registry.cn-beijing.aliyuncs.com/aliyunfc/runtime-python3.6:build-1.7.7
 ---> 373f5819463b
Step 2/3 : WORKDIR /code
 ---> Using cache
 ---> f9f03330ddde
Step 3/3 : RUN fun-install pip install tensorflow
 ---> Using cache
 ---> af9e756d07c7
sha256:af9e756d07c77ac25548fa173997065c9ea8d92e98c760b1b12bab1f3f63b112
Successfully built af9e756d07c7
Successfully tagged fun-cache-1b39d414-0348-4823-b1ec-afb05e471666:latest
copying function artifact to /Users/ellison/poetry
copy from container /mnt/auto/. to localNasDir

Install Success

Tips for next step
======================
* Invoke Event Function: fun local invoke
* Invoke Http Function: fun local start
* Build Http Function: fun build
* Deploy Resources: fun deploy
```

### 3. 本地執行函式

執行 `fun local invoke` 可以在本地執行函式，正確的返回內容如下：

```bash
$ fun local invoke poetry
Missing invokeName argument, Fun will use the first function poetry/poetry as invokeName

skip pulling image aliyunfc/runtime-python3.6:1.7.7...
FunctionCompute python3 runtime inited.
FC Invoke Start RequestId: b125bd4b-0d23-447b-8d8c-df36808a458b
.......（省略了部分日誌）
犬差花上水風，一月秋中時。
江水無人去，山山有不知。
江山一中路，不與一時還。
山水不知處，江陽無所逢。
山風吹水色，秋水入雲中。
水月多相見，山城入水中。
江雲無處處，春水不相歸。
野寺春江遠，秋風落月深。

RequestId: 938334c4-5407-4a72-93e1-6d59e52774d8          Billed Duration: 14074 ms       Memory Size: 1998 MB    Max Memory Used: 226 MB
```

### 4. 部署函式

透過 `fun deploy` 部署函式並上傳函式依賴到 nas。

```bash
fun deploy
```

fun 會自動完成依賴部署，當 fun deploy 檢測到打包的依賴超過了平臺限制（50M），會進入到配置嚮導，幫助使用者自動化的配置。

![image.png](https://cdn.nlark.com/yuque/0/2019/png/502931/1577342619409-f43d3642-5526-458c-8519-96e4d61fbb4a.png#align=left&display=inline&height=60&name=image.png&originHeight=120&originWidth=1484&size=182866&status=done&style=none&width=742)

選擇 "Y" 之後就不需要做其他事情，等到部署完成即可。

### 5. 執行遠端函式

透過 fun invoke 呼叫遠端函式（也可以透過[函式計算控制檯](https://statistics.functioncompute.com/?title=%E6%80%A5%E9%80%9F%E6%90%AD%E5%BB%BA%20Serverless%20AI%20%E5%BA%94%E7%94%A8%EF%BC%9A%E4%B8%BA%E4%BD%A0%E5%86%99%E8%AF%97&author=%E5%80%9A%E8%B4%A4&url=http%3A%2F%2Ffc.console.aliyun.com%2F%3Ffctraceid%3DYXV0aG9yJTNEJUU1JTgwJTlBJUU4JUI0JUE0JTI2dGl0bGUlM0QlRTYlODAlQTUlRTklODAlOUYlRTYlOTAlQUQlRTUlQkIlQkElMjBTZXJ2ZXJsZXNzJTIwQUklMjAlRTUlQkElOTQlRTclOTQlQTglRUYlQkMlOUElRTQlQjglQkElRTQlQkQlQTAlRTUlODYlOTklRTglQUYlOTc%3D&src=article)呼叫）：

```shell
$ fun invoke
using template: template.yml

Missing invokeName argument, Fun will use the first function poetry/poetry as invokeName

========= FC invoke Logs begin =========
省略部分日誌...
Restored from: /mnt/auto/model/poetry/model-10000
FC Invoke End RequestId: c0d7947d-7c44-428e-a5a0-30e6da6d1d0f

Duration: 18637.47 ms, Billed Duration: 18700 ms, Memory Size: 2048 MB, Max Memory Used: 201.10 MB
========= FC invoke Logs end =========

FC Invoke Result:
役不知此月，不是無年年。
何事無時去，誰堪得故年。
不知無限處，相思在山山。
何必不知客，何當不有時。
相知無所見，不得是人心。
不得無年日，何時在故鄉。
不知山上路，不是故人人。
```

至此，已經將古詩創作程式成功部署到函式計算了。

## 更多參考

1. [21 個專案玩轉深度學習——基於 TensorFlow 的實踐詳解](https://book.douban.com/subject/30179607)
2. [開發函式計算的正確姿勢 —— Fun 自動化 NAS 配置](https://yq.aliyun.com/articles/712693)
3. [開發函式計算的正確姿勢 —— 使用 Fun NAS 管理 NAS 資源](https://yq.aliyun.com/articles/712700)

>“[阿里巴巴雲原生](https://developer.aliyun.com/group/alisoftwaretech/)關注微服務、Serverless、容器、Service Mesh 等技術領域、聚焦雲原生流行技術趨勢、雲原生大規模的落地實踐，做最懂雲原生開發者的技術圈。”

急速搭建 Serverless AI 應用：為你寫詩

相關文章