![頭圖.png](https://ucc.alicdn.com/pic/developer-ecology/004ef940a380488eb6b7b3ddfe35aa1c.png)

作者 | 孔德慧（夏莞）
來源 | [阿里巴巴雲原生公眾號](https://mp.weixin.qq.com/s/lVRmxFxqnqQWfBRU44-n1Q)

# 背景
## 1. Serverless 將成為下一個十年雲的預設程式設計正規化
隨著 Serverless 概念的進一步普及，開發者逐漸從觀望狀態進入嘗試階段，越來越多的企業使用者開始將業務遷移到 Serverless 平臺。在阿里集團內部，淘寶、飛豬、閒魚、高德、語雀等核心功能穩步落地，在阿里集團外部，新浪微博、世紀聯華、石墨文件、TPLink、藍墨雲班課等各行各業的企業也紛紛解鎖 Serverless 使用的不同場景。Serverless 正在成為成為下一個十年雲的預設程式設計正規化。

更多案例請參考 [函式計算使用者案例](https://resources.functioncompute.com/case-study.html)。

Serverless 降本增效免運維的特性為開發者帶來了實打實的好處：基於函式計算的 Serverless 方案為藍墨節省了 60% 左右的 IT 成本，為石墨文件節約了 58% 的伺服器成本；提升碼隆科技的開發效率，實現兩週內功能上線；平穩支撐負載的波峰波谷相差 5 倍以上的新浪微博，每天輕鬆處理數十億請求。

## 2. 可觀測性成為 Serverless 發展的絆腳石？

隨著 Serverless 的深入使用，開發者逐漸發現 Serverless 架構下的問題定位比傳統應用更加困難，主要原因如下：

- **元件分佈化**：Serverless 架構的應用往往粘合多個雲服務，請求需要流經多款雲產品，一旦端到端延時變長或表現不符合預期，問題定位十分複雜，需要依次去各個產品側逐步排查。
- **排程黑盒化**：Serverless 平臺承擔著請求排程、資源分配的責任，實時彈性擴容會帶來不可避免的冷啟動，Serverless 的資源伸縮是無需開發者參與也不受開發者控制的。冷啟動會影響端對端延時，這次請求有沒有遇到冷啟動，冷啟動的時間都消耗在哪些步驟，有沒有可最佳化的空間都是開發者急於知道的問題。
- **執行環境黑盒化**：開發者習慣於在自己的機器上執行自己的程式碼，出了問題登入機器檢視異常現場，檢視執行環境的 CPU/記憶體/IO 情況。面對 Serverless 應用，機器不是自己的，登也登不上，看也看不了，開發者眼前一片漆黑。
- **產品非標化**：在 Serverless 場景下，開發者無法控制執行環境，無法安裝探針，無法使用開源的三方監控平臺，調查問題的方式不得不發生改變，傳統的調查問題經驗無法施展，非常不順手。

函式計算是阿里雲的 Serverless 產品，在過去的一年，函式計算團隊為了更好地回答以上問題做了很多努力。

本文主要介紹函式計算在可觀測性上的嘗試與函式計算可觀測性現狀。

# Serverless 下可觀測性
> 可觀測性是透過外部表現判斷系統內部狀態的衡量方式。 
> --維基百科

在應用開發中，可觀測性幫助我們判斷系統內部的健康狀況。在系統平穩執行時，幫助我們評估風險，預測可能出現的問題。當系統出現問題時，幫助我們快速定位問題，及時止損。

一個好的可觀測性系統要幫助使用者儘可能快地發現問題、定位問題並且端到端地解決問題。

在 Serverless 這種免運維的平臺體系中，可觀測性是開發者的眼睛，沒有可觀測，何談高可用？

## 1. 可觀測性 1.0

![1.png](https://ucc.alicdn.com/pic/developer-ecology/3ecf458660724b2db2ae947b06a9121f.png)
圖1 -可觀測性基礎

可觀測性主要包含三個部分：日誌、指標、鏈路追蹤。

和幾乎所有 FaaS 產品一樣，函式計算（FC）在商業化之初就支援了函式日誌和指標的檢視。

- **函式日誌**

使用者在 FC 配置 SLS 的 Project 和 Logstore，FC 將函式打到 stdout 的日誌轉存到使用者的 Logstore 中。使用者可以透過 SLS 控制檯檢視函式日誌，並藉助 SLS 的能力對日誌進行分析和聚合。

- **基本指標**

FC 將指標日誌推送到雲監控，透過雲監控提供函式呼叫數/錯誤數/函式延時/函式記憶體等基本指標。

函式日誌和基本指標是應用的聽診器，雖然樸素簡陋，卻也能幫助使用者發現問題，定位問題。

即使出現開發者無法排查的問題，在使用者量不那麼大的年代，開發同學可以為使用者提供貼身服務，結合後臺日誌幫使用者定位問題。

函式日誌和指標使用詳細資訊請參考[配置並檢視函式日誌](https://help.aliyun.com/document_detail/73349.html)/[監控指標](https://help.aliyun.com/document_detail/53001.html)。

## 2. 可觀測性 2.0 - 雲原生的可觀測
隨著 Serverless 的發展，越來越多的場景在 Serverless 落地，使用規模越來越大，產品架構越來越複雜，應用聽診器的可觀測性 1.0 已經不能滿足各行各業開發者的監控訴求。這種近乎黑盒的執行環境給開發者帶來了強烈的距離感與不信任感。開發者需要掌控自己的應用，想要知道每一個請求在函式計算經歷了怎樣的歷程，想要看看端到端的延時長是不是因為冷啟動，想要檢視函式例項的執行環境，想要在請求出現異常時第一時間定位問題，想要複用熟悉的開源觀測平臺。

在面對這些需求時，團隊內部也經過了長時間的激烈討論，一部分同學認為我們應該支援這些需求，另一部分同學則認為這些需求某種程度上與 Serverless 本質相違背，Serverless 就是要遮蔽底層的計算資源，使用者不需要關心底層計算資源的情況。另一方面我們暴露了這些指標有什麼用呢，使用者就算看到了有冷啟動，看到了系統時間消耗，看到了底層例項的 CPU，使用者又不能有任何實質操作，這些指標真的意義嗎？這兩種觀點爭論不休，而我，是堅定的反對者。

後來團隊搬到了 EFC，每天都要等待著那不知什麼時候會來的電梯（輸入你要去的樓層，去對應的電梯安靜地等待，看不到電梯目前所在樓層），電梯告訴我們，你就在這裡等哦，我肯定會來的，但是我現在到了哪層，我什麼時候下來你大可不必知道，你知道了也沒用，我的這個排程肯定是最優的，你要相信專業電梯的排程演算法。可是，我怎麼能相信你呢？

於開發者而言，函式計算也是那不知什麼時候會來的電梯吧，我們和開發者說您的請求我們一定會穩定執行的，您的執行環境一定很健康，請求過多我們會自動擴容的，但是當前例項的監控指標，我什麼時候擴容您大可不必知道，我們的排程肯定是最優的，您要相信專業研發團隊的排程演算法。同樣的，開發者又怎麼相信我們呢？

Serverless 的可觀測性不單單要幫助開發者排查問題，也要逐步揭開 Serverless 那層神秘的面紗，贏取開發者對 Serverless 的信任。

於是有了函式計算可觀測性 2.0，我們希望可觀測性 2.0 可以成為應用的心電圖。

![2.png](https://ucc.alicdn.com/pic/developer-ecology/b15e407f0b5a4270a75c11aee63164af.png)
圖 2 - 函式計算可觀測性現狀

- 為了回答請求在函式計算的生命歷程，串聯分散式系統的上下游服務，擁抱開源可觀測能力，我們整合了 OpenTracing，支援鏈路追蹤。
- 為了暴露系統狀態，提供應用級別監控，我們整合了 ARMS(Java)，內建了 APM 能力。
- 為了加快端到端定位問題的速度，我們支援了請求級別指標（FCInsights），釋出了監控中心，問題發現/調查一站式解決。
- 為了相容開發者已有的使用者體驗，我們擁抱開源，整合 OpenTracing，支援 Grafana Dashboard；我們支援三方監控平臺，實現程式碼幾乎零改造接入APM 監控系統。
- 為了相容傳統開發者的可觀測體驗，支援探針安裝，我們擴充了程式設計模型，支援函式 LifeCycle，為整合三方監控提供可能。

![3.png](https://ucc.alicdn.com/pic/developer-ecology/a31bbdcdef0048b9b5a9c9cfa74711a3.png)
圖 3 - 函式計算相容開源可觀測能力

相比於自己發明創造 FaaS 可觀測性新體驗，函式計算相容開源可觀測能力，整合 Jaeger，支援 Grafana 大盤，也支援以非常小的改動接入 New Relic 等優秀三方監控平臺。**函式計算是首家相容開源、擁抱容器生態和雲原生開發者的 FaaS 提供商，可觀測體驗的平滑遷移支撐應用在容器和 Serverless 平臺的平滑遷移**。

### **1）整合 OpenTracing，支援鏈路追蹤**
FC 與鏈路追蹤服務整合，為開發者提供了完整的呼叫鏈路還原、呼叫量統計、鏈路拓撲分析、冷啟動定位等工具。幫助開發者快速分析和診斷分散式架構下的效能瓶頸。

FC 鏈路追蹤具有以下特點：

- 擁抱開源：完全相容 OpenTracing 協議，沒有附加學習成本。
- 主動記錄：上報請求在函式計算中消耗的端對端時間。
- 排程透明：暴露程式碼準備時間與例項啟動時間，是首個暴露冷啟動延時與具體時間消耗的 FaaS 產品。
- 承上啟下：串起上下游應用，既可以透過 span context 與上游應用連線，又將 span context 傳入函式，連線下游服務。

![4.png](https://ucc.alicdn.com/pic/developer-ecology/ca373dd05f684ca5874d22d4f59b45db.png)
圖 4 - 鏈路追蹤鏈路示例

![5.gif](https://ucc.alicdn.com/pic/developer-ecology/cf204164a3cc42289aadabc508462514.gif)
圖 5 - 鏈路追蹤綜合能力詳情

### **2）整合 ARMS，內建 APM 能力**
FC 無縫對接 ARMS 應用監控，開發者只需為函式新增一個環境變數即可開啟 APM 應用監控功能，ARMS 探針以對程式碼無入侵的方式監測應用效能，提供應用級別的可觀測性，包括函式例項的 CPU、記憶體指標、Java 虛擬機器指標、程式碼 Profiling 資訊、SQL 查詢等函式例項的指標。

![6.gif](https://ucc.alicdn.com/pic/developer-ecology/5eca3ad4b9944bb0a892222ddfd13442.gif)
圖 6 - ARMS 示例

### **3）釋出監控中心(Insights)，問題發現調查一站式解決**
FC 支援請求級別指標，透過為使用者每個請求多打一條指標日誌的方式為請求裝上攝像頭。透過請求級別指標，使用者可以清楚地看到請求的執行時間、使用記憶體，是否異常、錯誤型別、冷啟動情況，traceID 等資訊。也可以基於請求級別指標串聯起所有的可觀測效能力。

監控中心則是 FC 可觀測效能力的集大成者，監控中心整合了 Metrics、Logs、Tracing的能力，可以在一個站點完成預覽指標、檢視日誌、分析鏈路的能力，爭取做到問題發現調查一站式解決。

監控中心具有如下特點：

- 多維度：支援 Region、Service、Function、Qualifier、Request 多維度的指標，展示各個維度下的呼叫數和錯誤分佈。
- 多層次：整合 Metrics、Logs、Tracing 的能力，全方位多層次對應用進行監控。
- 全鏈路：結合指標、日誌、鏈路等資訊，層層遞進，抽絲剝繭，真正做到可以在一個站點發現問題，定位問題並解決問題。

![7.gif](https://ucc.alicdn.com/pic/developer-ecology/242005e4cf184448856cc44308d0acb3.gif)
圖 7 - 監控中心示例

### **4）擴充套件程式設計模型，整合三方監控**
函式例項的生命週期完全由平臺控制，使用者無法控制例項的啟動與回收，也不感知例項的暫停與重啟，這就使得在函式計算上執行除主執行緒外的背景執行緒格外困難。監控探針就是諸多重要的背景執行緒的一種。

FC 擴充套件了程式設計模型，釋出 RuntimeLifeCycle 功能，Runtime LifeCycle 會監聽函式例項生命週期事件，允許函式例項在暫停和回收前回撥使用者的函式邏輯。這一功能的釋出使 FC 整合三方 APM 監控成為可能。使用者只需要在例項暫停前將採集的指標發出去、在例項回收前將記憶體中的資料清理掉就可以在 APM 平臺上實時地檢視監控指標了。

![8.gif](https://ucc.alicdn.com/pic/developer-ecology/d941a76e4b0c48d497781927b5c3de48.gif)
圖 8 - Tingyun APM 示例

![9.gif](https://ucc.alicdn.com/pic/developer-ecology/f925912b16af49ef83f415e42e5d773a.gif)
圖 9 - NewRelic APM 示例

## 3. 總結
函式計算可觀測性經歷了 1.0-> 2.0 的發展，從閉門造車的可觀測發展成開源的可觀測，從平臺的可觀測發展為開發者的可觀測，從 FaaS Only 的可觀測演進成了雲原生的可觀測。

作為首家相容開源可觀測、擁抱容器生態和雲原生開發者的 FaaS 提供商，函式計算也將更有實力實現開發者業務的平滑遷移。

# 未來規劃
FC 可觀測性相比於一年前前進了一小步，從黑盒的可觀測演進成了微弱燭光的可觀測，但距離 “Serverless 應用白盒化” 的目標還有著很長的路要走。我們希望能夠相容開發者的監控體驗，支撐著使用者平滑地放心地將業務遷到 Serverless 上來。

接下來我們會繼續投入做以下事情：

- 完善監控中心，支援報警配置，預警異常指標。
- 提供例項級別指標，做到程式碼問題可定位，環境現場可追溯。
- 整合開源專案，整合 Prometheus，Opentelemetry，配置 Grafana 大盤。
- 豐富指標內容，目前還有一些指標是不好透出的，沒有暴露的，我們要逐步都暴露出來。

希望函式計算的可觀測性成為一盞燈，照亮每一個 Serverless 應用。

廣告時間：歡迎加入雲原生Serverless 團隊（函式計算，Serverless工作流，Serverless應用引擎），以公共雲、集團、開源社群三位一體的方式打造業界領先的Serverless 產品體系。職位需求見[ JD](https://hire.alibaba-inc.com/i18n/positionDetail.htm)，招聘長期有效，有興趣的同學可以傳送簡歷至 dehui.kdh@alibaba-inc.com。

Serverless 可觀測性的過去、現在與未來

相關文章