本文對Serverless架構的基礎概念、具體產品、應用場景、工作原理進行詳細解析。
基礎概念
Serverless: 無伺服器架構,即在無需管理伺服器等底層資源的情況下完成應用的開發和執行,是雲原生架構的核心組成部分。
通俗來說,如果將購買一臺物理伺服器比作買車,購買雲伺服器就類似於租車(租賃期間需要駕駛和維護,且即使閒置也需付費),那麼Serverless則類似於計程車(只需乘坐,按里程計費)。
從技術層面來說,我們可以簡單理解為:Serverless = FaaS + BaaS。一個完整的Serverless應用一般由FaaS層的雲函式負責無狀態的計算,由BaaS層元件負責狀態的維護:
-
FaaS(函式即服務,Function as a Service):將函式程式碼託管給雲產商,以服務形式執行,支援事件觸發。代表產品有騰訊雲SCF、AWS Lambda等。
-
BaaS(後端即服務,Backend as a Service):指雲平臺提供的後端元件整合,開發者無需開發和維護後端服務,通過API/SDK的呼叫便可獲得例如資料儲存(物件儲存、雲資料庫、雲中介軟體等)、訊息推送、賬號管理、地圖定位、AI、IoT等能力。
特點及優勢:
-
免運維:無需管理基礎設施 —> 可以專注業務開發
-
按量計費:閒時不計費 —> 降低成本
-
彈性伸縮:峰時自動擴容 —> 無需考慮可用性問題
劣勢及適用場景:
-
冷啟動延遲: 一定時間內的首次呼叫可能需要冷啟動(如進行載入程式碼、拉起容器等任務)—> 適合對響應速度要求不是太高的介面,更適合非同步任務,不適合啟動耗時久的Java專案
-
開發和管理設施: Serverless應用的除錯、測試、排障、釋出等設施暫不成熟 —> 目前更適合後端邏輯不太複雜的輕量級應用
-
雲產商繫結: 不同雲產商提供的元件(如儲存)介面不同,可能增加未來遷移成本 —> 使用標準化框架,並在設計時儘量隔離通用邏輯層和BaaS依賴層
工作原理
雲函式之所以能做到按量計費和彈性擴容,與其實現機制是分不開的。核心原理是在函式被呼叫時才動態的啟動容器例項去執行,容器的生命週期很短,執行完後一定時間就會被回收,所以沒有呼叫時是不消耗任何資源的。而面對同一時間的並行呼叫,會啟動多個例項來完成執行,這也實現了單個請求級別的彈性擴容,且理論上是可以無限擴容的。
由於容器啟動本身需要耗時,所以一般的實現會在例項執行完之後保留一定時間視窗。大致的工作流程如下圖,其中步驟(1) (2) (3) (4) 為冷啟動呼叫流程,(5) 為非冷啟動呼叫。
1.函式註冊
使用者在控制檯(或命令列)提交函式程式碼到雲平臺,並進行函式配置。程式碼一般會被作為靜態資源儲存(如物件儲存),而函式的元資訊會被存入資料庫中(如mysql)。
2.函式觸發
雲函式的觸發可以分為同步和非同步兩種情況:
- 如果是同步請求則等待函式執行結果後返回
- 如果是非同步請求則可以投遞到佇列後直接返回
3.函式執行
雲函式的執行可以分為冷啟動和非冷啟動兩種情況:
- 如果沒有可用的例項資源則進入冷啟動流程,需要進行宿主機排程,在宿主機拉起容器例項,下載函式程式碼,然後執行程式碼。
- 首次執行完畢後docker容器不會立即關閉,會等待一定時間週期,如果此時有新的請求進來,會被分配到該容器,直接執行程式碼。
冷啟動問題
前面說到雲函式的實現機制必須要在函式呼叫時才去啟動執行環境,需要面臨冷啟動問題。雖然保留一定時間可以讓後續的請求無需載入,但如果在極短時間內併發大量請求,還是會同時啟動多個容器,影響首個請求的響應時間。前面也說到,雲函式的特性和機制決定了它的應用場景,對於同時要求高併發、低時延的場景並不是特別適合。
對於冷啟動問題,下面以騰訊雲的雲函式SCF為例進行驗證。使用Postman的批量測試功能(Collection Runner)對雲上部署的一個Hello World函式進行序列測試。
從圖中可以看出,一段時間內的首次請求耗時會比其他請求的耗時高出一個數量級。
冷啟動優化
冷啟動的優化主要針對同步的請求,首先分析下冷啟動耗時的組成,主要是容器的拉起和程式碼的下載(當然也有資源排程和網路配置等,這裡暫不討論)。
1.程式碼快取:可以設計多級快取,比如在宿主機上進行程式碼包快取,以及在可用區(AZ)內部進行快取,這樣後續的首次啟動就可以快速就近獲取,而無需再次從物件儲存下載。
2.容器預建立:一個優化思路就是預載入,也就是預測將會到來的請求,提前拉起容器例項,從而減少耗時。有以下幾種可能的方案:
- 進行請求量的實時計算,如果請求呈上升趨勢,就開始預建立容器例項,同理下降則進行回收。
- 雲函式呼叫鏈: 這是一種可確定的預測,當雲函式之間出現互相呼叫,在前面的函式被觸發時就可以同時預建立呼叫鏈後面的例項;
- 版本更新: 如果函式版本進行更新,則之後的所有請求都會重新冷啟動,為了避免這種情況,需要預建立一些例項並下載新版本程式碼,之後才能將流量平滑遷移到新版本函式。
應用場景
1.Rest API
利用雲函式可以快速部署一個Rest API應用,目前的雲廠商基本都支援大部分node,python和php的web框架,如koa、Express.js、Next.js、Flask、Django、Laravel等等。
這種web架構是前後端分離,即雲函式中的後臺介面只提供資料,頁面的渲染在瀏覽器進行。可以將前端的程式碼部署到物件儲存中,並使用相關雲資料庫作為資料儲存,這就成為一個完整的雲上Full Stack應用。
2.SSR
SSR(Server-Side Rendering):後端渲染,即頁面直接在後臺進行渲染,瀏覽器只負責顯示。這種比較傳統的web架構很適合應用於Serverless,只需將整個後端程式碼部署到雲函式即可,好處有:1.利於SEO,2.降低系統複雜度,易於部署。
Serverless很適合用於流量分佈不均的輕量應用,比如一些活動頁面,可能一個週期內只有很短的一段時間會有大量訪問,且需要長期的維護,此時為這個應用去購買高配置的伺服器顯然是不划算的。使用Serverless之後則可以完全解決這個問題,按量計費降低了成本,既免去了長期運維又不需要擔心擴容問題。
3.任務執行
雲函式本身是無狀態的,所以天然適合無狀態任務,如果需要狀態儲存則需要藉助BaaS層的元件。雲函式的優勢是可以與雲提供商下的其他服務(比如資料庫、快取、物件儲存、CDN、AI、轉碼等)打通,在函式中使用SDK連線各個元件(但這同樣意味著將在雲產商繫結的道路上越走越遠)。以下是一些適用場景:
-
訊息通知:比如觸發後向某個使用者傳送郵件、簡訊等。
-
定時任務:雲函式一般提供定時器觸發,方便進行定時任務的執行。
-
CDN自動重新整理:一般來說會把圖片、網頁等靜態資源存到物件儲存,並且配置CDN加速,一旦資源發生修改還得手動進行CDN重新整理預熱。可以使用物件儲存上傳的事件觸發器,在雲函式中呼叫CDN介面自動化重新整理預熱。
-
視訊轉碼:如果雲產商提供轉碼服務,可以藉助雲函式很方便的完成轉碼任務。如原視訊上傳到物件儲存後,該事件可以觸發雲函式呼叫轉碼服務,並將轉碼後的視訊釋出到物件儲存中,如果使用了CDN還可以進行快取重新整理。
-
AI服務:可以使用雲函式呼叫該產生的AI服務,比如呼叫OCR介面識別圖片文字內容後返回。
-
Devops:例如將Github的webhook設定為雲函式的地址,當程式碼提交後觸發雲函式,執行CI/CD任務,構建後釋出產物到雲伺服器上。
具體產品
下面以騰訊雲上的Serverless產品為例介紹具體的使用實踐。
SCF雲函式
SCF (Serveless Cloud Function)是騰訊雲Serverless的核心產品,部署一個可以從公網訪問的雲函式只需簡單兩步:
1.函式編寫:可以直接在控制檯上的編輯器中編寫函式程式碼,下圖就是一個Hello World雲函式:
2.建立觸發器:如果想通過瀏覽器進行函式呼叫,則建立一個API閘道器觸發器,會分配一個公網地址供訪問。API閘道器還支援繫結自定義域名,可實現通過 "{自定義域名}/{函式名}" 的方式訪問雲函式,例如 http://apigw.zhayujie.com/test。
除了閘道器觸發,SCF還支援物件儲存(COS)、訊息佇列(Ckafka、CMQ)、定時任務等觸發器,方便雲函式與這些元件打通,可以衍生出很多應用場景。
Serverless Framework
Serverless framework是Serverless官方提供的標準化框架,目前支援該框架的產商有騰訊雲、AWS、Azure、Google等等。其目的一是完善Serverless專案的devops流程,包括開發、測試、管理、部署、監控等生命週期;二是提供一個標準介面,降低serveless應用對雲廠商的繫結,減小遷移成本。
對於簡單的函式可以在控制檯直接編寫和部署,但對於有一定規模的專案肯定是不能滿足的,我們不可能每次都在網頁上手動修改程式碼,也不可能一一手動建立和管理所依賴的雲產品。
於是Serverless framework提供了基於命令列和IDE的一站式開發部署,方便快速構建Serverless應用。且騰訊雲將SCF、COS、CDN、資料庫等BaaS層的雲產品都抽象為元件(Serverless framework components),在應用中可以方便的對這些資源進行建立、配置和管理。
CloudBase
雲開發CloudBase最初多用於為小程式提供BaaS能力,使開發者可以免於維護伺服器,採用全託管的方式開發小程式,如今雲開發還支援公眾號、web應用、Flutter客戶端等。
雲開發其實提供了一體化的開發環境,整合了FaaS層的雲函式和常用的BaaS層元件(NoSQL資料庫,COS雲端儲存),以及提供了監控和日誌能力,基本涵蓋了應用開發所需的核心環境和工具。
總結
本文首先介紹了Serverless的概念,可簡單理解為FaaS和BaaS的結合,並闡述了其優勢(免運維、按量計費、彈性伸縮),以及劣勢(延時、複雜應用支援、雲產商繫結)。
工作原理部分,介紹了雲函式的工作流程,包括函式註冊、函式觸發、函式執行,分析了冷啟動的問題,並提出了一些優化方案猜想(程式碼快取、容器預建立)。
應用場景部分,對web應用託管(Rest API、SSR)和任務執行這兩種常見應用場景提出了具體的例項。
最後介紹了騰訊雲上的Serverless產品,包括SCF雲函式、Serveless Framework、CloudBase雲開發,其中使用SCF建立了一個可從公網訪問的雲函式demo。希望讀完本文能對Serverless無服務架構有一個形象具體的認識。