冷啟動延時縮短50%-80%,阿里雲函式計算釋出冷啟動加速技術

程式碼派就是我發表於2021-03-26

容器映象因其顛覆式創新成為雲原生時代應用部署格式的事實標準。頭部雲廠商 FaaS (Function-as-a-Service) 服務如阿里雲函式計算、AWS Lambda 也相繼在2020年支援使用容器映象部署函式,全面擁抱容器生態。 自發布以來,開發者陸續將機器學習、音影片處理、事件驅動離線資料處理、前端自動化等多個場景使用映象快速無伺服器化,提高效率、降低成本。 然而,冷啟動一直是 Serverless 無法繞開的問題。容器映象需要將資料透過網路遠端下載並解壓,對於GB級別的映象,拉取時間可能高達分鐘級別,客觀上放大了冷啟動副作用,阻礙實時應用的 Serverless 演進。

函式計算冷啟動加速功能

近日,阿里雲函式計算重磅釋出冷啟動加速技術,將原本屬於開發者的映象最佳化負擔轉由函式計算承擔,進一步幫助開發者提高生產效率,專注業務創新。該技術源於阿里集團超大規模和場景高度複雜的容器環境,對映象儲存、加速技術有深厚的積累,並出色地承擔了3年雙十一,雙十二,春節等大促秒殺場景的嚴苛的挑戰。據悉,函式計算已將該技術上線至:杭州、北京、上海、美東、美西等 region。

加速效果

我們在選擇了內部生產環境和開源社群的工作負載,覆蓋機器學習、人工智慧、前端自動化、Web 應用等7種映象大小、IO 訪問模式、啟動命令的不同組合作為 benchmark,部署在 FC 北京區域。如下圖所示,函式計算開啟映象加速功能後加速普遍超過 50%,對於機器學習場景中常見的臃腫映象(如多個團隊共享基礎映象, ml-small-import, ml-large-import, ai-cat-or-dog)加速效果更為明顯(約 70%-86%),映象越大最佳化空間往往越高。 image.png image.png

功能特點

FC 映象加速具備以下特點:

  1. 使用簡單:只需在函式上開啟映象加速,函式計算會自動製作加速映象和快取,轉換完成後(5分鐘以內),函式自動採用加速映象快取。

  2. 專注業務創新:開發者無需花費時間刻意精簡最佳化映象大小或嚴格區分 Serverless 和 Serverfull 應用映象的構建方式,FC 負責按照應用實際使用資料拉取和解壓。

  3. 加速免費,使用門檻低:映象加速開啟不產生額外費用,也不需要開發者額外購買或升級任何其他服務。事實上由於映象拉取時間變短,相應的請求費用也隨之降低。

  4. 極速彈性、縮容到 0、事件觸發:FaaS 結合容器映象已經極大簡化了應用遷移至 Serverless,加速功能進一步解鎖了實時、準實時工作負載,曾經需要分鐘級別的容器啟動現在可以幾秒內快速啟動,真正實現縮容到0。

未來規劃

此次函式計算釋出的冷啟動加速技術,透過按需讀取和更高效的解壓技術在不同場景下加速 50%-80%,即使 GB 級別的映象也可以在幾秒內完成端到端啟動。 加速功能結合函式計算極致彈性和事件觸發的特點,解鎖了更多對實時要求高的工作負載。容器應用可以更容易地享受 Serverless 特性,真正做到縮容到0以及快速大規模擴容。FC 在未來會持續最佳化冷啟動各個環節提供極致彈性,承擔更多使用者責任,使開發者專注業務創新。

附錄:實驗場景資料

image.png


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31550522/viewspace-2765166/,如需轉載,請註明出處,否則將追究法律責任。

相關文章