摘要：該平臺提供通用函式程式設計模型，高可擴縮、高效能和高效對接後端服務的執行框架，助力華為雲構建全域Serverless雲服務。
華為開發者大會2024（HDC 2024）在東莞·松山湖圓滿結束，期間華為雲主辦的“全域Serverless時代：技術創新引領，賦能行業實踐”專題論壇，向廣大開發者傳遞了Serverless領域的前沿思考和實踐，現場座無虛席。Serverless展臺接待企業客戶300+，媒體宣傳累計閱讀量1w+。這一系列數字是華為雲全域Serverless化的一個“縮影”，千行萬業的開發者認可Serverless帶來的價值並付諸實踐，Serverless的應用場景也逐步從“專用”走向“通用”。
在本次HDC大會上，華為雲釋出一則重磅訊息：華為雲全域Serverless化背後的“基石”——元戎，中稿全球頂尖學術會議ACM SIGCOMM 2024。該會議在電腦科學領域享有崇高聲望，2024年共接收投稿366篇，其中62篇被錄用，錄用率僅為16.9%。論文《YuanRong: A Production General-purpose Serverless System for Distributed Applications in the Cloud》揭示了華為自主創新的業界首個通用Serverless平臺，提供通用函式程式設計模型，高可擴縮、高效能和高效對接後端服務的執行框架，助力華為雲構建全域Serverless雲服務。
一、Serverless從“專用”走向“通用”
當前，業界現有的Serverless產品主要限於事件驅動型應用，然而對於有狀態微服務、大資料、HPC、AIGC等複雜應用，仍然面臨如下四大核心技術挑戰：
- 函式間無法高效協同：函式間無法直接定址，需繞走閘道器，導致互調效能差。函式間不支援共享記憶體，無法高效協同，難以滿足微服務、HPC等場景對低時延的訴求；
- 不確定的冷啟動時延：冷啟動是Serverless效能最佳化難題之一，尤其在微服務、AIGC等場景，容器啟動時載入大映象（GB級）的開銷大，加之複雜的應用初始化過程，整個冷啟動耗時分鐘級，無法按需彈性；
- 狀態外接影響效能：應用程式的狀態必須外接到如OBS等遠端儲存，延遲可達數百毫秒，同時遠端儲存的頻寬有限導致吞吐量低，難以滿足大資料等場景多工之間高效資料流轉的訴求；
- 使用者函式和後端服務間互動複雜：後端服務通常是有狀態的，併為每個客戶端維護經過身份驗證的活動連線，例如JDBC連線，但這些連線狀態很難在協作的函式例項之間共享。此外，多個函式的併發操作也會導致分散式事務的問題。
二、元戎首創通用Serverless平臺
論文介紹了元戎通用Serverless平臺的一系列關鍵創新。其中，針對挑戰1和2，元戎構建了可擴充套件的函式系統，實現大規模函式排程、亞毫秒函式互調以及函式極速冷啟動等關鍵技術，支援大規模多形態應用的統一管理和高效執行；針對挑戰3，元戎內建了多語義資料系統，實現分散式共享記憶體物件以及流資料物件，提供分散式共享記憶體池，支援多語義資料的高效流轉；針對挑戰4，元戎構建了可移植的Bridge系統，提供事件和後端服務的標準抽象介面，解耦架構，同時支援連線複用和共享事務等功能。
元戎進一步抽象了面向雲原生程式設計的通用Serverless執行時介面，並實現了主流語言的Runtime。透過這些Runtime，元戎為開發者提供特定領域的簡易程式設計模式，支援Web服務、大資料、AI訓練/推理、HPC等全域Serverless應用。
“元戎通用Serverless平臺”架構圖示
- 更多技術細節請參見華為雲在ACM SIGCOMM 24發表的論文原文：
連結：https://dl.acm.org/doi/10.1145/3651890.3672216
三、通用Serverless客戶案例
案例1：全球銷量領先車企基於Serverless構建千萬級車聯網平臺
當前，汽車行業的車聯網業務對提升產業競爭力和創新能力方面具有重要意義。為了在未來10年內滿足6700萬接入車輛的業務需求，某全球銷量領先的車企期望構建一個全生命週期車輛管理平臺。該平臺需要能夠承載分鐘級的車輛資料上報，每天100T的資料增量，並支撐至少10PB級以上的存量資料。此外，汽車接入具備典型的波峰波谷特徵，白天上下班時請求峰值達3w+ QPS，夜間請求量相對白天銳減。如何構建支援千萬車輛穩定接入的車聯網平臺，滿足業務端到端秒級時延並降低成本，是企業面臨的主要問題。
Serverless方案憑藉其按需全自動彈性，按請求計費，免運維等優勢，最終在與傳統虛擬機器/容器方案的對比中勝出。華為雲FunctionGraph（Powered by元戎）作為核心計算服務，結合APIG、DIS、EG等Serverless中介軟體，靈活組裝資料轉碼、分發、轉儲等業務流程，函式級邏輯開發簡單，例項多AZ部署保證了高可靠性。
“使用FunctionGraph的無伺服器IoV平臺”方案圖示
該車聯網平臺完成Serverless架構升級後，彈效能力顯著提升，達到業界領先的分鐘級 5000+ 函式例項彈性，業務端到端時延從分鐘縮短到秒，加速近20倍，資源利用率提高了50%，這與元戎提供的以下兩個“黑科技”密不可分。
首先，元戎創新提出了基於程序級快照的函式極速冷啟動技術，支援對使用者空間指定的程序進行“凍結”（即停止程序，並將該程序執行的所有上下文持久化為快照檔案），並在必要時對其進行“解凍”（即透過儲存的快照檔案來正確恢復程序執行的上下文）。當使用者請求觸發函式啟動時，直接基於函式快照恢復，跳過框架啟動、業務初始化等耗時較長的階段，進一步結合內建資料系統實現快照快取加速，顯著提升應用冷啟動效能90%+。
“元戎函式極速冷啟動”原理圖示
其次，元戎構建了分級排程架構，以應對生產系統中傳統中心化排程架構的效能瓶頸，支援大規模函式例項的並行排程，並有效利用資料區域性性，確保高可擴充套件性，更好地支撐千萬級車輛接入的波峰波谷場景。
“元戎大規模分級排程”原理圖示
車聯網平臺自商用上線以來，已經歷春節等節假日的考驗，峰值每天十幾億次函式呼叫無錯誤。該Serverless方案現已作為華為雲標準車聯網解決方案進行推廣，幫助更多車企構建高可用、低成本的車聯網平臺。
案例2：華為MetaERP全面Serverless化架構升級
MetaERP是服務於華為公司生產製造、供應、採購、財務業務的SaaS系統，整個系統構成非常複雜，涉及微服務、函式、大資料等多種應用形態。當前架構面臨研發成本高、資源成本高等一系列挑戰。為了解決這些問題，MetaERP正在進行全面Serverless化架構升級，旨在打造業界首個Serverless ERP系統，實現研發和資源成本的雙重下降。
1）資產核算業務
資產核算業務(MFA) 支援企業資產從獲取到處置的全生命週期管理和交易核算，在資產使用壽命內，按照會計準則和稅法要求，系統地計提資產折舊費用。該業務的資源池獨立，作業時間集中，具有典型的波峰波谷特徵。然而，Java微服務的啟動時延超過1分鐘，彈性響應慢，業務峰值處理效能不足，日常波谷時仍需要保持最低配置線上，平均資源利用率不到2%，導致資源成本高。
MFA業務基於元戎進行Serverless化改造，元戎提供Spring框架相容能力，支援透過修改少量配置即可實現存量業務Serverless化。進一步，元戎透過函式極速冷啟動技術，將業務冷啟動時間縮短到5秒，彈性效能提升20倍。結合自動水平和垂直彈效能力，在無請求時支援業務例項縮容至0，月均資源消耗降低70%。
2）銷售訂單業務
當前，MetaERP依託平臺基礎功能（通用邏輯）來支撐上層大量的租戶定製業務（擴充套件邏輯）。以銷售訂單業務為例，平臺通用邏輯動態載入租戶擴充套件邏輯，雖然實現了靈活定製，但兩者耦合執行，無法保證安全隔離。
元戎支援租戶擴充套件邏輯以Serverless函式方式釋出、執行，透過函式物理例項隔離的方式減少風險，保障通用層的穩定。然而，優秀的技術方案往往也難以一步到位，雖然實現了多租戶之間的安全隔離，但也引入了兩大挑戰。
首先，分離後的通用邏輯和租戶擴充套件邏輯透過RPC通訊，相比原先本地呼叫，耗時必然增加，且通訊次數越多，耗時會越大。元戎提供亞毫秒函式互調能力，透過簡化通訊鏈路、親和性排程、協議最佳化等關鍵技術，支撐通用邏輯和租戶擴充套件之間高效能直連互通，實現端到端呼叫時延1ms。
“元戎函式互調”原理圖示
其次，不同的業務邏輯之間訪問同一份資料時的事務一致性問題。元戎提供Service Bridge代理後端服務訪問，利用路由計算，將同一事務的請求匯聚到同一個Bridge函式例項上，將原來分離的事務邏輯重新聚合成本地事務，解決分散式事務一致性問題。
“使用者函式透過元戎Service Bridge訪問後端服務”原理圖示
四、總結與展望
近年來，華為雲持續構築全域Serverless雲服務，推出了一系列競爭力領先的Serverless產品，包括函式工作流FunctionGraph、Serverless容器引擎CCE Autopilot、Serverless應用託管CAE、雲資料倉儲DWS、事件網格EventGrid等，高效支撐Serverless全面商業化。
“華為雲全域Serverless化”願景圖示
面向生成式AI浪潮，元戎通用Serverless將持續聚焦技術創新，突破大模型推理服務例項快速彈性、分散式KV Cache池化管理、多模型混部高效協同排程、超大規模分散式訓練高可用性等關鍵技術，構築大模型推理和訓練的高效能、低成本、高可用性關鍵競爭力。透過這些創新，元戎將助力華為雲打造極低成本、極致效能和極優體驗的Serverless AI解決方案，實現全域Serverless化的競爭力領先，幫助千行萬業的百萬開發者縮短交付週期，提升上雲效率，搶佔市場先機。
點選關注，第一時間瞭解華為雲新鮮技術~