01 資料的爆發為儲存帶來持續挑戰
在5G時代下,影片和圖片因其強大的資訊承載力,已經成為資料內容的主要載體和資訊傳播的主要方式。而5G的大頻寬、低時延、廣連線的特性啟用了雲遊戲、物聯網、影片監控等場景應用,從消費網際網路到產業網際網路的延伸,更加促進了終端應用和資料的爆發。
這些終端和資料具有位置分散、規模大、以及價值密度相對較低等特點,典型的如:影片監控錄影/截圖、雲遊戲錄影、海量臨時日誌檔案等。一方面,我們需要提供就近、低延遲的資料接入與儲存能力,另一方面,我們需要在邊緣進行資料的精細化管理,與計算相結合,分析其中的關鍵片段以及其結構化資訊。
這樣的場景和需求對計算和儲存的方式帶來了嚴峻挑戰和根本性變化。
02 基於邊緣雲構建位置無感的協同儲存服務
使用者在使用物件儲存時,針對海量資料,提出了大流量、就近、低延遲的要求,邊緣雲在這些方面具備天然優勢,但邊緣雲的物件儲存在使用方式和體驗上存在明顯不足。相較於傳統中心雲的region化使用方式,邊緣雲的單點規模較小,並且節點數多了幾個量級。
如果每個邊緣雲節點獨立進行物件儲存服務,無異於將複雜的邏輯交給使用者,使用者使用時將面臨節點資源管理、資源讀寫排程、單節點可用性運維等諸多複雜問題。這會對使用者業務帶來巨大的挑戰,任何節點狀態的變化,都可能帶來業務的感知,處理不好甚至會對業務造成嚴重影響。
以攝像頭資料上云為例,傳統的方式,使用者需要感知終端裝置的地理位置,並且需要去維護海量終端裝置和雲上地址的對應關係,一旦出現單點故障,使用者需要做大量的動作來進行排程和遷移。
而理想的架構中,使用者無需關心具體的雲上位置,希望與雲只有一個互動面,就能實現全網裝置的就近、低延遲接入,並且無需關心雲上單節點的負載、水位、異常等情況。
邊緣計算孵化了位置無感的協同儲存(EOS)服務,透過中心管控和多個邊緣節點進行協同,將分佈在各地邊緣節點的物理儲存資源,組成一個邏輯統一的物件儲存資源池。使用者無需關心讀寫位置和單節點可用性帶來的運維和排程問題,即可得到與使用公有云物件儲存一致的介面體驗,以及由數量眾多的邊緣儲存資源整合而帶來的大容量、高彈性的儲存資源池。
03 協同儲存核心模組
協同儲存採用了典型的雲邊協同架構,其核心包含中心管控與邊緣節點兩部分,其中,中心管控包含以下管理模組:
- 後設資料管理:匯聚全網的後設資料進行統一管理,與檔案讀寫排程、檔案生命週期等聯動;
- 資源排程:負責邏輯儲存桶與物理儲存桶的對映關係管理,根據節點狀態、水位進行全域性資源動態規劃;
- 讀寫排程:根據使用者地理位置、所需資源量、檔案分佈等因素進行全域性檔案讀寫排程;
- 多點資料協同:對節點資料進行跨節點複製或資料遷移,提高整體服務可用性;
邊緣節點包含以下管理模組:
- 節點閘道器:提供節點檔案讀寫服務,如儲存協議相容、http/ https訪問支援、動態配置、跨域管理、流控、日誌監控等。
- 邊緣管控
- 與中心管控協同完成完整的管控邏輯,同時在節點範圍內具備一定的邊緣自治能力;
- 負責節點記憶體儲管理、跨節點資料複製/遷移等操作;
- 負責節點內多引擎容災。
- 儲存引擎:提供基礎的儲存能力(檔案讀寫等)以及檔案容災能力(EC、三副本等)。
04協同儲存的關鍵技術
基於邊緣節點構建的位置無感分散式協同儲存,關鍵技術在於以下幾點:
- 節點統一納管與排程
對使用者而言,和邊緣雲只有一個互動面,協同儲存將多個物理節點抽象為一個邏輯節點,透過全網資源的統一納管,進行多維度的協同排程,過程中會綜合地理位置、節點頻寬、儲存空間、裝置親和性等眾多因素,從而實現服務的高可用以及資料的就近存取,同時,協同儲存提供了靈活的接入和排程策略供業務按需使用(全國、區域、運營商、單節點、自定義節點範圍)。
- 檔案讀寫排程
協同儲存物理檔案儲存在邊緣節點,儲存空間、檔案元資訊等匯聚到中心,進行統一的管理和檢索。
使用方式上,檔案寫入和讀取均可採用302排程方式,寫入統一域名,協同儲存經過地理位置、節點水位等綜合排程後,將請求跳轉到真實的物理節點進行讀寫,使用者無需關心終端所在位置,即可快速就近、低延遲接入。
- 實時的節點狀態和容量監測
協同儲存會對單個節點進行實時狀態與水位檢測,當單點不可寫時,會自動將請求遷移到其他節點,完成服務無感漂移和切換,單點恢復後快速複製同步。
- 跨節點多副本
為了應對節點割接、容災等場景,協同儲存提供了跨節點多副本的冗餘能力,將資料進行節點間錯峰同步。當單點不可用時,協同儲存會進行流量的快速轉移,同時也可以在訪問量大時進行多節點讀負載均衡,整個過程使用者無感知。
- 邊緣統一的儲存訪問閘道器
在整體架構上,協同儲存透過邊緣統一閘道器進行異構資源的適配,不管是從API、SDK還是授權體系,完全相容現有的使用方式,這對於海量的資料來源來說,只需要簡單配置,便可以快速將資料上傳到協同儲存,從而確保給使用者雲邊一體化的使用體驗,同時去除了Region概念,直接採用了統一的域名接入和管理方式,真正實現了只上一朵雲、只存一朵雲。
目前協同儲存已經在眾多場景下落地,典型的如監控裝置的截圖/錄影上傳、車載場景的資料就近寫入等。未來,我們將與邊緣算力進行更加緊密結合,助力網、算、存一體化的邊緣計算體系發展。協同儲存的演進,必將為邊緣更多場景的落地提供有力支撐,為邊緣計算帶來更多的可能性。