在數字化轉型的浪潮下,銀行業對資料的依賴日益加深。為提升資料管理和應用水平,西南某城商行於2022年啟動了資料中臺建設,採用創新技術手段最佳化其資料服務體系。
本文將深入探討該行如何藉助Whalestudio平臺構建資料中臺,以及在實際應用中取得的顯著成效。
從需求到選擇:資料中臺系統的選型過程
該銀行在資料中臺建設過程中,排程和資料抽取平臺的選型至關重要。
經過多輪評估和比對,西南某城商行最終選擇了Whalestudio作為統一排程和資料抽取平臺,主要考慮以下關鍵因素:
- 技術架構:採用分散式架構,具有良好的擴充套件性,併相容國產基礎軟體,符合信創的技術要求。
- 平臺化特性:排程和資料抽取平臺均支援統一管理和API呼叫,便於集中管理和資料呼叫。
- 租戶管理:支援租戶化管理,實現專案與使用者的分層隔離,確保不同租戶間的資料安全。
- 多樣化支援:排程系統支援靈活的時間排程和任務編排,資料抽取支援多資料來源實時和離線抽取,具備資料清洗和欄位對映功能。
Whalestudio在資料服務體系中的應用
西南某城商行依託Whalestudio構建了涵蓋資料開發、資料服務、資料應用和敏捷交付的完整資料服務體系,具體應用如下:
資料開發整合
透過Whalestudio的白鯨排程系統(Whalescheduler),實現了多工支援、資料抽取、清洗、建模和質量檢測等流程的自動化管理,使資料全生命週期管理更加平臺化和整合化。
資料服務整合
在資料服務方面,西南某城商行整合了行內的資料交換需求和資料治理體系,透過白鯨資料整合系統(WhaleTunnel)的資料傳輸和清洗功能,建立了行內資料市場。
該資料市場顯著降低了業務系統間的資料互動複雜性,提高了資料交換效率。
資料類應用
基於Whalestudio平臺的能力,西南某城商行在資料脫敏平臺上進行了二次開發,將資料脫敏、標準化、分級管理與脫敏演算法深度融合,以確保資料的安全性和合規性,進一步提升了資料的應用價值。
敏捷交付體系
Whalestudio與GitLab的無縫整合,使得該行能夠實現排程任務的版本控制、審批和自動化部署,顯著縮短了資料接入和任務建立時間,從而幫助銀行快速響應業務需求變化。
未來建設方向
西南某城商行的資料中臺建設已取得初步成效,但為進一步提升平臺能力和業務支援,該行計劃在以下幾方面持續最佳化:
資料治理體系全面落地
推動資料治理體系全面落實,實現資料開發、資料交換和資料應用的閉環管理。
敏捷交付體系深化
在資料庫DDL變更、環境隔離等環節實現自動化,最終達到從測試到生產環境的全自動釋出。
完善監控體系
構建更全面的監控和告警系統,涵蓋排程任務、資料質量等多類指標,支援任務分級管理。
結語
在Whalestudio的支援下,西南某城商行顯著提升了資料開發和交付效率,加速了數字化轉型步伐。
未來,西南某城商行將繼續最佳化資料中臺的能力,為業務創新和持續發展提供強大支援。
本文由 白鯨開源 提供釋出支援!