Knative 助力 XTransfer 加速應用雲原生 Serverless 化

阿里云云原生發表於2024-03-25

作者:元毅

公司介紹

XTransfer 是一站式外貿企業跨境金融和風控服務公司,致力於幫助中小微企業大幅降低全球展業的門檻和成本,提升全球競爭力。公司連續7年專注 B2B 外貿金融服務,已成為中國 B2B 外貿金融第一平臺,目前全球的貿易企業也都已開始使用 XTransfer。

業務場景

XTransfer 以科技為橋樑,連結中外大型金融機構和中小微企業,打造了以中小微企業為中心的資料化、自動化、網際網路化和智慧化的反洗錢風控基礎設施。XTransfer 與知名跨國銀行和金融機構合作,建設了 B2B 外貿金融全功能平臺,能提供外貿收款、多幣種現金管理、融資、理財、風控服務、客戶管理等在內的綜合解決方案,讓中小微企業享受到和大型跨國集團企業同等水平的跨境金融服務。

面臨的痛點

如今,全球貿易往來成為經濟發展的一大命題,在 B2B 貿易碎片化、小型化和高頻化的背景下,外貿企業對於實時、安全、普惠的跨境金融服務需求愈加迫切,技術能力也需要在客戶的需求基礎上進行不斷的迭代最佳化,以提供更便利化的跨境金融和風控服務。由於 B2B 外貿交易資訊分散且非結構化,保證交易資訊識別的準確性和客戶需求回答的即時性、穩定性是提供優質金融服務的基礎,所以在底層基礎設施建設上存在一定的挑戰。面臨的具體痛點表現為:

演算法模型部署成本高

不僅包括硬體資源的成本,還包括維護、監控、故障修復等運維成本。傳統的演算法模型部署方式需要持續提供計算資源,即使在無請求時,也需要保持足夠的服務例項以便應對可能的流量。這無疑會造成大量的資源浪費和高額的費用開銷。

演算法模型部署週期長

演算法與工程邊界模糊、耦合嚴重、相互制約,演算法迭代效率不高,每次演算法模型的迭代強依賴於業務工程,每次模型迭代都需要走一個完整的研發測試周期,流程長,效率低。而且在模型上線後,還需要對模型進行持續的監控和維護,這會進一步增加部署週期。

難以快速響應突發流量

在網路流量波動較大的情況下,例如在大批次風控規則任務跑批期間,傳統的模型部署方式可能無法快速響應突然增加的流量,導致服務效能下降或者服務當機。即便提前預估流量並增加服務例項,也可能因為流量預估不準確而造成資源浪費或者服務質量下降。

解決方案

由於 B2B 外貿交易資訊分散且非結構化,保證交易資訊識別的準確性和客戶需求回答的即時性、穩定性是提供優質金融服務的基礎,所以在底層基礎設施建設上,XTransfer 與阿里雲合作,專注於支援 Serverless 架構,落地了 Knative 部署平臺。

XTransfer 的 DevOps 平臺藉助阿里云云原生 Knative 元件及 GPU 共享排程能力,支援演算法模型的 Serverless 部署,演算法工程師建立待上線模型版本、定義推理指令碼、指定模型服務所需資源 (最小副本數、GPU 佔用、記憶體佔用等),後續整個模型釋出流程在 DevOps 平臺上完成即可。

業務價值

目前,XTransfer 已經成功運用 Knative 部署平臺,充分利用其自動伸縮、事件驅動、容器化部署以及版本控制、資源按需分配和釋放、應用生命週期管理等功能。使用 Knative 部署平臺能實現按需擴容和分層請求呼叫 GPU 資源,及時應對短時大批次請求,節省成本同時能保證伺服器的穩定性。

相關文章