TiDB 在全球頭部物流企業計費管理系統的應用實踐

PingCAP發表於2024-01-12

本文介紹了某全球頭部物流企業採用 TiDB 解決計費管理系統效能瓶頸的實踐。原系統採用的雲資料庫受限於架構而無法水平擴充套件,導致高併發效能問題。該企業透過選擇 TiDB,成功打破了效能瓶頸,實現了無縫水平擴充套件,降低了開發和運維負擔。TiDB 的 HTAP 特性帶來實時輕量級分析彙總的優勢,避免了資料同步風險,為計費管理系統提供了高效能、可維護的全面解決方案。

某物流企業是以快遞和跨境物流為核心業務的綜合物流服務運營商。快遞業務在中國和東南亞市場處於領先地位,快遞網路覆蓋中國、新加坡、印度尼西亞、越南、馬來西亞、泰國等 10 多個國家,每年為數百萬個家庭和企業提供快遞服務。

業務挑戰

計費管理系統(財務系統)是快遞行業的核心繫統,承擔了所有快遞服務的應收應付管理和合作夥伴的應付管理等重要職責,系統的效能和穩定性對於整個快遞行業的運營和管理都至關重要。

計費管理系統最初採用雲資料庫(PolarDB)作為服務的承載。隨著業務迅猛增長,雲資料庫的效能受到了架構限制,無法進行水平擴充套件,這對系統在面對高併發請求時的效能產生了負面影響,進而損害了使用者體驗。系統只能透過縱向升級硬體規格來提高處理能力和儲存容量,這種擴充套件方式不僅需要購買更高規格的硬體裝置,導致機器成本大幅上升,升級的過程需要進行停機維護。

為了解決這個問題,該公司採用了多個資料同步工具來實現資料的計算和流轉。系統使用 Kettle 工具將 PolarDB 資料同步至 ElasticSearch,使用 DTS 工具將資料同步到 AnalyticDB,AnalyticDB 中的資料則用於執行計算並支援報表系統的功能。系統中的聚合查詢主要由 ElasticSearch 來支援。這種實現方式帶來了系統架構的複雜性,使得資料流轉週期延長,流程變得更加複雜,資料同步和計算過程容易出現問題,需要系統管理員進行定期的最佳化和維護,以支援更高的併發量和更復雜的業務場景。

解決方案

經過對比測試與應用相容驗證後,該企業選擇 TiDB 分散式資料庫擴充資料架構體系的能力版圖。 TiDB 解決了計費管理系統的效能瓶頸問題,最佳化了整體架構,提高了系統可維護性和可擴充套件性,同時保障系統高效能、平穩執行。


TiDB 原生分散式架構支援線性水平擴充套件,很好地解決了系統的效能瓶頸問題,在業務不斷髮展的情況下,系統可以隨時按需進行擴容和縮容,從而滿足更高併發和更復雜的業務需求。TiDB 用一個技術棧替換了原有的 PolarDB、AnalyticDB、DTS、CANAL 等多個資料技術棧,透過 TiDB 的生態工具 TiCDC 將資料同步到 ElasticSearch 為前端應用提供明細搜尋,在降低系統複雜度的同時提升了計費管理系統的可維護性。此外,TiDB 具備熱點資料打散和負載自動均衡的能力,對熱點資料的處理更加高效,保障了系統資源的合理利用,降低系統出現效能問題的風險。

應用價值

1  無縫水平擴充套件,無需分庫分表

TiDB 原生分散式架構設計具備無縫水平擴充套件的核心優勢。隨著資料量的增長,TiDB 可以動態地新增更多的儲存和計算資源以適應業務的發展。自動化擴充套件能力避免了使用者進行分庫分表的複雜操作,極大地減輕了開發和運維負擔。TiDB 強大的事務一致性保證使得開發者可以專注於業務邏輯,而不必擔心複雜的資料庫操作。

對比之下,儘管 PolarDB 提供了讀寫分離和自動備份等高.級功能,但是當資料量達到一定規模時,它需要手動進行分庫分表操作以保證系統的效能和穩定性。這不僅需要投入額外的人力資源,而且在分庫分表的過程中可能會引發資料一致性和事務管理的問題。使用 PolarDB 進行分庫分表後,如果業務發展需要調整分片策略,就需要進行復雜且耗時的重新分片操作,這可能會帶來業務中斷的風險。

2  HTAP  特性帶來的優勢

  • 實時輕量級分析彙總

TiDB 的 HTAP 特性允許它同時處理線上事務處理和線上分析處理,無需進行資料同步和轉換。因此,它可以實時地進行輕量級的分析彙總,如生成日報和月報表。這種實時的、快速的資料處理方式,大大提高了企業的決策效率,並簡化了資料處理過程。

  • 避免資料同步的風險

傳統的資料處理方式通常需要建立多個資料同步鏈路,將事務資料同步到分析資料庫中。這種模式不僅增加了資料處理的複雜性,還可能在資料同步過程中引發資料不一致的風險。


來自 “ ITPUB部落格 ” ,連結:https://blog.itpub.net/69994146/viewspace-3003573/,如需轉載,請註明出處,否則將追究法律責任。

相關文章