面對高頻業務需求,如何提升實時資料處理能力?
在當前的數字化環境下,金融機構面臨的高頻業務需求已成常態,並呈現持續擴大的趨勢,這種情況下,對業務連續性及使用者體驗的保障便是金融IT運維面臨的最大挑戰。
支付交易量與日俱增,銀行業承載巨大的運維壓力
國內使用者早已習慣了線上交易,交易量也與日俱增。央行釋出的2018年支付體系執行總體情況顯示,2018年,銀行業金融機構共處理電子支付業務1751.92億筆。其中,網上支付業務570.13億筆,同比增長17.36%。移動支付業務605.31億筆,同比分別增長61.19%。這一現狀,給銀行業的IT運維帶來了巨大壓力,而一年幾度的購物節“大考”,更是一大挑戰,電商平臺的單日交易額不斷的重新整理,銀行業交易系統的秒併發量也在不斷的突破上限。
納稅人及稅收管理的網際網路應用需求持續擴大
隨著“網際網路+稅務”行動計劃的深化,稅務資訊系統的內部建設與外部互聯程度齊頭並進。隨著外部互聯的加深,各級稅務部門透過線上的方式釋出資訊、共享檔案、提供各型別業務辦理服務。由此,公民與稅務部門的互動需求成幾何倍增長。
證券行業:集中、高頻交易帶來的難題
隨著2019年“慢牛”的傳聞及科創板的落地,沉寂股民的甦醒及新股民的入場,證券行業呈現繁榮趨勢。據統計,全國目前個人投資者近1.5億人,並且證券行業具有交易時間集中,交易高頻的特性,併發交易量遠高於其他行業。同時,股民對於使用者體驗要求甚高,無法及時的獲取行情的重新整理、完成交易是不可接受的。面對高要求的投資者及行業監管,IT運維如何應對?
於此,許多金融機構會選擇APM產品來實現業務視覺化,對系統故障的告警與定位,而這一切的基礎,即 底層的資料平臺具備對大資料的實時處理能力。 在我們與客戶技術交流的過程中,平臺對資料的處理能力也是客戶非常關心的。在2018年,華青融天大資料融合平臺引入了Kafka,給平臺的資料處理能力帶來了極大的提升。
提升高吞吐量、低延遲的資料處理能力
隨著業務保障要求的提高,過去對資料先收集、再儲存、再分析的方式已經不適用了。試想一下,一個“可用性”的故障,在問題發生幾分鐘後才得到告警,對於一秒數萬甚至數十萬交易量的客戶來說,意味著什麼。
而Kafka可謂為實時處理資料而生,不同於MapReduce、Hive和Pig這類資料儲存和查詢工具,Kafka對資料的處理是連續的,它可以處理幾十萬條訊息,延遲最低只有幾毫秒,這一高吞吐量、低延遲的特性十分適合於構建應用效能管理及安全運營中心平臺, 以此為基礎實現的資料分析及告警才具備價值。
對資料變化的跟蹤
精準、及時的告警,是金融客戶的剛性需求,也是華青融天產品人的目標,為此,在告警的規則及配置最佳化方面做了許多提升,而為了實現“高質量”的告警,及時感知到資料的變化是十分重要的。
kafka流式計算即可實現這一點,資料的輸入是持續的,計算結果也是持續的輸出,即可實現對資料變化的跟蹤,並在將資料儲存到最終目的地之前對資料採取行動。而相比使用Spark Streaming和Apache Storm這類流式處理系統,內嵌的kafka流失處理系統,直接作為類庫提供給開發者呼叫,整個應用的執行方式主要由開發者控制,方便使用和除錯,同時擴充套件性及對於資源的消耗方面更具優勢。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31500758/viewspace-2642794/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 專案經理該如何面對頻繁的需求變更?
- 如何提升企業的資料探勘能力
- 資料處理能力提升200%!螞蟻自研資料庫 OceanBase 正式應用於基金業務系統資料庫
- PMO如何對專案經理進行能力提升管理和能力評價?
- 實時資料處理:Kafka 和 FlinkKafka
- KubeEdge v1.17.0釋出!資料處理能力與易用性全面提升
- 面對需求的頻繁變更,如何做好專案管理專案管理
- 解密Kafka主題的分割槽策略:提升實時資料處理的關鍵解密Kafka
- 非同步任務處理系統,如何解決業務長耗時、高併發難題?非同步
- 核心業務“瘦身”進行時!手把手帶你搭建海量資料實時處理架構架構
- 支撐微信支付的資料庫如何提供超300萬TPCC事務處理能力?資料庫
- flink使用Event_time處理實時資料
- 面經精選:資料庫高頻面試十問資料庫面試
- 東軟發力!提升政務大資料治理能力大資料
- 梳理資料需求,資料分析7大能力
- java大資料處理:如何使用Java技術實現高效的大資料處理Java大資料
- C++實現對Json資料的友好處理C++JSON
- 如何提升伺服器的高併發能力伺服器
- 提升規則自治能力與原生分析能力、支援影片流接入處理
- 興盛優選:時序資料如何高效處理?
- 超3萬億資料實時分析,JCHDB助力海量資料處理
- 資料庫面試簡答、30道高頻面試題資料庫面試題
- 圖片處理能力提升50%,杉巖智慧儲存是如何做到的?
- 使用Storm、Kafka和ElasticSearch處理實時資料 -javacodegeeksORMKafkaElasticsearchJava
- 效率提升50倍,輕鬆處理大資料大資料
- 前端基礎 - 資料型別篇(高頻面試!!!)前端資料型別面試
- 時間序列資料的處理
- MQ收到無序的訊息時如何進行業務處理MQ行業
- 如何利用Redis實現延時處理Redis
- (四) BAT面試的20道高頻資料庫面試題BAT資料庫面試題
- 商業智慧如何幫助企業進行資料處理?
- JavaScript 資料處理 - 對映表篇JavaScript
- 面對“套路貸”借貸寶是如何處理的?
- 使用csv批量匯入、匯出資料的需求處理
- Pandas高階教程之:處理缺失資料
- Pandas高階教程之:處理text資料
- 如何對大資料進行分析和處理?_光點科技大資料
- 精準、智慧、高效:AI平臺如何提升醫療資料處理效率50%AI