ibm cdc 架構
IBM? InfoSphere? Data Replication - CDC Replication 是一個複製解決方案,用於捕獲正在發生的資料庫更改,並根據 InfoSphere Data Replication Management Console GUI 應用程式中配置的表對映將這些更改傳遞到目標資料庫、訊息佇列或 ETL 解決方案(例如 InfoSphere DataStage?)。
對於動態資料倉儲、主控方資料管理、應用程式合併或遷移、運營 BI 以及啟用 SOA 專案之類的關鍵資訊管理活動,CDC Replication 能夠以影響性較低的方式捕獲資料更改並高速傳遞這些更改。另外,透過僅傳送更改的資料,CDC Replication 還可以幫助降低處理開銷和網路流量。複製可連續執行,也可定期執行。資料從源伺服器傳輸出來後,可以在目標環境中重新對映或變換。
下圖顯示了 CDC Replication 的關鍵元件。
以下列表描述了 InfoSphere Data Replication 體系結構的關鍵元件:
- Access Server - 控制所有以非命令列方式對複製環境進行的訪問。當您登入到 Management Console 時,就是連線到 Access Server。您可以在客戶機工作站上關閉 Access Server,而不會影響源伺服器與目標伺服器之間正在進行的資料複製活動。
- 管理 API - 以基於 Java 的可選程式設計介面形式執行。您可以使用此 API 對操作配置或互動進行指令碼編制。
- 應用代理程式 - 充當目標上的代理程式,用於處理源所傳送的更改。
- 命令列介面 - 允許您獨立於 Management Console 來管理資料儲存器和使用者帳戶,以及執行管理指令碼編制。
- 通訊層 (TCP/IP) - 充當源與目標之間的專用網路連線。
- 源和目標資料儲存器 - 表示資料複製所需的資料檔案和 CDC Replication 例項。每個資料儲存器都表示您要連線到的資料庫,並且充當表的容器。被設為可供複製的表包含在資料儲存器中。
- Management Console - 允許您配置、監視和管理各種伺服器上的複製,指定複製引數以及從客戶機工作站啟動重新整理和映象操作。另外,Management Console 還允許您監視複製操作、等待時間、事件訊息以及源或目標資料儲存器所支援的其他統計資訊。Management Console 中的監視器旨在用於需要持續分析資料移動的時間關鍵型工作環境。在設定複製之後,您可以在客戶機工作站上關閉 Management Console,而不會影響源伺服器與目標伺服器之間正在進行的資料複製活動。
- 後設資料 - 表示相關表、對映、預訂、通知、事件以及您設定的資料複製例項的其他細節的相關資訊。
- 映象 - 將更改複製到目標表或者積累源表更改並在以後將其複製到目標表。如果在環境中實施了雙向複製,那麼可以在源表與目標表之間來回進行映象。
- 重新整理 - 將表從源資料庫初始同步到目標。這會由重新整理閱讀器進行讀取。
- 複製引擎 - 用於傳送和接收資料。用於傳送所複製資料的程式是源捕獲引擎,而用於接收所複製資料的程式是目標引擎。CDC Replication 例項可以同時作為源捕獲引擎和目標引擎執行。
-
單次提取 - 充當僅用於源的日誌閱讀器和日誌解析器元件。它會檢查並分析所選資料儲存器上所有預訂的源資料庫日誌。
並非所有 CDC Replication 引擎都使用“單次提取”。對於 CDC Replication Engine for DB2? for i,有一個“提取器”作業(充當日誌閱讀器)和一個“映象”作業(用於執行映象功能)。
- 源變換引擎 - 處理行過濾、關鍵列、列過濾、編碼轉換以及要傳播到目標資料儲存器引擎的其他資料。
- 源資料庫日誌 - 由源資料庫維護以用於其自身的恢復。CDC Replication 日誌閱讀器會在映象過程中檢查這些日誌,並過濾掉不在複製範圍內的表。
- 目標變換引擎 - 處理資料和值轉換、編碼轉換、使用者出口、衝突檢測以及目標資料儲存器引擎上的其他資料。
- JMS 訊息 - 充當 JMS 訊息目標(佇列或主題),用於建立為 XML 文件的行級別操作。
- InfoSphere DataStage - 處理從 CDC Replication 傳遞的更改,這些更改可由 InfoSphere DataStage 作業使用。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/26224914/viewspace-2146830/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- IBM架構師分享:極簡主義軟體架構 - Neal HuIBM架構
- IBM邵萍:數字化重構傳統企業IT架構IBM架構
- IBM Modern架構,奠基企業數字智慧未來IBM架構
- 基於事件溯源與CDC的事件驅動微服務架構案例原始碼事件微服務架構原始碼
- IBM技術專家:數字化浪潮下的架構融合淺談IBM架構
- 架構之:serverless架構架構Server
- 【細品架構4/100】架構之架構切分架構
- SaaS架構:流程架構分析架構
- IBM:人工智慧之旅和以平臺為中心的業務架構之崛起(附下載)IBM人工智慧架構
- 架構師修煉之道(二)——架構?設計?架構師?架構
- 單體架構&微服務架構&中臺服務架構架構微服務
- 單體架構到垂直架構架構
- 架構之:資料流架構架構
- 前端架構之小小node架構前端架構
- 構建企業CDC資料湖解決方案 -DZone
- 基於Apache Hudi和Debezium構建CDC入湖管道Apache
- 架構架構
- MySQL 高可用架構之 MMM 架構MySql架構
- 【架構分析】MESA (EGL/GLES)架構分析架構
- 架構之:軟體架構漫談架構
- 架構之:微服務架構漫談架構微服務
- 架構演進之「微服務架構」架構微服務
- FLINK CDC同步
- 解決方案架構、系統架構和企業架構區別架構
- 架構C01: 什麼是架構?為什麼做架構?架構師需要做什麼?架構
- 融合資料庫生態:利用 EventBridge 構建 CDC 應用資料庫
- 軟體架構模式之微服務架構架構模式微服務
- 架構設計之架構的演變架構
- 軟體架構風格——規則架構架構
- 架構設計之一——基礎架構架構
- 架構師眼中的高併發架構架構
- Spring Cloud雲架構-Restful 基礎架構SpringCloud架構REST
- 看阿里P9架構師如何向你定義架構及架構師阿里架構
- [Flink/CDC/資料整合] 資料增量整合方案:Flink CDC
- ARM架構架構
- PostgreSQL 架構SQL架構
- Docker 架構Docker架構
- openGauss 架構架構
- presto 架構REST架構