ChunJun 是⼀款穩定、易⽤、⾼效、批流⼀體的資料整合框架，基於計算引擎 Flink 實現多種異構資料來源之間的資料同步與計算。ChunJun 可以把不同來源、格式、特點性質的資料在邏輯上或物理上有機地集中，從⽽為企業提供全⾯的資料共享，目前已在上千家公司部署且穩定運⾏。

在之前，我們曾經為大家介紹過 如何利用 ChunJun 實現資料實時同步（點選看正文），本篇將為大家介紹姊妹篇，如何利⽤ ChunJun 實現資料的離線同步。

ChunJun 離線同步案例

離線同步是 ChunJun 的⼀個重要特性，下⾯以最通⽤的 mysql -> hive 的同步任務來介紹離線同步。

配置環境

找⼀個空⽬錄，接下來要配置 Flink 和 ChunJun 的環境，下⾯以 /root/chunjun_demo/ 為例⼦。

● 配置 Flink

下載 Flink

wget "
tar -zxvf chunjun-dist.tar.gz

● 配置 ChunJun

#下載 chunjun, 內部依賴 flink 1.12.7
wget 
#新建立⼀個⽬錄
mkdir chunjun && cd chunjun
#解壓到指定⽬錄
tar -zxvf chunjun-dist-1.12-SNAPSHOT.tar.gz

解壓好的 ChunJun 有如下⽬錄： bin chunjun-dist chunjun-examples lib

● 配置環境變數

#配置 Flink 環境變數
echo "FLINK_HOME=/root/chunjun_demo/flink-1.12.7" >> /etc/profile.d/sh.local
#配置 Chunjun 的環境變數
echo "CHUNJUN_DIST=/root/chunjun_demo/chunjun/chunjun-dist" >> /etc/profile.d/sh.local
#重新整理換新變數
. /etc/profile.d/sh.local

● 在 Yarn 上⾯啟動 Flink Session

#啟動 Flink Session
bash $FLINK_HOME/bin/yarn-session.sh -t $CHUNJUN_DIST -d

輸出如下：

echo "stop" | $FLINK_HOME/bin/yarn-session.sh -id application_1683599622970_0270
If this should not be possible, then you can also kill Flink via YARN's web interface or via:
yarn application -kill application_1683599622970_0270

下⾯提交任務會⽤到 Flink Session 這個 Yarn Application Id (application_1683599622970_0270)。

● 其他配置

如果⽤ parquet 格式，需要把 flink-parquet_2.12-1.12.7.jar 放⼊到 flink/lib 下⾯, 在上⾯的例⼦中，需要放到 $FLINK_HOME/lib ⾥⾯。

提交任務

● 在 MySQL 準備資料

-- 建立⼀個名為ecommerce_db的資料庫，⽤於儲存電商⽹站的資料
CREATE DATABASE IF NOT EXISTS chunjun;
USE chunjun;
-- 建立⼀個名為orders的表，⽤於儲存訂單資訊
CREATE TABLE IF NOT EXISTS orders (
 id INT AUTO_INCREMENT PRIMARY KEY, -- ⾃增主鍵
 order_id VARCHAR(50) NOT NULL, -- 訂單編號，不能為空
 user_id INT NOT NULL, -- ⽤戶ID，不能為空
 product_id INT NOT NULL, -- 產品ID，不能為空
 quantity INT NOT NULL, -- 訂購數量，不能為空
 order_date TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP
-- 訂單⽇期，預設值為當前時間戳，不能為空
);
-- 插⼊⼀些測試資料到orders表
INSERT INTO orders (order_id, user_id, product_id, quantity)
VALUES ('ORD123', 1, 101, 2),
       ('ORD124', 2, 102, 1),
       ('ORD125', 3, 103, 3),  
       ('ORD126', 1, 104, 1),
       ('ORD127', 2, 105, 5);
select * from chunjun.orders;

如果沒有 MySQL 的話，可以⽤ docker 快速建立⼀個。

docker pull mysql:8.0.12
docker run --name mysql -p 3306:3306 -e MYSQL_ROOT_PASSWORD=123456 -d mysql:8.0.12

● 建立 Hive 表

CREATE DATABASE IF NOT EXISTS chunjun;
USE chunjun;
-- 建立⼀個名為orders的表，⽤於儲存訂單資訊
CREATE TABLE IF NOT EXISTS chunjun.orders (
 id INT,
 order_id VARCHAR(50),
 user_id INT,
 product_id INT,
 quantity INT,
 order_date TIMESTAMP
)
 STORED AS PARQUET;

-- 檢視 hive 表，底層的 HDFS ⽂件位置，下⾯的 SQL 結果⾥⾯ Location 欄位，就是 HDFS ⽂件的位置。
desc formatted chunjun.orders;
-- Location: hdfs://ns1/dtInsight/hive/warehouse/chunjun.db/orders
-- ⼀會配置同步任務的時候會⽤到 hdfs://ns1/dtInsight/hive/warehouse/chunjun.db/orders

● 在當前⽬錄( /root/chunjun_demo/ ) 配置⼀個任務 mysql_hdfs.json

vim mysql_hdfs.json 輸⼊如下內容：

{
"job": {
"content": [
 {
"reader": {
"parameter": {
"connection": [
 {
"schema": "chunjun",
"jdbcUrl": [ "jdbc:mysql://172.16.85.200:3306/chunjun" ],
"table": [ "orders" ]
 }
 ],
"username": "root",
"password": "123456",
"column": [
 { "name": "id", "type": "INT" },
 { "name": "order_id", "type": "VARCHAR" },
 { "name": "user_id", "type": "INT" },
 { "name": "product_id", "type": "INT" },
 { "name": "quantity", "type": "INT" },
 { "name": "order_date", "type": "TIMESTAMP" }
 ]
 },
"name": "mysqlreader"
 },
"writer": {
"parameter": {
"path": "hdfs://ns1/dtInsight/hive/warehouse/chunjun.db/orders",
"defaultFS": "hdfs://ns1",
"hadoopConfig": {
"dfs.nameservices": "ns1",
"dfs.ha.namenodes.ns1": "nn1,nn2",
"dfs.namenode.rpc-address.ns1.nn1": "172.16.85.194:9000",
"dfs.namenode.rpc-address.ns1.nn2": "172.16.85.200:9000",
"dfs.client.failover.proxy.provider.ns1":
"org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider"
 },
"column": [
 { "name": "id", "type": "INT" },
 { "name": "order_id", "type": "VARCHAR" },
 { "name": "user_id", "type": "INT" },
 { "name": "product_id", "type": "INT" },
 { "name": "quantity", "type": "INT" },
 { "name": "order_date", "type": "TIMESTAMP" }
 ],
"writeMode": "overwrite",
"encoding": "utf-8",
"fileType": "parquet",
"fullColumnName":
 [ "id", "order_id", "user_id", "product_id", "quantity", "order_date"],
"fullColumnType":
 [ "INT", "VARCHAR", "INT", "INT", "INT", "TIMESTAMP" ]
 },
"name": "hdfswriter"
 }
 }
 ],
"setting": {
"errorLimit": {
"record": 0
 },
"speed": {
"bytes": 0,
"channel": 1
 }
 }
 }
}

因為我們要將 MySQL 同步到 Hive ⾥⾯，但是如果直接同步 Hive 的話，內部會⽤ jdbc，⽽ jdbc 的效率不⾼，因此我們可以直接把資料同步到 Hive 底層的 HDFS 上⾯，所以 writer ⽤到了 hdfswriter。指令碼解析如下：

{
"job": {
"content": [
 {
"reader": {
"parameter": {
"connectionComment": "資料庫連結, 資料庫, 表, 賬號, 密碼",
"connection": [
 {
"schema": "chunjun",
"jdbcUrl": [ "jdbc:mysql://172.16.85.200:3306/chunjun" ],
"table": [ "orders" ]
 }
 ],
"username": "root",
"password": "123456",
"columnComment": "要同步的列選擇, 可以選擇部分列",
"column": [
 { "name": "id", "type": "INT" },
 { "name": "order_id", "type": "VARCHAR" },
 { "name": "user_id", "type": "INT" },
 { "name": "product_id", "type": "INT" },
 { "name": "quantity", "type": "INT" },
 { "name": "order_date", "type": "TIMESTAMP" }
 ]
 },
"nameComment" : "source 是 mysql",
"name": "mysqlreader"
 },
"writer": {
"parameter": {
"pathComment": "HDFS 上⾯的路徑, 透過 hive 語句的 desc formatted 檢視",
"path": "hdfs://ns1/dtInsight/hive/warehouse/chunjun.db/orders",
"defaultFS": "hdfs://ns1",
"hadoopConfigComment": "是 hdfs ⾼可⽤最基本的配置, 在 Hadoop 配置⽂件 hdfs-site.xml 可以找到",
"hadoopConfig": {
"dfs.nameservices": "ns1",
"dfs.ha.namenodes.ns1": "nn1,nn2",
"dfs.namenode.rpc-address.ns1.nn1": "172.16.85.194:9000",
"dfs.namenode.rpc-address.ns1.nn2": "172.16.85.200:9000",
"dfs.client.failover.proxy.provider.ns1":
"org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider"
 },
"columnComment": "要同步的列選擇, 可以選擇部分列",
"column": [
 { "name": "id", "type": "INT" },
 { "name": "order_id", "type": "VARCHAR" },
 { "name": "user_id", "type": "INT" },
 { "name": "product_id", "type": "INT" },
 { "name": "quantity", "type": "INT" },
 { "name": "order_date", "type": "TIMESTAMP" }
 ],
"writeModeComment": "覆蓋寫⼊到 hdfs 上⾯的⽂件, 可選 overwrite, append(預設模式)",
"writeMode": "overwrite",
"encoding": "utf-8",
"fileTypeComment": "可選 orc, parquet, text",
"fileType": "parquet",
"fullColumnNameComment": "全部欄位，有時候 column ⾥⾯同步部分欄位，但是⼜需要有全部欄位的格式，例如 fileType : text ",
"fullColumnName": [ "id", "order_id", "user_id", "product_id", "quantity", "order_date"], 
"fullColumnTypeComment": "全部欄位的型別",
"fullColumnType": [ "INT", "VARCHAR", "INT", "INT", "INT", "TIMESTAMP" ]
 },
"nameComment" : "sink 是 hdfs",
"name": "hdfswriter"
 }
 }
 ],
"setting": {
"errorLimit": {
"record": 0
 },
"speed": {
"bytes": 0,
"channel": 1
 }
 }
 }
}

● 提交任務

bash chunjun/bin/chunjun-yarn-session.sh -job mysql_hdfs.json -confProp
{\"yarn.application.id\":\"application_1683599622970_0270\"}

● 檢視任務

任務同步完成, 可以看⼀下 HDFS 上⾯的資料。

檢視⼀下 Hive 表的資料。

注意, 如果是分割槽的 Hive 表，需要⼿動重新整理⼀下 Hive 的後設資料, 使⽤ MSCK 命令。（MSCK 是 Hive 中的⼀個命令，⽤於檢查表中的分割槽，並將其新增到 Hive 後設資料中）

MSCK REPAIR TABLE my_table;

ChunJun 離線同步原理解析

HDFS 檔案同步原理

· 對於⽂件系統，同步的時候會先把⽂件寫⼊到 path + [filename] ⽬錄⾥⾯的 .data 的⽂件⾥⾯，如果任務失敗，那麼 .data ⾥⾯的⽂件不會⽣效。

· 在 TaskManager 上⾯所有 task 任務結束的時候，會在 JobManager 執⾏ FinalizeOnMaster 的 finalizeGlobal ⽅法, 最終會調⽤到 moveAllTmpDataFileToDir , 把 .data ⾥⾯的⽂件移除到 .data 的上⼀層。

public interface FinalizeOnMaster {

/**
The method is invoked on the master (JobManager) after all (parallel) instances of an OutputFormat finished.
Params:parallelism – The parallelism with which the format or functions was run.
Throws:IOException – The finalization may throw exceptions, which may cause the job to abort.
*/
void finalizeGlobal(int parallelism) throws IOException; 
}

// 在 JobManager 執⾏
@Override
protected void moveAllTmpDataFileToDir() {
if (fs == null) {
openSource();
 }
String currentFilePath = "";
try {
Path dir = new Path(outputFilePath);
Path tmpDir = new Path(tmpPath);
FileStatus[] dataFiles = fs.listStatus(tmpDir);
for (FileStatus dataFile : dataFiles) {
currentFilePath = dataFile.getPath().getName();
fs.rename(dataFile.getPath(), dir);
LOG.info("move temp file:{} to dir:{}", dataFile.getPath(), dir);
 }
fs.delete(tmpDir, true);
 } catch (IOException e) {
throw new ChunJunRuntimeException(
String.format(
"can't move file:[%s] to dir:[%s]", currentFilePath, outputFilePath),
e);
 }
}

增量同步

增量同步主要針對某些只有 Insert 操作的表，隨著業務增⻓，表內資料越來越多。如果每次都同步整表的話，消耗的時間和資源會⽐較多。因此需要⼀個增量同步的功能，每次只讀取增加部分的資料。

● 實現原理

其實現原理實際上就是配合增量鍵在查詢的 sql 語句中拼接過濾條件，⽐如 where id > ? ，將之前已經讀取過的資料過濾出去。

增量同步是針對於兩個及以上的同步作業來說的。對於初次執⾏增量同步的作業⽽⾔，實際上是整表同步，不同於其他作業的在於增量同步作業會在作業執⾏完成後記錄⼀個 endLocation 指標，並將這個指標上傳到 prometheus 以供後續使⽤。

除第⼀次作業外，後續的所有增量同步作業都會取上⼀次作業的 endLocation 做為本次作業的過濾依據（startLocation）。⽐如第⼀次作業執⾏完後，endLocation 為10，那麼下⼀個作業就會構建出例如 SELECT id,name,age from table where id > 10 的 SQL 語句，達到增量讀取的⽬的。

● 使用限制

· 只有 RDB 的 Reader 外掛可以使⽤

· 透過構建SQL過濾語句實現，因此只能⽤於RDB外掛

· 增量同步只關⼼讀，不關⼼寫，因此只與Reader外掛有關

· 增量欄位只能為數值型別和時間型別

· 指標需要上傳到 prometheus，⽽ prometheus 不⽀持字串型別，因此只⽀持資料型別和時間型別，時間型別會轉換成時間戳後上傳

· 增量鍵的值可以重複，但必須遞增

· 由於使⽤ '>' 的緣故，要求欄位必須遞增

斷點續傳

斷點續傳是為了在離線同步的時候，針對⻓時間同步任務如超過1天，如果在同步過程中由於某些原因導致任務失敗，從頭再來的話成本⾮常⼤，因此需要⼀個斷點續傳的功能從任務失敗的地⽅繼續。

● 實現原理

· 基於 Flink 的 checkpoint，在 checkpoint 的時候 會儲存 source 端最後⼀條資料的某個欄位值，sink 端外掛執⾏事務提交。

· 在任務失敗，後續透過 checkpoint 重新運⾏時，source 端在⽣成 select 語句的時候將 state ⾥的值作為條件拼接進⾏資料的過濾，達到從上次失敗位點進⾏恢復。

· jdbcInputFormat 在拼接讀取 SQL 時，如果從 checkpoint 恢復的 state 不為空且 restoreColumn 不為空，則此時會將 checkpoint ⾥的 state 作為起點開始讀取資料。

● 適用場景

透過上述原理我們可以知道 source 端必須是 RDB 型別外掛，因為是透過 select 語句拼接 where 條件進⾏資料過濾達到斷點續傳的，同時斷點續傳需要指定⼀個欄位作為過濾條件，且此欄位要求是遞增的。

· 任務需要開啟 checkpoint

· reader 為 RDB 的外掛均⽀持且 writer ⽀持事務的外掛(如 rdb filesystem 等)，如果下游是冪等性則 writer 外掛也不需要⽀持事務

· 作為斷點續傳的欄位在源表⾥的資料是遞增的，因為過濾條件是 >

《資料治理行業實踐白皮書》下載地址：

《數棧V6.0產品白皮書》下載地址：

想了解更多有關袋鼠雲大資料產品、行業解決方案、客戶案例的朋友，瀏覽袋鼠雲官網：https://www.dtstack.com/?src=szitpub