DM7資料複製之資料庫級複製
DM 的資料複製可以在表級,模式級和庫級進行配置,表級複製因為不能同步DDL,所以必須要求主從段表的結構必須完全一致。 本篇我們看下資料庫級資料複製的配置過程。
下面舉一個簡單的例子來說明資料複製的配置。
1. 準備工作
參與複製的複製例項的資訊如下表所示。
資料庫 例項名 IP地址 資料庫埠號 MAL埠號 檔案目錄
複製資料庫 jydm 10.10.10.180 5236 5241 /dm_home/dmdba/dmdbms/data/
主資料庫 hy 10.10.10.184 5236 5242 /dm_home/dmdba/dmdbms/data/
從資料庫 wy 10.10.10.185 5236 5243 /dm_home/dmdba/dmdbms/data/
假設主資料庫上存在hy使用者,從資料庫上存在wy使用者,現需要建立一個主資料庫上的hy使用者到從資料庫上wy使用者的同步複製關係,其名稱為REPHY2WY。
2. 引數設定
修改3臺DM資料庫的dm.ini 檔案,新增如下內容:
資料庫 dm.ini 設定
複製資料庫 INSTANCE_NAME = jydm
PORT_NUM = 5236
MAL_INI = 1
主資料庫 INSTANCE_NAME = hy
PORT_NUM = 5236
MAL_INI = 1
從資料庫 INSTANCE_NAME = wy
PORT_NUM = 5236
MAL_INI = 1
配置dmmal.ini 檔案
修改dmmal.ini檔案,新增如下內容。Dmmal 配置檔案預設沒有,可以從示例目錄下複製過來修改。
[root@shard1 ini_script]# pwd /dm_home/dmdba/dmdbms/samples/ini_script [root@shard1 ini_script]# ls -lrt 總用量 48 -rwxr-xr-x 1 dmdba dinstall 890 2月 14 2019 dmarch_example.ini -rwxr-xr-x 1 dmdba dinstall 1966 2月 14 2019 dmdcr_cfg_example.ini -rwxr-xr-x 1 dmdba dinstall 631 2月 14 2019 dmdcr_example.ini -rwxr-xr-x 1 dmdba dinstall 1537 2月 14 2019 dminit_example.ini -rwxr-xr-x 1 dmdba dinstall 2070 2月 14 2019 dmmal_example.ini -rwxr-xr-x 1 dmdba dinstall 1277 2月 14 2019 dmmonitor_example.ini -rwxr-xr-x 1 dmdba dinstall 288 2月 14 2019 dmmpp_example.ini -rwxr-xr-x 1 dmdba dinstall 1679 2月 14 2019 dmtimer_example.ini -rwxr-xr-x 1 dmdba dinstall 1241 2月 14 2019 dmwatch_example.ini -rwxr-xr-x 1 dmdba dinstall 2146 2月 14 2019 dmwatcher_example.ini -rwxr-xr-x 1 dmdba dinstall 522 2月 14 2019 dmwmon_example.ini -rwxr-xr-x 1 dmdba dinstall 636 2月 14 2019 sqllog_example.ini
在每個資料庫伺服器上建立一個dmmal.ini檔案,每個dmmal.ini 配置必須一致:
MAL_CHECK_INTERVAL = 5 MAL_CONN_FAIL_INTERVAL = 5 [MAL_jydm] MAL_INST_NAME = jydm MAL_HOST = 10.10.10.180 MAL_PORT = 5241 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.180 [MAL_hy] MAL_INST_NAME = hy MAL_HOST = 10.10.10.184 MAL_PORT = 5242 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.184 [MAL_wy] MAL_INST_NAME =wy MAL_HOST = 10.10.10.185 MAL_PORT = 5243 MAL_INST_PORT = 5236 MAL_INST_HOST =10.10.10.185 [dmdba@shard1 jydm]$ cat dmmal.ini MAL_CHECK_INTERVAL = 5 MAL_CONN_FAIL_INTERVAL = 5 [MAL_jydm] MAL_INST_NAME = jydm MAL_HOST = 10.10.10.180 MAL_PORT = 5241 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.180 [MAL_hy] MAL_INST_NAME = hy MAL_HOST = 10.10.10.184 MAL_PORT = 5242 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.184 [MAL_wy] MAL_INST_NAME =wy MAL_HOST = 10.10.10.185 MAL_PORT = 5243 MAL_INST_PORT = 5236 MAL_INST_HOST =10.10.10.185 [dmdba@jydm2 hy]$ cat dmmal.ini MAL_CHECK_INTERVAL = 5 MAL_CONN_FAIL_INTERVAL = 5 [MAL_jydm] MAL_INST_NAME = jydm MAL_HOST = 10.10.10.180 MAL_PORT = 5241 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.180 [MAL_hy] MAL_INST_NAME = hy MAL_HOST = 10.10.10.184 MAL_PORT = 5242 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.184 [MAL_wy] MAL_INST_NAME =wy MAL_HOST = 10.10.10.185 MAL_PORT = 5243 MAL_INST_PORT = 5236 MAL_INST_HOST =10.10.10.185 [dmdba@jydm3 wy]$ cat dmmal.ini MAL_CHECK_INTERVAL = 5 MAL_CONN_FAIL_INTERVAL = 5 [MAL_jydm] MAL_INST_NAME = jydm MAL_HOST = 10.10.10.180 MAL_PORT = 5241 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.180 [MAL_hy] MAL_INST_NAME = hy MAL_HOST = 10.10.10.184 MAL_PORT = 5242 MAL_INST_PORT = 5236 MAL_INST_HOST = 10.10.10.184 [MAL_wy] MAL_INST_NAME =wy MAL_HOST = 10.10.10.185 MAL_PORT = 5243 MAL_INST_PORT = 5236 MAL_INST_HOST =10.10.10.185
對3個資料庫都要啟用mal_ini引數
SQL> sp_set_para_value(2,'MAL_INI',1); DMSQL executed successfully used time: 7.465(ms). Execute id is 23.
複製資料庫初始化
如果是第一次使用複製資料庫,需要對複製資料庫執行初始化操作。透過執行系統函式SP_INIT_REP_SYS(create_flag)來初始化複製資料庫。其主要作用是建立複製使用者(SYSREP/SYSREP)和建立複製資料庫上需要的系統表。SP_INIT_REP_SYS 的引數create_flag為1時表示建立使用者和系統表,為0時表示刪除使用者和系統表。
開始初始化:
SQL> SP_INIT_REP_SYS(1); DMSQL executed successfully used time: 115.960(ms). Execute id is 30. SQL> conn SYSREP/SYSREP Server[LOCALHOST:5236]:mode is normal, state is open login used time: 9.684(ms) SQL> select table_name from user_tables; LINEID TABLE_NAME ---------- ----------------- 1 RPS_GROUPS 2 RPS_INSTANCES 3 RPS_REPLICATIONS 4 RPS_TABMAPS 5 RPS_FAULT_HISTORY 6 RPS_CONFLICTS 7 RPS_TIMERS 7 rows got used time: 170.443(ms). Execute id is 31.
建立的7張複製系統表如下:
1) 複製組表
CREATE TABLE SYSREP.RPS_GROUPS (
NAME VARCHAR(128), // 複製組名
ID INT, // 複製組ID
DESC$ VARCHAR(1000), // 描述
CLUSTER PRIMARY (NAME)
);
2) 複製節點例項表
CREATE TABLE SYSREP.RPS_INSTANCES(
INST_NAME VARCHAR(128), // 複製節點例項名
GRP_ID INT, // 複製組ID
INST_ID INT, // 例項在複製組中編號
FAULT_TIMEOUT INT, // 故障超時處理值,以秒為單位,0為立即超時
VALID_FLAG CHAR(1), // 節點系統狀態
FAULT_TIME DATETIME, // 節點故障開始時間
NET_VALID_FLAG CHAR(1), // 網路狀態
NET_FAULT_TIME DATETIME, // 網路故障開始時間
CLUSTER PRIMAY KEY(GRP_ID, INST_NAME)
);
3) 複製關係表
CREATE TABLE SYSREP.RPS_REPLICATIONS(
REP_NAME VARCHAR(128), // 複製名
GRP_ID INT, // 複製組ID
REP_ID INT, // 複製ID,全域性唯一
MINST_ID INT, // 主節點例項編號
SINST_ID INT, // 從節點例項編號
ARCH_DIR VARCHAR(256), // 主節點歸檔日誌路徑
FAULT_TIMEOUT INT, // 故障超時處理值,以秒為單位,0為立即超時
VALID_FLAG CHAR(1), // 複製關係狀態
FAULT_TIME DATETIME, // 故障開始時間
SYNC_FLAG INTEGER //指定同步或非同步複製
TIMER_NAME VARCHAR(128) //指定非同步複製的定時器(同步複製沒有此項)
DESC$ VARCHAR(1000), // 複製描述
CLUSTER PRIMARY KEY(GRP_ID, REP_NAME)
);
4) 複製對映表
CREATE TABLE SYSREP.RPS_TABMAPS(
REP_ID INT, //複製ID
MSCH_NAME VARCHAR(128), //主表模式名
MTAB_NAME VARCHAR(128), //主表名
MSCH_ID INT, //主表模式ID
MTAB_ID INT, //主表ID
SSCH_NAME VARCHAR(128), //從表模式名
STAB_NAME VARCHAR(128), //從表名
SSCH_ID INT, //從表模式ID
STAB_ID INT, //從表ID
READONLY_MODE INT, //對映模式1:只讀模式,0:非只讀模式
CLUSTER PRIMARY KEY(REP_ID, MTAB_ID, STAB_ID)
);
5) 複製故障歷史表
CREATE TABLE SYSREP.REP_FAULT_HISTORY(
GRP_NAME VARCHAR(128), // 複製組
OBJ_NAME VARCHAR(128), // 故障節點或關係
FAULT_TYPE VARCHAR(128), // 故障型別描述
START_TIME DATETIME, // 故障開始時間
END_TIME DATETIME // 故障結束時間
);
6) 複製衝突歷史表
CREATE TABLE SYSREP.RPS_CONFLICTS
(
SEQ_NO BIGINT // 衝突序號
REP_ID INT, // 對應複製號
INST_ID INT, // 產生衝突的節點編號
TABLE_ID INT, // 衝突表ID
TYPE TINYINT // 操作型別
OCC_TIME DATETIME, // 衝突產生時間
KEY_DATA VARCHAR(8000), // 衝突資料的PK值,如包含多個KEY值,則以逗號分隔。如鍵值超長則截斷
);
7) 複製定時器表
CREATE TABLE SYSREP.RPS_TIMERS (
NAME VARCHAR(128), // 定時器名稱
TYPE$ INT, // 定時型別,取值可參見SP_RPS_CREATE_TIMER
FERQ_INTERVAL INT, // 間隔天數
FREQ_SUB_INTERVAL INT, // 間隔的月/周(排程型別決定)數
FREQ_MINUTE_INTERVAL INT, // 間隔的分鐘數
START_TIME TIME, // 開始時間
END_TIME TIME, // 結束時間
DURING_START_DATE DATETIME // 開始時間點
DURING_END_DATE DATETIME, // 結束時間點
NO_END_DATA_FLAG INTEGER //是否有結束日期(0:有結束日期;1:沒有結束日期)
DESC$ VARCHAR(1000), // 定時器描述
CLUSTER PRIMARY KEY(REP_NAME)
);
配置模式級複製
啟動3臺伺服器,啟動的順序不分先後。
[root@shard1 jydm]# systemctl stop DmServicejydm.service [root@shard1 jydm]# systemctl start DmServicejydm.service [root@jydm2 ~]# systemctl stop DmServicehy.service [root@jydm2 ~]# systemctl start DmServicehy.service [root@jydm3 ~]# systemctl stop DmServicewy.service [root@jydm3 ~]# systemctl start DmServicewy.service
登入複製資料庫(RPS jydm),保證伺服器狀態為OPEN,開始複製配置。
[dmdba@shard1 bin]$ ./disql sysdba/abcd Server[LOCALHOST:5236]:mode is normal, state is open login used time: 9.851(ms) disql V7.1.6.46-Build(2018.02.08-89107)ENT Connected to: DM 7.1.6.46
建立複製組REP_GRP_hy2wy
SQL> SP_RPS_ADD_GROUP('REP_GRP_hy2wy', '主從同步複製'); DMSQL executed successfully used time: 32.545(ms). Execute id is 26. SQL> select * from SYSREP.RPS_GROUPS; LINEID NAME ID DESC$ ---------- ------------- ----------- ------------ 1 REP_GRP_hy2wy 3 主從同步複製 used time: 1.073(ms). Execute id is 27.
開始設定
SQL> SP_RPS_SET_BEGIN('REP_GRP_hy2wy'); DMSQL executed successfully used time: 0.530(ms). Execute id is 57.
新增複製關係
SQL> SP_RPS_ADD_REPLICATION ('REP_GRP_hy2wy', 'REPhy2wy', 'hy到wy的同步複製', 'hy', 'wy', NULL, '/dm_home/dmdba/dmdbms/dmreplog'); DMSQL executed successfully used time: 2.529(ms). Execute id is 29.
新增資料庫級複製
SQL> SP_RPS_ADD_DB_MAP('REPhy2wy', 0); DMSQL executed successfully used time: 0.597(ms). Execute id is 30.
提交設定
SQL> SP_RPS_SET_APPLY(); DMSQL executed successfully used time: 00:00:05.035. Execute id is 31. SQL> select * from SYSREP.RPS_REPLICATIONS; LINEID REP_NAME GRP_ID REP_ID MINST_ID SINST_ID ARCH_DIR FAULT_TIMEOUT VALID_FLAG FAULT_TIME SYNC_FLAG TIMER_NAME DESC$ ---------- -------- ----------- ----------- ----------- ----------- ------------------------------ ------------- ----------- --------------------------- ----------- ---------- ---------------- 1 REPhy2wy 3 4 7 8 /dm_home/dmdba/dmdbms/dmreplog -1 0 NULL 1 NULL hy到wy的同步複製 used time: 1.277(ms). Execute id is 32. SQL> select * from SYSREP.RPS_INSTANCES; LINEID INST_NAME GRP_ID INST_ID FAULT_TIMEOUT VALID_FLAG FAULT_TIME NET_VALID_FLAG NET_FAULT_TIME ---------- --------- ----------- ----------- ------------- ----------- --------------------------- -------------- --------------------------- 1 hy 3 7 -1 0 NULL 0 NULL 2 wy 3 8 -1 0 NULL 0 NULL used time: 1.014(ms). Execute id is 33. SQL> select * from SYSREP.RPS_TABMAPS; LINEID REP_ID MSCH_NAME MTAB_NAME MSCH_ID MTAB_ID SSCH_NAME STAB_NAME SSCH_ID STAB_ID READONLY_MODE ---------- ----------- --------- --------- ----------- ----------- --------- --------- ----------- ----------- ------------- 1 4 NULL NULL -1 -1 NULL NULL -1 -1 0 used time: 1.129(ms). Execute id is 34.
至此,資料庫級複製配置完成。注意一點,DM的複製配置必須在開始複製配置之前執行SP_RPS_SET_BEGIN,配置完成之後執行SP_RPS_SET_APPLY提交。
驗證同步
在主庫上的hy使用者下建立一個測試表t4
SQL> create table t4 as select * from sysobjects; executed successfully used time: 12.280(ms). Execute id is 12. SQL> select count(*) from t4; LINEID COUNT(*) ---------- -------------------- 1 1480 used time: 1.256(ms). Execute id is 13.
在從庫上的wy使用者查詢這個表t4
SQL> select count(*) from t4; select count(*) from t4; [-2106]:Error in line: 1 Invalid table or view name [T4]. used time: 0.423(ms). Execute id is 0.
可以看到建立表的DDL語句沒有同步到wy使用者下。
在主庫上建立使用者jy
SQL> create user jy identified by "abcd"; executed successfully used time: 4.940(ms). Execute id is 5. SQL> grant dba,resource to jy; executed successfully used time: 2.929(ms). Execute id is 6.
在從庫上登入使用者jy
[dmdba@jydm3 bin]$ ./disql jy/abcd [-70028]:Create SOCKET connection failure. disql V7.1.6.46-Build(2018.02.08-89107)ENT username:
從從庫上的日誌可以看到故障資訊
2019-12-20 00:15:08 [WARNING] database P0000029732 main_thread rps sys init failed, code:-8748
從複製資料庫上檢視複製故障資訊
SQL> select * from SYSREP.RPS_FAULT_HISTORY; LINEID GRP_NAME OBJ_NAME FAULT_TYPE START_TIME END_TIME ---------- ------------- -------- ------------------ --------------------------- --------------------------- 1 REP_GRP_hy2wy REPhy2wy REPLICATION FAULT 2019-12-20 00:14:23.366210 2019-12-20 00:15:24.042032 2 REP_GRP_hy2wy wy INSTANCE SYS FAULT 2019-12-20 00:14:23.366210 2019-12-20 00:15:24.042032 3 REP_GRP_hy2wy REPhy2wy REPLICATION FAULT 2019-12-20 00:16:23.386842 NULL 4 REP_GRP_hy2wy wy INSTANCE SYS FAULT 2019-12-20 00:16:23.386842 NULL used time: 1.179(ms). Execute id is 4.
從測試結果可以看到資料庫級的資料複製不支援DDL,資料庫的資料複製對建立使用者的操作處理異常,會導致從庫奔潰。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/26015009/viewspace-2669576/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- DM7資料複製之模式級複製模式
- 資料庫複製(一)–複製介紹資料庫
- 資料庫主從複製資料庫
- 資料共享(淺複製)與資料獨立(深複製)
- GoldenGate異種資料庫之間的複製Go資料庫
- Day 7.5 資料型別總結 + 複製 淺複製 深複製資料型別
- Mysql(Mariadb)資料庫主從複製MySql資料庫
- 使用RMAN複製資料庫 active database資料庫Database
- dimitri/pgcopydb:Postgres資料庫複製工具MITGC資料庫
- MySQL-主從複製之搭建從資料庫MySql資料庫
- MySQL-主從複製之搭建主資料庫MySql資料庫
- mysql資料庫的主從複製和主主複製實踐MySql資料庫
- Redis的資料複製Redis
- mysql資料庫實現主從複製MySql資料庫
- 分散式資料庫的複製原理 - Quastor分散式資料庫AST
- 架構設計(二):資料庫複製架構資料庫
- 資料複製策略綜述
- 利用SQL Server Management Studio(SSMS)複製資料庫SQLServerSSM資料庫
- TiDB 異構資料庫複製最佳實踐TiDB資料庫
- 異構資料庫間批量表快速複製資料庫
- python複製資料夾到一個目錄,或者按目錄層級建立複製Python
- mysql 資料表的複製案例MySql
- MongoDB複製集資料同步流程MongoDB
- Azure Data Factory(二)複製資料
- Centos-Mysql複製備份還原資料庫CentOSMySql資料庫
- oracle sqldeveloper選擇性複製備份資料庫OracleSQLDeveloper資料庫
- MongoDB資料庫之主從複製配置實戰【轉】MongoDB資料庫
- 什麼是單主資料庫複製? -Vlad Mihalcea資料庫
- MySQL-主從複製之同步主從資料MySql
- mysql複製表結構和資料MySql
- SQLServer複製到execl丟失資料SQLServer
- 達夢資料庫遷移資料/複製表/匯入匯出2資料庫
- 達夢資料庫如何將Excel表的資料複製到表中資料庫Excel
- MongoDB在不同主機間複製資料庫和集合MongoDB資料庫
- linux下mysql主從複製,實現資料庫同步LinuxMySql資料庫
- 資料庫容災、複製解決方案全分析(轉)資料庫
- 資料庫檔案複製問題和解決辦法資料庫
- PostgreSQL邏輯複製資料同步到kafkaSQLKafka