MySQL主從不一致的修復過程

昨天發現一個5.7的MySQL從庫在應用日誌的時候報出了錯誤。從庫啟用過了並行複製。Last Error的內容為：

Last_Error: Coordinator stopped because there were error(s) in the worker(s). The most recent failure being: Worker 0 failed executing transaction '8fc8d9ac-a62b-11e6-a3ee-a4badb1b4a00:7649' at master log mysql-bin.000011, end_log_pos 5290535. See error log and/or performance_schema.replication_applier_status_by_worker table for more details about this failure or others, if any.

對於這類問題看起來還是比較陌生，如果想檢視一些明細的資訊，可以到binlog裡面看到一些。此處的relay log是teststd-relay-bin.000013

/usr/local/mysql/bin/mysqlbinlog --no-defaults --base64-output=DECODE-ROWS --verbose teststd-relay-bin.000013 > /tmp/mysqlbin.log

而修復方式和常規的略有一些差別。

STOP SLAVE;
SET @@SESSION.GTID_NEXT = '8fc8d9ac-a62b-11e6-a3ee-a4badb1b4a00:7649';
BEGIN; COMMIT;
SET @@SESSION.GTID_NEXT = AUTOMATIC;
START SLAVE;

然後再次應用，不過我發現我這列碰到的問題貌似比想象的要麻煩一些。可以從錯誤日誌看出是在更修改backend資料庫的表sys_user_audit的時候丟擲了錯誤。

2016-11-29T00:03:58.754386+08:00 161 [Note] Slave SQL thread for channel '' initialized, starting replication in log 'mysql-bin.000011' at position 5290028, relay log './teststd-relay-bin.000013' position: 27175
2016-11-29T00:03:58.754987+08:00 162 [ERROR] Slave SQL for channel '': Worker 0 failed executing transaction '8fc8d9ac-a62b-11e6-a3ee-a4badb1b4a00:7649' at master log mysql-bin.000011, end_log_pos 5290535; Could not execute Update_rows event on table backend.sys_user_audit; Can't find record in 'sys_user_audit', Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log FIRST, end_log_pos 5290535, Error_code: 1032 

手工跳過了幾次之後，發現這樣也不是事兒，如果這樣的問題較多，可以直接修改引數slave_exec_mode來完成。

set global slave_exec_mode=IDEMPOTENT;

當然這種方式解決當前問題還是比較合適的，跟上了主庫的變更，重新設定為原值。

set global slave_exec_mode=STRICT;很快從庫的狀態就正常了，但是又一個新的問題又來了。主從資料庫的資料怎麼不一致了。而且更加直接的是我對這個表在主從做了對比，發現資料是不一致的，從庫的資料比主庫少了9條。如此一來，這個從庫就是不合格的。

怎麼修復資料呢，一種直接的方式就是重建從庫，但是這樣不是一個很好的方案。還有其它的方案嗎，使用navicator也是一個不錯的方案，圖形介面點點配配就可以完成。還有一種方案是使用pt工具來修復。

早就耳聞，今天終於感受了一下。

首先安裝很常規，可以參考我之前的一篇文章。Percona-toolkit的安裝和配置(r8筆記第86天）其實就是下載解壓，基本的安裝。

在主從庫各建立一個臨時作為同步的使用者，先做checksum，然後根據checksum的情況來修復資料，這樣就涉及兩個命令列工具，pt-table-checksum和 pt-table-sync，當然這兩個工具的選項很多，我只做一些基本的操作。

建立使用者的方式如下，需要做對比主從checksum的資料庫為backend

GRANT SELECT, PROCESS, SUPER, REPLICATION SLAVE ON *.* TO 'pt_checksum'@'10.127.%.%' IDENTIFIED BY 'pt_checksum';

建立的臨時資料庫為percona，也需要賦予相應的許可權。

grant all on percona.* to  'pt_checksum'@'10.127.%.%' ;

checksum的過程其實很複雜，大體有一下的步驟，當然我們可以簡化一下，達到目標然後再深究。

在主庫端開始做checksum,如果碰到下面的錯誤。

# pt-table-checksum h='10.127.128.99',u='pt_checksum',p='pt_checksum',P=3306 -d backend --nocheck-replication-filters --replicate=percona.checksums
Replica teststd.test.com has binlog_format ROW which could cause pt-table-checksum to break replication.  Please read "Replicas using row-based replication" in the LIMITATIONS section of the tool's documentation.  If you understand the risks, specify --no-check-binlog-format to disable this check.

這個選項的具體含義後續再琢磨，在row模式下會有這種警告，可以忽略這項檢查。

[root@testdb2 bin]# pt-table-checksum h='10.127.128.99',u='pt_checksum',p='pt_checksum',P=3306 -d backend --nocheck-replication-filters --replicate=percona.checksums   --no-check-binlog-format
            TS ERRORS  DIFFS     ROWS  CHUNKS SKIPPED    TIME TABLE
11-29T17:45:34      0      0      105       1       0   0.017 backend.sys_resource
11-29T17:45:34      0      0       17       1       0   0.015 backend.sys_role
11-29T17:45:34      0      1       99       1       0   0.017 backend.sys_user
11-29T17:45:34      0      1      172       1       0   0.017 backend.sys_user_audit

完成之後，在percona下會就生成一個表，裡面的資料就是一些對比的後設資料，如果存在差別則會有diffs欄位會有標示

如果確認無誤，可以開始修復資料，藉助pt-table-sync,先把SQL輸出不執行，把主庫和從庫的資訊都正確輸入。

pt-table-sync --print --replicate=percona.checksums h=10.127.128.99,u=pt_checksum,p=pt_checksum,P=3306 h=10.127.130.58,u=pt_checksum,p=pt_checksum,P=3306

而這個操作的原理其實就是replace into。

REPLACE INTO `backend`.`sys_user`(`id`, `user_name`, xxxx) VALUES ('100', 'songlijiao@test-inc.com', 'songlijiao', xxxxx) /*percona-toolkit src_db:backend src_tbl:sys_user src_dsn:P=3306,h=10.127.128.99,p=...,u=pt_checksum dst_db:backend dst_tbl:sys_user dst_dsn:P=3306,h=teststd.test.com,p=...,u=pt_checksum lock:1 transaction:1 changing_src:percona.checksums replicate:percona.checksums bidirectional:0 pid:28684 user:root host:testdb2.test.com*/;

切記要注意許可權，對於這個同步資料的使用者要開通操作目標資料庫的許可權。

grant insert,delete,update,select on backend.* to 'pt_checksum'@'10.127.%.%' ;

這個過程持續的時間不長，很快就能夠執行完畢，修復之後再次做checksum就完全正常了。