使用binlog2sql恢復資料

耿小廚發表於2020-09-21
SQL

 binlog2sql 是一款比較常用的資料恢復工具，可以通過它從MySQL binlog解析出你要的SQL，並根據不同選項，可以得到原始SQL、回滾SQL、去除主鍵的INSERT SQL等。主要用途如下：

  • 資料快速回滾(閃回)
  • 主從切換後新master丟資料的修復
  • 從binlog生成標準SQL，帶來的衍生功能

1、 系統環境準備

1.1 安裝git

該專案分享與git上，可以直接從git上獲取，因此可以先安裝git

yum install  -y  pip

1.2 安裝python

因binlog2sql依賴於python2.7或python3.4+版本，如果本機python版本較低，則無法使用。安裝或升級python的方法可以參考 《python安裝及升級》

1.3 安裝pip

如果系統中沒有安裝pip，則需要先安裝pip,因為後續需要用pip安裝python所需的包。安裝方法可以參考歷史文章中的 《一分鐘搞定pip安裝》

1.4 binlog2sql下載及依賴包安裝

binlog2sql可以部署在其他機器上，而不是必須部署在mysql服務端上

git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
pip install -r requirements.txt

2、 MySQL環境準備

2.1 引數設定

MySQL server必須設定以下引數

[mysqld]
server_id = 128
log_bin = /data/mysql/mysql3306/logs/mysql-bin
max_binlog_size = 512M
binlog_format = row
binlog_row_image = full   # 預設值，可以不顯式設定

2.2  建立恢復賬號

因binlog2sql是通過模擬從庫的方式獲取binlog，所以，資料庫賬號許可權至少需設定為從庫所需的許可權。

--  建立使用者
mysql> create  user  data_rec@'192.168.56.%'  identified by 'xxxxxxxx';
Query OK, 0 rows affected (0.01 sec)

--  授權
mysql> GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO data_rec@'192.168.56.%';
Query OK, 0 rows affected (0.00 sec)

許可權說明：

  • select：需要讀取server端information_schema.COLUMNS表，獲取表結構的元資訊，拼接成視覺化的sql語句
  • super/replication client：兩個許可權都可以，需要執行'SHOW MASTER STATUS', 獲取server端的binlog列表
  • replication slave：通過BINLOG_DUMP協議獲取binlog內容的許可權

2.3  建立測試表及資料

mysql> use testdb;
Database changed
mysql> create table t_test1 (id int primary key  auto_increment ,c_name  varchar(20), c_num  int );
Query OK, 0 rows affected (0.02 sec)

mysql> insert into  t_test1(c_name,c_num) values('aaaa',10),('abcc',15),('bacess',9),('andd',10);
Query OK, 4 rows affected (0.03 sec)
Records: 4  Duplicates: 0  Warnings: 0

mysql> insert into  t_test1(c_name,c_num) values('bbbaa',1),('dc',5),('vgcess',29),('hdgd',0);
Query OK, 4 rows affected (0.01 sec)
Records: 4  Duplicates: 0  Warnings: 0

 2.4  模擬誤刪除資料

mysql> select now();
+---------------------+
| now()               |
+---------------------+
| 2020-09-18 16:29:08 |
+---------------------+
1 row in set (0.00 sec)

mysql> delete from  t_test1;
Query OK, 8 rows affected (0.00 sec)

mysql> select now();
+---------------------+
| now()               |
+---------------------+
| 2020-09-18 16:29:26 |
+---------------------+
1 row in set (0.00 sec)

3 binlog2sql恢復資料

3.1  生成恢復SQL

因知道大概誤刪除的時間，因此通過解析對應時間的binlog恢復出指定庫表的資料，生成的結果是用於恢復的sql

python binlog2sql.py  --flashback  -h 192.168.56.128 -udata_rec -p'xxxxxxxx' -d testdb  -t t_test1  --start-file='mysql-bin.000003' --start-datetime='2020-09-18 16:29:08' --stop-datetime='2020-09-18 16:30:00'  >/tmp/rec.sql

結果內容如下

3.2 恢復資料

mysql> select  * from t_test1;
Empty set (0.00 sec)

mysql> source /tmp/rec.sql;
Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.01 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

mysql> select  * from t_test1;
+----+--------+-------+
| id | c_name | c_num |
+----+--------+-------+
|  1 | aaaa   |    10 |
|  2 | abcc   |    15 |
|  3 | bacess |     9 |
|  4 | andd   |    10 |
|  5 | bbbaa  |     1 |
|  6 | dc     |     5 |
|  7 | vgcess |    29 |
|  8 | hdgd   |     0 |
+----+--------+-------+
8 rows in set (0.00 sec)

 資料已恢復。

 4 使用說明

參考原文連結：https://github.com/danfengcao/binlog2sql

4.1  解析模式

--stop-never 持續解析binlog。可選。預設False，同步至執行命令時最新的binlog位置。一般情況下解析單個binlog即可，但是如果需要回退的表之後有操作，則可能需要持續解析

-K, --no-primary-key 對INSERT語句去除主鍵。可選。預設False。

-B, --flashback 生成回滾SQL，可解析大檔案，不受記憶體限制。可選。預設False。與stop-never或no-primary-key不能同時新增。該情況用的較多

--back-interval -B模式下，每列印一千行回滾SQL，加一句SLEEP多少秒，如不想加SLEEP，請設為0。可選。預設1.0。

4.2 解析範圍控制

--start-file 起始解析檔案，只需檔名，無需全路徑 ，必選引數。即指定對應的binlog起始檔名

--start-position/--start-pos 起始解析位置。可選。預設為start-file的起始位置。

--stop-file/--end-file 終止解析檔案。可選。預設為start-file同一個檔案。若解析模式為stop-never，此選項失效。

--stop-position/--end-pos 終止解析位置。可選。預設為stop-file的最末位置；若解析模式為stop-never，此選項失效。

--start-datetime 起始解析時間，格式'%Y-%m-%d %H:%M:%S'。可選。預設不過濾。

--stop-datetime 終止解析時間，格式'%Y-%m-%d %H:%M:%S'。可選。預設不過濾。

4.3 物件過濾

-d, --databases 只解析目標db的sql，多個庫用空格隔開，如-d db1 db2。可選。預設為空。

-t, --tables 只解析目標table的sql，多張表用空格隔開，如-t tbl1 tbl2。可選。預設為空。

--only-dml 只解析dml，忽略ddl。可選。預設False。

--sql-type 只解析指定型別，支援INSERT, UPDATE, DELETE。多個型別用空格隔開，如--sql-type INSERT DELETE。可選。預設為增刪改都解析。用了此引數但沒填任何型別，則三者都不解析。

 

 

想了解更多內容或參與技術交流可以關注微信公眾號【資料庫乾貨鋪】或進技術交流群溝通。

 

相關文章