【MySQL】mydumper工具介紹

楊奇龍發表於2017-01-20
MySql
一 前言
    大家對於MySQL的邏輯備份工具mysqldump應該都比較瞭解，相對於mysqldump，本文介紹一款由MySQL ,Facebook 等公司的開發維護另外一套邏輯備份恢復工具---mydumper/myloader目前已經開發到0.9.1 版本。
mydumper 具有如下特性
1 支援多執行緒匯出資料，速度比mysqldump快。
2 支援一致性備份，使用FTWRL(FLUSH TABLES WITH READ LOCK)會阻塞DML語句,保證備份資料的一致性。
3 支援將匯出檔案壓縮，節約空間。
4 支援多執行緒恢復。
5 支援以守護程式模式工作，定時快照和連續二進位制日誌
6 支援按照指定大小將備份檔案切割。
7 資料與建表語句分離。
二 原理
參考一張圖 介紹mydumper的工作原理


mydumper的主要工作步驟
1 主執行緒 FLUSH TABLES WITH READ LOCK, 施加全域性只讀鎖，以阻止DML語句寫入，保證資料的一致性
2 讀取當前時間點的二進位制日誌檔名和日誌寫入的位置並記錄在metadata檔案中，以供即使點恢復使用
3 START TRANSACTION WITH CONSISTENT SNAPSHOT; 開啟讀一致事務
4 啟用N個（執行緒數可以指定，預設是4）dump執行緒匯出表和表結構 
5 備份非事務型別的表
6 主執行緒 UNLOCK TABLES，備份完成非事務型別的表之後，釋放全域性只讀鎖
7 dump InnoDB tables, 基於事物匯出InnoDB表
8 事物結束

三 安裝使用
3.1 安裝
mydumper 基於c語言編寫，需要編譯安裝，因此需要安裝編譯工具。
  1. yum install glib2-devel mysql-devel zlib-devel pcre-devel zlib gcc-c++ gcc cmake -y
  2. wget https://launchpadlibrarian.net/225370879/mydumper-0.9.1.tar.gz
  3. tar xf mydumper-0.9.1.tar.gz
  4. cd mydumper-0.9.1/
  5. cmake .
  6. make && make install

點選(此處)摺疊或開啟

  1. # cmake .
  2. -- Using mysql-config: /opt/mysql/bin/mysql_config
  3. -- Found MySQL: /opt/mysql/include, /usr/lib64/libperconaserverclient.so;/usr/lib64/libpthread.so;/usr/lib64/libm.so;/usr/lib64/librt.so;/usr/lib64/libdl.so
  4. -- Found ZLIB: /usr/lib64/libz.so (found version "1.2.3")
  5. -- Found PkgConfig: /usr/bin/pkg-config (found version "0.23")
  6. -- checking for one of the modules 'glib-2.0'
  7. -- checking for one of the modules 'gthread-2.0'
  8. -- checking for module 'libpcre'
  9. -- found libpcre, version 7.8
  10. -- Found PCRE: /usr/include
  11. CMake Warning at docs/CMakeLists.txt:9 (message):
  12.   Unable to find Sphinx documentation generator
  13. -- ------------------------------------------------
  14. -- MYSQL_CONFIG = /opt/mysql/bin/mysql_config
  15. -- CMAKE_INSTALL_PREFIX = /usr/local
  16. -- BUILD_DOCS = ON
  17. -- WITH_BINLOG = OFF
  18. -- RUN_CPPCHECK = OFF
  19. -- Change a values with: cmake -D<Variable>=<Value>
  20. -- ------------------------------------------------
  21. --
  22. -- Configuring done
  23. -- Generating done
  24. -- Build files have been written to: /root/mydumper-0.9.1
  25. # make
  26. Scanning dependencies of target mydumper
  27. [ 25%] Building C object CMakeFiles/mydumper.dir/mydumper.c.o
  28. [ 50%] Building C object CMakeFiles/mydumper.dir/server_detect.c.o
  29. [ 75%] Building C object CMakeFiles/mydumper.dir/g_unix_signal.c.o
  30. Linking C executable mydumper
  31. [ 75%] Built target mydumper
  32. Scanning dependencies of target myloader
  33. [100%] Building C object CMakeFiles/myloader.dir/myloader.c.o
  34. Linking C executable myloader
  35. [100%] Built target myloader
  36. # make install
  37. [ 75%] Built target mydumper
  38. [100%] Built target myloader
  39. Linking C executable CMakeFiles/CMakeRelink.dir/mydumper
  40. Linking C executable CMakeFiles/CMakeRelink.dir/myloader
  41. Install the project...
  42. -- Install configuration: ""
  43. -- Installing: /usr/local/bin/mydumper
  44. -- Installing: /usr/local/bin/myloader
安裝好之後 ，會生成兩個檔案：
/usr/local/bin/mydumper  
/usr/local/bin/myloader
注意:
  1. 一般會遇到找不到 mysql-libraries 的問題，可以參考 stackoverflow 的回答，如果再解決不了，則可能是自己制定的MySQL安裝目錄的問題，比如我自己的安裝目錄是/opt/mysql/
  2. 則需要做一個軟連線 
  3. ln -s /opt/mysql/lib/libperconaserverclient.so /usr/lib64/libperconaserverclient.so
3.2 引數說明
mydumper 的常用引數
  1. -B, --database 要匯出的dbname
  2. -T, --tables-list 需要匯出的表名,匯出多個表需要逗號分隔，t1[,t2,t3 ....]
  3. -o, --outputdir 匯出資料檔案存放的目錄，mydumper會自動建立
  4. -s, --statement-size 生成插入語句的位元組數, 預設1000000位元組
  5. -r, --rows Try to split tables into chunks of this many rows. This option turns off --chunk-filesize
  6. -F, --chunk-filesize 切割表檔案的大小，預設單位是 MB ，如果表大於
  7. -c, --compress 壓縮匯出的檔案
  8. -e, --build-empty-files 即使是空表也為表建立檔案
  9. -x, --regex 使用正規表示式匹配 db.table
  10. -i, --ignore-engines 忽略的儲存引擎，多個值使用逗號分隔
  11. -m, --no-schemas 只匯出資料，不匯出建庫建表語句
  12. -d, --no-data 僅僅匯出建表結構，建立db的語句
  13. -G, --triggers 匯出觸發器
  14. -E, --events 匯出events
  15. -R, --routines 匯出儲存過程和函式
  16. -k, --no-locks 不執行臨時的只讀鎖，會導致備份不一致 。WARNING: This will cause inconsistent backups
  17. --less-locking 最小化在innodb表上的鎖表時間 --butai
  18. -l, --long-query-guard 設定長時間執行的sql 的時間標準
  19. -K, --kill-long-queries 將長時間執行的sql kill
  20. -D, --daemon 以守護程式的方式執行
  21. -I, --snapshot-interval 建立匯出快照的時間間隔，預設是 60s ，該引數只有在守護程式執行的時候有用。
  22. -L, --logfile 指定mydumper輸出的日誌檔案，預設使用控制檯輸出。
  23. --tz-utc SET TIME_ZONE='+00:00' at top of dump to allow dumping of TIMESTAMP data when a server has data in different time zones or data is being moved between servers with different time zones, defaults to on use --skip-tz-utc to disable.
  24. --skip-tz-utc
  25. --use-savepoints 使用savepoints 減少MDL 鎖事件 需要 SUPER 許可權
  26. --success-on-1146 Not increment error count and Warning instead of Critical in case of table doesn
myloader使用引數
  1. -d, --directory 備份檔案的資料夾
  2. -q, --queries-per-transaction 每次事物執行的查詢數量，預設是1000
  3. -o, --overwrite-tables 如果要恢復的表存在，則先drop掉該表，使用該引數，需要備份時候要備份表結構
  4. -B, --database 需要還原的資料庫
  5. -e, --enable-binlog 啟用還原資料的二進位制日誌
  6. -h, --host The host to connect to
  7. -u, --user Username with privileges to run the dump
  8. -p, --password User password
  9. -P, --port TCP/IP port to connect to
  10. -S, --socket UNIX domain socket file to use for connection
  11. -t, --threads 還原所使用的執行緒數，預設是4
  12. -C, --compress-protocol 壓縮協議
  13. -V, --version 顯示版本
  14. -v, --verbose 輸出模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 預設為2
四  使用方法
#匯出整個庫
  1. mydumper -u root -S /srv/my3308/run/mysql.sock -B trade_platform -o /data/trade_platform
#僅僅匯出platform的ddl語句不包含資料到指定的目錄 /data/platform
  1. mydumper -u root -S /srv/my3308/run/mysql.sock -B platform -m -o /data/platform
#以壓縮的方式匯出的檔案
  1. mydumper -u root -S /srv/my3308/run/mysql.sock -B trade_platform -c -o /data/trade_platform
備份檔案以.gz 的格式壓縮
  1. #ls
  2. metadata trade_platform.config.sql.gz trade_platform.trade_order-schema.sql.gz
  3. trade_platform.config-schema.sql.gz trade_platform-schema-create.sql.gz trade_platform.trade_order.sql.gz
#使用正規表示式
  1. mydumper -u root -S /srv/my3308/run/mysql.sock --regex='^(?!(mysql|test))' -o /data/bk20170120
其中正規表示式可以是
--regex=order.*  匯出所有order 開頭的表
mydumper 匯出的檔案
  1. [root@rac4 17:27:02 /data/platform]
  2. # ls
  3. metadata platform.config.sql platform.order.sql
mydumper 匯出的檔案 分為
  1. metadata :包含匯出時刻的binlog 位點資訊 ，如果啟用gtid ，則記錄gtid資訊。
  2. Started dump at: 2017-01-20 17:26:53
  3. SHOW MASTER STATUS:
  4.   Log: mysql-bin.000025
  5.   Pos: 505819083
  6.   GTID:
  7. Finished dump at: 2017-01-20 17:27:02
  8. db.table.sql        :資料檔案，insert語句
  9. db.table-schema.sql :包含建表語句
  10. db-schema.sql       :包含建庫語句
注意 0.9.1 版本去掉了 --binlogs 引數，故會少了 啟用binlogs引數相關的檔案。
有興趣的朋友可以繼續閱讀 這裡，有專門針對mydumper與5.7 新出的mysqlpump 工具的討論。
五 小結
 從目前的測試來看，mydumper對備份的速度有一定提升，但是沒有網路上說的10倍那麼高。我已經在我們的開發測試環境部署了該工具的備份指令碼，用來解決開發同學的偶爾冒失行為。相比mysqldump，mydumper的匯出的檔案形式是每個表一個檔案，對於開發/測試環境的誤操作恢復十分有效。
參考文章
[1] mydumper備份原理和使用方法

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/22664653/viewspace-2132759/，如需轉載，請註明出處，否則將追究法律責任。

相關文章