解密MySQL備份恢復的4種方法
備份高於一切,今天彙總一下常用的幾種備份方法,以及恢復的步驟。
在日常工作中,我們會使用mysqldump 建立SQL格式的轉儲檔案來備份資料庫。或者我們把資料匯出後做資料遷移,主備搭建等操作。mysqldump是一個邏輯備份工具,複製原始的資料庫物件定義和表資料產生一組可執行的SQL語句。 預設情況下,生成insert語句,也能生成其它分隔符的輸出或XML格式的檔案。
shell> mysqldump [arguments] > file_name
我們簡單來看一下日常的用法:
備份所有的資料庫:
shell> mysqldump –all-databases > dump.sql (不包含INFORMATION_SCHEMA,performance_schema,sys,如果想要匯出的話還要結合–skip-lock-tables和–database一起用)
備份指定的資料庫:
shell> mysqldump –databases db1 db2 db3 > dump.sql
當我們只備份一個資料的時候可以省去 –databases 直接寫成:mysqldump test > dump.sql 不過有一些細微的差別,如果不加的話,資料庫轉儲輸出不包含建立資料庫和use語句,所以可以不加這個引數直接匯入到其它名字的資料庫裡。
當然我們也可以只備份某個表 :
mysqldump –user [username] –password=[password] [database name] [table “” not found /] table_name.sql
瞭解了簡單的一些用法後我們再著重看一下幾個引數:
- master-data 獲取備份資料的Binlog位置和Binlog檔名,用於透過備份恢復的例項之間建立複製關係時使用,該引數會預設開啟。
- dump-slave 用於在slave上dump資料,建立新的slave。因為我們在使用mysqldump時會鎖表,所以大多數情況下,我們的匯出操作一般會在只讀備庫上做,為了獲取主庫的Relay_Master_Log_File和Exec_Master_Log_Pos,需要用到這個引數,不過這個引數只有在5.7以後的才會有
- no-data, -d 不匯出任何資料,只匯出資料庫表結構
剛剛我們說過在使用mysqldump的時候會鎖表,我們來詳細看一下它的鎖機制。
我們開兩個視窗,在第一個裡面執行mysqldump -uroot -pxxxxx –master-data=2 –databases dbname > /tmp/dbnamedate +%F.sql 然後第二個視窗登陸進去,使用show process的 可以看到目前dump的session正在執行。
SELECT /!40001 SQL_NO_CACHE / * FROM table_name; 可以看到這條SQL正在以no_cache的模式查詢資料。
然後我們在同樣的表上執行一下select,發現被阻塞了。游標一直不返回。
一般遇到這種檔案,我們會想是不是有鎖呢? 為了驗證我們檢視一下鎖的資訊,可以發現dump的程式實際上是加了鎖的。
一般遇到這種檔案,我們會想是不是有鎖呢? 為了驗證我們檢視一下鎖的資訊,可以發現dump的程式實際上是加了鎖的。
我們把具體的general_log開啟,然後看一下當時的操作:
4101044 Query FLUSH /!40101 LOCAL / TABLES 4101044 Query FLUSH TABLES WITH READ LOCK
(關閉所有開啟的表,同時對於所有資料庫中的表都加一個讀鎖,直到顯示地執行unlock tables,該操作常常用於資料備份的時候。)
4101044 Query SHOW MASTER STATUS
(這是因為我用了–master-data=2)
所以這個時候表就會被鎖住。
如果我不加–master-data引數(mysqldump -uroot -pxx –databases db > /tmp/dbnamedate +%F.sql) mysql會顯示的對每一張要備份的表執行 LOCK TABLES table_name1 READ,LOCK TABLES table_name2 READ ,並且也不會有讀的阻塞。
那有沒有不鎖的方法,其實也是有的,就是使用–single-transaction把備份的操作放在一個事務裡去進行。
帶上–single-transaction引數的mysqldump備份過程:
在備份之間同樣的先FLUSH TABLES WITH READ LOCK,然後設定事務級別SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ,然後開啟一個事務START TRANSACTION進行備份,這個時候備份的過程就很意思,它先建立了一個savepoint,然後把資料庫裡的表依次的進行備份,備份完成了之後又回滾到了之前的savepoint,來保證資料的一致性。
備份前的操作相同,只是沒有了savepoint。
不過不管是哪個版本,只有InnoDB表是在一個一致性的狀態。其它的任何MyISAM表或記憶體表是沒有用的。 mysqldump的優勢是可以檢視或者編輯十分方便,它也可以靈活性的恢復之前的資料。它也不關心底層的儲存引擎,既適用於支援事務的,也適用於不支援事務的表。不過它不能作為一個快速備份大量的資料或可伸縮的解決方案。如果資料庫過大,即使備份步驟需要的時間不算太久,但有可能恢復資料的速度也會非常慢,因為它涉及的SQL語句插入磁碟I/O,建立索引等等。 對於大規模的備份和恢復,更合適的做法是物理備份,複製其原始格式的資料檔案,可以快速恢復:如果你的表主要是InnoDB表,或者如果你有一個InnoDB和MyISAM表,可以考慮使用MySQL的mysqlbackup命令備份。
先看一下當前的資料:
dbadmin@test 11:10:34>select * from t; +——-+ | id | +——-+ | 1 | +——-+ 1 row in set (0.00 sec)
備份;
mysqldump -uroot -proot@1234 –master-data=1 test >test.sql
模擬增量操作
dbadmin@test 11:15:17>insert into t values (2); Query OK, 1 row affected (0.00 sec) dbadmin@test 11:15:36>select * from t; +——+ | id | +——+ | 1 | | 2 | +——+ 2 rows in set (0.00 sec)
模擬誤操作:
dbadmin@test 11:15:41>truncate table t; Query OK, 0 rows affected (0.01 sec) dbadmin@test 11:16:14>select * from t; Empty set (0.00 sec)
模擬恢復操作:
step 1:找到誤操作的log position
dbadmin@test 11:20:57>show master logs; dbadmin@(none) 11:21:37>show binlog events in ‘mysql-bin.000004’;
檢視可以看到是444。
step 2:恢復到備份
dbadmin@test 11:16:25>source test.sql dbadmin@test 11:17:26>select from t; +——-+ | id | +——-+ | 1 | +——-+ 1 row in set (0.00 sec)
step 3: 因為我們在備份的時候使用了master-data的引數,所以可以直接看到備份時候的最後位置,然後應用中間的log。檢視可以看到是187。
我們使用mysqlbinlog得到這一段時間的操作,其實我們也可以用這個工具得到操作後使用sed進行undo的操作。
mysqlbinlog –start-position=187 –stop-position=444 mysql-bin.000004 > increment.sql dbadmin@test 11:44:37>source /u01/my3307/log/increment.sql dbadmin@test 11:44:50>select from t; +——+ | id | +——+ | 1 | | 2 | +——+
至此資料恢復。
mysqlbackup是Oracle公司提供的針對企業的備份軟體,全名叫做MySQL Enterprise Backup,是一個收費的軟體。
我們簡單來看一下這個工具的使用。
檢視所有的幫助:
我這裡只是擷取了一小部分,這個幫助很長,引數很多,功能很全,是oracle官方主推的備份方式。
全量備份
mysqlbackup –user=root –password=ucjmh –databases=’t1′ –encrypt-password=1 –with-timestamp –backup-dir=/u01/backup/ backup
解釋一下引數:
- databases 要備份的資料庫
- with-timestamp 產生一個當前時間的備份目錄。mysqlbackup這個工具要求一個空目錄才能做備份。所以這個會常用。
- backup-dir 備份的目錄 。
- compress:壓縮備份 這個提供了多種壓縮方法和壓縮級別。1–9,壓縮比依次遞增。
backup 是備份的方式, 一共有如下幾種方式,我會在一個恢復案例裡把常用的幾個都用到。
Backup operations: backup, backup-and-apply-log, backup-to-image Update operations: apply-log, apply-incremental-backup Restore operations: copy-back, copy-back-and-apply-log Validation operation: validate Single-file backup operations: image-to-backup-dir, backup-dir-to-image, list-image, extract
其實,在大多數情況下,單個檔案備份,使用backup-to-image命令建立,效能優於backup。buckup這個命令只執行一個完整的備份過程的初始階段。需要透過再次執行mysqlbackup運用apply-log 命令,使備份一致。
mysqlbackup –user=root –password=ucjmh –databases=’t1′ –encrypt-password=1 –with-timestamp –backup-dir=/u01/backup/2017-04-28_12-49-35/ apply-log
當然你可以直接用backup-and-apply-log 不過這個時候的備份將不能用於增量了。
增量備份:
mysqlbackup –user=root –password=ucjmh –databases=’t1′ –encrypt-password=1 –with-timestamp –backup-dir=/u01/backup/ –incremental –incremental-base=dir:/u01/backup/2017-04-28_12-49-35 –incremental-backup-dir=/u01/backup/incremental backup
這個是基於上次的備份做的備份,當然也可以基於某一個log position之後做。
–incremental:代表增量備份;
–incremental-base:上次全備的目錄;
–incremental-backup-dir:增量備份的儲存的目錄
首先檢測並應用全備事務日誌檔案(這裡是因為我備份的時候用的是backup而不是backup-and-apply-log),然後基於全備去應用增量的log。這個時候如果有多次增量備份也可以(基於LSN點向後應用)。 所有的都應用完成之後就是一個可以直接cp的資料庫了。
個人感覺這個工具比xtrabackup好用,但是xtrabackup是開源的,所以市場佔有量才會大,才會更有名,更多人用吧。
mysqlhotcopy使用lock tables、flush tables和cp或scp來快速備份資料庫.它是備份資料庫或單個表最快的途徑,完全屬於物理備份,但只能用於備份MyISAM儲存引擎和ARCHIVE引擎,並且是一個伺服器命令,只能執行在資料庫目錄所在的機器上.與mysqldump備份不同,mysqldump屬於邏輯備份,備份時是執行的sql語句.使用mysqlhotcopy命令前需要要安裝相應的軟體依賴包. 因為這個功能很弱,我們只簡單的介紹一個怎麼用:
備份一個庫
mysqlhotcopy db_name [/path/to/new_directory]
備份一張表
mysqlhotcopy db_name./table_name/ /path/to/new_directory
更詳細的使用可以使用perldoc mysqlhotcopy檢視。
Percona XtraBackup是一款基於MySQL的熱備份的開源實用程式,它可以備份5.1到5.7版本上InnoDB,XtraDB,MyISAM儲存引擎的表, Xtrabackup有兩個主要的工具:xtrabackup、innobackupex 。
(1)xtrabackup只能備份InnoDB和XtraDB兩種資料表,而不能備份MyISAM資料表
(2)innobackupex則封裝了xtrabackup,是一個 封裝,所以能同時備份處理innodb和myisam,但在處理myisam時需要加一個讀鎖。
首先我們先來簡單的瞭解一下xtrabackup是怎麼工作的。xtrabackup基於innodb的crash-recovery(例項恢復)功能,先copy innodb的物理檔案(這個時候資料的一致性是無法滿足的),然後進行基於redo log進行恢復,達到資料的一致性。
我們還是簡單來看一下日常工作中具體的使用:
全備:
xtrabackup –backup –target-dir=/data/backup/base
可以先看到
在備份過程中,可以看到很多輸出顯示資料檔案被複制,以及日誌檔案執行緒反覆掃描日誌檔案和複製。
同樣的,它也輸出了當前的binlog filename和position,如果有gtid(同樣也會輸出) 可以用於搭建主從。最後一行一定會是你的lsn被copy的資訊。 這是因為每次啟動備份,都會記錄170429 12:54:10 >> log scanned up to (1676085)),然後開始複製檔案,一般來講資料庫越大複製檔案是要花費越長的時間,所以說這期間一般情況都會有新的操作,所以說所有檔案也可能記錄的並不是一個時間點的資料, 為了解決資料這個問題,XtraBackup 就會啟動一個後臺程式來每秒1次的觀測mysql的事務日誌,直到備份結束。而且把事務日誌中的改變記錄下來。我們知道事物日誌是會重用的(redo log),所以這個程式會把redolog寫到自己的日誌檔案xtrabackup_log,這個後臺監控程式會記錄所有的事務日誌的改變,用於保證資料一致性所。
增量備份:
當我們做過全量備份以後會在目錄下產生xtrabackup_checkpoints的檔案 這裡面記錄了lsn和備份方式,我們可以基於這次的全量做增量的備份。
$cat xtrabackup_checkpoints backup_type = full-backuped from_lsn = 0 to_lsn = 1676085 last_lsn = 1676085 compact = 0 recover_binlog_info = 0 xtrabackup –backup –target-dir=/data/backup/inc1 –incremental-basedir=/data/backup/base
這個時候xtrabackup也是去開啟了xtrabackup_checkpoints檔案進行上一次備份的資訊檢視。這個時候去檢視增量備份的xtrabackup_checkpoints也記錄了這些資訊。
$cat xtrabackup_checkpoints backup_type = incremental from_lsn = 1676085 to_lsn = 1676085 last_lsn = 1676085 compact = 0 recover_binlog_info = 0
這也意味著你可以在增量的備份上繼續增量的備份。
同樣的,xtrabackup也支援壓縮(–compress)、加密(–encrypt)、並行(–parallel)等操作,但是和mysqlbackup不同的是這個沒有同時的備份binlog,而mysqlbackup是備份了binlog的。
我們來模擬一個恢復的過程深入的瞭解一下原理。
檢視當前資料:
dbadmin@test 03:04:33>select from t; +——-+ | id | +——-+ | 1 | +——-+ 1 row in set (0.00 sec)
全量備份
$xtrabackup –backup –target-dir=/data/backup/base
模擬增量資料
dbadmin@test 03:07:16>select from t; +——-+ | id | +——-+ | 1 | | 2 | +——-+ 2 rows in set (0.00 sec)
進行增量備份:
$xtrabackup –backup –target-dir=/data/backup/inc1 –incremental-basedir=/data/backup/base
模擬無備份操作:
dbadmin@test 03:09:42>select * from t; +——-+ | id | +——-+ | 1 | | 2 | | 3 | +——-+ 3 rows in set (0.00 sec) 模擬誤操作:
dbadmin@test 03:09:45>truncate table t; Query OK, 0 rows affected (0.00 sec)
模擬恢復操作:
step 1:找到誤操作的log position
dbadmin@test 03:10:19>show master logs; dbadmin@test 03:10:47>show binlog events in ‘mysql-bin.000001’; 1333
我們需要分別對全量、增量備份各做一次prepare操作。
增量
如果我們使用它自帶的還原命令的時候就要先把data目錄給清空。不然就會報如下的錯誤
$innobackupex –copy-back /data/backup/base/ 170429 15:37:19 innobackupex: Starting the copy-back operation IMPORTANT: Please check that the copy-back run completes successfully. At the end of a successful copy-back run innobackupex prints “completed OK!”. innobackupex version 2.4.6 based on MySQL server 5.7.13 Linux (x86_64) (revision id: 8ec05b7) Original data directory /u01/my3307/data is not empty!
當然我們大多資料時候是不會在原來的例項上做操作的,都會把相應的備份在奇他的例項上進行恢復,然後再匯出匯入到誤操作的例項。這裡我們直接清掉目錄,然後再次執行,檢視恢復後的資料:
dbadmin@test 03:41:56>select * from t; +——-+ | id | +——-+ | 1 | | 2 | +——-+ 2 rows in set (0.00 sec)
同樣的被恢復的目錄裡會多出來兩個檔案,一個是xtrabackup_binlog_pos_innodb,一個是xtrabackup_info。在這兩個檔案中都可以看到你最後的log,pos。在info裡還可以看到lsn。我們基於這個pos再進行binlog的重演,恢復在binlog沒有被備份的資料。
1076 $mysqlbinlog mysql-bin.000001 –start-position=1076 –stop-position=1333 -vv >increment.sql dbadmin@test 03:51:25>source /u01/my3307/log/increment.sql dbadmin@test 03:51:34>select * from t; +——-+ | id | +——-+ | 1 | | 2 | | 3 | +——-+ 3 rows in set (0.00 sec)
至此資料恢復完成。
MySQL還有一種非常簡單的備份方法,就是將MySQL中的資料庫檔案直接複製出來。這是最簡單,速度最快的方法。 不過在此之前,要先將伺服器停止,這樣才可以保證在複製期間資料庫的資料不會發生變化。如果在複製資料庫的過程中還有資料寫入,就會造成資料不一致。這種情況在開發環境可以,但是在生產環境中很難允許備份伺服器。
注意:這種方法不適用於InnoDB儲存引擎的表,而對於MyISAM儲存引擎的表很方便。同時,還原時MySQL的版本最好相同。 只所以提這一點是因為當有停機視窗時,搭建主從的時候,這個往往是最快的。
一般生產環境的備份都會用percona-xtrabackup或者mysqlbackup,結合自己的情況,選擇合適的備份策略,適時拿出來驗證備份的有效性。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69901823/viewspace-2992890/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Mysql的幾種備份與恢復MySql
- Mysql備份恢復MySql
- MySQL備份和恢復方法彙總MySql
- 【MySQL】MySQL備份和恢復MySql
- MySQL備份與恢復——基於Xtrabackup物理備份恢復MySql
- MySQL 備份與恢復MySql
- Mysql備份與恢復(1)---物理備份MySql
- MySQL備份與恢復——基於MyDumper/MyLoader 邏輯備份恢復MySql
- MySQL 非常規恢復與物理備份恢復MySql
- Dedecms資料庫恢復與備份的兩種方法資料庫
- Mysql備份與恢復(2)---邏輯備份MySql
- MySQL備份與恢復——基於OUTFILE /LOAD DATA 邏輯備份恢復MySql
- 《入門MySQL—備份與恢復》MySql
- MySQL備份與恢復——實操MySql
- 入門MySQL——備份與恢復MySql
- docker 中 MySQL 備份及恢復DockerMySql
- MySQL備份與恢復操作解析MySql
- Mysql資料備份與恢復MySql
- mysqldump使用方法(MySQL資料庫的備份與恢復)MySql資料庫
- RAC備份恢復之Voting備份與恢復
- 【MySQL】Xtrabackup備份及恢復指令碼MySql指令碼
- Mysql資料庫備份及恢復MySql資料庫
- MySQL8.4備份恢復快速命令MySql
- MySQL入門--備份與恢復(三)MySql
- MySQL入門--備份與恢復(一)MySql
- MySQL入門--備份與恢復(二)MySql
- MySQL 日誌管理、備份與恢復MySql
- MySQL日誌管理,備份和恢復MySql
- 備份與恢復:polardb資料庫備份與恢復資料庫
- mydumper備份恢復
- 備份和恢復
- Linux下MySQL資料庫的備份與恢復LinuxMySql資料庫
- DB的備份與恢復
- GitLab的備份與恢復Gitlab
- 使用Mysqldump備份和恢復MySQL資料庫MySql資料庫
- mysql學習筆記之備份與恢復MySql筆記
- MySQL-19.資料庫備份與恢復MySql資料庫
- SqlServer資料庫恢復備份資料的方法SQLServer資料庫