MySQL Online DDL(二)(r11筆記第88天)
對於Online DDL,之前簡單分析了一些場景MySQL中的Online DDL(第一篇)(r11筆記第3天),其實有一個很關鍵的點沒提到,那就是online DDL的演演算法,目前有三個操作選項,default,inplace,copy可選
具體可以參考 https://dev.mysql.com/doc/refman/5.6/en/innodb-online-ddl.html
> select count(*) from newtest;
+----------+
| count(*) |
+----------+
| 22681426 |
+----------+
1 row in set (45.76 sec)表結構資訊如下:
> show create table newtest\G
*************************** 1. row ***************************
Table: newtest
Create Table: CREATE TABLE `newtest` (
`id` bigint(20) NOT NULL AUTO_INCREMENT,
`game_type` int(11) NOT NULL DEFAULT '-1' ,
`login_time` datetime NOT NULL DEFAULT '1970-01-01 00:00:00',
`login_account` varchar(100) DEFAULT NULL ,
`cn_master` varchar(100) NOT NULL DEFAULT '' ,
`client_ip` varchar(100) DEFAULT '' ,
PRIMARY KEY (`id`),
KEY `ind_tmp_account1` (`login_account`),
KEY `ind_login_time_newtest` (`login_time`)
) ENGINE=InnoDB AUTO_INCREMENT=22681850 DEFAULT CHARSET=utf8
1 row in set (0.00 sec)
比如我們執行下面的SQL,新增一個欄位,預設情況下是使用copy的演演算法,即資料是平行復制一份。
alter table newtest add column newcol varchar(10) default '';這個變更過程會生成兩個臨時的檔案.frm,.ibd
-rw-r----- 1 mysql mysql 8840 Dec 5 18:13 newtest.frm
-rw-r----- 1 mysql mysql 4353687552 Dec 5 18:45 newtest.ibd
...
-rw-r----- 1 mysql mysql 8874 Feb 27 22:25 #sql-6273_2980ab.frm
-rw-r----- 1 mysql mysql 41943040 Feb 27 22:25 #sql-ib280-3638407428.ibd
...在這個變更的過程中,是執行DML操作的,而且沒有任何阻塞。
> insert into
newtest(game_type,login_time,login_account,cn_master,client_ip)
values(1,'2017-02-27
16:22:10','150581500032','572031626','183.128.143.113');
Query OK, 1 row affected (0.05 sec)
因為使用了主鍵自增,所以我可以用同樣的語句再插入一條記錄,也是全然沒有阻塞。
> insert into
newtest(game_type,login_time,login_account,cn_master,client_ip)
values(1,'2017-02-27
16:22:10','150581500032','572031626','183.128.143.113');
Query OK, 1 row affected (0.00 sec)這個時候檢視show processlist的結果,相比就顯得有些簡單了。不像之前的版本中會有table metadata lock的字樣了。
+---------+-----------------+-----------------------------+----------------+-------------+---------+--------------------------------
|Id | User | Host |
db | Command | Time | State
+---------+-----------------+-----------------------------+----------------+-------------+---------+--------------------------------
| 2719915 | root | localhost | test | Query | 75 | altering table
我們簡單看看上面列舉出來的配置檔案.frm
可以透過strings的方式看到一個基本的結構資訊。
# strings newtest.frm
PRIMARY
ind_tmp_account1
ind_login_time_newtest
InnoDB
)
game_type
login_time
login_account
cn_master
client_ip
game_type
login_time
login_account
cn_master
client_ip
而檢視臨時建立的.frm檔案
# strings "#sql-6273_2980ab.frm"
PRIMARY
ind_tmp_account1
ind_login_time_newtest
InnoDB
)
game_type
login_time
login_account
cn_master
client_ip
newcol
game_type
login_time
login_account
cn_master
client_ip
newcol整個新增欄位的操作持續時間為10分鐘左右。
> alter table newtest add column newcol varchar(10) default '';
Query OK, 0 rows affected (10 min 31.64 sec)
Records: 0 Duplicates: 0 Warnings: 0可以看到修改後的.ibd檔案大小相比要大了一些。
-rw-r----- 1 mysql mysql 8874 Feb 27 22:25 newtest.frm
-rw-r----- 1 mysql mysql 4047503360 Feb 27 22:34 newtest.ibd而如果我們換一個角度來看,我們刪除一個欄位。
--alter table newtest drop column newcol , ALGORITHM=INPLACE; --這種方式是有問題的,採用如下的方式,我們宣告使用inplace演演算法,而實際情況如何呢。
> alter table newtest drop column newcol , ALGORITHM=INPLACE;
Query OK, 0 rows affected (9 min 54.18 sec)
Records: 0 Duplicates: 0 Warnings: 0我們可以看到DML操作暢通無阻。
> insert into
newtest(game_type,login_time,login_account,cn_master,client_ip)
values(1,'2017-02-27
16:22:10','150581500032','572031626','183.128.143.113');
Query OK, 1 row affected (0.15 sec)這個過程可以看到效果和啟用copy演演算法是一樣的,為什麼呢。因為新增欄位,刪除欄位是一個資料重組的過程,所以相比而言,這個操作的代價也是昂貴的。
然後我們新增索引,啟用inplace演演算法。
alter table newtest add index (client_ip) ,algorithm=inplace;這個過程就特別了,依舊會建立.frm的臨時檔案,但是資料檔案不會複製,而是現改。
-rw-r----- 1 mysql mysql 8840 Feb 27 22:49 newtest.frm
-rw-r----- 1 mysql mysql 4018143232 Feb 27 23:06 newtest.ibd
...
-rw-r----- 1 mysql mysql 8840 Feb 27 23:06 #sql-6273_2980ab.frm這個過程中,DML依舊是暢通的。
> insert into
newtest(game_type,login_time,login_account,cn_master,client_ip)
values(1,'2017-02-27
16:22:10','150581500032','572031626','183.128.143.113');
Query OK, 1 row affected (0.04 sec)整個新增的過程相比而言,持續時間要短很多,大概是3分鐘左右。
> alter table newtest add index (client_ip) ,algorithm=inplace;
Query OK, 0 rows affected (3 min 42.84 sec)
Records: 0 Duplicates: 0 Warnings: 0
而如果此時刪除索引,這個過程就如同非一般的感覺,不到一秒即可完成。
> alter table newtest drop index client_ip ,algorithm=inplace;
Query OK, 0 rows affected (0.13 sec)
Records: 0 Duplicates: 0 Warnings: 0整個過程中.frm和.ibd檔案沒有任何大小變化。
-rw-r----- 1 mysql mysql 8840 Feb 27 23:13 newtest.frm
-rw-r----- 1 mysql mysql 4785700864 Feb 27 23:13 newtest.ibd而如果我們為了對比同樣的inpalce和copy操作場景下的代價,可以使用copy顯示建立一個索引,即可得到一個基本的對比情況。
alter table newtest add index (client_ip) ,algorithm=copy;整個過程因為.ibd檔案較大,持續時間也會放大很多,這個環境中執行時間是29分,差別已然非常明顯。
> alter table newtest add index (client_ip) ,algorithm=copy;
Query OK, 22681430 rows affected (29 min 13.80 sec)
Records: 22681430 Duplicates: 0 Warnings: 0
Online DDL還是存在著一些限定情況,很多場景還沒有完全測試到,需要結合具體的場景和需求來考量。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/23718752/viewspace-2134391/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- MySQL Online DDL詳解MySql
- MySQL 8.0 Reference Manual(讀書筆記81節-- InnoDB and Online DDL (1))MySql筆記
- MySQL 8.0 Reference Manual(讀書筆記82節-- InnoDB and Online DDL (2))MySql筆記
- MySQL 8.0 Reference Manual(讀書筆記83節-- InnoDB and Online DDL (3))MySql筆記
- MySQL 8.0 Reference Manual(讀書筆記84節-- InnoDB and Online DDL (4))MySql筆記
- MySQL DDL執行方式-Online DDL介紹MySql
- 使用sysbench壓力測試MySQL(一)(r11筆記第3天)MySql筆記
- mysql之 openark-kit online ddlMySql
- MySQL & MariaDB Online DDL 參考指南MySql
- 記錄一次 Online DDL 操作
- MySQL 執行 Online DDL 操作報錯空間不足?MySql
- MySQL Online DDL導致全域性鎖表案例分析MySql
- 一個 MySQL 線上 DDL 工具 — pt-online-schema-changeMySql
- MySQL在其版本迭代後Online DDL功能發生了哪些變化?MySql
- MySQL高階學習筆記(二)MySql筆記
- MySQL 學習筆記(二)MVCC 機制MySql筆記MVC
- MogDB/openGauss學習筆記-獲取物件DDL筆記物件
- MySQL DDL操作表MySql
- TiDB Online DDL 在 TiCDC 中的應用丨TiDB 工具分享TiDB
- Mysql 筆記MySql筆記
- MySQL筆記MySql筆記
- MySQL事務學習筆記(二) 相識篇MySql筆記
- 第3章筆記筆記
- 對比上次MySQL的DDLMySql
- Mysql 工作筆記MySql筆記
- MySql索引筆記MySql索引筆記
- mysql CRUD筆記MySql筆記
- RUST 筆記(二)Rust筆記
- 筆記二(JavaWeb)筆記JavaWeb
- Spring筆記二Spring筆記
- 04 MySQL 表的基本操作-DDLMySql
- MySQL 線上DDL "gh-ost"MySql
- MySQL - DDL詳解(Data Definition Language)MySql
- mysql DDL時鎖表的排查MySql
- 詳談 MySQL 8.0 原子 DDL 原理MySql
- mysql 原生 線上DDL 的bug .MySql
- 2024 ICPC Online 第二場(K)
- 第15.16.17章學習筆記筆記
- 第4關-精華筆記筆記