技術分享 | 一款功能全面的 MySQL Shell 外掛

張哥說技術發表於2022-12-29

作者:楊濤濤

資深資料庫專家,專研 MySQL 十餘年。擅長 MySQL、PostgreSQL、MongoDB 等開源資料庫相關的備份恢復、SQL 調優、監控運維、高可用架構設計等。目前任職於愛可生,為各大運營商及銀行金融企業提供 MySQL 相關技術支援、MySQL 相關課程培訓等工作。

本文來源:原創投稿

* 愛可生開源社群出品,原創內容未經授權不得隨意使用,轉載請聯絡小編並註明來源。


在 GITHUB 上閒逛,發現一款開源的 MySQL Shell 外掛,安裝配置好後,可以額外增加 MySQL Shell 的元件多樣性以及類似早期 MySQL Utilities 工具集的各種功能(MySQL Utilities 已經不再開發了!)。
外掛地址:

安裝非常簡單,建立對應的 MySQL Shell Plugins 目錄,完了把外掛整個複製到此即可。

mkdir -p ~/.mysqlsh/plugins
git clone ~/.mysqlsh/plugins
我的OS環境是 Fedora Server 37 ,複製完對應目錄後,提示各種 Python 包依賴錯誤,可以根據日誌~/.mysqlsh/mysqlsh.log 內容提示依次解決,此處省略步驟。
解決好各種依賴包後,進入 MySQL Shell 命令列,可以看到出現很多新的元件:audit、check、config 等等。


我來簡單演示其中幾個元件:
第一,複製元件:replication 。

目前的拓撲是這樣的:我本地搭了三個例項 127.0.0.1:3310 、127.0.0.1:3311 、127.0.0.1:3312 。這三個例項組建了一個副本集,3310是主,3311和3312是從。

 MySQL  localhost:3311 ssl  Py > rs.status()
{
   "replicaSet": {
       "name": "rs1",
       "primary": "127.0.0.1:3310",
 ...
       "topology": {
           "127.0.0.1:3310": {
               "address": "127.0.0.1:3310",
               "instanceRole": "PRIMARY",
               "mode": "R/W",
               "status": "ONLINE"
           },
           "127.0.0.1:3311": {
               "address": "127.0.0.1:3311",
               "instanceRole": "SECONDARY",
               "mode": "R/O",
...
               "status": "ONLINE"
           },
           "127.0.0.1:3312": {
               "address": "127.0.0.1:3312",
               "instanceRole": "SECONDARY",
               "mode": "R/O",
...
               "status": "ONLINE"
           }
       },
       "type": "ASYNC"
   }
}

這裡我主動製造了一個錯誤,完後連線到其中一臺從庫上使用 replication.status() 獲取本機複製狀態:此時 SQL 執行緒停止,並且顯示延遲20秒。

 MySQL  localhost:3312 ssl  Py > replication.status();
+--------------+-----------+------------+------------+
| channel_name | IO_thread | SQL_thread | lag_in_sec |
+--------------+-----------+------------+------------+
|              | ON        | OFF        | 20         |
+--------------+-----------+------------+------------+

使用 replication.error() 來獲取詳細錯誤:發現GTID 923dad27-8528-11ed-8796-080027382b72:78 執行失敗,失敗原因是主鍵重複。

 MySQL  localhost:3312 ssl  Py > replication.error()

Applier error:
2022-12-26 22:37:35.146527 : Coordinator stopped because there were error(s) in the worker(s). The most recent failure being: Worker 1 failed executing transaction '923dad27-8528-11ed-8796-080027382b72:78' at master log ytt-pc-bin.000003, end_log_pos 1105. See error log and/or performance_schema.replication_applier_status_by_worker table for more details about this failure or others, if any.
2022-12-26 22:37:35.146532 : Worker 1 failed executing transaction '923dad27-8528-11ed-8796-080027382b72:78' at master log ytt-pc-bin.000003, end_log_pos 1105; Could not execute Write_rows event on table ytt.t1; Duplicate entry '10' for key 't1.PRIMARY', Error_code: 1062; handler error HA_ERR_FOUND_DUPP_KEY; the event's master log ytt-pc-bin.000003, end_log_pos 1105

再使用 replication.get_gtid_to_skip() 來確認具體的 GTID :確認無疑是923dad27-8528-11ed-8796-080027382b72:78

 MySQL  localhost:3312 ssl  Py > replication.get_gtid_to_skip()
+--------------+-----------------------------------------+
| channel_name | gtid_to_skip                            |
+--------------+-----------------------------------------+
|              | 923dad27-8528-11ed-8796-080027382b72:78 |
+--------------+-----------------------------------------+
使用 replication.skip_error() 來跳過這個 GTID :
MySQL  localhost:3312 ssl  Py > replication.skip_error();
skiping 923dad27-8528-11ed-8796-080027382b72:78 for replication channel ''...

完後在從庫重啟複製執行緒:stop replica;start replica ;

MySQL  localhost:3312 ssl  SQL > stop replica;start replica;
Query OK, 0 rows affected (0.0194 sec)
Query OK, 0 rows affected (0.0347 sec)

再次檢視複製是否有錯誤以及當前複製狀態:沒有錯誤,一切恢復正常。

 MySQL  localhost:3312 ssl  Py > replication.error();

no error
MySQL  localhost:3312 ssl  Py > replication.status();
+--------------+-----------+------------+------------+
| channel_name | IO_thread | SQL_thread | lag_in_sec |
+--------------+-----------+------------+------------+
|              | ON        | ON         | 0          |
+--------------+-----------+------------+------------+
第二、獲取鎖相關資料的元件:locks 。

locks 元件可以獲取當前事務的鎖資料,包括當前鎖持有以及鎖等待相關執行緒 ID 、鎖持有時間、記憶體佔用、鎖的具體行數等。下面使用 locks.get_locks() 來獲取當前鎖相關資料:

 MySQL  localhost:3310 ssl  Py > locks.get_locks()
+-----------------+--------------+-------------+-----------+----------------+-------------------+-------------------+-------------------------------------------------------------------+
| mysql_thread_id | trx_duration | cpu_latency | memory    | row_locks_held | row_locks_pending | tables_with_locks | current_statement                                                 |
+-----------------+--------------+-------------+-----------+----------------+-------------------+-------------------+-------------------------------------------------------------------+
|              25 | 4.43 min     |   0 ps      | 2.07 MiB  |              3 |                 0 | ytt.t1            | NULL                                                              |
|              29 | 17.51 s      |   0 ps      | 2.49 MiB  |              1 |                 0 | ytt.t1            | update t1 set r1 = 100 where id =10                               |
|               7 | 10.69 ms     |             | 15.66 KiB |              0 |                 0 | NULL              | NULL                                                              |
|              27 | 269.67 us    |   0 ps      | 10.31 MiB |              0 |                 0 | NULL              | SELECT thr.processlist_id AS m ... IT DESC               LIMIT 10 |
|              13 | 136.45 us    |   0 ps      | 1.19 MiB  |              0 |                 0 | NULL              | NULL                                                              |
+-----------------+--------------+-------------+-----------+----------------+-------------------+-------------------+-------------------------------------------------------------------+

根據後續提示,還可以獲取更多的資料:比如執行緒25,持有 IX 意向鎖以及 X 記錄鎖,以及當前等待此鎖的 SQL 語句;執行緒29申請X記錄鎖卻被執行緒25阻塞。

For which thread_id do you want to see locks ? (25) : 25

Metadata Locks:
---------------

GRANTED SHARED_WRITE on ytt.t1

Data Locks:
-----------

GRANTED TABLE (IX) LOCK ON ytt.t1
GRANTED RECORD (X) LOCK ON ytt.t1 (PRIMARY) (id=supremum pseudo-record)
                                           (id=10)

BLOCKING RECORD (X,REC_NOT_GAP) LOCK ON ytt.t1 FOR 12 SECONDS (mysql_thread_id: 29)

Statement we are blocking:
--------------------------

update t1 set r1 = 100 where id =10


For which thread_id do you want to see locks ? (25) : 29
Metadata Locks:
---------------
GRANTED SHARED_WRITE on ytt.t1

Data Locks:
-----------
GRANTED TABLE (IX) LOCK ON ytt.t1
WAITING RECORD (X,REC_NOT_GAP) LOCK ON ytt.t1 (PRIMARY) (id=10)

BLOCKED FOR 8 SECONDS BY (mysql_thread_id: 25)


第三、獲取語句執行的 profiles 資料:profiling 元件。

先執行 profiling.start() ,完後執行些語句,再用 profiling.get() 來獲取具體的 profiles 資料,最後再關閉 profiling 收集。

MySQL  localhost:3310 ssl  ytt  Py > profiling.get()

Last 5 events from the proccess list id: @@pseudo_thread_id
-----------------------------------------------------------

---Events before profiling was started are in orange---
1563 : select schema()
1555 : help 'profiling'
1551 : profiling.get()
1531 : select * from t1 order by rand() limit 10
1512 : select count(*) from t1
Which event do you want to profile ? : 1531

Profiling of:
-------------

select * from t1 order by rand() limit 10
duration: 0.0162
+------------------------------------------------+----------+
| Stage                                          | Duration |
+------------------------------------------------+----------+
| stage/sql/starting                             |   0.0000 |
| stage/sql/Executing hook on transaction begin. |   0.0000 |
| stage/sql/starting                             |   0.0000 |
| stage/sql/checking permissions                 |   0.0000 |
| stage/sql/Opening tables                       |   0.0000 |
| stage/sql/init                                 |   0.0000 |
| stage/sql/System lock                          |   0.0000 |
| stage/sql/optimizing                           |   0.0000 |
| stage/sql/statistics                           |   0.0000 |
| stage/sql/preparing                            |   0.0000 |
| stage/sql/Creating tmp table                   |   0.0000 |
| stage/sql/executing                            |   0.0160 |
| stage/sql/end                                  |   0.0000 |
| stage/sql/query end                            |   0.0000 |
| stage/sql/waiting for handler commit           |   0.0000 |
| stage/sql/closing tables                       |   0.0000 |
| stage/sql/freeing items                        |   0.0000 |
| stage/sql/cleaning up                          |   0.0000 |
+------------------------------------------------+----------+
Don't forget to stop the profiling when done.
第四、連線主庫使用 innodb 元件檢視有碎片的表,並且獲取表大小、索引大小、碎片率等資料。
MySQL  localhost:3310 ssl  ytt  Py > innodb.get_fragmented_tables_disk()
Warning: information_schema_stats_expiry is set to 86400.
Do you want to change it ? (y/N) : n
+--------+-------+-----------+------------+------------+-----------+-----------+-------------+--------+
| NAME   | ROWS  | DATA_SIZE | INDEX_SIZE | TOTAL_SIZE | DATA_FREE | FILE_SIZE | WASTED_SIZE | FREE   |
+--------+-------+-----------+------------+------------+-----------+-----------+-------------+--------+
| ytt/t1 | 28861 | 4.52 MiB  |    0 bytes | 4.52 MiB   | 4.00 MiB  | 12.00 MiB | 7.48 MiB    | 62.37% |
+--------+-------+-----------+------------+------------+-----------+-----------+-------------+--------+
Don't forget to run 'ANALYZE TABLE ...' for a more accurate result.

第五、使用 check 元件來獲取 binlog 的 IO 資料:由於格式不好看,我截了張圖。可以展示現存所有 binlog 檔案的讀寫頻率、讀寫資料等資訊。
技術分享 | 一款功能全面的 MySQL Shell 外掛

本文關鍵字:#MySQL Shell# #MySQL Shell Plugins#

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70024923/viewspace-2930063/,如需轉載,請註明出處,否則將追究法律責任。

相關文章