排查Mysql突然變慢的一次過程

嚴陣以待發表於2020-08-07

排查Mysql突然變慢的一次過程

mysql.jpg

本文源地址:排查Mysql突然變慢的一次過程

上週客戶說系統突然變得很慢,而且時不時的蹦出一個 404500,弄得真的是很沒面子,而恰巧出問題的時候正在深圳出差,所以一直沒有時間 看問題,一直到今天,才算是把問題原因找到。


定位問題

剛開始得到是系統慢的反饋,沒有將問題點定位到資料庫上,查了半天服務是否正常(因為之前有一次Dubbo記憶體洩漏)。

在將應用服務日誌檢視了一遍後,沒有發現任何異常,只是打了幾個警告的日誌。

於是又檢視了業務執行時的日誌,看到日誌都提示了一個 Lock wait timeout exceeded; try restarting transaction 的異常。

這時還是沒有將重心放到資料庫上,認為是程式碼的原因,導致事務一直沒有提交。

重新將程式碼審閱了一遍,覺得應該不是程式碼邏輯的問題,而這個時候, Lock wait timeout exceeded; try restarting transaction 這個異常的日誌越來越多。

認為是資料庫層面出了問題,開始排查資料庫。


尋找原因

由於我們的資料庫不是用的 雲RDS版本,是在一臺8核32G的AWS上的安裝版本。

使用 top 命令,檢視到 Mysql 佔用的 CPU 使用率高達 90% 左右。

心裡一慌,感覺不妙,這樣子高負載的CPU使用率,搞不好伺服器都要宕掉。

於是拿出了僅有的一點Mysql基本知識,基本上這次只使用到了下面幾個語句:

  • 檢視當前Mysql所有的程式

show processlist;

  • 檢視Mysql的最大快取

show global variables like "global max_allowed_packet"

  • 檢視當前正在進行的事務

select * from information_schema.INNODB_TRX

  • 檢視當前Mysql的連線數

show status like 'thread%'


解決

按照上面的幾個語句,一步一步跟蹤定位下來。

show processlist; 下來,我們就可以檢視出當前所有的程式,並且得到最耗時的程式。

在當前資料庫中,看到處於 Sleep 狀態的SQL非常多,而這也是佔用CPU過高的重大原因,休眠執行緒太多,於是配置了一個 wait_time_out 為 600 秒的一個解決方案。

為什麼配置600秒,因為我們應用超時時間配置的最大時間就是 600秒,10分鐘,這裡的配置需要根據業務來具體配置。

select * from information_schema.INNODB_TRX

執行這個語句,看到Mysql中大部分處於 Lock 的SQL是一條 update 的SQL,而且還有一個單條件的SQL,查詢居然耗時4分鐘,很是驚訝。

於是檢視了這張表。

剛一開啟結構,差點沒忍住口吐芬芳,居然一個索引都沒有,資料量超過300W,沒有索引查詢基本上都要4分鐘往上走。

於是準備加上索引,在一陣漫長的等待中,索引終於加上去了。

show status like 'thread%'

索引加上去了之後,檢視了一下當前Mysql的連線數,似乎沒有之前那麼高了,估計是擠壓的太多。

然後又檢視了下伺服器的CPU佔用率,這次好了一點,從1%到80%來回跳動,沒有出現90&那麼高的頻率。


總結

Mysql作為使用頻率非常高的資料庫,對於它的SQL調優真的是一門技術活,而且專案中的一些SQL看的也是想吐,這種調優起來真的難上加難。

其實 information_schema 這個資料庫,裡面的Mysql日誌看起來比業務日誌順眼的很多。

相關文章