MySQL慢日誌功能分析及優化增強

weixin_33958585發表於2018-10-19

此文已由作者溫正湖授權網易雲社群釋出。

歡迎訪問網易雲社群,瞭解更多網易技術產品運營經驗。


MySQL慢日誌(slow log)是MySQL DBA及其他開發、運維人員需經常關注的一類資訊。使用慢日誌可找出執行時間較長或未走索引等SQL語句,為進行系統調優提供依據。本文結合線上案例分析如何正確設定MySQL慢日誌引數和使用慢日誌功能,並介紹網易雲RDS對MySQL慢日誌功能增強。


MySQL引數組功能

網易雲RDS例項提供了引數組管理功能,可通過引數管理介面檢視絕大部分常用的MySQL系統引數,使用者可以瞭解當前執行值和建議值,如下所示:

fa42da7e-c999-4e0c-b7b3-70cea2c51453?imageView&thumbnail=980x0


使用者還可通過引數管理頁面對所列的引數進行修改,點選“修改引數”按鈕線上設定,點選“儲存修改”即可一鍵完成MySQL主從節點的引數修改,如下圖:

c963627f-b1fa-43b8-ba9b-3cb6efc31d8c?imageView&thumbnail=980x0


檢視引數管理介面不難發現,與慢查詢相關的引數較多,這些引數是如何起作用的呢,相互關係又是如何,滿足什麼條件的SQL語句才會記錄到慢日誌中?只有瞭解了這些才能更好地利用慢日誌進行系統調優和問題定位。我們以一個線上案例為依託來介紹如何正確配置慢日誌引數:使用者報告他們使用的多個RDS 5.7版本例項慢日誌異常,明明執行了一分多鐘的SQL語句,卻沒有記錄到慢日誌中。還提供了用於復現的SQL語句。


慢日誌引數正確配置姿勢

首先,我們需確認該例項是否開啟了慢日誌功能,預設情況下,MySQL慢日誌功能是關閉的。慢日誌開關引數為slow_query_log,可在mysqld啟動命令列或配置檔案中顯式指定,若指定slow_query_log=1或不指定值,則表示開啟慢日誌,賦值為0表示關閉。使用者可以在執行時動態開啟和關閉。網易雲RDS例項預設開啟慢日誌功能,我們確認了該使用者未關閉例項的慢日誌開關。


接下來,需確認慢日誌記錄位置,MySQL使用log_output引數指定以檔案(FILE)還是表(TABLE)的方式來儲存慢日誌,需要強調的是,僅指定log_output而將slow_query_log置為0並不會記錄慢日誌,也就是說slow_query_log才是慢日誌的開關。若使用檔案形式記錄慢日誌,則可通過slow_query_log_file指定檔名,如果使用者沒有顯式指定slow_query_log_file,則MySQL將其初始化為host_name-slow.log,host_name即為執行mysqld的主機名,慢日誌檔案預設位於MySQL資料目錄。網易雲RDS例項不允許使用者修改日誌檔案路徑,但可以配置log_output引數,通過查詢,確認該例項以檔案方式記錄慢日誌,檢視日誌檔案確認沒有使用者所述的SQL語句。


由於使用者提供了復現語句,我們執行了其SQL語句,確實1分多鐘才返回,通過explain命令發現其未走索引,掃描了較多的記錄數,再次檢視慢日誌仍沒有記錄該SQL語句。MySQL會記錄滿足執行時間超過long_query_time秒,掃描記錄數超過min_examined_row_limit行的SQL語句。long_query_time引數最小值和預設值分別為1和10s,該引數可以精確到微秒(ms)。如果選擇將慢日誌記錄到檔案中,那麼所記錄的時間精確到微秒,如果記錄到慢日誌表(mysql.slow_log)中,那麼僅精確到秒,微秒部分被忽略。網易雲RDS例項允許使用者設定這兩個引數值,那麼是不是使用者調整了上述兩個閾值,導致無法滿足記錄條件呢,進一步查詢發現也不是問題原因所在。


我們注意到MySQL還有個名為log_queries_not_using_indexes的引數用於控制是否記錄未走索引的SQL查詢,程式碼如下:

4bf1cda2-845e-455c-80ac-8575576bbc0c


重點關注箭頭所指內容,如果查詢未走索引或者索引無效,且相關引數開啟,那麼warn_no_index設定為true,若同時滿足掃描記錄數超過閾值,也會像慢查詢一樣被記錄,那麼是不是該引數未開呢?結果仍是否定的。


問題原因之所在

由於資料庫例項中可能有較多不走索引的SQL語句,若開啟log_queries_not_using_indexes,則存在日誌檔案或表容量增長過快的風險,此時可通過設定log_throttle_queries_not_using_indexes來限制每分鐘寫入慢日誌中的不走索引的SQL語句個數,該引數預設為0,表示不開啟,也就是說不對寫入SQL語句條數進行控制。啟用後,系統會在第一條不走索引的查詢執行後開啟一個60s的視窗,在該視窗內,僅記錄最多log_throttle_queries_not_using_indexes條SQL語句。超出部分將被抑制,在時間窗結束時,會列印該視窗內被抑制的慢查詢條數以及這些慢查詢一共花費的時間。下一個統計時間窗並不是馬上建立,而是在下一條不走索引的查詢執行後開啟。對應到該線上問題,log_throttle_queries_not_using_indexes被設定為10,在日誌檔案中看到週期性列印瞭如下內容:

6f058fa8-baa6-487b-a9f9-242ad2639dd6


確實符合上面描述的現象,使用者的慢日誌應該是被抑制了,彙總到了359裡面去。我們嘗試將log_throttle_queries_not_using_indexes設定為0,再執行對應的SQL語句,果然在日誌檔案中記錄了相應的SQL語句。這個線上問題似乎已經定位到了,就是系統產生的不走索引的慢日誌太多,而設定的log_throttle_queries_not_using_indexes太小,導致無法正常記錄使用者未走索引的慢日誌。但還有一個疑惑點沒有解決,那就是log_throttle_queries_not_using_indexes為0時,每分鐘並沒有列印超過10條慢日誌,更沒有throttle提示的359條這麼多,那麼設定為10的時候使用者提供的那條SQL語句應該被記錄到慢日誌中才對啊,為何沒有記錄,原因何在?其實,仔細看下MySQL記錄不走索引的日誌的程式碼邏輯可以找到答案:

42ab39ef-2d80-4f44-add5-445c31861129


上圖是記錄慢日誌的主邏輯,是否記錄日誌由函式log_slow_applicable控制,該函式先前已分析了一部分,我們進一步看該函式的其他相關內容,見下圖紅框:

122ef636-d42c-434f-84ea-3e84e017fd39


suppress_logging是個決定性的變數,只有它為false,該SQL語句才可能被記錄。其結果就跟log_throttle_queries_not_using_indexes相關,我們進一步看下log_throttle_qni.log相關實現,如下圖:

f53a91f7-a0dc-408c-ba42-d16230366b11


eligible即為warn_no_index,inc_log_count()函式在1分鐘內不走索引的語句總數超過log_throttle_queries_not_using_indexes時返回值為true,只有warn_no_index和inc_log_count()返回值都為true,suppress_current才為true,而suppress_current即為suppress_logging。


通過對上述2個截圖內容進行分析,可以解答之前的疑惑點:log_throttle_queries_not_using_indexes統計的是所有不走索引的語句,其中有些語句因為不滿足掃描記錄數的約束而不會記錄到慢日誌中,這就是為什麼該值為10的時候,慢日誌檔案中並沒有10條記錄。因為這10條中有8條SQL語句由於掃描記錄數太少並沒有被記錄。

7eb30301-278b-4fab-b3fa-873f8aa9e362


這也解惑了上圖中359這個數字,它這個時間窗內不走索引的SQL語句總數。所以,log_throttle_queries_not_using_indexes是個很關鍵的引數,設定不當會無法正常記錄不走索引的慢查詢,導致慢日誌功能部分失效。


InnoSQL慢日誌功能增強

還有部分RDS例項使用者問我們,為什麼我的SQL語句執行時間沒有超過所設定的long_query_time,而且走了索引,但還是被記錄到慢日誌中,是不是出Bug了?其實這不是Bug,而是因為網易雲RDS使用的InnoSQL(網易維護的MySQL開源分支)版本對慢日誌做了優化,除了考察SQL語句的執行時間外,還關注該查詢所需的磁碟頁面(Disk Page)數,因為所需的頁面數目過多,也可能會對系統負載造成較大影響。為了能夠量化統計,我們收集了SQL查詢所需讀取的總頁面數和這些頁面中實際進行IO的次數,分別記錄為logical_reads和physical_reads,前者包括命中InnoDB Buffer Pool和未命中需要進行IO的頁面請求。通過引入slow_query_type和long_query_io兩個引數為使用者提供該功能。前者可設定為0/1/2/3。1表示啟用基於執行時間來記錄慢日誌,2表示基於搜尋總頁面數來記錄慢日誌,3是1和2的合集。所以在InnoSQL中,SQL查詢只需滿足執行時間夠長或所需總頁面數夠多即可記錄到慢日誌中。程式碼實現片段如下:

6de2061b-eb73-4cfc-8043-87451295b7d4?imageView&thumbnail=980x0


頁面數閾值通過long_query_io引數來衡量,使用者可動態設定,如果總頁面數m_logical_reads超過了該值,即使執行時間未超標,也會被記錄。相應的,RDS例項慢日誌表結構和慢日誌檔案輸出內容也增加了新的欄位。

a14cfd00-e1cf-4e38-8209-172e68ffc635?imageView&thumbnail=980x0


上圖即為InnoSQL版的slow_log表結構,其中,logical_reads和physical_reads為InnoSQL增加欄位。同樣的,慢日誌檔案的輸出內容也增加了兩個欄位,如下所示:

08de7755-d962-45ba-ae4e-9a4904080367?imageView&thumbnail=980x0



補充

除了以上詳細描述的內容外,MySQL慢日誌模組還有如下幾個特性值得關注:

1、 進行慢日誌統計及慢日誌中所記錄的時間並不包括該SQL語句開始執行前獲取鎖所需等待的時間;

2、 MySQL在SQL語句執行完且所持有的鎖均已釋放後才將其寫入慢日誌中,所以慢日誌中的SQL語句記錄順序並不能準確反映這些SQL語句的實際執行順序;

3、 每條慢日誌都包含一個時間戳,若寫入檔案中,log_timestamps 引數用於將慢日誌時間戳轉化為指定時區的時間。但該引數對於mysql.slow_log表中的慢日誌不起作用;

4、 可通過設定log_slow_slave_statements來開啟MySQL從庫的慢日誌功能;ALTER TABLE, ANALYZE TABLE, CHECK TABLE, CREATE INDEX, DROP INDEX, OPTIMIZE TABLE, and REPAIR TABLE等表管理操作也能夠被記錄到慢日誌中,可通過log_slow_admin_statements選項開啟。


網易雲免費體驗館,0成本體驗20+款雲產品! 

更多網易技術、產品、運營經驗分享請點選


相關文章:
【推薦】 HTTP/2部署使用
【推薦】 手把手帶你打造一個 Android 熱修復框架(上篇)
【推薦】 不再任人欺負!手遊安全的進階之路

相關文章