MySQL資料庫詳解（一）SQL查詢語句是如何執行的？

續杯涼茶發表於2019-06-09
MySql資料庫

一條SQL查詢語句是如何執行的?

前言

​ 大家好，我是WZY，今天我們學習下MySQL的基礎框架，看一件事千萬不要直接陷入細節裡，你應該先鳥瞰其全貌，這樣能夠幫助你從高維度理解問題。同樣，對於MySQL 的學習也是這樣。平時我們使用資料庫，看到的通常都是一個整體。比如，你有個最簡單的表，表裡只有一個 ID 欄位，在執行下面這個查詢語句時：

mysql> select * from T where ID=10；

​ 我們看到的只是輸入一條語句，返回一個結果，卻不知道這條語句在 MySQL 內部的執行過程。所以今天我想和你一起把 MySQL 拆解一下，看看裡面都有哪些“零件”，希望藉由這個拆解過程，讓你對 MySQL 有更深入的理解。這樣當我們碰到 MySQL 的一些異常或者問題時，就能夠直戳本質，更為快速地定位並解決問題。

​ 下面我給出的是 MySQL 的基本架構示意圖，從中你可以清楚地看到 SQL 語句在 MySQL 的各個功能模組中的執行過程。

MySQL的邏輯架構圖

​ 大體來說，MySQL 可以分為 Server 層和儲存引擎層兩部分。
​ Server 層包括聯結器、查詢快取、分析器、優化器、執行器等，涵蓋 MySQL 的大多數核心服務功能，以及所有的內建函式（如日期、時間、數學和加密函式等），所有跨儲存引擎的功能都在這一層實現，比如儲存過程、觸發器、檢視等。而儲存引擎層負責資料的儲存和提取。其架構模式是外掛式的，支援 InnoDB、MyISAM、Memory 等多個儲存引擎。現在最常用的儲存引擎是 InnoDB，它從 MySQL 5.5.5 版本開始成為了預設儲存引擎。
​ 也就是說，你執行 create table 建表的時候，如果不指定引擎型別，預設使用的就是InnoDB。不過，你也可以通過指定儲存引擎的型別來選擇別的引擎，比如在 create table 語句中使用 engine=memory, 來指定使用記憶體引擎建立表。不同儲存引擎的表資料存取方式不同，支援的功能也不同，在後面的文章中，我們會討論到引擎的選擇。

​ 從圖中不難看出，不同的儲存引擎共用一個Server 層，也就是從聯結器到執行器的部分。你可
以先對每個元件的名字有個印象，接下來我會結合開頭提到的那條 SQL 語句，帶你走一遍整個
執行流程，依次看下每個元件的作用。
聯結器
​ 第一步，你會先連線到這個資料庫上，這時候接待你的就是聯結器。聯結器負責跟客戶端建立連
接、獲取許可權、維持和管理連線。連線命令一般是這麼寫的：

mysql -h$ip -P$port -u$user -p

​ 輸完命令之後，你就需要在互動對話裡面輸入密碼。雖然密碼也可以直接跟在 -p 後面寫在命令列中，但這樣可能會導致你的密碼洩露。如果你連的是生產伺服器，強烈建議你不要這麼做。
​ 連線命令中的 mysql 是客戶端工具，用來跟服務端建立連線。在完成經典的 TCP 握手後，聯結器就要開始認證你的身份，這個時候用的就是你輸入的使用者名稱和密碼。

​ 如果使用者名稱或密碼不對，你就會收到一個"Access denied for user"的錯誤，然後客戶端程式結束執行。
​ 如果使用者名稱密碼認證通過，聯結器會到許可權表裡面查出你擁有的許可權。之後，這個連線裡面的許可權判斷邏輯，都將依賴於此時讀到的許可權。

​ 這就意味著，一個使用者成功建立連線後，即使你用管理員賬號對這個使用者的許可權做了修改，也不會影響已經存在連線的許可權。修改完成後，只有再新建的連線才會使用新的許可權設定。連線完成後，如果你沒有後續的動作，這個連線就處於空閒狀態，你可以在 show processlist命令中看到它。文字中這個圖是 show processlist 的結果，其中的 Command 列顯示為“Sleep”的這一行，就表示現在系統裡面有一個空閒連線。

MySQL資料庫詳解（一）SQL查詢語句是如何執行的？

​ 客戶端如果太長時間沒動靜，聯結器就會自動將它斷開。這個時間是由引數 wait_timeout 控制
的，預設值是 8 小時。
​ 如果在連線被斷開之後，客戶端再次傳送請求的話，就會收到一個錯誤提醒： Lost connection to MySQL server during query。這時候如果你要繼續，就需要重連，然後再執行請求了。

資料庫裡面，長連線是指連線成功後，如果客戶端持續有請求，則一直使用同一個連線。短連線
則是指每次執行完很少的幾次查詢就斷開連線，下次查詢再重新建立一個。
建立連線的過程通常是比較複雜的，所以我建議你在使用中要儘量減少建立連線的動作，也就是
儘量使用長連線。

但是全部使用長連線後，你可能會發現，有些時候 MySQL 佔用記憶體漲得特別快，這是因為
MySQL 在執行過程中臨時使用的記憶體是管理在連線物件裡面的。這些資源會在連線斷開的時候
才釋放。所以如果長連線累積下來，可能導致記憶體佔用太大，被系統強行殺掉（OOM），從現
象看就是 MySQL 異常重啟了。
怎麼解決這個問題呢？你可以考慮以下兩種方案。

  1. 定期斷開長連線。使用一段時間，或者程式裡面判斷執行過一個佔用記憶體的大查詢後，斷開
    連線，之後要查詢再重連。
  2. 如果你用的是 MySQL 5.7 或更新版本，可以在每次執行一個比較大的操作後，通過執行
    mysql_reset_connection 來重新初始化連線資源。這個過程不需要重連和重新做許可權驗
    證，但是會將連線恢復到剛剛建立完時的狀態。

查詢快取

​ 連線建立完成後，你就可以執行 select 語句了。執行邏輯就會來到第二步：查詢快取。MySQL 拿到一個查詢請求後，會先到查詢快取看看，之前是不是執行過這條語句。之前執行過的語句及其結果可能會以 key-value 對的形式，被直接快取在記憶體中。key 是查詢的語句，value 是查詢的結果。如果你的查詢能夠直接在這個快取中找到 key，那麼這個 value 就會被直接返回給客戶端。

​ 如果語句不在查詢快取中，就會繼續後面的執行階段。執行完成後，執行結果會被存入查詢快取中。你可以看到，如果查詢命中快取，MySQL 不需要執行後面的複雜操作，就可以直接返回結果，這個效率會很高。但是大多數情況下我會建議你不要使用查詢快取，為什麼呢？因為查詢快取往往弊大於利。查詢快取的失效非常頻繁，只要有對一個表的更新，這個表上所有的查詢快取都會被清空。因此很可能你費勁地把結果存起來，還沒使用呢，就被一個更新全清空了。對於更新壓力大的資料庫來說，查詢快取的命中率會非常低。除非你的業務就是有一張靜態表，很長時間才會更新一次。

​ 比如，一個系統配置表，那這張表上的查詢才適合使用查詢快取。好在 MySQL 也提供了這種“按需使用”的方式。你可以將引數 query_cache_type 設定成DEMAND，這樣對於預設的 SQL 語句都不使用查詢快取。而對於你確定要使用查詢快取的語句，可以用 SQL_CACHE 顯式指定，像下面這個語句一樣：

mysql> select SQL_CACHE * from T where ID=10；

​ 需要注意的是，MySQL 8.0 版本直接將查詢快取的整塊功能刪掉了，也就是說 8.0 開始徹底沒有這個功能了。
分析器
​ 如果沒有命中查詢快取，就要開始真正執行語句了。首先，MySQL 需要知道你要做什麼，因此需要對 SQL 語句做解析。
​ 分析器先會做“詞法分析”。你輸入的是由多個字串和空格組成的一條 SQL 語句，MySQL需要識別出裡面的字串分別是什麼，代表什麼。
​ MySQL 從你輸入的"select"這個關鍵字識別出來，這是一個查詢語句。它也要把字串“T”識別成“表名 T”，把字串“ID”識別成“列 ID”。
​ 做完了這些識別以後，就要做“語法分析”。根據詞法分析的結果，語法分析器會根據語法規則，判斷你輸入的這個 SQL 語句是否滿足 MySQL 語法。如果你的語句不對，就會收到“You have an error in your SQL syntax”的錯誤提醒，比如下面這個語句 select 少打了開頭的字母“s”。

mysql> elect * from t where ID=1;
ERROR 1064 (42000): You have an error in your SQL syntax;

一般語法錯誤會提示第一個出現錯誤的位置，所以你要關注的是緊接“use near”的內容。

優化器
經過了分析器，MySQL 就知道你要做什麼了。在開始執行之前，還要先經過優化器的處理。優化器是在表裡面有多個索引的時候，決定使用哪個索引；或者在一個語句有多表關聯（join）的時候，決定各個表的連線順序。比如你執行下面這樣的語句，這個語句是執行兩個表的join：

mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;

​ 既可以先從表 t1 裡面取出 c=10 的記錄的 ID 值，再根據 ID 值關聯到表 t2，再判斷 t2 裡面d 的值是否等於 20。
​ 也可以先從表 t2 裡面取出 c=20 的記錄的 ID 值，再根據 ID 值關聯到 t1，再判斷 t1 裡面 c的值是否等於 10。

這兩種執行方法的邏輯結果是一樣的，但是執行的效率會有不同，而優化器的作用就是決定選擇使用哪一個方案。

​ 優化器階段完成後，這個語句的執行方案就確定下來了，然後進入執行器階段。如果你還有一些疑問，比如優化器是怎麼選擇索引的，有沒有可能選擇錯等等，沒關係，我會在後面的文章中單獨展開說明優化器的內容。

執行器
MySQL 通過分析器知道了你要做什麼，通過優化器知道了該怎麼做，於是就進入了執行器階段，開始執行語句。開始執行的時候，要先判斷一下你對這個表 T 有沒有執行查詢的許可權，如果沒有，就會返回沒有許可權的錯誤，如下所示。

mysql> select * from T where ID=10;

ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有許可權，就開啟表繼續執行。開啟表的時候，優化器就會根據表的引擎定義，去使用這個引
擎提供的介面。
比如我們這個例子中的表 T 中，ID 欄位沒有索引，那麼執行器的執行流程是這樣的：

  1. 呼叫 InnoDB 引擎介面取這個表的第一行，判斷 ID 值是不是 10，如果不是則跳過，如果
    是則將這行存在結果集中；
  2. 呼叫引擎介面取“下一行”，重複相同的判斷邏輯，直到取到這個表的最後一行。
  3. 執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集返回給客戶端。至此，這個語句就執行完成了。

對於有索引的表，執行的邏輯也差不多。第一次呼叫的是“取滿足條件的第一行”這個介面，之後迴圈取“滿足條的下一行”這個介面，這些介面都是引擎中已經定義好的。

你會在資料庫的慢查詢日誌中看到一個 rows_examined 的欄位，表示這個語句執行過程中掃描了多少行。這個值就是在執行器每次呼叫引擎獲取資料行的時候累加的。

在有些場景下，執行器呼叫一次，在引擎內部則掃描了多行，因此引擎掃描行數跟rows_examined 並不是完全相同的。我們後面會專門有一篇文章來講儲存引擎的內部機制，裡面會有詳細的說明。

小結
今天介紹了 MySQL 的邏輯架構，希望你對一個 SQL 語句完整執行流程的各個階段有了一個初步的印象。最後，我們來看一個問題吧，如果表 T 中沒有欄位 k，而你執行了這個語句 select * from T where k=1, 那肯定是會報“不存在這個列”的錯誤： “Unknown column ‘k’ in ‘where clause’”。你覺得這個錯誤是在我們上面提到的哪個階段報出來的呢？ 有知道答案的，可以在評論區留言哦！

相關文章