# 輸入的查詢 SQL 語句，是如何執行的？

執行如下 SQL，我們看到的只是輸入一條語句，返回一個結果，卻不知道這條語句在 MySQL 內部的執行過程。

```text
select * from where id ='1';
```

![img](https://pic3.zhimg.com/80/v2-ec298ed16d12fd2e7415a476f4dad30a_720w.jpg)

上圖給出的是 MySQL 的基本架構示意圖，從中你可以清楚地看到 SQL 語句在 MySQL 的各個功能模組中的執行過程。大體來說，MySQL 可以分為 Server 層和儲存引擎層兩部分。

Server 層包括聯結器、查詢快取、分析器、最佳化器、執行器等，涵蓋 MySQL 的大多數核心服務功能，以及所有的內建函式（如日期、時間、數學和加密函式等），所有跨儲存引擎的功能都在這一層實現，比如儲存過程、觸發器、檢視等。

而儲存引擎層負責資料的儲存和提取。其架構模式是外掛式的，支援 InnoDB、MyISAM、Memory 等多個儲存引擎。現在最常用的儲存引擎是 InnoDB，它從 MySQL 5.5.5 版本開始成為了預設儲存引擎。也可以透過指定儲存引擎的型別來選擇別的引擎，比如在 create table 語句中使用 engine=memory, 來指定使用記憶體引擎建立表。

![img](https://pic4.zhimg.com/80/v2-7fd1b445647a052afc0af70116f29943_720w.jpg)

一條 SQL 查詢的完整執行流程如上圖所示。

## Server 服務層

### 聯結器

連線資料庫最開始肯定是聯結器。聯結器負責跟客戶端建立連線、獲取許可權、維持和管理連線。連線命令一般是這麼寫的：

```text
mysql -h$ip -P$port -u$user -p
```

輸完命令之後，你就需要在互動對話裡面輸入密碼。雖然密碼也可以直接跟在 -p 後面寫在命令列中，但這樣可能會導致你的密碼洩露。如果你連的是生產伺服器，強烈建議你不要這麼做。

連線命令中的 mysql 是客戶端工具，用來跟服務端建立連線。在完成經典的 TCP 握手後，聯結器就要開始認證你的身份，這個時候用的就是你輸入的使用者名稱和密碼。

- 如果使用者名稱或密碼不對，你就會收到一個 "**Access denied for user**" 的錯誤，然後客戶端程式結束執行。
- 如果使用者名稱密碼認證透過，聯結器會到許可權表裡面查出你擁有的許可權。之後，這個連線裡面的許可權判斷邏輯，都將依賴於此時讀到的許可權。

這就意味著，一個使用者成功建立連線後，即使你用管理員賬號對這個使用者的許可權做了修改，也不會影響已經存在連線的許可權。修改完成後，只有再新建的連線才會使用新的許可權設定。

連線完成後，如果你沒有後續的動作，這個連線就處於空閒狀態，你可以在 show processlist 命令中看到它。文字中這個圖是 show processlist 的結果，其中的 Command 列顯示為 “Sleep” 的這一行，就表示現在系統裡面有一個空閒連線。

![img](https://pic2.zhimg.com/80/v2-0303f45e7e5518f45abac4df64ec4505_720w.jpg)

客戶端如果太長時間沒動靜，聯結器就會自動將它斷開。這個時間是由引數 wait_timeout 控制的，預設值是 8 小時。

如果在連線被斷開之後，客戶端再次傳送請求的話，就會收到一個錯誤提醒： Lost connection to MySQL server during query。這時候如果你要繼續，就需要重連，然後再執行請求了。

資料庫裡面，長連線是指連線成功後，如果客戶端持續有請求，則一直使用同一個連線。短連線則是指每次執行完很少的幾次查詢就斷開連線，下次查詢再重新建立一個。

建立連線的過程通常是比較複雜的，所以我建議你在使用中要儘量減少建立連線的動作，也就是儘量使用長連線。但是全部使用長連線後，你可能會發現，有些時候 MySQL 佔用記憶體漲得特別快，這是因為 MySQL 在執行過程中臨時使用的記憶體是管理在連線物件裡面的。這些資源會在連線斷開的時候才釋放。所以如果長連線累積下來，可能導致記憶體佔用太大，被系統強行殺掉（OOM），從現象看就是 MySQL 異常重啟了。

怎麼解決這個問題呢？你可以考慮以下兩種方案。

1. 定期斷開長連線。使用一段時間，或者程式裡面判斷執行過一個佔用記憶體的大查詢後，斷開連線，之後要查詢再重連。
2. 如果你用的是 MySQL 5.7 或更新版本，可以在每次執行一個比較大的操作後，透過執行 mysql_reset_connection 來重新初始化連線資源。這個過程不需要重連和重新做許可權驗證，但是會將連線恢復到剛剛建立完時的狀態。

### 查詢快取

連線建立完成後，你就可以執行 select 語句了。執行邏輯就會來到第二步：查詢快取。

MySQL 拿到一個查詢請求後，會先到查詢快取看看，之前是不是執行過這條語句。之前執行過的語句及其結果可能會以 key-value 對的形式，被直接快取在記憶體中。key 是查詢的語句，value 是查詢的結果。如果你的查詢能夠直接在這個快取中找到 key，那麼這個 value 就會被直接返回給客戶端。

如果語句不在查詢快取中，就會繼續後面的執行階段。執行完成後，執行結果會被存入查詢快取中。你可以看到，如果查詢命中快取，MySQL 不需要執行後面的複雜操作，就可以直接返回結果，這個效率會很高。

**但是大多數情況下我會建議你不要使用查詢快取，為什麼呢？因為查詢快取往往弊大於利。**

查詢快取的失效非常頻繁，只要有對一個表的更新，這個表上所有的查詢快取都會被清空。因此很可能你費勁地把結果存起來，還沒使用呢，就被一個更新全清空了。對於更新壓力大的資料庫來說，查詢快取的命中率會非常低。除非你的業務就是有一張靜態表，很長時間才會更新一次。比如，一個系統配置表，那這張表上的查詢才適合使用查詢快取。

好在 MySQL 也提供了這種 “按需使用” 的方式。你可以將引數 query_cache_type 設定成 DEMAND，這樣對於預設的 SQL 語句都不使用查詢快取。而對於你確定要使用查詢快取的語句，可以用 SQL_CACHE 顯式指定，像下面這個語句一樣：

```text
mysql> select SQL_CACHE * from T where ID=10；
```

需要注意的是，**MySQL 8.0 版本直接將查詢快取的整塊功能刪掉了**，也就是說 8.0 開始徹底沒有這個功能了。

### 分析器

如果沒有命中查詢快取，就要開始真正執行語句了。首先，MySQL 需要知道你要做什麼，因此需要對 SQL 語句做解析。

分析器先會做 “詞法分析”。你輸入的是由多個字串和空格組成的一條 SQL 語句，MySQL 需要識別出裡面的字串分別是什麼，代表什麼。

MySQL 從你輸入的 "select" 這個關鍵字識別出來，這是一個查詢語句。它也要把字串 “T” 識別成 “表名 T”，把字串 “ID” 識別成 “列 ID”。

做完了這些識別以後，就要做 “語法分析”。根據詞法分析的結果，語法分析器會根據語法規則，判斷你輸入的這個 SQL 語句是否滿足 MySQL 語法。

如果你的語句不對，就會收到 “**You have an error in your SQL syntax**” 的錯誤提醒，比如下面這個語句 select 少打了開頭的字母 “s”。

```text
mysql> elect * from t where ID=1;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1
```

一般語法錯誤會提示第一個出現錯誤的位置，所以你要關注的是緊接 “use near” 的內容。

### 最佳化器

經過了分析器，MySQL 就知道你要做什麼了。在開始執行之前，還要先經過最佳化器的處理。

最佳化器是在表裡面有多個索引的時候，決定使用哪個索引；或者在一個語句有多表關聯（join）的時候，決定各個表的連線順序。通常兩種執行方法的邏輯結果是一樣的，但是執行的效率會有不同，而最佳化器的作用就是決定選擇使用哪一個方案。最佳化器階段完成後，這個語句的執行方案就確定下來了，然後進入執行器階段。

執行 SQL 查詢的時候最佳化器主要執行如下任務：

1. 選擇最合適的索引；
2. 選擇表掃還是走索引；
3. 選擇表關聯順序；
4. 最佳化 where 子句；
5. 排除管理中無用表；
6. 決定 order by 和 group by 是否走索引；
7. 嘗試使用 inner join 替換 outer join；
8. 簡化子查詢，決定結果快取；

MySQL 查詢最佳化器有幾個目標，但是其中最主要的目標是儘可能地使用索引，並且使用最嚴格的索引來消除儘可能多的資料行。

最佳化器試圖排除資料行的原因在於它排除資料行的速度越快，那麼找到與條件匹配的資料行也就越快。如果能夠首先進行最嚴格的測試，查詢就可以執行地更快。

### 執行器

MySQL 透過分析器知道了你要做什麼，透過最佳化器知道了該怎麼做，於是就進入了執行器階段，開始執行語句。
開始執行的時候，要先判斷一下你對這個表 T 有沒有執行查詢的許可權，如果沒有，就會返回沒有許可權的錯誤，如下所示 (在工程實現上，如果命中查詢快取，會在查詢快取返回結果的時候，做許可權驗證。查詢也會在最佳化器之前呼叫 precheck 驗證許可權)。

```text
mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'
```

如果有許可權，就開啟表繼續執行。開啟表的時候，執行器就會根據表的引擎定義，去使用這個引擎提供的介面。
比如我們這個例子中的表 T 中，ID 欄位沒有索引，那麼執行器的執行流程是這樣的：

1. 呼叫 InnoDB 引擎介面取這個表的第一行，判斷 ID 值是不是 10，如果不是則跳過，如果是則將這行存在結果集中；
2. 呼叫引擎介面取 “下一行”，重複相同的判斷邏輯，直到取到這個表的最後一行。
3. 執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集返回給客戶端。

至此，這個語句就執行完成了。

對於有索引的表，執行的邏輯也差不多。第一次呼叫的是 “取滿足條件的第一行” 這個介面，之後迴圈取 “滿足條件的下一行” 這個介面，這些介面都是引擎中已經定義好的。

你會在資料庫的慢查詢日誌中看到一個 rows_examined 的欄位，表示這個語句執行過程中掃描了多少行。這個值就是在執行器每次呼叫引擎獲取資料行的時候累加的。

在有些場景下，執行器呼叫一次，在引擎內部則掃描了多行，因此**引擎掃描行數跟 rows_examined 並不是完全相同的。**

## 儲存引擎

透過 show engines; 檢視引擎型別，可以看出來要用到事務只能用 InnoDB 引擎型別。

![img](https://pic4.zhimg.com/80/v2-bb0bab84003e1bb7ccc81b08045ce693_720w.jpg)

### InnoDB 儲存引擎

InnoDB 是 MySQL 的預設事務型引擎，也是最重要、使用最廣泛的儲存引擎，並且有行級鎖定和外來鍵約束。它被設計用來處理大量的短期 (short-lived) 事務，短期事務大部分情況是正常提交，很少會被回滾。InnoDB 的效能和自動崩潰恢復特性，使得它在非事務型儲存的需求中也很流行。除非有非常特別的原因需要使用其他的儲存引擎，否則應該優先考慮 InnoDB 引擎。

InnoDB 的適用場景 / 特性，有以下幾種：

- 經常更新的表，適合處理多重併發的更新請求。
- 支援事務。
- 可以從災難中恢復（透過 bin-log 日誌等）。
- 外來鍵約束。只有他支援外來鍵。
- 支援自動增加列屬性 auto_increment。

### MyISAM 儲存引擎

MyISAM 提供了大量的特性，包括全文檢索、壓縮等，但不支援事務和行級鎖，支援表級鎖。 對於只讀的資料，或者表較小、可以忍受修復操作的場景，依然可以使用 MyISAM。

MyISAM 的適用場景 / 特性，有以下幾種：

- 不支援事務的設計，但是並不代表著有事務操作的專案不能用 MyISAM 儲存引擎，完全可以在程式層進行根據自己的業務需求進行相應的控制。
- 不支援外來鍵的表設計。
- 查詢速度很快，如果資料庫 insert 和 update 的操作比較多的話比較適用。
- 整天 對錶進行加鎖的場景。
- MyISAM 極度強調快速讀取操作。
- MyIASM 中儲存了表的行數，於是 SELECT COUNT (*) FROM TABLE 時只需要直接讀取已經儲存好的值而不需要進行全表掃描。如果表的讀操作遠遠多於寫操作且不需要資料庫事務的支援，那麼 MyIASM 也是很好的選擇。

### MySQL 內建的其他儲存引擎

MySQL 還有一些特殊用途的儲存引擎，在一些特殊場景下用起來會很爽的。在 MySQL 新版本中，有些可能因為一些原因已經不再支援了，還有一些會繼續支援，但是需要明確地啟用後才能使用。

### Archive 儲存引擎

Archive 引擎只支援 insert 和 select 操作，並且在 MySQL 5.1 之前連索引都不支援。

Archive 引擎會快取所有的寫並利用 zlib 對插入的行進行壓縮，所以比 MyISAM 引擎的磁碟 I/O 更少。但是每次 select 查詢都需要進行全表掃描，所以 Archive 更適合日誌和資料採集類應用，況且這類應用在做資料分析時往往需要全表掃描。

Archive 引擎支援行級鎖和專用的緩衝區，所以可以實現高併發的插入。在一個查詢開始直到返回表中存在的所有行之前，Archive 引擎會阻止其他的 select 執行，以實現一致性讀。另外，這也實現了批次插入在完成之前對讀操作是不看見的。

### Blackhole 儲存引擎

Blackhole 引擎沒有實現任何的儲存機制，它會丟失所有插入的資料，不做任何儲存。怪哉，豈不是一無用處？但是伺服器會記錄 Blackhole 的日誌，所以可以用於複製資料到備庫，或者只是簡單地記錄到日誌。這種特殊的儲存引擎可以在一些特殊的複製架構和日誌稽核時發揮作用。

但這種儲存引擎的存在，至今還是有些難以理解。

### CSV 儲存引擎

CSV 引擎可以將普通的 CSV 檔案作為 MySQL 的表來處理，但這種表不支援索引。

CSV 引擎可以在資料庫執行時拷入或者拷出檔案，可以將 Excel 等電子表格軟體中的資料儲存為 CSV 檔案，然後複製到 MySQL 資料目錄下，就能在 MySQL 中開啟使用。同樣，如果將資料寫入到一個 CSV 引擎表中，其他的外部程式也能立即從表的資料檔案中讀取 CSV 格式的資料。

因此，CSV 引擎可以作為一種資料交換的機制，是非常有用的。

### Memory 儲存引擎

如果需要快速地訪問資料，並且這些資料不會被修改，重啟以後丟失也沒有關係，那麼使用 Memory 引擎是非常有用的。Memory 引擎至少比 MyISAM 引擎要快一個數量級，因為所有的資料都儲存在記憶體中，不需要進行磁碟 I/O。Memory 引擎的表結構在重啟以後還會保留，但資料會丟失。

Memory 引擎在很多場景下可以發揮很好的作用：

- 用於查詢或者對映表，例如將郵箱和州名對映的表。
- 用於快取週期性聚合資料的結果。
- 用於儲存資料分析中產生的中間資料。

Memory 引擎支援 Hash 索引，因此查詢非常快。雖然 Memory 的速度非常快，但還是無法取代傳統的基於磁碟的表。Memory 引擎是表級鎖，因此併發吸入的效能較低。

如果 MySQL 在執行查詢的過程中，需要使用臨時表來儲存中間結果，內部使用的臨時表就是 Memory 引擎。如果中間結果太大超出了 Memory 的限制，或者含有 BLOB 或 TEXT 欄位，則臨時表會轉換成 MyISAM 的引擎。

看了上面的說明，大家就會經常混淆 Memory 和臨時表了。臨時表是指使用 CREATE TEMPORARY TABLE 語句建立的表，它可以使用任何儲存引擎，因此和 Memory 不是一回事。臨時表只在單個連線中可見，當連線斷開時，臨時表也將不復存在。

關於臨時表和 Memory 引擎的那些事，可參考 MySQL・引擎特性・臨時表那些事兒。

MySQL 的儲存引擎及第三方儲存引擎，還有很多，在此就不一一介紹了，後續如有需要，再進一步來談談。

## 如何選擇合適的儲存引擎呢

這麼多儲存引擎，真是眼花繚亂，我們該如何選擇呢？

大部分情況下，都會選擇預設的儲存引擎 ——InnoDB，並且這也是最正確的選擇，所以 Oracle 在 MySQL 5.5 版本時終於將 InnoDB 作為預設的儲存引擎了。

對於如何選擇合適的儲存引擎，可以簡單地歸納為一句話：” 除非需要用到某些 InnoDB 不具備的特性，並且沒有其他可以替代，否則都應該優先選擇 InnoDB 引擎”。

以上的環境博主都是部署在[cnaaa雲伺服器](https://www.cnaaa.com/)上的，感興趣的朋友也可以自己部署一套嘗試下，例如，如果要用到全文檢索，建議優先考慮 InnoDB 加上 Sphinx 的組合，而不是使用支援全文檢索的 MyISAM。當然，如果不需要用到 InnoDB 的特性，同時其他引擎的特效能夠更好地滿足需求，就可以考慮一下其他儲存引擎。
除非萬不得已，建議不要混合使用多種儲存引擎，否則可能帶來一系列複雜的問題，以及一些潛在的 bug 和邊界問題。

如果需要使用不同的儲存引擎，建議考慮從以下幾個因素進行衡量考慮。

- 事務
- 備份
- 恢復
- 特有的特性

## 其他查詢引擎 SQL

透過下面的命令檢視預設的儲存引擎。

```text
mysql> show variables like '%storage_engine%';
--檢視錶的儲存引擎
show table status like "table_name" ;
```

輸入的查詢 SQL 語句，是如何執行的？

相關文章