有一個業務是查詢最新稽核的5條資料
SELECT `id`, `title`
FROM `th_content`
WHERE `audit_time` < 1541984478
AND `status` = 'ONLINE'
ORDER BY `audit_time` DESC, `id` DESC
LIMIT 5;
檢視當時的監控情況 cpu 使用率是超過了100%,show processlist
看到很多類似的查詢都是處於create sort index
的狀態。
檢視該表的結構
CREATE TABLE `th_content` (
`id` bigint(20) unsigned NOT NULL AUTO_INCREMENT,
`title` varchar(500) CHARACTER SET utf8 NOT NULL DEFAULT '' COMMENT '內容標題',
`content` mediumtext CHARACTER SET utf8 NOT NULL COMMENT '正文內容',
`audit_time` int(11) unsigned NOT NULL DEFAULT '0' COMMENT '稽核時間',
`last_edit_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '最近編輯時間',
`status` enum('CREATED','CHECKING','IGNORED','ONLINE','OFFLINE') CHARACTER SET utf8 NOT NULL DEFAULT 'CREATED' COMMENT '資訊狀態',
PRIMARY KEY (`id`),
KEY `idx_at_let` (`audit_time`,`last_edit_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
索引有一個audit_time
在左邊的聯合索引,沒有關於status
的索引。
分析上面的sql執行的邏輯:
- 從聯合索引裡找到所有小於該稽核時間的主鍵id(假如在該時間戳之前已經稽核了100萬條資料,則會在聯合索引裡取出對應的100萬條資料的主鍵 id)
- 未來如果有一個優化就好了,目前還有:
對100個主鍵 id 排序,然後在下面一步回表操作中捱得近的主鍵可能一次磁碟 I/O 就都取到了 - 逐個回表,查出100萬行記錄,篩選出
status='ONLINE'
的行記錄 - 最後對查詢的結果進行排序(假如有50萬行都是ONLINE,則繼續對這50萬行進行排序)
最後因為資料量很大,雖然只取5行,但是按照我們剛剛舉的極端例子,實際查詢了100萬行資料,而且最後還在記憶體中進行了50萬行資料庫的記憶體排序。
所以是非常低效的。
畫了一個示意圖,說明第一步的查詢過程,粉紅色部分表示最後需要回表查詢的資料行。
圖中我按照索引儲存規律來YY偽造填充了一些資料,如有不對請留言指出。希望通過這張圖大家能夠看到聯合索引儲存的方式和索引查詢的方式
改進思路 1
範圍查詢向來不太好使用好索引的,如果我們增加一個audit_time
, status
的聯合索引,會有哪些改進呢?
ALTER TABLE `th_content` ADD INDEX `idx_audit_status` (`audit_time`, `status`);
mysql> explain select `id`, `title` from `th_content` where `audit_time` < 1541984478 and `status` = 'ONLINE' order by `audit_time` desc, `id` desc limit 5;
+----+-------------+------------+-------+------------------------------------------+------------------+---------+------+--------+-------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
+----+-------------+------------+-------+------------------------------------------+------------------+---------+------+--------+-------------+
| 1 | SIMPLE | th_content | range | idx_at_ft_pt_let,idx_audit_status | idx_audit_status | 4 | NULL | 209754 | Using where |
+----+-------------+------------+-------+------------------------------------------+------------------+---------+------+--------+-------------+
細節:因為
audit_time
是一個範圍查詢,所以第二列的索引用不上了,只能用到audit_time
,所以key_len
是4。而下面思路2中,還是這兩個欄位key_len
則是5。
還是分析下在新增了該索引之後的執行過程:
- 從聯合索引裡找到小於該稽核時間的
audit_time
最大的一行的聯合索引 - 然後依次往下找,因為
< audit_time
是一個範圍查詢,而第二列索引的值是分散的。所以需要依次往前查詢,匹配出滿足條件(status
=’ONLINE’)的索引行,直到取到第5行為止。 - 回表查詢需要的具體資料
在上面的示意圖中,粉紅色標識滿足第一列索引要求的行,依次向前查詢,本個葉子節點上篩選到了3條記錄,然後需要繼續向左,到前一個葉子節點繼續查詢。直到找到5條滿足記錄的行。
改進之處
因為在索引裡面有status
的值,所以在篩選不滿足status
=’ONLINE’行的時候,就不用回表查詢了。在回表的時候只有5行資料的查詢了,在iops
上會大大減少。
該索引的弊端
如果idx_audit_status
裡掃描5行都是status
是ONLINE
,那麼只需掃描5行;
如果idx_audit_status
裡掃描前100萬行中,只有4行status
是ONLINE
,則需要掃描100萬零1行,才能得到需要的5行記錄。索引需要掃描的行數不確定。
改進思路 2
ALTER TABLE `th_content` DROP INDEX `idx_audit_status`;
ALTER TABLE `th_content` ADD INDEX `idx_status_audit` (`status`, `audit_time`);
這樣不管是排序還是回表都毫無壓力啦。
來源:mengkang.net/1302.html
本作品採用《CC 協議》,轉載必須註明作者和本文連結