寫在前面
MySQL資料庫在網際網路行業使用的比較多,有些小夥伴可能會認為MySQL資料庫比較小,儲存不了很多的資料。其實,這些小夥伴是真的不瞭解MySQL。MySQL的小不是說使用MySQL儲存的資料少,而是說其體積小,比較輕量。使用MySQL完全可以儲存千億級別的資料,這個我會在後面的文章中來給小夥伴們分享如何使用MySQL儲存千億級別以上的資料。或者小夥伴們可以提前預定我的新書《MySQL技術大全:開發、優化與運維實戰》。好了,說了這麼多,今天給大家分享一篇有關MySQL的經典面試題:如何以最高的效率從MySQL中隨機查詢一條記錄?
面試題目
如何從MySQL一個資料表中查詢一條隨機的記錄,同時要保證效率最高。
從這個題目來看,其實包含了兩個要求,第一個要求就是:從MySQL資料表中查詢一條隨機的記錄。第二個要求就是要保證效率最高。
接下來,我們就來嘗試使用各種方式來從MySQL資料表中查詢資料。
方法一
這是最原始最直觀的語法,如下:
SELECT * FROM foo ORDER BY RAND() LIMIT 1
當資料表中資料量較小時,此方法可行。但當資料量到達一定程度,比如100萬資料或以上,就有很大的效能問題。如果你通過EXPLAIN來分析這個 語句,會發現雖然MySQL通過建立一張臨時表來排序,但由於ORDER BY和LIMIT本身的特性,在排序未完成之前,我們還是無法通過LIMIT來獲取需要的記錄。亦即,你的記錄有多少條,就必須首先對這些資料進行排序。
方法二
看來對於大資料量的隨機資料抽取,效能的癥結出在ORDER BY上,那麼如何避免?方法二提供了一個方案。
首先,獲取資料表的所有記錄數:
SELECT count(*) AS num_rows FROM foo
然後,通過對應的後臺程式記錄下此記錄總數(假定為num_rows)。
然後執行:
SELECT * FROM foo LIMIT [0到num_rows之間的一個隨機數],1
上面這個隨機數的獲得可以通過後臺程式來完成。此方法的前提是表的ID是連續的或者自增長的。
這個方法已經成功避免了ORDER BY的產生。
方法三
有沒有可能不用ORDER BY,用一個SQL語句實現方法二?可以,那就是用JOIN。
SELECT * FROM Bar B JOIN (SELECT CEIL(MAX(ID)*RAND()) AS ID FROM Bar) AS m ON B.ID >= m.ID LIMIT 1;
此方法實現了我們的目的,同時,在資料量大的情況下,也避免了ORDER BY所造成的所有記錄的排序過程,因為通過JOIN裡面的SELECT語句實際上只執行了一次,而不是N次(N等於方法二中的num_rows)。而且, 我們可以在篩選語句上加上“大於”符號,還可以避免因為ID好不連續所產生的記錄為空的現象。
在MySQL中查詢5條不重複的資料,使用以下:
SELECT * FROM `table` ORDER BY RAND() LIMIT 5
就可以了。但是真正測試一下才發現這樣效率非常低。一個15萬餘條的庫,查詢5條資料,居然要8秒以上
搜尋Google,網上基本上都是查詢max(id) * rand()來隨機獲取資料。
SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id ASC LIMIT 5;
但是這樣會產生連續的5條記錄。解決辦法只能是每次查詢一條,查詢5次。即便如此也值得,因為15萬條的表,查詢只需要0.01秒不到。
上面的語句採用的是JOIN,mysql的論壇上有人使用
SELECT *
FROM `table`
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `table` )
ORDER BY id LIMIT 1;
我測試了一下,需要0.5秒,速度也不錯,但是跟上面的語句還是有很大差距。總覺有什麼地方不正常。
於是我把語句改寫了一下。
SELECT * FROM `table`
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `table`)))
ORDER BY id LIMIT 1;
這下,效率又提高了,查詢時間只有0.01秒
最後,再把語句完善一下,加上MIN(id)的判斷。我在最開始測試的時候,就是因為沒有加上MIN(id)的判斷,結果有一半的時間總是查詢到表中的前面幾行。
完整查詢語句是:
SELECT * FROM `table`
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`)))
ORDER BY id LIMIT 1;
SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`))+(SELECT MIN(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id LIMIT 1;
最後對這兩個語句進行分別查詢10次,
前者花費時間 0.147433 秒
後者花費時間 0.015130 秒
看來採用JOIN的語法比直接在WHERE中使用函式效率還要高很多。
重磅福利
微信搜一搜【冰河技術】微信公眾號,關注這個有深度的程式設計師,每天閱讀超硬核技術乾貨,公眾號內回覆【PDF】有我準備的一線大廠面試資料和我原創的超硬核PDF技術文件,以及我為大家精心準備的多套簡歷模板(不斷更新中),希望大家都能找到心儀的工作,學習是一條時而鬱鬱寡歡,時而開懷大笑的路,加油。如果你通過努力成功進入到了心儀的公司,一定不要懈怠放鬆,職場成長和新技術學習一樣,不進則退。如果有幸我們江湖再見!
另外,我開源的各個PDF,後續我都會持續更新和維護,感謝大家長期以來對冰河的支援!!