MySQL 效能優化之SQL優化

神諭丶發表於2015-04-08
MySql優化


有人反饋之前幾篇文章過於理論缺少實際操作細節，這篇文章就多一些可操作性的內容吧。

注：這篇文章是以 MySQL 為背景，很多內容同時適用於其他關係型資料庫，需要有一些索引知識為基礎

  • 優化目標
    1. 減少 IO 次數
      IO永遠是資料庫最容易瓶頸的地方，這是由資料庫的職責所決定的，大部分資料庫操作中超過90%的時間都是 IO 操作所佔用的，減少 IO 次數是 SQL 優化中需要第一優先考慮，當然，也是收效最明顯的優化手段。
    2. 降低 CPU 計算
      除了 IO 瓶頸之外，SQL優化中需要考慮的就是 CPU 運算量的優化了。order by, group by,distinct … 都是消耗 CPU 的大戶（這些操作基本上都是 CPU 處理記憶體中的資料比較運算）。當我們的 IO 優化做到一定階段之後，降低 CPU 計算也就成為了我們 SQL 優化的重要目標
  • 優化方法
    1. 改變 SQL 執行計劃
      明確了優化目標之後，我們需要確定達到我們目標的方法。對於 SQL 語句來說，達到上述2個目標的方法其實只有一個，那就是改變 SQL 的執行計劃，讓他儘量“少走彎路”，儘量通過各種“捷徑”來找到我們需要的資料，以達到 “減少 IO 次數” 和 “降低 CPU 計算” 的目標
  • 常見誤區
    1. count(1)和count(primary_key) 優於 count(*)
      很多人為了統計記錄條數，就使用 count(1) 和 count(primary_key) 而不是 count(*) ，他們認為這樣效能更好，其實這是一個誤區。對於有些場景，這樣做可能效能會更差，應為資料庫對 count(*) 計數操作做了一些特別的優化。
    2. count(column) 和 count(*) 是一樣的
      這個誤區甚至在很多的資深工程師或者是 DBA 中都普遍存在，很多人都會認為這是理所當然的。實際上，count(column) 和 count(*) 是一個完全不一樣的操作，所代表的意義也完全不一樣。
      count(column) 是表示結果集中有多少個column欄位不為空的記錄
      count(*) 是表示整個結果集有多少條記錄
    3. select a,b from … 比 select a,b,c from … 可以讓資料庫訪問更少的資料量
      這個誤區主要存在於大量的開發人員中，主要原因是對資料庫的儲存原理不是太瞭解。
      實際上，大多數關係型資料庫都是按照行（row）的方式儲存，而資料存取操作都是以一個固定大小的IO單元（被稱作 block 或者 page）為單位，一般為4KB，8KB… 大多數時候，每個IO單元中儲存了多行，每行都是儲存了該行的所有欄位（lob等特殊型別欄位除外）。
      所以，我們是取一個欄位還是多個欄位，實際上資料庫在表中需要訪問的資料量其實是一樣的。
      當然，也有例外情況，那就是我們的這個查詢在索引中就可以完成，也就是說當只取 a,b兩個欄位的時候，不需要回表，而c這個欄位不在使用的索引中，需要回表取得其資料。在這樣的情況下，二者的IO量會有較大差異。
    4. order by 一定需要排序操作
      我們知道索引資料實際上是有序的，如果我們的需要的資料和某個索引的順序一致，而且我們的查詢又通過這個索引來執行，那麼資料庫一般會省略排序操作，而直接將資料返回，因為資料庫知道資料已經滿足我們的排序需求了。
      實際上，利用索引來優化有排序需求的 SQL，是一個非常重要的優化手段
      延伸閱讀：MySQL ORDER BY 的實現分析 ，MySQL 中 GROUP BY 基本實現原理 以及 MySQL DISTINCT 的基本實現原理 這3篇文章中有更為深入的分析，尤其是第一篇
    5. 執行計劃中有 filesort 就會進行磁碟檔案排序
      有這個誤區其實並不能怪我們，而是因為 MySQL 開發者在用詞方面的問題。filesort 是我們在使用 explain 命令檢視一條 SQL 的執行計劃的時候可能會看到在 “Extra” 一列顯示的資訊。
      實際上，只要一條 SQL 語句需要進行排序操作，都會顯示“Using filesort”，這並不表示就會有檔案排序操作。
      延伸閱讀：理解 MySQL Explain 命令輸出中的filesort，我在這裡有更為詳細的介紹
  • 基本原則
    1. 儘量少 join
      MySQL 的優勢在於簡單，但這在某些方面其實也是其劣勢。MySQL 優化器效率高，但是由於其統計資訊的量有限，優化器工作過程出現偏差的可能性也就更多。對於複雜的多表 Join，一方面由於其優化器受限，再者在 Join 這方面所下的功夫還不夠，所以效能表現離 Oracle 等關係型資料庫前輩還是有一定距離。但如果是簡單的單表查詢，這一差距就會極小甚至在有些場景下要優於這些資料庫前輩。
    2. 儘量少排序
      排序操作會消耗較多的 CPU 資源，所以減少排序可以在快取命中率高等 IO 能力足夠的場景下會較大影響 SQL 的響應時間。
      對於MySQL來說，減少排序有多種辦法，比如：


      • 上面誤區中提到的通過利用索引來排序的方式進行優化
      • 減少參與排序的記錄條數
      • 非必要不對資料進行排序
      • …
    3. 儘量避免 select *
      很多人看到這一點後覺得比較難理解，上面不是在誤區中剛剛說 select 子句中欄位的多少並不會影響到讀取的資料嗎？
      是的，大多數時候並不會影響到 IO 量，但是當我們還存在 order by 操作的時候，select 子句中的欄位多少會在很大程度上影響到我們的排序效率，這一點可以通過我之前一篇介紹 MySQL ORDER BY 的實現分析 的文章中有較為詳細的介紹。
      此外，上面誤區中不是也說了，只是大多數時候是不會影響到 IO 量，當我們的查詢結果僅僅只需要在索引中就能找到的時候，還是會極大減少 IO 量的。
    4. 儘量用 join 代替子查詢
      雖然 Join 效能並不佳，但是和 MySQL 的子查詢比起來還是有非常大的效能優勢。MySQL 的子查詢執行計劃一直存在較大的問題，雖然這個問題已經存在多年，但是到目前已經發布的所有穩定版本中都普遍存在，一直沒有太大改善。雖然官方也在很早就承認這一問題，並且承諾儘快解決，但是至少到目前為止我們還沒有看到哪一個版本較好的解決了這一問題。
    5. 儘量少 or
      當 where 子句中存在多個條件以“或”並存的時候，MySQL 的優化器並沒有很好的解決其執行計劃優化問題，再加上 MySQL 特有的 SQL 與 Storage 分層架構方式，造成了其效能比較低下，很多時候使用 union all 或者是union（必要的時候）的方式來代替“or”會得到更好的效果。
    6. 儘量用 union all 代替 union
      union 和 union all 的差異主要是前者需要將兩個（或者多個）結果集合並後再進行唯一性過濾操作，這就會涉及到排序，增加大量的 CPU 運算，加大資源消耗及延遲。所以當我們可以確認不可能出現重複結果集或者不在乎重複結果集的時候，儘量使用 union all 而不是 union。
    7. 儘量早過濾
      這一優化策略其實最常見於索引的優化設計中（將過濾性更好的欄位放得更靠前）。
      在 SQL 編寫中同樣可以使用這一原則來優化一些 Join 的 SQL。比如我們在多個表進行分頁資料查詢的時候，我們最好是能夠在一個表上先過濾好資料分好頁，然後再用分好頁的結果集與另外的表 Join，這樣可以儘可能多的減少不必要的 IO 操作，大大節省 IO 操作所消耗的時間。
    8. 避免型別轉換
      這裡所說的“型別轉換”是指 where 子句中出現 column 欄位的型別和傳入的引數型別不一致的時候發生的型別轉換：


      • 人為在column_name 上通過轉換函式進行轉換
        直接導致 MySQL（實際上其他資料庫也會有同樣的問題）無法使用索引，如果非要轉換，應該在傳入的引數上進行轉換
      • 由資料庫自己進行轉換
        如果我們傳入的資料型別和欄位型別不一致，同時我們又沒有做任何型別轉換處理，MySQL 可能會自己對我們的資料進行型別轉換操作，也可能不進行處理而交由儲存引擎去處理，這樣一來，就會出現索引無法使用的情況而造成執行計劃問題。
    9. 優先優化高併發的 SQL，而不是執行頻率低某些“大”SQL
      對於破壞性來說，高併發的 SQL 總是會比低頻率的來得大，因為高併發的 SQL 一旦出現問題，甚至不會給我們任何喘息的機會就會將系統壓跨。而對於一些雖然需要消耗大量 IO 而且響應很慢的 SQL，由於頻率低，即使遇到，最多就是讓整個系統響應慢一點，但至少可能撐一會兒，讓我們有緩衝的機會。
    10. 從全域性出發優化，而不是片面調整
      SQL 優化不能是單獨針對某一個進行，而應充分考慮系統中所有的 SQL，尤其是在通過調整索引優化 SQL 的執行計劃的時候，千萬不能顧此失彼，因小失大。
    11. 儘可能對每一條執行在資料庫中的SQL進行 explain
      優化 SQL，需要做到心中有數，知道 SQL 的執行計劃才能判斷是否有優化餘地，才能判斷是否存在執行計劃問題。在對資料庫中執行的 SQL 進行了一段時間的優化之後，很明顯的問題 SQL 可能已經很少了，大多都需要去發掘，這時候就需要進行大量的 explain 操作收集執行計劃，並判斷是否需要進行優化。

作者：Sky.Jian | 可以任意轉載, 但轉載時務必以超連結形式標明文章原始出處 和 作者資訊 及 版權宣告 
連結：http://isky000.com/database/mysql-performance-tuning-sql


博主附：
第8點曾經在eygle的dba-notes中提到過。（在Oracle DB中仍然有效）

主要問題是通過連線訪問新聞頁面及其緩慢，通常需要數十秒才能返回。

查詢v$session檢視，獲取程式資訊：
SQL> select sid,serial#,username from v$session where username is not null;



對相應會話啟用sql_trace跟蹤：
SQL> exec dbms_system.set_sql_trace_in_session(7,284,true)
SQL> exec dbms_system.set_sql_trace_in_session(11,214,true)
SQL> exec dbms_system.set_sql_trace_in_session(16,1042,true)

執行一段時間後，關閉：
SQL> exec dbms_system.set_sql_trace_in_session(7,284,false)
SQL> exec dbms_system.set_sql_trace_in_session(11,214,false)
SQL> exec dbms_system.set_sql_trace_in_session(16,1042,false)

檢查trace檔案，可以找到跟蹤過程中前臺執行的sql呼叫，檢查發現以下語句是可疑的效能瓶頸點：
select auditstatus,categoryid,auditlevel from
categoryarticleassign a,category b where b.id=a.categoryid
and articleId=20030700400141 and auditstatus>0



這裡的查詢是根據articleId進行新聞讀取的，但是注意到邏輯讀有3892，這是一個較高的數字，這個內容引起了我的注意。
接下來的類似查詢跟蹤得到的執行計劃顯示，全表訪問被執行：



然後檢查表結構，檢視是否存在有效索引，以下輸出的idx_articleid給予articleid建立，但在以下查詢中都沒有被用到 
SQL> select index_name,table_name,column_name from user_ind_columns
2 where table_name=upper('categoryarticleassign');


檢查發現表結構如下：


此時發現articleid為varchar2型別，而查詢中給出的articleid=20030700400141是一個number型，oracle發生了潛在的資料型別轉換，從而導致了索引失效。

解決方法很簡單，只要將articleid加上一個單引號即可。

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/29773961/viewspace-1546984/，如需轉載，請註明出處，否則將追究法律責任。

相關文章