前幾篇文章已經從整體提供了診斷資料庫的各個方面問題的基本思路…也許對你很有用,也許你覺得離自己太遠。那麼今天我們從語句的一些優化寫法及一些簡單優化方法做一個介紹。這對於很多開發人員來說還是很有用的!為了方便閱讀給出前文連結:SQL SERVER全面優化——-Expert for SQL Server 診斷系列
首先還是貼出我的座駕
好的語句就像這輛車,跑的又快又帥氣!今天這裡介紹一些技巧讓你可以改裝一下自己的車!網上確實有好多好多好多好多SQL 語句優化的文章,什麼 優化大全 ,100個優化注意 ,確實整理了好多好多。那麼為什麼我也要湊熱鬧寫一篇呢? 好吧我也不知道!
重中之重—語句執行順序
在QQ群和人聊天的時候突然有位群友說:我才知道原來語句走索引是按照select 的欄位篩選的! 振振有詞,非常肯定!另一個群友反問update呢 ? 看起來很小白的問題,但確實讓我很震驚!所以我們先看看語句的執行順序
如果我沒記錯這是《SQL SERVER 2005技術內幕–查詢》這本書的開篇第一章第一節。書的作者也要讓讀者首先了解語句是怎麼樣的一個執行順序,因為不知道順序何談寫個好語句?
查詢的邏輯執行順序:
(1) FROM
(3) JOIN (2) ON
(4) WHERE
(5) GROUP BY
(6) WITH {cube | rollup}
(7) HAVING
(8) SELECT (9) DISTINCT
(10) ORDER BY
標準的SQL 的解析順序為:
(1).FROM 子句 組裝來自不同資料來源的資料
(2).WHERE 子句 基於指定的條件對記錄進行篩選
(3).GROUP BY 子句 將資料劃分為多個分組
(4).使用聚合函式進行計算
(5).使用HAVING子句篩選分組
(6).計算所有的表示式
(7).使用ORDER BY對結果集進行排序
執行順序:
1.FROM:對FROM子句中前兩個表執行笛卡爾積生成虛擬表vt1
2.ON:對vt1表應用ON篩選器只有滿足 為真的行才被插入vt2
3.OUTER(join):如果指定了 OUTER JOIN保留表(preserved table)中未找到的行將行作為外部行新增到vt2 生成t3如果from包含兩個以上表則對上一個聯結生成的結果表和下一個表重複執行步驟和步驟直接結束
4.WHERE:對vt3應用 WHERE 篩選器只有使 為true的行才被插入vt4
5.GROUP BY:按GROUP BY子句中的列列表對vt4中的行分組生成vt5
6.CUBE|ROLLUP:把超組(supergroups)插入vt6 生成vt6
7.HAVING:對vt6應用HAVING篩選器只有使 為true的組才插入vt7
8.SELECT:處理select列表產生vt8
9.DISTINCT:將重複的行從vt8中去除產生vt9
10.ORDER BY:將vt9的行按order by子句中的列列表排序生成一個遊標vc10
11.TOP:從vc10的開始處選擇指定數量或比例的行生成vt11 並返回撥用者
我們瞭解了sqlserver執行順序,請以前不知道的看官們,反覆試驗反覆記憶!那麼我們就接下來進一步養成日常sql好習慣,也就是在實現功能的同時又考慮效能的思想!
設計思路
具體寫法的優化請不要著急,那都是小兒科!
設計思路說的有點大了,下面介紹幾個最常見的設計問題!
迴圈改批量
迴圈單條操作,請改成批量操作,如果沒辦法修改,請儘量想辦法修改!這算是最常見的吧:
- 應用程式碼端一記 for 迴圈再噁心點的每次開啟關閉連線,跑個幾分鐘,數量大點幾小時。請把你的每次for迴圈出來的結果放在一個datatable,list啥的,不要找到一條就往資料庫寫一條!
- 資料庫中的遊標也是差不多的道理,如果有可能不用遊標迴圈一條一條處理,請儘量不要使用。如果自己認為必須用,也請問問別人是否可以有其他方式做批量!
- 如果沒法避免一條一條的寫入,那麼在處理前顯示開啟一個事務 begin tran 在處理完成後 commit 這樣也要比不開顯示事務會快很多!
上個小例子:
1 2 3 4 5 6 7 8 9 10 11 |
create table test_0607 (a int,b nvarchar(100)) declare i int set i = 1 while i < 10000 begin insert into test_0607 select @i,'0607無顯示整體事務' set i = i + 1 end |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
drop table test_0607 create table test_0607 (a int,b nvarchar(100)) ---加上事務 begin tran declare i int set i = 1 while i < 10000 begin insert into test_0607 select @i,'0607 顯示整體事務' set i = i + 1 end ----結束事務,提交 commit |
結果 : 8秒和0.8秒的區別,不用多說啥了吧! 凡事有利有弊,這種顯示開啟大事務要保證的整體的過程不會執行特別長的時間,如果執行的操作特別多而且時間長就是災難了!
降低語句複雜性
前文語句優化三板斧中已經介紹過,降低語句複雜性是常見的優化方式。這裡在說一下,導致語句特別複雜一般有兩個原因:
- 程式邏輯本身就很複雜,需要很多表連線,又要排序又要聚合,時不時來幾個子查詢,外加幾個函式。
- 由於業務有很大的共性,所以建立出很多檢視,甚至檢視巢狀很多層檢視,最後外層又要關聯單個模組的特殊性表。
對於第一種情況,程式碼看起來就很長很複雜,看起來很牛逼的程式碼其實在高手看來都是很LOW的。而對於第二種,看起來程式碼很簡潔,但經過SQL優化器的二次編譯,其實和第一種並無區別。這兩種的解決辦法都是降低複雜性,把一些能拆分出來的儘量拆分出來放入臨時表或者表變數中,比如先把條件篩選性較強的幾張表關聯,然後把結果放入臨時表,在用臨時表和其他表關聯。可以理解成我有10張表關聯,我先拿5張表出來關聯,然後把結果放入臨時表,再跟另外5張表關聯。這樣這個查詢的複雜度由10張表的聯合變成 5+6,這樣降低了複雜語句複雜度。
複雜檢視也是如此,在檢視和外層關聯前,放入臨時表,再跟外層關聯。
子查詢也是如此,可以分離出來成為臨時表的子查詢,先分離出來。
對於表值函式,其實也是有內聯和表值之分:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 |
---方式1:內聯 CREATE FUNCTION [dbo].[tvf_inline_Test]() RETURNS TABLE AS RETURN SELECT ProductID FROM Sales.SalesOrderHeader soh INNER JOIN Sales.SalesOrderDetail sod ON soh.SalesOrderID = sod.SalesOrderID ---此寫法可以結合外層查詢二次編譯(也就是可以利用外層的關聯條件及WHERE 條件) ---方式2:表值 CREATE FUNCTION [dbo].[tvf_multi_Test]() RETURNS @SaleDetail TABLE ( ProductId INT ) AS BEGIN INSERT INTO @SaleDetail SELECT ProductID FROM Sales.SalesOrderHeader soh INNER JOIN Sales.SalesOrderDetail sod ON soh.SalesOrderID = sod.SalesOrderID RETURN END ---此寫法不能應用外層條件篩選,如果資料量大會對效能產生影響。 |
高能預警:這裡說的是適當使用臨時表,我遇到的很多開發人員一般都有這樣一個過程。開始巨複雜的語句,知道使用臨時表以後,每個步驟很小的操作都要用臨時表。這會給你的TempDB造成很大的壓力!
詳細請參見 : Expert 診斷優化系列——————給TempDB 降溫
避免重複讀取
曾經遇到過很多這樣的程式,類似對商品有多種分析,而每種分析要做一些不同的處理,但是他們都會讀取同一份基礎資料商品和商品明細等。很多程式都是按照每種分析作為一個單獨的儲存過程去處理,那麼也就是說有20種處理他們建立了20個儲存過程,並且每個儲存過程的第一步,就是先讀取基礎資料–商品和明細等等。不巧的是商品和商品明細有巨大的資料量,雖然做了分表(按照月份,每個表大概2QW資料),但是每個儲存過程要讀取一年的資料,大概是2QW * 12 ,這麼龐大的資料巨量,查詢後被放入一張temp表,20個儲存過程順序執行,也就是說這份基礎資料每天晚上會被查詢20次! 基本上這個處理佔據了系統夜間維護的所有時間,有時甚至會跑不完影響白天正常業務!
也許你看完描述就會笑,誰會把處理設計成這個樣子?這不開玩笑麼?沒錯,解決這個問題其實超簡單,把20個儲存過程合成一個。讓基礎資料的查詢只查詢一次,放入臨時表,建立出下面邏輯處理需要的索引,在用這個臨時表分別做下面所有的處理。這樣一個夜間需要跑6小時以上的處理被縮短成40分鐘!(當然說的有點誇張,裡面還有些其他的優化,√)
這裡就提到一個使用臨時表比較重要的問題,那就是類似上面的大量資料寫入臨時表,一定要用 先create 再 insert 的方式,不要直接使用 select into 臨時表的方式,否則就是災難了!
論索引的重要性
老生常談的話題了,我想所有公司招人的時候都會問到這樣的面試題: 什麼是索引,索引有哪些類,有何不同?等等….
索引是啥?什麼是聚集索引?什麼是非聚集索引?什麼是主鍵查詢?什麼是主鍵掃描?什麼是索引查詢?什麼是書籤查詢?有啥區別? 這裡都不介紹,請自行百度!
很多開發人員意識不到索引到底對語句,甚至對系統有對重要。關於索引對系統的重要性請關注後續文章。
如何建立索引
最為簡單粗暴的方式,當你寫完一條語句的時候,開啟執行計劃,執行一下按照優化器的提示建立索引,具體請參見 :Expert 診斷優化系列——————語句調優三板斧
高能預警:這裡需要你的條件可以用索引!比如 你的語句中 索引列不能帶函式,不能參與計算如 where productID/2 = @a ,不能有隱式轉換等!
建立索引後,同樣並不是每個查詢都會使用索引,在使用索引的情況下,索引的使用效率也會有很大的差別。如上面缺失的索引我們新增上以後再查詢!
索引查詢(seek),一般為最優(但查詢也要看查詢的篩選性),儘量吧where 條件中的欄位建成一個組合索引,並且包含要查詢select 中的欄位。這裡就不繼續深入了。
看懂執行計劃建立
如何看懂執行計劃這就是一個可以寫幾百頁書的話題了,但是看懂執行計劃是做優化的重中之重了!以後的文章中會詳細講解。
通過執行計劃可以看出語句的主要消耗到底在哪裡,另外配合set statistics io on 等分析讀次數,也是優化的關鍵,建立或優化索引頁是主要從這裡出發。
語句常規習慣
只返回需要的資料
返回資料到客戶端至少需要資料庫提取資料、網路傳輸資料、客戶端接收資料以及客戶端處理資料等環節,如果返回不需要的資料,就會增加伺服器、網路和客戶端的無效勞動,其害處是顯而易見的,避免這類事件需要注意:
橫向來看:
- 不要寫SELECT * 的語句,而是選擇你需要的欄位。
- 當在SQL語句中連線多個表時, 請使用表的別名並把別名字首於每個Column上.這樣一來,就可以減少解析的時間並減少那些由Column歧義引起的語法錯誤。 參見: 細心很重要—猜猜這個SQL執行的什麼意思
縱向來看:
- where 條件要儘量的多且保證高篩選性。
- 業務中很常見要返回大批量資料到前端,但是這些資料真的都是必要的麼?前端是否可以加一些預設條件呢?
減少不必要的操作
寫語句之前,理清你的思路!
- 杜絕不必要的表連線,多一個錶連結代表多很大部分開銷。
- 減少不必要的條件判斷,很多時候前臺傳入為空值得時候 後臺語句被寫成XX=XX OR XX IS NULL OR XX LIKE OR …OR …OR 等。這是比較經典的問題了,請加入判斷在拼入最後的條件!
- 你的語句需要去重複麼? distinct 、union等操作
- LEFT JOIN 和 inner join的區別,是否真的需要left join,否則選用inner join 來減少不必要的資料返回。
- order by 你的語句是否需要排序?排序是否可以通過索引來降低效能消耗? 我見過竟然插入資料也帶著order by的 !
儘量早的篩選
- 最經典的例子就是where 和 having的區別,看過語句執行順序你應該已經明白了。能寫在where 中不要放在having中。
- 使用臨時表降低語句複雜性,要降低臨時表的資料量,也就是要把有條件的表儘量關聯並做成臨時表。
- 前面提到的隱式轉換,索引欄位使用計算或函式,也會導致資料不能儘早篩選。
常用的寫法誤區(以下都是網上片面結論)
所有別人提到的方法到底有無效
- or 要用union all 代替 (or是很常規的一種寫法,情況分很多種,一個表的兩個條件用 a.a =X or a.a = XX ,一個表兩個欄位用 a.a =X or a.b = x,兩個不同表欄位用 a.a = X or b.a = X 這是網上說的union all代替的)
- 避免使用 in、not in (資料量小的時候不會有問題,如果資料量大可能影響效能,資料量大處理方式先把in 中的資料放入臨時表)
- 事務操作過程要儘量小,能拆分的事務要拆分開來。(前文中提到的例子,有些情況迴圈寫入下,顯示開啟一個大事務會有很大幫助)
- 使用with(nolock)查詢語句不會阻塞 (一般情況下是這樣,但是如果有架構修改或快照發布等使用with(nolock)也會阻塞)
- 用exists 代替 in (情況也很複雜不能一概而論)
總結 : 就寫到這裡吧,說道語句優化,有太多太多的注意,這些需要明白原理,能看懂執行計劃,並且不斷積累。
單單的幾篇優化大全是幫助是微乎其微的,另外要動手實踐,明白為什麼這樣寫會好!