程式猿是如何解決SQLServer佔CPU100%

發表於2016-08-30

遇到的問題

有同事反應伺服器CPU過高,一看截圖基本都是100%了,my god,這可是大問題,趕緊先看看。

程式猿是如何解決SQLServer佔CPU100%

讓同事檢視系統程式,發現是SQLServer的CPU佔用比較高。首先想到的是不是報表生成的時候高,因為這塊之前出現過問題,關掉服務程式,還是高。難道是客戶端程式引發的?但是這麼多的客戶端連線,難不成每個都叫人關閉,很簡單,把網路斷開即可。網路斷開之後,CPU立馬下降。那麼問題到底在哪裡呢,是時候祭出我們的利器了——SQLServer Profiler。

使用SQLServer Profiler監控資料庫

讓同事使用SQLProfiler監控了大概20分鐘左右,然後儲存為跟蹤檔案*.rtc。

程式猿是如何解決SQLServer佔CPU100%

我們來看看到底是哪句SQL有問題:

SQL1:查詢最新的30條告警事件

SQL2:獲取當前的總報警記錄數

這是典型的獲取資料並分頁的資料,一條獲取最新分頁記錄總數,一條獲取分頁記錄,正是獲取最新事件這裡導致的CPU過高。這裡的業務大概是每個客戶端,每3秒執行一次資料庫查詢,以便顯示最新的告警事件。好了,元凶找到了,怎麼解決?

有哪些SQL語句會導致CPU過高?

上網檢視了下文章,得出以下結論:

1.編譯和重編譯

編譯是 Sql Server 為指令生成執行計劃的過程。Sql Server 要分析指令要做的事情,分析它所要訪問的表格結構,也就是生成執行計劃的過程。這個過程主要是在做各種計算,所以CPU 使用比較集中的地方。

執行計劃生成後會被快取在 記憶體中,以便重用。但是不是所有的都可以 被重用。在很多時候,由於資料量發生了變化,或者資料結構發生了變化,同樣一句話執行,就要重編譯。

2.排序(sort) 和 聚合計算(aggregation)

在查詢的時候,經常會做 order by、distinct 這樣的操作,也會做 avg、sum、max、min 這樣的聚合計算,在資料已經被載入到記憶體後,就要使用CPU把這些計算做完。所以這些操作的語句CPU 使用量會多一些。

3.表格連線(Join)操作

當語句需要兩張表做連線的時候,SQLServer 常常會選擇 Nested Loop 或 Hash 演算法。演算法的完成要執行 CPU,所以 join 有時候也會帶來 CPU 使用比較集中的地方。

4.Count(*) 語句執行的過於頻繁

特別是對大表 Count() ,因為 Count() 後面如果沒有條件,或者條件用不上索引,都會引起 全表掃描的,也會引起 CPU 的大量運算

大致的原因,我們都知道了,但是具體到我們上述的兩個SQL,好像都有上述提到的這些問題,那麼到底哪個才是最大的元凶,我們能夠怎麼優化?

檢視SQL的查詢計劃

SQLServer的查詢計劃很清楚的告訴了我們到底在哪一步消耗了最大的資源。我們先來看看獲取top30的記錄:

程式猿是如何解決SQLServer佔CPU100%

排序竟然佔了94%的資源。原來是它!同事馬上想到,用orderno排序會不會快點。先把上述語句在SQLServer中執行一遍,清掉快取之後,大概是2~3秒,然後排序欄位改為orderno,1秒都不到,果然有用。但是orderno的順序跟alarmTime的順序是不完全一致的,orderno的排序無法替代alarmTime排序,那麼怎麼辦?

我想,因為選擇的是top,那麼因為orderno是聚集索引,那麼選擇前30條記錄,可以立即返回,根本無需遍歷整個結果,那麼如果alarmTime是個索引欄位,是否可以加快排序?

選擇top記錄時,儘量為order子句的欄位建立索引

先建立索引:

在檢視執行計劃:

程式猿是如何解決SQLServer佔CPU100%

看到沒有,剛才查詢耗時的Sort已經消失不見了,那麼怎麼驗證它能夠有效的降低我們的CPU呢,難道要到現場部署,當然不是。

檢視SQL語句CPU高的語句

我們把建索引前後CPU做個對比:

程式猿是如何解決SQLServer佔CPU100%

已經明顯減低了。

通過建立相關索引來減少表掃描

我們再來看看count(*)這句怎麼優化,因為上面的這句跟count這句差別就在於order by的排序。老規矩,用查詢計劃看看。

程式猿是如何解決SQLServer佔CPU100%

用語句select count(0) from eventlog一看,該表已經有20多w的記錄,每次查詢30條資料,竟然要遍歷這個20多w的表兩次,能不耗CPU嗎。我們看看是否能夠利用相關的條件來減少表掃描。很明顯,我們可以為MgrObjId建立索引:

CREATE NONCLUSTERED INDEX IX_eventlog_moid ON dbo.eventlog(MgrObjId)

但是無論我怎麼試,都是沒有利用到索引,難道IN子句和NOT IN子句是沒法利用索引一定會引起表掃描。於是上網查資料,找到樺仔的文章,這裡面有解答:

SQLSERVER對篩選條件(search argument/SARG)的寫法有一定的建議

對於不使用SARG運算子的表示式,索引是沒有用的,SQLSERVER對它們很難使用比較優化的做法。非SARG運算子包括

NOT、、NOT EXISTS、NOT IN、NOT LIKE和內部函式,例如:Convert、Upper等

但是這恰恰說明了IN是可以建立索引的啊。百思不得其解,經過一番的諮詢之後,得到了解答:

不一定是利用索引就是好的,sqlserver根據你的查詢的欄位的重複值的佔比,決定是表掃描還是索引掃描

有道理,但是我檢視了下,重複值並不高,怎麼會有問題呢。

關鍵是,你select的欄位,這個地方使用索引那麼效能更差,你select欄位 id,addrid,agentbm,mgrobjtypeid,name都不在索引裡。

真是一語驚醒夢中人,缺的是包含索引!!!關於包含索引的重要性我在這篇文章《我是如何在SQLServer中處理每天四億三千萬記錄的》已經提到過了,沒想到在這裡又重新栽了個跟頭。實踐,真的是太重要了!

通過建立包含索引來讓SQL語句走索引

好吧,立馬建立相關索引:

我們再來看看查詢計劃:

程式猿是如何解決SQLServer佔CPU100%

看到沒有,已經沒有eventlog表的表掃描了。我們再來比較前後的CPU:

程式猿是如何解決SQLServer佔CPU100%

很明顯,這個count的優化,對查詢top的語句依然的生效的。目前為止,這兩個查詢用上去之後,再也沒有CPU過高的現象了。

其他優化手段

  • 通過服務端的推送,有事件告警或者解除過來才查詢資料庫。
  • 優化上述查詢語句,比如count(*)可以用count(0)替代——參考《SQL開發技巧(二)
  • 優化語句,先查詢出所有的MgrObjId,然後在做連線
  • 為管理物件、地點表等增加索引
  • 新增了索引之後,事件表的插入就會慢,能夠再怎麼優化呢?可以分割槽建立索引,每天不忙的時候,把新的記錄移入到建好索引的分割槽

當然,這些優化的手段是後續的事情了,我要做的事情基本完了。

總結

  • 伺服器CPU過高,首先檢視系統程式,確定引發CPU過高的程式
  • 通過SQLServer Profiler能夠輕易監控到哪些SQL語句執行時間過長,消耗最多的CPU
  • 通過SQL語句是可以檢視每條SQL語句消耗的CPU是多少
  • 導致CPU高的都是進行大量計算的語句:包括記憶體排序、表掃描、編譯計劃等。
  • 如果使用Top刷選前面幾條語句,則儘量為Order By子句建立索引,這樣可以減少對所有的刷選結果進行排序
  • 使用Count查詢記錄數時,儘量通過為where字句的相關欄位建立索引以減少表掃描。如果多個表進行join操作,則把相關的表連線欄位建立在包含索引中
  • 通過服務端通知的方式,減少SQL語句的查詢
  • 通過表分割槽,儘量降低因為新增索引而導致表插入較慢的影響

參考文章

相關文章