UAVStack的慢SQL資料庫監控功能及其實現

宜信技術學院發表於2019-08-16

UAVStack是一個全維監控與應用運維平臺。UAV.Monitor具備監控功能，包含基礎監控、應用/服務效能監控、日誌監控、業務監控等。在應用監控中，UAV可以根據應用例項畫像；其中應用例項元件可以對日誌、服務、客戶端等進行畫像；基於客戶端的畫像又分為Http、Dubbo、MQ、Kafka、JDBC、Redis、MongoDB等等。

一、背景

作為一個工作多年的程式設計師或運維人員，相信你一定遇到過以下情況：

場景一：系統出現異常情況，運維人員沒能在第一時間發現，反而是業務方在使用過程中反饋系統崩潰、頁面點不開。檢視系統日誌，發現一直在報連線資料庫異常；

場景二：新功能上線穩定執行一段時間後，使用者反饋頁面響應越來越慢，開啟一個頁面要等好久。排查問題，發現是一個慢SQL影響了整個功能的體驗。

為此，UAVStack開發了資料庫監控功能。最初，資料庫監控功能只是對資料來源、資料庫連線池進行了指標採集，通過客戶端畫像可以檢視實時的資料庫連線池資訊以及操作計數。最近UAVStack又解鎖了一項新功能——慢SQL監控，使資料庫監控功能更加完善。

今天小編就向大家介紹一下資料庫監控的具體實現。文章中出現的以下關鍵字全部用簡稱代替：

· 中介軟體增強框架：英文MonitorFramework，簡稱MOF · 健康管理服務：英文HealthManager，簡稱HM · 監控代理程式：英文MonitorAgent，簡稱MA

二、關鍵技術&UAV自研框架

· MOF Agent注入機制：MOF Agent的注入機制以Java agent以及Javaassit技術作為基礎支撐。Java agent負責攔截和轉換位元組碼流，轉換過程中使用Javaassist進行解析和修改，在應用伺服器生命週期的關鍵位置注入切點，為MOF框架初始化、應用的畫像資訊和實時監控資料資訊捕獲提供基礎。

· InterceptFramework框架：在應用啟動的特定生命週期內改寫位元組碼，植入特定的邏輯處理程式碼，即畫像資料採集，採集的資料包含服務畫像以及客戶端畫像；客戶端畫像包含Http、Dubbo、MQ、Kafka、JDBC、Redis、MongoDB等常見的開源元件，系統中呼叫的第三方服務都會被列為是客戶端的物件，比如系統中呼叫了第三方系統的介面都屬於客戶端的範疇。

· CaptureFramework框架：通過InterceptFramework框架在特定的生命週期改寫位元組碼植入特定的邏輯程式碼，在植入的邏輯程式碼中可以通過CaptureFramework畫像的Monitor捕獲體系的能力採集資料以及資料儲存。具體實現為採用doCapture來實現在特定的捕獲點執行抓取資料行為，採用doPreStore來實現在儲存資料結構之前的一些捕獲動作，對抓取的資料進行特殊資料的處理，獲取到處理完成後的資料再通過UAVServer呼叫具體的Supporter，最後實現資料落地。

三、組成部分

慢SQL監控的實現分為四個組成部分：

· 慢SQL的動態啟停：慢SQL的監控啟/停依賴於MOF的Global Filter機制。在應用初始化時，UAV對應用的Filter進行了改寫，提供了向MOF下發指令的介面。只要呼叫介面傳入規定的引數便可以實現對慢SQL監控的動態啟停。UAV系統中並不存在其它服務直接呼叫MOF的操作，都是通過MA來完成的。大家可以把MA理解為服務請求方與MOF之間的媒介。

· 慢SQL資料採集：依賴InterceptFramework框架在特定的生命週期改寫位元組碼植入特定邏輯，同時採用MOF的CaptureFramework框架進行資料抓取並生成抓取結果。MA會對生成結果的檔案進行定時採集並封裝成固定的資料結構傳送至MQ。

· 資料儲存：在HM中建立獨立的feature進行資料處理，消費MA推送至MQ中的資料，完成資料清洗再儲存至ES。由於資料採集的結果進行了特殊的約定，從MQ拿到的資料並不能直接轉換成相應的結果，需要進行相應的解析處理才能進行儲存（由於採集的資料中欄位較多、可能含有特殊的字元會影響對資料的解析，在生成資料結果時有規則約束才能實現資料的正確解析）。資料庫監控的feature還提供了查詢、統計慢SQL操作的相關介面。

· 頁面展示：操作頁面可自主啟停資料庫監控，設定慢SQL的時間閾值。啟停以及時間閾值的設定依賴於MA向MOF傳送指令。頁面展示的SQL統計、追蹤等資訊則通過HM的介面獲取。