HBase作為BigTable的一個開源實現，隨著其應用的普及，使用者對它的效能資料愈發關注。本文將為您揭開HBase效能測試的一角，邀您一起參與到對雲端計算模組效能調優的深度思考中。
對於BigTable型別的分散式資料庫應用來說，使用者往往會對其效能狀況有極大的興趣，這其中又對實時資料插入效能更為關注。HBase作為BigTable的一個實現，在這方面的效能會如何呢？這就需要通過測試資料來說話了。
資料插入效能測試的設計場景是這樣的：取隨機值的Rowkey長度為2000位元組，固定值的Value長度為4000位元組，由於單行Row插入速度太快，系統統計精度不夠，所以將插入500行Row做一次耗時統計。
這裡要對HBase的特點做個說明，首先是Rowkey值為何取隨機數，這是因為HBase是對Rowkey進行排序的，隨機Rowkey將被分配到不同的region上，這樣才能發揮出分散式資料庫的效能優點。而Value對於HBase來說不會進行任何解析，其資料是否變化，對效能是不應該有任何影響的。同時為了簡單起見，所有的資料都將只插入到一個表格的同一個Column中。
初次分析
在測試之初，需要對叢集進行調優，關閉可能大量耗費記憶體、頻寬以及CPU的服務（例如Apache的HTTP服務），保持叢集的寧靜度。此外，為了保證測試不受干擾，HBase的叢集系統需要被獨立，以保證不與HDFS所在的Hadoop叢集有所交叉。
實驗
那麼做好一切準備之後，就開始進行資料灌入，客戶端從Zookeeper上查詢到Regionserver的地址後，開始源源不斷地向HBase的Regionserver上喂入Row。
這裡，我寫了一個通過JFreeChart來實時生成圖片的程式，每3分鐘，喂資料的客戶端會將獲取到的耗時統計列印在一張十字座標圖中，這些圖又被儲存在制定的Web站點中，並通過HTTP服務展示出來。在通過長時間不間斷的測試後，我得到了圖1。
圖1 插入Row的效能測試
圖1 插入Row的效能測試圖1好似一條直線上，每隔一段時間就會泛起一個波浪，且兩個高峰之間必有一個較矮的波浪。高峰的間隔呈現出越來越大的趨勢，而較矮的波浪恰好處於兩高峰的中間位置。
解讀
為了解釋，我對HDFS上HBase所在的主目錄下檔案，以及被插入表格的region情況進行了實時監控，以期發現這些波浪上發生了什麼事情。
回溯到客戶端喂入資料的開始階段，建立表格，在HDFS上便被建立了一個與表格同名的目錄，該目錄下將出現第一個region，region中會以family名建立一個目錄，這個目錄下才存在記錄具體資料的檔案。同時在該表表名目錄下，還會生成一個“compaction.dir”目錄，該目錄將在family名目錄下region檔案超過指定數目時用於合併region。當第一個region目錄出現時，記憶體中最初被寫入的資料將被儲存到該檔案中，這個間隔是由選項“hbase.hregion.memstore.flush.size”決定的，預設是64MB，該region所在的Regionserver的記憶體中一旦有超過64MB的資料時，就將被寫入到region檔案中。這個檔案將不斷增殖，直到超過由“hbase.hregion.max.filesize”決定的檔案大小（預設是256MB，此時加上記憶體刷入的資料，實際最大可能到256MB+64MB）時，該region將被執行split，立即被一切為二，其過程是在該目錄下建立一個名為“.splits”的目錄作為標記，然後由Regionserver將檔案資訊讀取進來，分別寫入到兩個新的region目錄中，最後再將老的region刪除。這裡的標記目錄“.splits”可以避免在split過程中發生其他操作，起到類似於多執行緒安全的鎖功能。在新的region中，從老的region中切分出的資料獨立為一個檔案並不再接收新的資料（該檔案大小超過了64MB，最大可達到（256+64）/2=160MB）），記憶體中新的資料將被儲存到一個重新建立的檔案中，該檔案大小將為64MB。記憶體每重新整理一次，region所在的目錄下就將增加一個64MB的檔案，直到總檔案數超過由“hbase.hstore.compactionThreshold”指定的數量時（預設為3），compaction過程就將被觸發了。在上述值為3時，此時該region目錄下，實際檔案數只有兩個，還有額外的一個正處於記憶體中將要被刷入到磁碟的過程中。Compaction過程是HBase的一個大動作。HBase不僅要將這些檔案轉移到“compaction.dir”目錄進行壓縮，而且在壓縮後的檔案超過256MB時，還必須立即進行split動作。這一系列行為在HDFS上可謂是翻山倒海，影響頗大。待Compaction結束之後，後續的split依然會持續一小段時間，直到所有的region都被切割分配完畢，HBase才會恢復平靜並等待下一次資料從記憶體寫入到HDFS。
圖2 再次的資料插入測試
理解了上述過程，就必然會對HBase的資料插入效能為何是圖1所示的曲線的原因一目瞭然。與X軸幾乎平行的直線，表明資料正在被寫入HBase的Regionserver所在機器的記憶體中。而較低的波峰意味著Regionserver正在將記憶體寫入到HDFS上，較高的波峰意味著Regionserver不僅正在將記憶體刷入到HDFS，而且還在執行Compaction和Split兩種操作。如果調整
“hbase.hstore.compactionThreshold”的值為一個較大的數量，例如改成5，可以預見，在每兩個高峰之間必然會等間隔地出現三次較低的波峰，並可預見到，高峰的高度將遠超過上述值為3時的高峰高度（因為Compaction的工作更為艱鉅）。由於region數量由少到多，而我們插入的Row的Rowkey是隨機的，因此每一個region中的資料都會均勻的增加，同一段時間插入的資料將被分佈到越來越多的region上，因此波峰之間的間隔時間也將會越來越長。
再次理解上述論述，我們可以推斷出HBase的資料插入效能實際上應該被分為三種情況：直線狀態、低峰狀態和高峰狀態。在這三種情況下得到的效能資料才是最終HBase資料插入效能的真實描述。那麼提供給使用者的資料該是採取哪一個呢？我認為直線狀態由於所佔時間會較長，尤其在使用者寫入資料的速度也許並不是那麼快的情況下，所以這個狀態下得到的效能資料結果更應該提供給使用者。
再度分析
前面的HBase效能深度分析，提出了一個猜想，是關於調整“hbase.hstore.compaction-Threshold”值的假設。猜想的內容為：如果改變該值，例如調整為5，那麼耗時圖形會在每兩個高峰之間出現等間隔的三次較低的波峰，並且高峰將會更加突出，超過上述值較低時的波峰高度。
- 圖3 圖1的資料分佈圖
為了證明這個猜想，我將“hbase.hstore.compactionThreshold”值調整為5，並重新做了資料插入測試，一段時間後，得到如圖2所示的效能圖形（Y軸表示耗時，X軸為插入次數，Sandy建議這裡的Y軸應該改為插入速度，但是由於前次已經使用了耗時為Y軸，因此改變Y軸顯示的工作只能放到下次測試中了）。
通過相比發現，圖1和圖2的Y軸比例尺是不同的，圖1中Y軸最大為30秒，圖2中最大為50秒。可見假設中聲稱低峰會在兩個高峰之間等間隔的出現3次的現象的確是成立的。當高峰出現第5次以後，可以從圖2看到代表耗時的點的高峰段已經達到了25秒以上，而對於前次來說，高峰段基本上處於20秒左右，由此可以認為Compaction的壓力的確是增加了。現在換一個角度來分析這一情況。我為圖1製作了一張資料分佈圖（圖3），與圖2進行比較（圖4）。
雖說第二次測試經歷的時間不如第一次，但是基於統計學的觀點，分佈圖的外形是不會受樣本容量大小影響的，因此圖3和圖4可以進行外觀上的比較。這兩張分佈圖都是典型的正態分佈圖，但又不是標準正態分佈，原因在於，波峰段的資料影響了正態分佈的標準性，表現之一在於右側的長尾，表現之二在於眾數所在位置右移，以至於左側凸顯了一個小波峰。
- 圖4 圖2的資料分佈圖
計算本次分佈圖與前次分佈圖中位於右側長尾部分的資料的標準差（計算公式：），我們可以得到前次右側標準差為4.10390692438，而本次右側標準差為7.12068861446，說明高峰段影響的資料右偏更為嚴重了。
從外觀上表現在右側長尾在整圖比例尺中的寬度和高度要大於前次分佈圖中的右側長尾。這說明Compaction的壓力增大了。
推導到這裡，我發現右側標準差與Compaction的壓力之間是存在顯著關係的，今後對Compaction壓力增減的估算，貌似可以轉換為對右側標準差的計算。壓力增加的比率是否等於標準差的比值呢？這裡先做一個標記，等後面有時間再仔細思考一下這個問題。現在假設中的說法“高峰將會更加突出，超過上述值較低時的波峰高度”，應該算是被證明了。
以上論證結束之後，按照慣例還是要提出一些假設和推斷。
HBase在已經發布的0.90.x版對Compaction和Split機制作了調整，將Split過程提到了Compaction之前，也就是說，當region目錄下，HFiles數目超過“hbase.hstore.compactionThreshold”指定值之後，Regionserver會首先計算一下Compaction之後的檔案大小是否會超過“hbase.hregion.max.filesize”確定的Split上限大小，如果超過了，那麼HFiles首先被切分，然後才會將切分好的檔案轉移到新的region中Compaction。這樣將大大減小Compaction的壓力，由此可以推斷，HBase的效能調優必然與“hbase.hstore.compactionThreshold”和“hbase.hregion.max.filesize”這兩個值的大小息息相關。理論上，可以將某次設定了確定值的實驗中獲得的資料代入到一個特定公式中，上述兩值作為該公式的自變數，其應變數，即效能資料，將可以輕鬆地計算出來。
是否真的如此，且待進一步的詳細測試。
作者：劉星