淺談zookeeper的在hbase叢集中的作用

Thinkgamer_gyt發表於2015-08-20

一,什麼是zookeeper?

ZooKeeper 顧名思義 動物園管理員,他是拿來管大象(Hadoop) 、 蜜蜂(Hive) 、 小豬(Pig)  的管理員, Apache Hbase和 Apache Solr 以及LinkedIn sensei  等專案中都採用到了 Zookeeper。ZooKeeper是一個分散式的,開放原始碼的分散式應用程式協調服務,ZooKeeper是以Fast Paxos演算法為基礎,實現同步服務,配置維護和命名服務等分散式應用。
上面的解釋感覺還不夠,太官方了。Zookeeper 從程式設計師的角度來講可以理解為Hadoop的整體監控系統。如果namenode,HMaster當機後,這時候Zookeeper 的重新選出leader。這是它最大的作用所在。

二、zookeeper的作用
 
1.Zookeeper加強叢集穩定性
Zookeeper通過一種和檔案系統很像的層級名稱空間來讓分散式程式互相協同工作。這些名稱空間由一系列資料暫存器組 成,我們也叫這些資料暫存器為znodes。這些znodes就有點像是檔案系統中的檔案和資料夾。和檔案系統不一樣的是,檔案系統的檔案是儲存在儲存區 上的,而zookeeper的資料是儲存在記憶體上的。同時,這就意味著zookeeper有著高吞吐和低延遲。

Zookeeper實現了高效能,高可靠性,和有序的訪問。高效能保證了zookeeper能應用在大型的分散式系統上。高可靠性保證它不會由於單一節點的故障而造成任何問題。有序的訪問能保證客戶端可以實現較為複雜的同步操作。

2.Zookeeper加強叢集持續性
ZooKeeper Service

組成Zookeeper的各個伺服器必須要能相互通訊。他們在記憶體中儲存了伺服器狀態,也儲存了操作的日誌,並且持久化快照。只要大多數的伺服器是可用的,那麼Zookeeper就是可用的。

客戶端連線到一個Zookeeper伺服器,並且維持TCP連線。並且傳送請求,獲取回覆,獲取事件,並且傳送連線訊號。如果這個TCP連線斷掉了,那麼客戶端可以連線另外一個伺服器。

Zookeeper保證叢集有序性
Zookeeper使用數字來對每一個更新進行標記。這樣能保證Zookeeper互動的有序。後續的操作可以根據這個順序實現諸如同步操作這樣更高更抽象的服務。

Zookeeper保證叢集高效
Zookeeper的高效更表現在以讀為主的系統上。Zookeeper可以在千臺伺服器組成的讀寫比例大約為10:1的分佈系統上表現優異。

資料結構和分等級的名稱空間
Zookeeper的名稱空間的結構和檔案系統很像。一個名字和檔案一樣使用/的路徑表現,zookeeper的每個節點都是被路徑唯一標識

三、zookeeper在Hadoop及hbase中具體作用
1,Hadoop有NameNode,HBase有HMaster,為什麼還需要zookeeper,下面給大家通過例子給大家介紹。
一個Zookeeper的叢集中,3個Zookeeper節點.一個leader,兩個follower的情況下,停掉leader,然後兩個follower選舉出一個leader.獲取的資料不變.我想Zookeeper能夠幫助Hadoop做到:
Hadoop,使用Zookeeper的事件處理確保整個叢集只有一個NameNode,儲存配置資訊等.
HBase,使用Zookeeper的事件處理確保整個叢集只有一個HMaster,察覺HRegionServer聯機和當機,儲存訪問控制列表等.

2,hbase regionserver 向zookeeper註冊,提供hbase regionserver狀態資訊(是否線上)
3,hmaster啟動時候會將hbase 系統表-ROOT- 載入到 zookeeper cluster,通過zookeeper cluster可以獲取當前系統表.META.的儲存所對應的regionserver資訊。
HMaster主要作用在於,通過HMaster維護系統表-ROOT-,.META.,記錄regionserver所對應region變化資訊。此外還負責監控處理當前hbase cluster中regionserver狀態變化資訊。
        hbase regionserver則用於多個/單個維護region。
        region則對應為hbase資料表的表分割槽資料維護。

相關文章