認識Redis叢集——Redis Cluster

JJian 發表於 2020-11-19
Redis

前言

  Redis叢集分三種模式:主從模式、sentinel模式、Redis Cluster。之前沒有好好的全面理解Redis叢集,特別是Redis Cluster,以為這就是redis叢集的英文表達啊,故寫本篇博文來儘可能全面加深理解Redis Cluster。主要參考資料《Redis設計與實現》,主要是PDF電子版,有需要的朋友評論或者私聊

 


 

一、Redis Cluster簡單概述

1. Redis Cluster特點

  • 多主多從,去中心化:從節點作為備用,複製主節點,不做讀寫操作,不提供服務
  • 不支援處理多個key:因為資料分散在多個節點,在資料量大高併發的情況下會影響效能;
  • 支援動態擴容節點:這是我認為算是Rerdis Cluster最大的優點之一;
  • 節點之間相互通訊,相互選舉,不再依賴sentinel:準確來說是主節點之間相互“監督”,保證及時故障轉移

2. Redis Cluster與其它叢集模式的區別

  • 相比較sentinel模式,多個master節點保證主要業務(比如master節點主要負責寫)穩定性,不需要搭建多個sentinel例項監控一個master節點
  • 相比較一主多從的模式,不需要手動切換,具有自我故障檢測,故障轉移的特點
  • 相比較其他兩個模式而言,對資料進行分片(sharding),不同節點儲存的資料是不一樣的
  • 從某種程度上來說,Sentinel模式主要針對高可用(HA),而Cluster模式是不僅針對大資料量,高併發,同時也支援HA。

 以上都是一些檢視資料後個人的見解,其中不足或者不完善的地方歡迎各位大佬指出!

 

二、Redis Cluster如何叢集實現?

1.Redis Cluster是如何將資料分片的?----雜湊槽Slot

  (1)雜湊槽介紹

   Redis叢集使用一種稱作一致性雜湊的複合分割槽形式(組合了雜湊分割槽和列表分袂的特徵來計算鍵的歸屬例項),鍵的CRC16雜湊值被稱為雜湊槽。比如對於三個Redis節點,雜湊槽的分配方式如下:

    第一個節點擁有0-5500雜湊槽

     第二節點擁有5501-11000雜湊槽

     第三節點擁有剩餘的11001-16384雜湊槽

   一個鍵的對應的雜湊槽通過計算鍵的CRC16 雜湊值,然後對16384進行取模得到:HASH_SLOT=CRC16(key) modulo 16383,Redis提供了CLUSTER KEYSLOT命令來執行雜湊槽的計算:

    認識Redis叢集——Redis Cluster  

   實踐舉例說明:當我們建立一個Cluster時,系統會預設給我們分好片(你選擇接受系統分配的配置),比如現在有7000-7005六個節點,其中我們分配3個主節點(7000-7002),3個從節點(7003-7005):

    認識Redis叢集——Redis Cluster

    其中slots系統已經指派給了:Master[1]節點擁有0-5500雜湊槽、Master[2]節點擁有5501-11000雜湊槽、Master[3]節點擁有剩餘的11001-16384雜湊槽。

         認識Redis叢集——Redis Cluster

2. 在叢集中執行命令

(1)在叢集中執行set/get命令

  對資料庫中的16384個槽都進行了指派後,叢集就會進入上線狀態,這是客戶端就可以向叢集中的節點傳送資料命令,需要進行計算出命令要處理的鍵是屬於哪個槽的,並檢查是否指派給了自己。

  如果鍵所在的槽正好指派當前節點,那麼節點直接執行這個命令

  認識Redis叢集——Redis Cluster

  如果鍵所在的槽並沒有指派給當前節點,那麼節點會向客戶端返回一個MOVED錯誤(叢集模式下,MOVED錯誤是回被隱藏的,不會顯示的,而是直接顯示Redirected,注:MOVED錯誤接下來會詳細介紹),指引客戶端轉向(redirect)至正確的節點,並再次傳送之前想要執行的命令。

  比如:msg這個可以就被重定向指派到了7002節點上,

  認識Redis叢集——Redis Cluster

  認識Redis叢集——Redis Cluster

(2)執行加入叢集命令(這周內補充完,先mark下使文章結構清晰

3. 節點資料庫的實現

  叢集節點儲存鍵值對以及鍵值對過期時間的處理方式與Redis單機模式是一樣的,唯一不同就是節點只能使用0號資料庫,而單機Redis伺服器則沒有限制。這其實是一個小細節,也是需要注意的!

4. 重新分片

  • Redis叢集重新分片操作可以將任意數量的已經指派給某個節點的槽改為指派給另一個節點(目標節點),並且相關槽所屬的鍵值對也會從源節點被移動到目標節點上。
  • 重新分片操作可以線上進行,在重新分片過程中,叢集不需要下線,並且源節點和目標節點都可以繼續處理命令請求。
  • Redis叢集的重新分片操作是由叢集管理軟體redis-trib負責執行的,Redis提供了進行重新分片所需要的所有命令,redis-trib則通過向源節點和目標節點傳送命令來重新分片操作。

 -----------------------這裡還沒有完全對相關命令實踐,先mark一下,這周內補充完成(其實就是督促自己不斷學習)-------------------------------

5. MOVED錯誤與ASK錯誤

 (1)MOVED錯誤

  上述在叢集中執行:set/get命令時,提到過MOVED錯誤,MOVED的錯誤格式(實際上會被隱藏):

# 表示槽10086正由127.0.0.1,埠號為7002的節點負責。
 MOVED 10086 127.0.0.1:7002

  客戶端與7000節點之間的通訊如下:

   認識Redis叢集——Redis Cluster

  客戶端根據MOVED錯誤,轉向到7001節點再次傳送SET命令:

  認識Redis叢集——Redis Cluster

 

 一個叢集客戶端通常會與叢集中的多個節點建立套接字連線,而所謂的節點轉向實際上就是換一個套接字進行傳送命令。具體的流程如下:

 認識Redis叢集——Redis Cluster

 (2)ASK錯誤

  在進行重新分片期間,源節點向目標節點遷移過程中,可能會出現這樣一種情況:當客戶端有操作鍵值對的有關的命令,同時該鍵值對正好屬於被遷移槽。並且被遷移槽的部分鍵值對還駐留在source節點中,另外部分鍵已經儲存在target節點中;則會進行下列動作:

  • 如果能在source節點找到對應的key,那麼直接執行client的命令;
  • 如果找不到該key,那很有可能就在target中,此時source節點會向client傳送一個ASK錯誤,引導client轉向正在匯入槽的target節點,並再次傳送之前想要執行的命令。

  舉例說明:比如在源節點中一開始有key1-key3三個key,此時需要源節點需要向目標節點遷移,key2已經遷移完成,key3正在遷移,則會發生以下動作:

        認識Redis叢集——Redis Cluster

(7)ASK錯誤與MOVED錯誤的區別

  按照參考書上定義其實就已經很明瞭,兩者之間的區別

  • MOVED錯誤表示槽的負責權已經從一個節點轉移到另外的節點。
  • ASK錯誤則是表示兩個節點在遷移槽過程中對key處理的負責權。

 

三、Redis Cluser是如何保證HA的?

  Redis Cluster保證高可用主要還是依靠:故障檢測與故障轉移兩種策略,這其實很多分散式叢集都能保證,但是針對Redis Cluster有一些細節需要好好學習並理解。

1、故障轉移

  舉例說明:包含7000、7001、7002、7003四個主節點的叢集,我們此時加入7004、7005兩個節點,並當做7000的主節點的兩個從節點。  

              認識Redis叢集——Redis Cluster

 

  如果此時主節點7000下線(當機),那麼叢集中仍然有幾個主節點將在節點7000的兩個從節點7004、7005中選擇一個節點作為主節點,比如選擇了7004則這個新節點將接管原來節點7000負責處理的槽,並繼續處理客戶端傳送的請求,而7005此時作為7004的從節點。

              認識Redis叢集——Redis Cluster

 

  如果下線的7000節點,又重新上線的話,那它將作為節點7004的從節點。  

            認識Redis叢集——Redis Cluster

(1)設定從節點

  命令:CLUSTER REPLICATE <node_id>,可以讓接受命令的節點成為node_id所指定的從節點,並開始對主節點進行復制;比如根據之前實際操作的例子,我啟動一個7006的節點,然後讓它成為主節點7002的從節點。

  在此之前的叢集情況是這樣的:

  認識Redis叢集——Redis Cluster

  一個節點成為從節點以後,開始複製某個主節點這一資訊會通過訊息傳送給叢集中的其他節點,最終叢集中所有節點都會知道某個從節點正在複製某個主節點。

  -----------------------這裡還沒有完全對相關命令實踐,先mark一下,這周內補充完成(其實就是督促自己不斷學習)-------------------------------

(2)故障轉移具體流程:

  當一個從節點發現自己正在複製的主節點下線時,從節點將開始對下線主節點進行故障轉移:

  1) 在該下線主節點的所有從節點中,選擇一個做主節點

  2) 被選中的從節點會執行SLAVEOF no one命令,成為新的主節點;

  3) 新的主節點會撤銷對所有對已下線主節點的槽指派,並將這些槽全部派給自己。

  4) 新的主節點向叢集廣播一條PONG訊息,讓其他節點知道“我已經變成主節點了,並且我會接管已下線節點負責的處理的槽”;

  5) 新主節點開始接收和自己負責處理的槽有關的命令請求,故障轉移完成。

(3)選舉新節點

  1)叢集配置紀元是一個自增計數器,它的初始值為0;

  2)當叢集裡的某個節點開始一次故障轉移時,叢集配置紀元的值會被增加1

  3)對於每個配置紀元,叢集裡的每個負責處理槽的主節點都有一次投票的機會,而第一個向主節點要求投票的從節點將獲得主節點的投票。

  4)當從節點發現自己正在複製的主節點進入已下線狀態時,從節點會向叢集廣播訊息:要求所有收到這條訊息、並且具有投票權的主節點向這個從節點投票。

  5)如果一個主節點具有投票權,並且這個主節點尚未投票跟其它從節點,那麼主節點將要求投票的從節點返回一條ACK訊息,表示支援該從節點成為新的主節點。

  6)每個主節點只有一次投票機會,所有有N個主節點的話,那麼具有大於N/2+1張支援票的從節點只有一個

  7)如果在一個配置紀元裡沒有從節點能收集到足夠多的支援票,那麼叢集進入一個新的配置紀元,並再次進行選舉,直到選出新的主節點為止。

總結:這跟sentinel模式下的選舉類似,兩個都是基於Raft演算法的領頭選舉方法來實現(不是很瞭解Raft演算法,這裡Mark下之後需要補充下Raft演算法)。

2、故障檢測

  叢集中每個節點都會定期地向叢集中的其他節點傳送PING訊息,以此檢測對方是否線上;如果接收PING訊息的節點沒有在規定的時間內,向傳送PING訊息的節點返回PONG訊息,那麼傳送PING訊息的節點就會將PING訊息節點標記為疑似下線(possible fail,PFAIL)。

          認識Redis叢集——Redis Cluster

  如果在叢集中,超過半數以上負責處理槽的主節點都將某個節點X標記為PFAIL,則某個主節點就會將這個主節點X就會被標記為已下線(FAIL),並且廣播到這條訊息,這樣其他所有的節點都會立即將主節點X標記為FAIL。

  假設:

  • Redis Cluster有四個主節點:7000-7003,兩個從節點:7004與7005  
  • 此時7000已下線,並且主節點7001認為主節點7000進入PFAIL
  • 同時主節點70027003也認為主節點7000進入下線狀態

  這樣一來超過半數的主節點都認為7000節點FAIL,那麼7001便會標記7000為FAIL狀態,並向叢集廣播主節點7000已經FAIL訊息

  認識Redis叢集——Redis Cluster