常見分散式協議和演算法的說明和對比
常見分散式協議和演算法的說明和對比
開發分散式系統最關鍵的就是根據場景特點,選擇合適的演算法,在一致性和可用性之間妥協折中,而妥協折中的關鍵就在於能否理解各演算法的特點。
分散式一致性的背景
一致性的分類
我們講分散式系統的一致性,一般來說,有如下幾個分類:
• 強一致性。對一致性要求最高的,是強一致的,保證寫操作完成後,任何後續訪問都能讀到更新後的值。。但是效能較弱,在網際網路系統裡面用的較少,但是在金融領域使用的較多。因為是同步的,因此效能會比較低。
• 弱一致性。寫操作完成後,系統不能保證後續的訪問都能讀到更新後的值。
• 最終一致性。是弱一致性的一個特定形式,如果對某個物件沒有新的寫操作了,最終所有後續訪問都能讀到相同的最近更新的值,但是是在最終某個時間點才能保證。弱一致性(最終一致性)都是非同步的,因此效能會比較好。
一般而言,在需要系統狀態的一致性時,你可以考慮採用二階段提交協議、TCC。在需要資料訪問是的強一致性時,你可考慮 Raft 演算法。在可用性優先的系統,你可以採用 Gossip 協議來實現最終一致性,並實現 Quorum NWR 來提供強一致性。
如何理解分散式一致性
設計分散式系統的兩大初衷:橫向擴充套件(scalability)和高可用性(availability),橫向擴充套件的目的也是為了解決單點問題從而保障可用性,因此分散式系統的核心訴求也就是可用性,為了保證可用性,一個分散式系統通常由多個節點組成,而這些節點各自維護一份資料,因此我們需要能夠保證每個節點上的資料都是相同的,也就是要保證一致性,這就是我們所說的分散式一致性,他透過給定的一系列操作,在協議(共識演算法)的保障下,試圖使得它們對處理結果達成某種程度的一致。
分散式系統的核心問題
前面說到,分散式一致性,是透過給定的一系列操作,在協議(共識演算法)的保障下,試圖使得它們對處理結果達成某種程度的一致。這裡,也就是整個分散式系統的核心問題,怎麼保證多個節點間的資料是一致的,這就需要我們對分散式協議(共識演算法)要能夠有比較深刻的理解,然後才能很好的解決分散式資料的一致性,掌握分散式協議(共識演算法)也是你面試架構師、技術專家等高階崗位時的敲門磚。
拜占庭容錯 和 非拜占庭容錯
拜占庭錯誤是一個錯誤模型,描述了一個完全不可信的場景,除了存在故障行為,還存在惡意行為。拜占庭容錯(Byzantine Fault Tolerance,BFT),就是指能容忍拜占庭錯誤了。拜占庭容錯是分散式領域最複雜的容錯模型,是你必須要了解的。在一個完全不可信的環境中(比如有人作惡),如果需要達成共識,那麼我們就必須考慮拜占庭容錯演算法,常用的拜占庭容錯演算法有 POW 演算法、PBFT 演算法,它們在區塊鏈中應用廣泛。從機率角度,PBFT 系列演算法是確定的,一旦達成共識就不可逆轉;而 PoW 系列演算法則是不確定的,隨著時間推移,被推翻的機率越來越小。
而非拜占庭容錯,又叫故障容錯(Crash Fault Tolerance,CFT),解決的是分散式系統中存在故障,但不存在惡意節點的共識問題。實際上,這種故障是非常場景的,比如程式奔潰、伺服器硬體故障、網路中斷、響應延遲等等。針對非拜占庭錯誤的解決方案,業界一般採用 Paxos、Raft 及其各種變種的協議。
共識 vs 一致性
共識演算法解決的是對某個提案(Proposal)讓大家都達成一致意見的過程,而這個提案可以認為任何需要達成一致的資訊都是一個提案,如多個事件發生的順序、某個鍵對應的值等等。在實踐中,一致性的結果還需要客戶端的支援,比如透過訪問足夠多個服務節點來驗證確保獲取共識後結果。
但是由於分散式系統會存在各種非拜占庭容錯,因此要達成共識就比較困難,需要一些共識演算法來解決。這裡需要注意,共識(Consensus)和一致性(Consistency)是兩個完全不同的概念。共識是指各節點就指定值(Value)達成共識,而且達成共識後的值,就不再改變了。一致性是指寫操作完成後,能否從各節點上讀到最新寫入的資料,如果立即能讀到,就是強一致性,如果最終能讀到,就是最終一致性。
提到共識演算法,Paxos 是一個必須要提及的話題,而且 ZAB 協議、Raft 演算法都可以看作是 Paxos 變種,Paxos 和 Raft 是共識演算法。所以,你需要了解 Paxos 演算法。但因為 Paxos 演算法的可理解性和可程式設計性痛點突出,所以在實際場景中,最常的共識演算法是 Raft,我們可以基於 Raft 實現強一致性系統,Raft 是需要徹底掌握的。
8 條荒謬的分散式假設
Fallacies of Distributed Computing 是英文維基百科上的一篇文章,講的是剛剛進入分散式計算領域的程式設計師常會有的 8 條假定,隨著時間的推移,每一條都會被證明是錯誤的,也都會導致嚴重的問題,以及痛苦的學習體驗:
• 網路是穩定的。
• 網路傳輸的延遲是零。
• 網路的頻寬是無窮大。
• 網路是安全的。
• 網路的拓撲不會改變。
• 只有一個系統管理員。
• 傳輸資料的成本為零。
• 整個網路是同構的。
為什麼我們要深刻地認識這 8 個錯誤?是因為,這要我們清楚地認識到,在分散式系統中錯誤是不可能避免的,我們能做的不是避免錯誤,而是要把錯誤的處理當成功能寫在程式碼中。這 8 個需要避免的錯誤不僅對於中介軟體和底層系統開發者及架構師是重要的知識,而且對於網路應用程式開發者也同樣重要。分散式系統的其他部分,如容錯、備份、分片、微服務等也許可以對應用程式開發者部分透明,但這 8 點則是應用程式開發者也必須知道的。
常見分散式演算法的對比
從拜占庭容錯、一致性、效能和可用性四個緯度來分析如下(來自極客時間-韓健-分散式協議與演算法實戰):
一般而言,在可信環境(比如企業內網)中,系統具有故障容錯能力就可以了,常見的演算法有二階段提交協議(2PC)、TCC(Try-Confirm-Cancel)、Paxos 演算法、ZAB 協議、Raft 演算法、Gossip 協議、Quorum NWR 演算法。而在不可信的環境(比如有人做惡)中,這時系統需要具備拜占庭容錯能力,常見的拜占庭容錯演算法有 POW 演算法、PBFT 演算法。
採用 Gossip 協議實現的最終一致性系統的可用性是最高的,因為哪怕只有一個節點,叢集還能在執行並提供服務。其次是 Paxos 演算法、ZAB 協議、Raft 演算法、Quorum NWR 演算法、PBFT 演算法、POW 演算法,它們能容忍一定數節點故障。最後是二階段提交協議、TCC,只有當所有節點都在執行時,才能工作,可用性最低。
採用 Gossip 協議的 AP 型分散式系統,具備水平擴充套件能力,讀寫效能是最高的。其次是 Paxos 演算法、ZAB 協議、Raft 演算法,因為它們都是領導者模型,寫效能受限於領導者,讀效能取決於一致性實現。最後是二階段提交協議和 TCC,因為在實現事務時,需要預留和鎖定資源,效能相對低。
2PC【強一致性】
兩階段提交(2PC,Two-phase Commit Protocol)是非常經典的強一致性協議,在各種事務和一致性的解決方案中,都能看到兩階段提交的應用,二階段提交協議,不僅僅是協議,也是一種非常經典的思想。2PC 的流程就是第一階段做投票,第二階段做決定的一個演算法。
二階段提交在達成提交操作共識的演算法中應用廣泛,比如 XA 協議、TCC、Paxos、Raft 等。Paxos、Raft 等強一致性演算法,也採用了二階段提交操作,在“提交請求階段”,只要大多數節點確認就可以,而具有 ACID 特性的事務,則要求全部節點確認可以。所以可以將具有 ACID 特性的操作,理解為最強的一致性。
三階段提交協議(3PC,Three-phase_commit_protocol)是在 2PC 之上擴充套件的提交協議,主要是為了解決兩階段提交協議的阻塞問題,從原來的兩個階段擴充套件為三個階段,增加了超時機制。但目前兩階段提交、三階段提交存在如下的侷限性,並不適合在微服務架構體系下使用:
• 所有的操作必須是事務性資源(比如資料庫、訊息佇列),存在使用侷限性
• 由於是強一致性,資源需要在事務內部等待,效能影響較大,吞吐率不高,不適合高併發與高效能的業務場景;
Paxos【強一致性】
Paxos 演算法基本上來說是個民主選舉的演算法——大多數的決定會成個整個叢集的統一決定。任何一個點都可以提出要修改某個資料的提案,是否透過這個提案取決於這個叢集中是否有超過半數的結點同意(所以Paxos演算法需要叢集中的結點是單數)。蘭伯特提出的 Paxos 演算法包含 2 個部分:
• 一個是 Basic Paxos 演算法,描述的是多節點之間如何就某個值(提案 Value)達成共識;
• 另一個是 Multi-Paxos 思想,描述的是執行多個 Basic Paxos 例項就一系列值達成共識。Basic Paxos 是 Multi-Paxos 思想的核心。
Raft【強一致性】
Raft 演算法是 Paxos 演算法的一種簡化實現,其實 Raft 不是一致性演算法而是共識演算法,是一個 Multi-Paxos 演算法,實現的是如何就一系列值達成共識。Raft 演算法是在蘭伯特 Multi-Paxos 思想的基礎上,做了一些簡化和限制,比如增加了日誌必須是連續的,只支援領導者、跟隨者和候選人三種狀態,在理解和演算法實現上都相對容易許多。
ZAB【最終一致性】
ZAB 協議和 ZooKeeper 程式碼耦合在一起了,無法單獨使用 ZAB 協議,所以一般而言,只需要理解 ZAB 協議的架構和基礎原理就可以了。
TCC【最終一致性】
TCC 是一個分散式事務的處理模型,將事務過程拆分為 Try、Confirm、Cancel 三個步驟,在保證強一致性的同時,最大限度提高系統的可伸縮性與可用性,又被稱補償事務。它的核心思想是針對每個操作都要註冊一個與其對應的確認操作和補償操作(也就是撤銷操作)
二階段提交協議實現的是資料層面的事務,比如 XA 規範採用的就是二階段提交協議;TCC 實現的是業務層面的事務,TCC 可以理解為是一個業務層面的協議,可以當做為一個程式設計模型來看待,因此這個的應用還是非常廣泛的。,TCC 的 3 個操作是需要在業務程式碼中編碼實現的,為了實現一致性,確認操作和補償操作必須是等冪的,因為這 2 個操作可能會失敗重試。
TCC 不依賴於資料庫的事務,而是在業務中實現了分散式事務,這樣能減輕資料庫的壓力,但對業務程式碼的入侵性也更強,實現的複雜度也更高。所以,推薦在需要分散式事務能力時,優先考慮現成的事務型資料庫(比如 MySQL XA),當現有的事務型資料庫不能滿足業務的需求時,再考慮基於 TCC 實現分散式事務。
Gossip【最終一致性】
Gossip 協議利用一種隨機、帶有傳染性的方式,將資訊傳播到整個網路中,並在一定時間內,使得系統內的所有節點資料一致。掌握這個協議不僅能很好地理解這種最常用的,實現最終一致性的演算法,也能在後續工作中得心應手地實現資料的最終一致性。
Gossip 主要透過三個步驟:直接郵寄(Direct Mail)、反熵(Anti-entropy)和謠言傳播(Rumor mongering) 來實現最終一致性。實現資料副本的最終一致性時,一般而言,直接郵寄的方式是一定要實現的。在節點都是已知的情況下,一般採用反熵修復資料副本的一致性。當叢集節點是變化的,或者叢集節點數比較多時,這時要採用謠言傳播的方式來實現最終一致。
Quorum NWR【最終一致性】
Quorum NWR 演算法非常實用,能有效彌補 AP 型系統缺乏強一致性的痛點,給業務提供了按需選擇一致性級別的靈活度。實際應用中,一般的 AP 型分散式系統中(比如 Dynamo、Cassandra、InfluxDB 企業版的 DATA 節點叢集)都會實現 Quorum NWR 的功能。掌握 Quorum NWR,不僅是掌握一種常用的實現一致性的方法,同時可以根據業務的特點來靈活地指定一致性級別。
N、W、R 值的不同組合,會產生不同的一致性效果:
• 當 W + R > N 的時候,對於客戶端來講,整個系統能保證強一致性,一定能返回更新後的那份資料。
• 當 W + R <= N 的時候,對於客戶端來講,整個系統只能保證最終一致性,可能會返回舊資料。
如何設定 N、W、R 值,取決於我們想最佳化哪方面的效能。比如,N 決定了副本的冗餘備份能力;如果設定 W = N,讀效能比較好;如果設定 R = N,寫效能比較好;如果設定 W = (N + 1) / 2、R = (N + 1) / 2,容錯能力比較好,能容忍少數節點(也就是 (N - 1) / 2)的故障。
POW【拜占庭容錯】
區塊鏈中有此應用
PBFT【拜占庭容錯】
區塊鏈中有此應用
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70024420/viewspace-2938398/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 分散式技術專題-分散式協議演算法-帶你徹底認識Paxos演算法、Zab協議和Raft協議的原理和本質分散式協議演算法Raft
- HTTP協議和MQTT協議對比誰更好HTTP協議MQQT
- tcp/ip協議和opc協議對比詳解TCP協議
- HttpClientFactory 使用說明 及 對 HttpClient 的回顧和對比HTTPclient
- 常見協議埠號對應 + 重要協議詳解協議
- 常見的五種開源協議的比較協議
- 常見開源分散式檔案系統架構對比分散式架構
- 分散式協議分散式協議
- 分散式系統:常見陷阱和複雜性分散式
- 常見的網路協議協議
- 分散式協議與演算法-Quorum NWR分散式協議演算法
- 分散式協議與演算法-Paxos演算法分散式協議演算法
- 分散式協議與演算法-Raft演算法分散式協議演算法Raft
- oracle常見的等待事件說明Oracle事件
- 圖論中的常見演算法分析比較和模板圖論演算法
- linux常見命令說明Linux
- Oracle常見等待事件說明Oracle事件
- TCP協議的常見面試題TCP協議面試題
- 分散式事務的理解和常見解決方案彙總分散式
- TCP對應的協議和UDP對應的協議(簡單概述)TCP協議UDP
- 建議收藏備查!MySQL 常見錯誤程式碼說明MySql
- Elasticsearch 叢集和索引健康狀態及常見錯誤說明Elasticsearch索引
- 指數函式和自然常數 e 的一個直觀說明函式
- 拜占庭協議和測謊問題的量子協議的實驗證明協議
- 分散式概念與協議分散式協議
- 分散式系統協調和協定分散式
- 【分散式技術專題】「分散式技術架構」一文帶你釐清分散式事務協議及分散式一致性協議的演算法原理和核心流程機制(Paxos篇)分散式架構協議演算法
- 一些網路協議的說明協議
- 常見的網路協議彙總協議
- 常見的http協議狀態碼HTTP協議
- HTTP 常見狀態碼說明HTTP
- TCP協議、演算法和原理TCP協議演算法
- ZAB協議和Paxos演算法協議演算法
- 常見開源協議詳解協議
- 常見網路協議彙總協議
- jQuery - 函式 $.ajaxSetup 的說明和使用jQuery函式
- 成員函式的說明和使用(轉)函式
- 機器學習常見演算法效能比較與調參建議機器學習演算法