現在主流的時序資料庫確實叢集方案大多數都選擇閉源，除了從技術角度上來看，商業的考量也是眾多大廠必須考慮的元素之一。TDengine 作為一款全自研的開源軟體，繼2019年單機版開源後，在2020年也宣佈叢集版正式開源。這意味著，在叢集搭建方面，對於研發資源單薄、時間精力都有限的企業來說，無疑是撥雲見日的一則好訊息。

正在苦尋方案的技術人，或者正在做技術選型的領導者們，歡迎大家移步我司官網，下載和測試

[前往官網，檢視更多]( https://www.taosdata.com/?zh"前往官網，檢視更多")

簡單的廣告之後，還是要用真正的技術說話，也為苦苦尋求技術方案的夥伴們提供一種新的思路。關於TDengine 叢集的設計思路，可以從以下四方面來簡單描述。（彩蛋！結尾有影片微課堂講解，不想看文字的夥伴可以直接拉到最後呦～）

**1、叢集與主要邏輯單元**

TDengine是基於硬體、軟體系統不可靠、一定會有故障的假設進行設計的，是基於任何單臺計算機都無足夠能力處理海量資料的假設進行設計的。因此TDengine從研發的第一天起，就按照分散式高可靠架構進行設計，是完全去中心化的，是水平擴充套件的，這樣任何單臺或多臺伺服器當機或軟體錯誤都不影響系統的服務。

透過節點虛擬化並輔以自動化負載均衡技術，TDengine能最大限度地利用異構叢集中的計算和儲存資源。而且只要資料副本數大於一，無論是硬軟體的升級、還是IDC的遷移等都無需停止叢集的服務，極大地保證系統的正常執行，並且降低了系統管理員和運維人員的工作量。

下面的示例圖上有八個物理節點，每個物理節點被邏輯的劃分為多個虛擬節點。
![](http://img.blog.itpub.net/blog/2022/05/18/978994d6723c12aa.jpeg?x-oss-process=style/bb)
圖例：物理節點(dnode)、虛擬資料節點(vnode)、虛擬資料節點組(vgroup)、虛擬管理節點(mnode)

**2、一典型的操作流程**

為解釋vnode, mnode, taosc和應用之間的關係以及各自扮演的角色，下面對寫入資料這個典型操作的流程進行剖析。
![](http://img.blog.itpub.net/blog/2022/05/18/7f908bfc713e4603.jpeg?x-oss-process=style/bb)

1. 應用透過JDBC、ODBC或其他API介面發起插入資料的請求。
2. taosc會檢查快取，看是有儲存有該表的meta data。如果有，直接到第4步。如果沒有，taosc將向mnode發出get meta-data請求。
3. mnode將該表的meta-data返回給taosc。Meta-data包含有該表的schema, 而且還有該表所屬的vgroup資訊（vnode ID以及所在的dnode的IP地址，如果副本數為N，就有N組vnodeID/IP)。如果taosc遲遲得不到mnode回應，而且存在多個mnode,taosc將向下一個mnode發出請求。
4. taosc向master vnode發起插入請求。
5. vnode插入資料後，給taosc一個應答，表示插入成功。如果taosc遲遲得不到vnode的回應，taosc會認為該節點已經離線。這種情況下，如果被插入的資料庫有多個副本，taosc將向vgroup裡下一個vnode發出插入請求。
6. taosc通知APP，寫入成功。

**3、資料分割槽**

vnode(虛擬資料節點)儲存採集的時序資料，而且查詢、計算都在這些節點上進行。為便於負載均衡、資料恢復、支援異構環境，TDengine將一個物理節點根據其計算和儲存資源切分為多個vnode。這些vnode的管理是TDengine自動完成的，對應用完全透明。

對於單獨一個資料採集點，無論其資料量多大，一個vnode（或vnode group, 如果副本數大於1）有足夠的計算資源和儲存資源來處理（如果每秒生成一條16位元組的記錄，一年產生的原始資料不到0.5G），因此TDengine將一張表的所有資料都存放在一個vnode裡，而不會讓同一個採集點的資料分佈到兩個或多個dnode上。而且一個vnode可儲存多張表的資料，一個vnode可容納的表的數目由配置引數sessionsPerVnode指定，預設為2000。設計上，一個vnode裡所有的表都屬於同一個DB。因此一個資料庫DB需要的vnode或vgroup的個數等於：資料庫表的數目/sessionsPerVnode。

建立DB時，系統並不會馬上分配資源。但當建立一張表時，系統將看是否有已經分配的vnode, 而且是否有空位，如果有，立即在該有空位的vnode建立表。如果沒有，系統將從叢集中，根據當前的負載情況，在一個dnode上建立一新的vnode, 然後建立表。如果DB有多個副本，系統不是隻建立一個vnode，而是一個vgroup(虛擬資料節點組)。系統對vnode的數目沒有任何限制，僅僅受限於物理節點本身的計算和儲存資源。

sessionsPerVnode的設定需要考慮具體場景，建立DB時，可以個性化指定該引數。該引數不宜過大，也不宜過小。過小，極端情況，就是每個資料採集點一個vnode, 這樣導致系統資料檔案過多。過大，虛擬化帶來的優勢就會喪失。給定叢集計算資源的情況下，整個系統vnode的個數應該是CPU核的數目的兩倍以上。

**4、負載均衡**

每個dnode(物理節點)都定時向 mnode(虛擬管理節點)報告其狀態（包括硬碟空間、記憶體大小、CPU、網路、虛擬節點個數等），因此mnode瞭解整個叢集的狀態。基於整體狀態，當mnode發現某個dnode負載過重，它會將dnode上的一個或多個vnode挪到其他dnode。在挪動過程中，對外服務繼續進行，資料插入、查詢和計算操作都不受影響。負載均衡操作結束後，應用也無需重啟，將自動連線新的vnode。

如果mnode一段時間沒有收到dnode的狀態報告，mnode會認為這個dnode已經離線。如果離線時間超過一定時長（時長由配置引數offlineThreshold決定），該dnode將被mnode強制剔除出叢集。該dnode上的vnodes如果副本數大於一，系統將自動在其他dnode上建立新的副本，以保證資料的副本數。

**總結**

比較常見的關於叢集方案的問題，TDengien在設計之初就已經考慮到，這也是為什麼很多企業紛紛將資料庫遷移過來的很重要的一個原因。當企業還在花十倍甚至百倍的人力物力研發和搭建自己的整合方案時，跑在前面的企業已經藉助更專業的力量和方案，實現了研發為業務賦能的承諾。

------------

想了解更多 TDengine Database 的具體細節，歡迎大家在[GitHub]( https://github.com/taosdata/TDengine"GitHub")上檢視相關原始碼。
[![](http://img.blog.itpub.net/blog/2022/05/11/0fd59db1207fc97f.jpeg?x-oss-process=style/bb)](https://www.taosdata.com/?zh "![](http://img.blog.itpub.net/blog/2022/05/11/0fd59db1207fc97f.jpeg?x-oss-process=style/bb)")

時序資料庫的叢集方案？

相關文章