在 8 月 13 日的 [TDengine]( https://www.taosdata.com/"TDengine") 開發者大會上，濤思資料創始人陶建輝進行了題為《高效能、雲原生的極簡時序資料處理平臺》的主題演講。在本次演講中，他不僅分享了時序資料庫現階段的技術痛點，還深入闡釋了打造 TDengine 3.0 的原因以及實踐思路。本文根據演講內容整理而成。

在 2017 年剛開始做[時序資料庫（Time Series Database，TSDB）]( https://www.taosdata.com/"時序資料庫（Time Series Database，TSDB）")時，學物理的我想當然地認為做好資料庫沒有大家說的那麼難，但做了 5 年後才發現，這真的不是一件很容易的事。下面我具體說說難在哪裡：

- **水平擴充套件性（Scalability）問題。**在 TDengine 剛開發沒多久時，我用一臺 128 核的機器對 TDengine 進行了測試，結果效能遠遠沒有達到預期，這件事情也讓我清楚地意識到，理想的水平擴充套件能力很難實現。
- **沒有真正的雲原生化。**我個人特別堅信雲是未來，資料庫也一定要走向雲原生（Cloud Native），但在深度研究市面上的資料庫產品後，我發現大部分資料庫都不是雲原生，而僅僅是“雲就緒”（Cloud Ready），即資料庫服務提供商在轉售雲平臺。真正的雲原生資料庫應該具備存算分離、計算和儲存能力彈性擴張、能夠在雲上部署、自動化部署等特點。
- **複雜性（Complex）問題。**2016 年我看到很多人在處理一些簡單的時序資料時，要把整個 Hadoop 系統搬過來，要加 HBase 層，還要把 Flink、Spark 等等全部加上，這對於研發人員來講就是個災難。但時至今日，這個複雜性也並沒有隨著時序資料庫的發展得到充分的解決，只有打造一個集 Kafka、Flink、Spark、Redis 等第三方工具功能於一體的極簡時序資料處理平臺，這一問題才有望充分解決。
- **資料分析能力跟不上。**諸如 InfluxDB、Prometheus 等較為流行的 Time-Series Database，由於不支援 SQL，導致很多正常的資料服務、資料倉儲的分析方法都用不上。結合我過往不斷跨界的經驗，我發現了這個問題，所以 TDengine 早就支援了 SQL，不過仍然需要最佳化和加強。

發現並解決上述的問題，便是我們打造 TDengine 3.0 的初衷。從去年 6 月開始，在 40 多個研發一年多的努力下，TDengine 3.0 終於在今天正式和大家見面了。

下面我們就一起看看 TDengine 3.0 是什麼樣子的。

**雲原生時序資料庫**

**水平擴充套件**
![](http://img.blog.itpub.net/blog/2022/08/25/46b89b704e12fe38.jpeg?x-oss-process=style/bb)
TDengine 的新分散式架構

打造雲原生時序資料庫，第一個要素就是必須是分散式架構。其實 TDengine 以前也是分散式架構，但為了實現雲原生的種種特性，我們在此架構基礎上引入了一個新的節點——計算節點 Qnode。

![](http://img.blog.itpub.net/blog/2022/08/25/4895e6274a35813d.png?x-oss-process=style/bb)

那透過雲原生如何解決可擴充套件性問題？還是透過分片分割槽來解決，資料切分的方法我們沒有做太多改動，TDengine 一開始就是這麼做的，在時間軸上以天或周為單位對資料進行切分，同時將定量裝置的資料分配給每個區（Vnode）進行處理。

**跟 2.x 相比，3.0 最大的不同就是後設資料的管理也變成了完全分散式的。**這也是我在此前版本中吸取了一個教訓而做出的改變，最開始我沒想到後設資料的管理如此之難。

有一次我們和塗鴉聊合作，他們要測五千萬個裝置的資料，TDengine 2.0 在測試中就出現了高基數問題。在 2.x 的設計中，我們的後設資料統一存放在 mnode 中，這在此次測試中就成為了一個瓶頸——在進行聚合操作時，光是把五千萬個裝置中的標籤資料拉出來就需要很長時間，聚合速度可想而知。也因此，**高基數成為了我們在 3.0 版本中解決的首要問題。**

現在的 TDengine 管理節點不再儲存每個裝置或每張表的後設資料了，而是把這些後設資料還有時序資料完全儲存在 vnode 裡，之後會用 B+ 樹、一致性雜湊來處理。這樣一來，我們在插入一個資料到任何一個片或者一個區時都不再需要經過任何中間節點，徹底解決了高基數的問題。

**經過測試，TDengine 3.0 完全能夠支援 10 億個裝置、100 臺伺服器節點，**同時整個啟動時間也很快，不到一分鐘整個叢集就能啟動。儘管此前的 2.6 也能支援五千萬的裝置數，但啟動時間就大概要三四十分鐘，裝置數量多的時候不太給力。

中國智慧電錶至少要有十億臺，給十億臺電表做聚合操作可以說相當不容易，解決高基數問題是很重要的，TDengine 發展到 3.0 版本才算是真正把這個問題解決了。

**彈性**

![](http://img.blog.itpub.net/blog/2022/08/25/9adc1bd88069aef6.png?x-oss-process=style/bb)

雲原生裡面一個很重要的東西就是彈性，它跟水平擴充套件的彈性還略有不同，首先一定要把計算和儲存分離，我上面說 3.0 新增了一個計算節點 Qnode，它是專門用來做計算的，但簡單查詢 Vnode 就可以直接操作了，如果牽扯到 group by、order by 等複雜查詢，就需要在 Qnode 上進行了。

Qnode 的優點就是操作者可以動態地啟動、停止，也就是說它的計算資源可以動態地進行操控，這樣就實現了存算分離。同時 Vnode 也可以進行拆分或合併，保證儲存也可以彈性伸縮。

如果系統不能做到真正的彈性伸縮，就一定不是雲原生的，很多企業打著雲原生的幌子，但實際上連雲原生是什麼都說不清楚。在我看來，雲原生就是要充分利用雲平臺的優勢，即計算資源、儲存資源、網路資源，且要完全彈性，你想要就馬上給你，不想要就馬上釋放，這樣才能真正實現成本的節約。

**韌性**
雲原生裡還有一個重要概念叫韌性，簡單來講就是高可靠、高可用。TDengine 在設計之初就考慮到了這一點，其高可用就是用多個副本來實現，但後面發現以前的同步演算法還是存在漏洞，因此 3.0 就完全採用了標準 RAFT 協議來實現資料複製，以此保證資料一致性。

除了高可用，合格的韌性還要保證系統的高可靠，保證機器即使當機了依然還能重啟，且還能繼續工作，資料也不會丟失。

**部署、維護**
我們以前都是建議使用者到 Kubernetes 上部署，但並沒有出詳細的自動化流程，3.0 版本給出了詳細的 Kubernetes 部署文件，只需修改兩個配置檔案，馬上就能部署整個叢集，極其簡單。

除了更加理解雲原生，3.0 給我帶來的另一個收穫就是對於可觀測性的理解，可觀測性其實遠遠不只是監控，它包括了 logging、tracing、metrics，我們在 3.0 上實現了整個架構，讓使用者對 TDengine 所有叢集的執行狀態都能真正監測到，讓系統維護變得更加簡單。在維護上，還有關鍵一點就是要做到自動化，一切都要指令碼化，減少人工手動操作的成本。

**極簡的時序資料處理平臺**
在 TDengine 建立之初，打造一款極簡的時序資料處理平臺就是我的初衷。要知道，一個通用的架構往往是要先把採集資料送到 Kafka 或者各種訊息佇列裡，消費之後一部分資料再送到 Spark 或者 Flink 裡做流計算處理，一部分資料送到資料庫做直接儲存，還有一部分則會傳輸到 Redis 做快取，這樣一個資料處理平臺，裡面要整合很多軟體，維護起來相當困難。

要打造一款極簡的時序資料處理平臺，首先要解決的問題就是快取，因為快取對於物聯網、車聯網來講都是極其關鍵的，TDengine 早就具備了快取功能，這個也是很多使用者特別喜歡的功能，非常方便。

![](http://img.blog.itpub.net/blog/2022/08/25/21ee278a9329516f.png?x-oss-process=style/bb)
TDengine 的資料訂閱實現機制

**對於 TDengine 3.0 來說，還有一個很大的改進是重構並最佳化了資料訂閱功能。**TDengine 是用 WAL 來做的訂閱，技術人員應該都知道，WAL 本身就可以看作一個佇列，完全按照資料到達順序來追加寫入。在 TDengine 3.0 中，既可以訂閱一個資料庫，也可以訂閱一個自帶標籤的“超級表”，直接實現過濾，比如只想訂閱功率超過多少的智慧電錶資料，直接就能實現。訂閱完成後無需再拿到應用端去過濾，極大提升了資料傳輸的效率。

我們做產品的目的就是要讓大家用起來簡單，因此在做訊息佇列功能時，API 全部對標的都是 Kafka，現在不光是初始化和每條命令，連測試都完全一樣。以前經常有友商會對標 TDengine，提出效能要超出 TDengine 一百倍之類的觀點，但標準就是自己定義的，甚至都沒有公開。但我們只採用國際通用的測試標準來測，包括訊息佇列，直接用 Kafka 公開的 benchmark 進行測試，我們認為這樣才有說服力，才是客觀的。歡迎大家體驗。

**TDengine 3.0 還有一個很大的改進就是繼續最佳化了流計算功能。**之前 TDengine 就已經支援一個連續查詢的流計算，這種週期性的查詢流計算還是很有用的，但是功能覆蓋卻還不夠。在 IoT 場景下做資料清洗、過濾時，要做一些實時的觸發，必須使用事件驅動的流計算，經過一年多的努力，TDengine 3.0 終於升級了這一流計算功能。

![](http://img.blog.itpub.net/blog/2022/08/25/256692418406ec9e.png?x-oss-process=style/bb)
全新最佳化的流計算功能

TDengine 3.0 所支援的流計算功能是非常典型的，如上面的架構圖所示，資料來源要先進入 Input Queue，再進入流計算的 Task，再輸出到另外一個列。而且流計算可以巢狀，一層一層形成一個資料的 pipeline。從方便使用者使用的角度出發，TDengine 的流計算語法就是 SQL，裡面做了 windows 等擴充套件，可以在資料寫入時觸發，也可以在視窗結束觸發。

此外， TDengine 3.0 對 UDF 的支援也進行了最佳化。3.0 對 UDF 進行了重新實現，加上時間驅動的流計算，我覺得至少在時序資料的場景下，TDengine 已經能夠完全代替 Spark 和 Flink。

![](http://img.blog.itpub.net/blog/2022/08/25/268056294bff49e2.png?x-oss-process=style/bb)
極簡的時序資料處理平臺

但在此我需要再重申一下，我們最佳化 TDengine 的快取、訊息佇列、流計算等功能，並不是想代替 Flink、Spark、Kafka 這類通用型的訊息佇列軟體、流計算軟體，只是想簡化這款基於時序資料場景做的資料庫軟體，更加便於大家使用，透過降低系統複雜度來真正降低運維和儲存成本，這也是我們搭建極簡時序資料處理平臺的原因。

**便捷的資料分析**

![](http://img.blog.itpub.net/blog/2022/08/25/f62b3053d163c7ba.png?x-oss-process=style/bb)
重新構建查詢引擎

TDengine 3.0 還有一個較大的改變就是重新設計了計算引擎，現在像 Planner、最佳化器、執行器等都具備了。對於資料來說，查詢是非常重要的，資料儲存好之後，使用者最重要的就是要從中挖掘資料價值，TDengine 對 SQL 的支援已經做的很好了。

但是 SQL 這個概念也很複雜，我們不可能像 Oracle 一樣支援那麼多詳細的複雜查詢，3.0 的查詢對標的是 Hive，Hive 能做的所有的分析 TDengine 已經都能做了。此外，TDengine 也有很多針對時序資料的特有函式，比如說移動平均、時間加權平均等等。

重構查詢引擎的 TDengine 3.0 已經成為了一個很好的查詢工具，再輔以下面的這些手段，足以讓查詢變得更有效：

- 超級表適合做多維度分析
- 計算與儲存分離
- 資料分片、分割槽
- 流處理
- 歷史資料和實時資料統一分析
- 來自控制檯的臨時查詢
- Python Pandas，資料框支援
- 可以與 Grafana 和 Google Data Studio 等視覺化工具無縫整合

**TDengine 3.0 的最後一個更新功能叫作 taosX，它充分利用了 TDengine 的資料訂閱功能來解決增量備份、異地容災，**即把一個叢集的資料複製到另外一個地方去，以實現邊雲協同。眾所周知，邊雲協同在物聯網裡面很重要，如果說工廠的資料想要同步到集團，就需要一個邊雲的盒子一層接一層做同步，而這個需求，在 TDengine 中就靠 taosX 解決了。

此外除了技術上的種種進步外，今天我還要給大家同步一個好訊息。為了方便工業場景下大量的 Windows 客戶，**TDengine 3.0 的 Windows 版本也正式釋出了，包括客戶端和伺服器。**同時，大概在 10 月 1 日，TDengine 的 Mac 版本也將正式對外發布，大家敬請期待。

![](http://img.blog.itpub.net/blog/2022/08/25/c651b70ad8ce7ab2.jpeg?x-oss-process=style/bb)

目前 TDengine 3.0 的程式碼已經在 GitHub（https://github.com/taosdata/TDengine） 上公開，大家可以完全參照我們的 readme 檔案來編譯，也可以到 TDengine 的官網去下載。如果你是一個開發者，覺得 TDengine 這個專案有意思，可以選擇加入我們的開發者社群，學習原始碼，甚至是貢獻程式碼。如果你是一個物聯網或者工業網際網路應用的開發者，那歡迎你把 TDengine 應用起來，你可以加入我們的使用者群，我們很樂意回答你的問題。如果你是個 DBA，那歡迎你馬上下載，去體驗我剛才講的各種功能。

中國的開源軟體特別需要大家的支援和使用，我經常跟銷售團隊起爭論，比如在決定哪些功能必須放在企業版時，我就表示所有的核心功能都必須同步在開源版本上，而絕不能只放在企業版裡。為什麼？因為想要做好開源就一定要給使用者帶來價值，我希望有越來越多的人能夠成為 TDengine 的佈道者。

**結語**
![](http://img.blog.itpub.net/blog/2022/08/25/6fb30ca45983315a.jpeg?x-oss-process=style/bb)
我特別喜歡丘吉爾的這段名言，翻譯成中文就是“成功不是終點，失敗不是終結，唯有你繼續前行的勇氣最為關鍵”。從建立 TDengine 到現在，我們已經走過了 5 個年頭，開源也已經走過了 3 年，在這個過程中取得了一些小小的成功，但是我們前面的路還很漫長，我已經做好了再戰 5 年、10 年的準備。希望我在七八十歲的時候還能繼續寫程式碼，和大家一起討論問題，度過真正有價值的一生。

------------

想了解更多 TDengine Database的具體細節，歡迎大家在[GitHub]( https://github.com/taosdata/grafanaplugin"GitHub")上檢視相關原始碼。
[![](http://img.blog.itpub.net/blog/2022/05/11/0fd59db1207fc97f.jpeg?x-oss-process=style/bb)](https://www.taosdata.com/?zh "![](http://img.blog.itpub.net/blog/2022/05/11/0fd59db1207fc97f.jpeg?x-oss-process=style/bb)")

TDengine 3.0 三大創新詳解

相關文章