Storm中Trident框架詳解
一、Storm Trident概述及特性
Trident是在storm基礎上,一個以realtime 計算為目標的高度抽象。 它在提供處理大吞吐量資料能力的同時,也提供了低延時分散式查詢和有狀態流式處理的能力。好比 Mapreduce框架的Pig,Trident是Storm提供的基於基本API開發的高階框架。Trident提供了 joins, aggregations, grouping, functions, 以及 filters等能力。
除此之外,Trident 還提供了一些專門的原語,從而在基於資料庫或者其他儲存的前提下來應付有狀態的遞增式 處理。
Trident是完全容錯的,擁有有且只有一次處理的語義,其實就是transactional的高階封裝。這就讓你可以很輕鬆 的使用Trident來進行實時資料處理。Trident會把狀態以某種形式保持起來,當有錯誤發生時,它會根據需要來恢復 這些狀態。
Trident封裝了transactional事務類,所以我們不再需要學習Batch相關的基礎API了,減輕了學習成本。
trident每次處理訊息均以batch為單位,即一次處理多個元組
trident是storm的更高層次抽象,主要提供了3個方面的好處:
- (1)常用的count,sum等封裝成了方法,可以直接呼叫不需要自己實現。
- (2)提供一次原語,如groupby等。
- (3)提供事務支援,可以保證資料均處理且只處理了一次(恰好一次)
如果我們開發一個對文字中的詞頻進行統計的程式,使用Storm框架的話我們需要開發三個Storm元件:
- 1.一個Spout負責收集文字資訊並分段,做為sentence欄位傳送給下游的Bolt
- 2.一個Bolt將每段文字分詞,將分詞結果以word欄位傳送給下游的Bolt
- 3.一個Bolt對詞頻進行統計,把統計結果記錄在count欄位並儲存
如果使用Trident我們可以使用一下程式碼完成上述操作:
二、TridentTopology與StormToplogy
(1)區別
StormToplogy:
TridentTopology
(2)聯絡
spout的訊息流涉及到的核心類
三、TridentTopology的可靠性機制詳解
四、Storm Trident API講解
以上內容僅供參考學習,如有侵權請聯絡我刪除!
如果這篇文章對您有幫助,左下角的大拇指就是對博主最大的鼓勵。
您的鼓勵就是博主最大的動力!
相關文章
- 分散式流處理框架 Apache Storm —— 程式設計模型詳解分散式框架ApacheORM程式設計模型
- 詳解SSH 框架中物件呼叫流程框架物件
- 流式處理框架storm淺析(下篇)框架ORM
- Spring框架詳解Spring框架
- Golang中的強大Web框架Fiber詳解GolangWeb框架
- lms框架模組詳解框架
- Pytorch框架詳解之一PyTorch框架
- Apache 流框架 Flink,Spark Streaming,Storm對比分析(1)Apache框架SparkORM
- Apache 流框架 Flink,Spark Streaming,Storm對比分析(2)Apache框架SparkORM
- Apache 流框架 Flink,Spark Streaming,Storm對比分析(一)Apache框架SparkORM
- Apache 流框架 Flink,Spark Streaming,Storm對比分析(二)Apache框架SparkORM
- Storm,Spark和Samza三種框架有何區別?ORMSpark框架
- 流計算框架 Flink 與 Storm 的效能對比框架ORM
- Storm 系列(九)—— Storm 整合 KafkaORMKafka
- Nuxt框架中內建元件詳解及使用指南(三)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(二)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(五)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(四)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(一)UX框架元件
- StormORM
- spring mvc 框架搭建及詳解SpringMVC框架
- Java日誌框架:logback詳解Java框架
- OAuth 2.0授權框架詳解OAuth框架
- Storm系列(六)storm和kafka整合ORMKafka
- 大資料框架對比 - Hadoop、Spark、Storm、Samza、Spark、Flink大資料框架HadoopSparkORM
- 手把手擼套框架-Victory框架1.1 詳解框架
- 中安威士:詳解SpringMVC框架中常見漏洞的防禦SpringMVC框架
- dva框架使用詳解及Demo教程框架
- Hadoop框架:DataNode工作機制詳解Hadoop框架
- Hadoop框架:NameNode工作機制詳解Hadoop框架
- 許可權框架之Shiro詳解框架
- Django web框架-----url path name詳解DjangoWeb框架
- layUI前端框架使用詳解_layUI前端框架最新最完整UI前端框架
- 工作流中的資料持久化詳解!Activiti框架中JPA的使用分析持久化框架
- Java ”框架 = 註解 + 反射 + 設計模式“ 之 註解詳解Java框架反射設計模式
- 資料庫框架Sugar的使用詳解資料庫框架
- ASP.NET-框架分類與詳解ASP.NET框架
- 輕量級DI框架Guice使用詳解框架GUI