Storm中Trident框架詳解
一、Storm Trident概述及特性
Trident是在storm基礎上,一個以realtime 計算為目標的高度抽象。 它在提供處理大吞吐量資料能力的同時,也提供了低延時分散式查詢和有狀態流式處理的能力。好比 Mapreduce框架的Pig,Trident是Storm提供的基於基本API開發的高階框架。Trident提供了 joins, aggregations, grouping, functions, 以及 filters等能力。
除此之外,Trident 還提供了一些專門的原語,從而在基於資料庫或者其他儲存的前提下來應付有狀態的遞增式 處理。
Trident是完全容錯的,擁有有且只有一次處理的語義,其實就是transactional的高階封裝。這就讓你可以很輕鬆 的使用Trident來進行實時資料處理。Trident會把狀態以某種形式保持起來,當有錯誤發生時,它會根據需要來恢復 這些狀態。
Trident封裝了transactional事務類,所以我們不再需要學習Batch相關的基礎API了,減輕了學習成本。
trident每次處理訊息均以batch為單位,即一次處理多個元組
trident是storm的更高層次抽象,主要提供了3個方面的好處:
- (1)常用的count,sum等封裝成了方法,可以直接呼叫不需要自己實現。
- (2)提供一次原語,如groupby等。
- (3)提供事務支援,可以保證資料均處理且只處理了一次(恰好一次)
如果我們開發一個對文字中的詞頻進行統計的程式,使用Storm框架的話我們需要開發三個Storm元件:
- 1.一個Spout負責收集文字資訊並分段,做為sentence欄位傳送給下游的Bolt
- 2.一個Bolt將每段文字分詞,將分詞結果以word欄位傳送給下游的Bolt
- 3.一個Bolt對詞頻進行統計,把統計結果記錄在count欄位並儲存
如果使用Trident我們可以使用一下程式碼完成上述操作:
二、TridentTopology與StormToplogy
(1)區別
StormToplogy:
TridentTopology
(2)聯絡
spout的訊息流涉及到的核心類
三、TridentTopology的可靠性機制詳解
四、Storm Trident API講解
以上內容僅供參考學習,如有侵權請聯絡我刪除!
如果這篇文章對您有幫助,左下角的大拇指就是對博主最大的鼓勵。
您的鼓勵就是博主最大的動力!
相關文章
- 分散式流處理框架 Apache Storm —— 程式設計模型詳解分散式框架ApacheORM程式設計模型
- node中express框架使用詳解Express框架
- storm詳解:第一章 storm分散式單詞計數ORM分散式
- 詳解SSH 框架中物件呼叫流程框架物件
- mapreduce框架詳解框架
- 淺談Storm流式處理框架ORM框架
- 【Storm篇】--Storm中的同步服務DRPCORMRPC
- Golang中的強大Web框架Fiber詳解GolangWeb框架
- Spring框架詳解Spring框架
- lms框架模組詳解框架
- 流式處理框架storm淺析(下篇)框架ORM
- Cordova android框架詳解Android框架
- Nuxt框架中內建元件詳解及使用指南(一)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(二)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(三)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(四)UX框架元件
- Nuxt框架中內建元件詳解及使用指南(五)UX框架元件
- OAuth 2.0授權框架詳解OAuth框架
- Pytorch框架詳解之一PyTorch框架
- Storm,Spark和Samza三種框架有何區別?ORMSpark框架
- 工作流中的資料持久化詳解!Activiti框架中JPA的使用分析持久化框架
- 中安威士:詳解SpringMVC框架中常見漏洞的防禦SpringMVC框架
- Django web框架-----url path name詳解DjangoWeb框架
- dva框架使用詳解及Demo教程框架
- spring mvc 框架搭建及詳解SpringMVC框架
- iOS 開發之照片框架詳解iOS框架
- 詳解ABP框架的多租戶框架
- Android EventBus 3.0 框架用法詳解Android框架
- Hadoop 新 MapReduce 框架 Yarn 詳解Hadoop框架Yarn
- layUI前端框架使用詳解_layUI前端框架最新最完整UI前端框架
- 手把手擼套框架-Victory框架1.1 詳解框架
- Storm 系列(九)—— Storm 整合 KafkaORMKafka
- 【Storm篇】--Storm基礎概念ORM
- 【Storm篇】--Storm分組策略ORM
- Twitter Storm中Bolt訊息傳遞路徑之原始碼解讀ORM原始碼
- 流計算框架 Flink 與 Storm 的效能對比框架ORM
- JavaScript中的this詳解JavaScript
- Redis 中 Bitmap 詳解Redis