大資料】帶你理解並使用flink中的Time
一、Time的簡介
flink 中的streaming定義了多種流式處理的時間,Event Time(事件時間)、Ingestion Time(接收時間)、Processing Time(處理時間)。
Event Time:指事件產生的時間,比如業務資料庫一條資料產生的時間、一條日誌資料產生的時間等。
Ingestion Time:指flink接收資料的時間。
Processing Time:指資料被flink運算元處理的時間。
在真實的業務程式碼開發中,我們常使用Event TIme、Processing Time。
二、Window的概念
flink中,streaming流式計算被設計為用於處理無限資料集的資料處理引擎,其中無限資料集是指一種源源不斷有資料過來的資料集,window (視窗)將無界資料流切割成為有界資料流進行處理的方式。實現方式是將流分發到有限大小的桶(bucket)中進行分析。
三、Window的型別
1、分類關係
TimeWindow(計時視窗),按照一定時間生成 Window(比如:每5秒
CountWindow(計數視窗),按照指定的資料量生成一個 Window,與時間無關(比如:每20個元素)。
TumblingWindow(滾動視窗)
Sliding Window(滑動視窗)
Session Window(會話視窗)
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70016760/viewspace-2887456/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Flink Time和Watermark的理解
- flink使用Event_time處理實時資料
- React中理解並使用ReduxReactRedux
- 一文帶你徹底瞭解大資料處理引擎Flink記憶體管理大資料記憶體
- 大飛帶你深入理解Tomcat(七)Tomcat
- 大飛帶你深入理解Tomcat(二)Tomcat
- 大資料是什麼?一文帶你瞭解大資料的概念!大資料
- 帶你瞭解資料庫中group by的用法資料庫
- 帶你瞭解資料庫中JOIN的用法資料庫
- Cris 帶你快速入門 Flink
- 深入理解Flink中的狀態
- Flink 中的OutPutTag後面為什麼要帶大括號
- 帶你真正理解MySQL資料庫的四種隔離級別!MySql資料庫
- 帶你入坑大資料(三) --- MapReduce介紹大資料
- 一張圖帶你理解jmeter中的聚合報告JMeter
- 帶你深入理解 Flutter 中的字型“冷”知識Flutter
- 帶你深入理解Android中的自定義屬性!!!Android
- 大資料是什麼?華為雲學院帶你探索大資料之旅大資料
- 帶你通俗理解httpsHTTP
- 帶你瞭解資料庫中事務的ACID特性資料庫
- 圖文並茂,帶你認識 JVM 執行時資料區JVM
- 使用Flink完成流資料統計
- 理解Golang的Time結構Golang
- 大資料——Flink核心技術及原理大資料
- 對資料庫的大體理解資料庫
- 帶你輕鬆接觸”DB2″資料庫中的資料型別DB2資料庫資料型別
- 4個角度輕鬆理解 Flink中的Watermark
- 大資料開發-Flink-資料流DataStream和DataSet大資料AST
- 帶你理解Lock鎖原理
- [譯]帶你理解 Async/awaitAI
- 今夜,大資料帶你瞭解當代青年加班狗大資料
- 帶你發現新大陸之圖資料庫解密資料庫解密
- Flink大資料計算的機遇與挑戰大資料
- 【資料結構】帶權並查集資料結構並查集
- 4個步驟帶你搞定大資料,Linux到大資料學習路線資料(絕對必看)大資料Linux
- Apache Flink 特性 - State TTL (Time-to-Live)Apache
- 手摸手帶你理解Vue的Watch原理Vue
- 手摸手帶你理解Vue的Computed原理Vue