大資料】帶你理解並使用flink中的Time
一、Time的簡介
flink 中的streaming定義了多種流式處理的時間,Event Time(事件時間)、Ingestion Time(接收時間)、Processing Time(處理時間)。
Event Time:指事件產生的時間,比如業務資料庫一條資料產生的時間、一條日誌資料產生的時間等。
Ingestion Time:指flink接收資料的時間。
Processing Time:指資料被flink運算元處理的時間。
在真實的業務程式碼開發中,我們常使用Event TIme、Processing Time。
二、Window的概念
flink中,streaming流式計算被設計為用於處理無限資料集的資料處理引擎,其中無限資料集是指一種源源不斷有資料過來的資料集,window (視窗)將無界資料流切割成為有界資料流進行處理的方式。實現方式是將流分發到有限大小的桶(bucket)中進行分析。
三、Window的型別
1、分類關係
TimeWindow(計時視窗),按照一定時間生成 Window(比如:每5秒
CountWindow(計數視窗),按照指定的資料量生成一個 Window,與時間無關(比如:每20個元素)。
TumblingWindow(滾動視窗)
Sliding Window(滑動視窗)
Session Window(會話視窗)
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70016760/viewspace-2887456/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Flink Time和Watermark的理解
- flink使用Event_time處理實時資料
- React中理解並使用ReduxReactRedux
- 一文帶你徹底瞭解大資料處理引擎Flink記憶體管理大資料記憶體
- 大資料是什麼?一文帶你瞭解大資料的概念!大資料
- 帶你瞭解資料庫中JOIN的用法資料庫
- 帶你瞭解資料庫中group by的用法資料庫
- 理解和使用SQL Server中的並行SQLServer並行
- 一張圖帶你理解jmeter中的聚合報告JMeter
- Cris 帶你快速入門 Flink
- 大資料是什麼?華為雲學院帶你探索大資料之旅大資料
- 我理解的大資料大資料
- 帶你入坑大資料(三) --- MapReduce介紹大資料
- 帶你深入理解 Flutter 中的字型“冷”知識Flutter
- 帶你徹底理解 Android 中的 Window 和 WindowManagerAndroid
- 深入理解Flink中的狀態
- 帶你真正理解MySQL資料庫的四種隔離級別!MySql資料庫
- 如何理解“大資料”大資料
- 圖文並茂,帶你認識 JVM 執行時資料區JVM
- 帶你深入理解Android中的自定義屬性!!!Android
- 大資料時代帶來的大變革大資料
- 帶你輕鬆接觸”DB2″資料庫中的資料型別DB2資料庫資料型別
- 帶你瞭解資料庫中事務的ACID特性資料庫
- 今夜,大資料帶你瞭解當代青年加班狗大資料
- 大資料帶你玩轉Facebook和Youtube網紅營銷大資料
- “大資料”帶你透視考研當下與未來大資料
- 大資料帶來的憂傷大資料
- php 自帶datetime類的使用PHP
- 帶你理解Lock鎖原理
- 帶你通俗理解httpsHTTP
- 大資料Spark Sql中日期轉換FROM_UNIXTIME和UNIX_TIMESTAMP的使用大資料SparkSQL
- 對資料庫的大體理解資料庫
- 大資料——Flink核心技術及原理大資料
- Oracle中的TIMESTAMP資料型別Oracle資料型別
- 大資料開發-Flink-資料流DataStream和DataSet大資料AST
- 【資料結構】帶權並查集資料結構並查集
- 4個角度輕鬆理解 Flink中的Watermark
- mysql中的date、datetime、timestamp你還不知道怎麼使用嗎MySql