實時計算小括
資料領域主要分兩個世界,一個OLTP(線上交易: 資料庫),一個是OLAP(線上分析: 大資料)。OLTP基於ACID特性,OLAP中用到的技術是CAP理論和BASE理論。CAP是一致性(Consistency)、可用性(Availability)、分割槽容忍性(Partition tolerance)三者只能取其二,BASE是最終一致性。ACID是原子性(atomicity)、一致性(consistency)、隔離性(isolation)、永續性(durability)。這是兩套世界的PK模式,當然也有HTAP,只不過目前來說做得都不好。
大資料主要分兩種場景,一個是離線,一個是實時。離線主要面向經營分析類的需求(離線數倉),實時主要是實時計算,有微批和流兩種實現方式。
下面是一幅實時處理價值指數級衰減的曲線:
1秒鐘返回結果,1分鐘返回結果,1小時返回結果,1天返回結果等等,它的價值是完全不一樣的。如果是毫秒級或者微秒級直接響應的話,那就屬於實時計算。應用場景很多,如風控場景、無人駕駛場景、工業場景等。
下面我們看一個Lambda架構,是一個流批獨立的Function。上面橙色部分是批處理操作,原始資料通過批處理然後給到不同的服務的介面,供查詢使用;下面是流計算當中的實時場景,這裡並不分兩段,而是直接供給給下游消費。
舉一個實時監控響應的應用:
系統端的資料會實時產生,通過Flume可以採集(也可以由Mysql或者Log直接給到Kafka),給到Kafka,就完成了資料的收集。通過Flink完成計算,存到CK或關係型資料庫中,最後用阿里的QiuckBI或開源的Supperset展示。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70015587/viewspace-2881185/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 實時計算神器:binlog
- Python有效括號字串判斷和深度計算Python字串
- 說說實時流式計算
- eval()進行json轉換時新增小括號()的作用JSON
- ORACLE計算2個時間段相差時間小時、分、秒Oracle
- 實時計算Flink效能調優
- 實時計算Flink——產品安全
- Flink實時計算topN熱榜
- Flink 在有贊實時計算的實踐
- 加法小計算
- 聊一聊實時計算系統設計
- 實時計算Flink——快速入門概述
- 實時計算無線資料分析
- 用Spark進行實時流計算Spark
- vivo 實時計算平臺建設實踐
- [C++]括號使用小技巧C++
- 實時計算Flink>產品定價>計量計費
- 計算機計算小數除法的陷阱計算機
- 實時計算助力1688打造「實時挑貨」系統
- 實時計算如何幫助淘寶實現線上「實時選品」?
- Java如何使用實時流式計算處理?Java
- eval() JSON轉換 小括號 () 作用JSON
- 日常節省 30%計算資源:阿里雲實時計算 Flink 自動調優實踐阿里
- G7在實時計算的探索與實踐
- Apache Flink 在移動雲實時計算的實踐Apache
- 聯通實時計算平臺演進與實踐
- 端到端的實時計算:TiDB + Flink 最佳實踐TiDB
- 函式計算: 讓小程式開發進入 Serverless 時代函式Server
- JS計算精度小記JS
- Hive實戰—時間滑動視窗計算Hive
- Flink實時計算pv、uv的幾種方法
- 施耐德UNITY下使用ST程式設計計算最近一小時的均值Unity程式設計
- 時間差計算
- PHP時間計算PHP
- 直播小程式原始碼,vue實現時間倒數計時原始碼Vue
- 阿里雲重磅開源實時計算平臺,挑戰計算領域的“珠峰”阿里
- LeetCode_0224. 基本計算器,帶括號和空格的加減法算式LeetCode
- 實時計算 Flink> 產品簡介——最新動態