實時計算小括
資料領域主要分兩個世界,一個OLTP(線上交易: 資料庫),一個是OLAP(線上分析: 大資料)。OLTP基於ACID特性,OLAP中用到的技術是CAP理論和BASE理論。CAP是一致性(Consistency)、可用性(Availability)、分割槽容忍性(Partition tolerance)三者只能取其二,BASE是最終一致性。ACID是原子性(atomicity)、一致性(consistency)、隔離性(isolation)、永續性(durability)。這是兩套世界的PK模式,當然也有HTAP,只不過目前來說做得都不好。
大資料主要分兩種場景,一個是離線,一個是實時。離線主要面向經營分析類的需求(離線數倉),實時主要是實時計算,有微批和流兩種實現方式。
下面是一幅實時處理價值指數級衰減的曲線:
1秒鐘返回結果,1分鐘返回結果,1小時返回結果,1天返回結果等等,它的價值是完全不一樣的。如果是毫秒級或者微秒級直接響應的話,那就屬於實時計算。應用場景很多,如風控場景、無人駕駛場景、工業場景等。
下面我們看一個Lambda架構,是一個流批獨立的Function。上面橙色部分是批處理操作,原始資料通過批處理然後給到不同的服務的介面,供查詢使用;下面是流計算當中的實時場景,這裡並不分兩段,而是直接供給給下游消費。
舉一個實時監控響應的應用:
系統端的資料會實時產生,通過Flume可以採集(也可以由Mysql或者Log直接給到Kafka),給到Kafka,就完成了資料的收集。通過Flink完成計算,存到CK或關係型資料庫中,最後用阿里的QiuckBI或開源的Supperset展示。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70015587/viewspace-2881185/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- storm實時計算例項(socket實時接入)ORM
- 說說實時流式計算
- 實時計算神器:binlog
- Spark 實時計算整合案例Spark
- ORACLE計算2個時間段相差時間小時、分、秒Oracle
- Python有效括號字串判斷和深度計算Python字串
- 你瞭解實時計算嗎?
- eval()進行json轉換時新增小括號()的作用JSON
- 加法小計算
- 實時計算如何幫助淘寶實現線上「實時選品」?
- [C++]括號使用小技巧C++
- TO_DSINTERVAL用法:進行天,小時,分秒的計算
- 實時計算助力1688打造「實時挑貨」系統
- 聊一聊實時計算系統設計
- 用Spark進行實時流計算Spark
- 實時計算無線資料分析
- Flink實時計算topN熱榜
- 實時計算Flink——產品安全
- 實時計算Flink效能調優
- 【MySQL】利用binlog完成實時計算MySql
- Flink 在有贊實時計算的實踐
- vivo 實時計算平臺建設實踐
- 計算機計算小數除法的陷阱計算機
- JavaScript 小括號()分組運算子JavaScript
- Storm 實戰:構建大資料實時計算ORM大資料
- Hive實戰—時間滑動視窗計算Hive
- 實時計算Flink——快速入門概述
- Java如何使用實時流式計算處理?Java
- 日誌和實時流計算處理
- 實時計算Flink>產品定價>計量計費
- JS計算精度小記JS
- G7在實時計算的探索與實踐
- 聯通實時計算平臺演進與實踐
- eval() JSON轉換 小括號 () 作用JSON
- 愛奇藝統一實時計算平臺建設
- 《Storm分散式實時計算模式》——1.7總結ORM分散式模式
- PHP時間計算PHP
- 時間差計算