2020-09-23【學習筆記】【企業資料湖】三、Lambda架構:一種資料湖實現模式(1)
一 、什麼是Lambda架構
Lambda具有的要素:
- 一套模式和標準。Lambda機構定義了一套面向大資料應用的模式和準則 。更重要的是,它允許同時查詢歷史資料和實時增長的資料。並且獲得期望的分析檢視。
- 處理歷史資料和實時資料
- 技術無關和通用性。Lambda架構是一種通用的模式,完全不依賴於任何技術,而且任何技術只要能滿足需求,都可以在Lambda架構中應用。
- Lambda架構清楚的吧責任劃分到不同的功能木塊/層中。它按照層來劃分職責,完美地遵循了設計模式中的關注點分離原則
- 領域無關。作為一種通用的模式,Lambda架構可以應用於不同的業務領域
二、Lambda架構簡史
Nathan Marz創造了Lambda Achitecture 這個術語,用於描述一種通用的、可擴充套件的容錯的資料模式。該模式是一種概念:通過使用兩個重要元件來處理海量資料。分別是批處理和快速處理層。Nathan把他的發現和經驗概括為Lambda架構。該架構需要滿足一些重要的設計模式:
線性可擴充套件原則
容錯原則
backtype:讀取和更新
可擴充套件原則
三、Lambda架構的原則
1、容錯原則
2、不可變資料原則
3、重新計算原則
相關文章
- 資料湖+資料倉儲 = 資料湖庫架構架構
- 資料湖--架構師如何助力“湖加速”?架構
- 資料湖架構,為什麼需要“湖加速”?架構
- 資料倉儲、資料集市、資料湖,你的企業更適合哪種資料管理架構?架構
- 資料湖 VS 資料倉儲之爭?阿里提出大資料架構新概念:湖倉一體阿里大資料架構
- 資料湖架構及概念簡介架構
- 讀資料湖倉08資料架構的演化架構
- 讀資料湖倉04資料架構與資料工程架構
- 阿里云云原生資料湖分析DLA重磅釋出-資料湖管理,助力企業一站式管理OSS資料湖儲存資料阿里
- 通用資料湖倉一體架構正當時架構
- 資料湖
- 構建企業CDC資料湖解決方案 -DZone
- 漫談“資料湖”之價值與架構架構
- 資料流架構學習筆記(一)-Flux架構筆記UX
- 快手流批一體資料湖構建實踐
- 2020-09-27【學習筆記】【企業資料湖】五、基於Apache Sqoop的批量資料獲取筆記ApacheOOP
- 銀行大資料新玩法,構建“一湖兩庫”金融資料湖大資料
- orientDB學習筆記(三)資料庫 構架設計筆記資料庫
- 資料湖中加熱資料?
- 資料結構學習筆記1資料結構筆記
- 萬字詳解資料倉儲、資料湖、資料中臺和湖倉一體
- 資料倉儲、資料湖與湖倉一體的區別與聯絡
- 企業如何借實時湖倉贏在“資料制勝”時代?
- 談談如何從資料湖(Data Lake)架構轉向資料網格(Data Mesh)架構架構
- 巨杉 x DSG:突破單一IT架構限制,實現結構化資料高效能實時入湖架構
- 資料流架構學習筆記(二)-Redux架構筆記Redux
- 一文讀懂:本地資料湖丨資料倉儲丨雲資料湖的利與弊
- 讀資料湖倉02資料抽象抽象
- 讀資料湖倉06資料整合
- 奈學:資料湖有哪些缺點?
- 實時工業大資料產品實踐——上汽集團資料湖大資料
- 劃重點!AWS的湖倉一體使用哪種資料湖格式進行銜接?
- Delta Lake 資料湖原理和實戰
- 資料結構學習筆記(一) (轉)資料結構筆記
- 資料湖 vs 資料倉儲 vs 資料庫資料庫
- 【虹科乾貨】Lambda資料架構和Kappa資料架構——構建現代資料架構架構APP
- 阿里雲:已有10000家企業在雲上構建資料湖阿里
- B 站構建實時資料湖的探索和實踐