Hadoop 版本演進
Hadoop版本演進概況:
備註:NameNode HA : NameNode高可用 , HDFS Fedreation 分散式檔案系統聯盟 解決了1帶的單點問題
Yarm 分散式資源管理系統,解決JobTrack單點問題
1. hadoop 1.x 版本的生態系統:
2. hadoop 2.x版本的生態系統:
對於分散式系統和框架的架構來說,一般分為兩部分:
第一部分:管理層(用於管理應用層)
第二部分:應用層 (工作的)
對於HDFS,分散式檔案系統:
NameNode: 屬於管理層,用於管理資料的儲存
SecondNameNode:也屬於管理層,用於輔助管理資料的儲存
DateNode:屬於 應用層 ,使用者進行資料儲存,被NameNode管理,定時向NameNode進行工作彙報,執行NameNode分配分發的任務
對於MapReduce,分散式計算框架:
JobTrack : 屬於管理層,用於管理叢集的資源,對叢集的任務資源進行排程,並監控任務的執行。
TaskTrack: 屬於應用層,用於執行JobTrack分配分發的任務,並向JobTrack彙報執行情況。
對於hadoop 二代版本的yarm系統:
NodeManager :屬於管理層,節點管理
ResourceManager:屬於管理層, 資源管理
DataNode:屬於應用層,被NodeManager 和 ResourceManager管理,執行任務。
備註:NameNode HA : NameNode高可用 , HDFS Fedreation 分散式檔案系統聯盟 解決了1帶的單點問題
Yarm 分散式資源管理系統,解決JobTrack單點問題
1. hadoop 1.x 版本的生態系統:
2. hadoop 2.x版本的生態系統:
對於分散式系統和框架的架構來說,一般分為兩部分:
第一部分:管理層(用於管理應用層)
第二部分:應用層 (工作的)
對於HDFS,分散式檔案系統:
NameNode: 屬於管理層,用於管理資料的儲存
SecondNameNode:也屬於管理層,用於輔助管理資料的儲存
DateNode:屬於 應用層 ,使用者進行資料儲存,被NameNode管理,定時向NameNode進行工作彙報,執行NameNode分配分發的任務
對於MapReduce,分散式計算框架:
JobTrack : 屬於管理層,用於管理叢集的資源,對叢集的任務資源進行排程,並監控任務的執行。
TaskTrack: 屬於應用層,用於執行JobTrack分配分發的任務,並向JobTrack彙報執行情況。
對於hadoop 二代版本的yarm系統:
NodeManager :屬於管理層,節點管理
ResourceManager:屬於管理層, 資源管理
DataNode:屬於應用層,被NodeManager 和 ResourceManager管理,執行任務。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29829936/viewspace-1601940/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Hadoop的版本演變Hadoop
- Markdown 版本演進
- Hadoop演進與Hadoop生態Hadoop
- hadoop 原始碼分析HDFS架構演進Hadoop原始碼架構
- [Flink] Flink 版本特性的演進
- 一步一步演進RESTful API版本 - frankelRESTAPI
- OpenStack的版本演變
- [hadoop]hadoop api 新版本與舊版本的差別HadoopAPI
- 前端演進思考前端
- Http的演進HTTP
- hadoop不同版本有哪些Hadoop
- 架構的演進架構
- Java平臺版本號的演變Java
- 今日頭條架構演進之路 — 高壓下的架構演進架構
- vue狀態管理演進Vue
- Airbnb的架構演進AI架構
- Serverless 架構的演進Server架構
- 聊聊演進式架構架構
- 京東咚咚架構演進架構
- hadoop歷史版本,包括大名鼎鼎的hadoop 0.20.2Hadoop
- Hadoop進入2.0時代Hadoop
- 今日頭條架構演進之路——高壓下的架構演進專題架構
- 跨平臺技術演進
- API 演進的正確方式API
- 網路 Server 模型的演進Server模型
- Angular Universal 的演進歷史Angular
- jaeger的技術演進之路
- Serverless 架構模式及演進Server架構模式
- 移動端技術演進
- Java I/O 模型的演進Java模型
- hadoop商業版本選擇對比Hadoop
- Hadoop 2.5.2版本安裝部署Hadoop
- OTN技術的進展及演進趨勢
- 滴滴機器學習平臺架構演進機器學習架構
- 滴滴 NewSQL 演進之 Fusion 實踐SQL
- vivo推送平臺架構演進架構
- 跨端小程式框架 --Taro演進跨端框架
- 企業研發流程演進之路