Mapreduce(二):MR的執行過程分析
1.MR的作業執行流程圖
(1).客戶端提交一個mr的jar包給JobClient(提交方式:hadoop jar ...)
(2).JobClient通過RPC和JobTracker進行通訊,返回一個存放jar包的地址(HDFS)和jobId
(3).client將jar包寫入到HDFS當中(path = hdfs上的地址 + jobId)
(4).開始提交任務(任務的描述資訊,不是jar, 包括jobid,jar存放的位置,配置資訊等等)
(5).JobTracker進行初始化任務
(6).讀取HDFS上的要處理的檔案,開始計算輸入分片,每一個分片對應一個MapperTask
(7).TaskTracker通過心跳機制領取任務(任務的描述資訊)
(8).下載所需的jar,配置檔案等
(9).TaskTracker啟動一個java child子程式,用來執行具體的任務(MapperTask或ReducerTask)
(10).將結果寫入到HDFS當中
相關文章
- MapReduce 執行全過程解析
- HiveSQL的執行過程分析HiveSQL
- sql執行過程分析SQL
- Hadoop1.x MapReduce 程式執行的詳細過程Hadoop
- 原始碼分析OKHttp的執行過程原始碼HTTP
- Informix 執行緒sleep 分析過程ORM執行緒
- 精盡MyBatis原始碼分析 - SQL執行過程(二)之 StatementHandlerMyBatis原始碼SQL
- Java 執行緒池的建立過程分析Java執行緒
- crtmpserver 執行過程簡明分析Server
- knockout原始碼分析之執行過程原始碼
- PostgreSQL的insert語句執行過程分析SQL
- MapReduce過程詳解
- mybatis-spring sql執行過程分析MyBatisSpringSQL
- SAP Spartacus 裡的 cxOutletRef 指令執行過程分析
- MYSQL sql執行過程的一些跟蹤分析(二.mysql優化器追蹤分析)MySql優化
- MapReduce執行流程
- MapReduce的執行流程概述
- sql 執行過程SQL
- 簡單易懂的 webpack 打包後 JS 的執行過程(二)WebJS
- Redis 命令的執行過程Redis
- jsp的執行過程JS
- laravel 應用層執行過程原始碼分析Laravel原始碼
- 程式執行過程記憶體分析詳解記憶體
- 線上定時指令碼執行慢,分析過程指令碼
- JVM 執行緒堆疊分析過程詳解JVM執行緒
- 執行緒池建立執行緒的過程執行緒
- MapReduce程式執行流程
- Mybatis原始碼分析(五)探究SQL語句的執行過程MyBatis原始碼SQL
- MYSQL sql執行過程的一些跟蹤分析(一)MySql
- javascript引擎執行的過程的理解--執行階段JavaScript
- Oracle DDL 執行過程Oracle
- Java 程式執行過程Java
- 一條Sql的執行過程SQL
- Javascript中new的執行過程JavaScript
- webpack loader 的執行過程Web
- Kill會話過程分析(二)會話
- MySQL探祕(二):SQL語句執行過程詳解MySql
- Windows核心執行體物件管理器的操作過程與分析Windows物件