spark執行原理、模型
2018/08/02
看了這麼久的spark的書,他們都是講怎麼用spark的api去程式設計,而對於spark內部的執行原理卻隻字不提,或者言之甚少,重新再去看container和worker的關係,就很難理解這之間的數量關係。
2018/08/03
最主要的內容是這樣的,昨天看了很多關於spark的網文,他們並沒有去詳細的介紹work、container、cores的關係,而是重點關注了spark的運作模型上,從RDD的角度出發,從任務部署的角度出發(應該還算不到任務排程,雖然涉及了,但我覺得不算是排程,僅僅是分配,可能我接觸的都是並沒有資源競爭的)。
通過job、task、stage這幾個方向的角度,對整體上一個應用的執行模型進行了介紹。大致上有了些許理解,但還是感覺差戳破那層紙。
他們主要圍繞的也就是RDD的這個資料處理的內容,這個算是整個資料處理流程的出發點。
2018/11/27
這他麼當時也沒留下一些乾貨,以後怕是直接就忘了,即使翻出書也跟新的知識一樣。
相關文章
- Spark的執行原理Spark
- Spark原理-物理執行圖Spark
- 【Spark】 Spark作業執行原理--獲取執行結果Spark
- Spark開發-spark執行原理和RDDSpark
- Spark開發-Spark執行模式及原理一Spark模式
- spark基礎之spark sql執行原理和架構SparkSQL架構
- Spark修煉之道(進階篇)——Spark入門到精通:第七節 Spark執行原理Spark
- Redis執行緒模型的原理分析蒼癘Redis執行緒模型
- Spark資料收藏--------Spark執行架構Spark架構
- spark學習筆記--叢集執行SparkSpark筆記
- Spark學習(一)——執行模式與執行流程Spark模式
- Java開發中Netty執行緒模型原理解析!JavaNetty執行緒模型
- 圖解JVM記憶體模型及JAVA程式執行原理圖解JVM記憶體模型Java
- 執行緒模型執行緒模型
- 《深入理解Spark》之Spark的整體執行流程Spark
- 檢視spark程式執行狀態以及安裝sparkSpark
- CLR執行原理
- Yarn執行原理Yarn
- 自適應查詢執行:在執行時提升Spark SQL執行效能SparkSQL
- Spark叢集和任務執行Spark
- spark job執行引數優化Spark優化
- Java 執行緒池執行原理分析Java執行緒
- Dubbo執行緒模型執行緒模型
- WPF執行緒模型執行緒模型
- redis執行緒模型Redis執行緒模型
- MySQL 執行原理【表】MySql
- SpringMVC執行原理SpringMVC
- 前端-JavaScript執行原理前端JavaScript
- HDFS的執行原理
- 執行緒池原理執行緒
- browserify執行原理分析
- 《微機執行原理》
- Locust 執行原理分析
- Dubbo學習筆記(三) RPC核心原理和執行緒模型筆記RPC執行緒模型
- Spark2 jar包執行完成,退出spark,釋放資源SparkJAR
- Java併發(四)----執行緒執行原理Java執行緒
- 執行緒池執行模型原始碼全解析執行緒模型原始碼
- Spark的工作原理Spark