spark執行原理、模型
2018/08/02
看了這麼久的spark的書,他們都是講怎麼用spark的api去程式設計,而對於spark內部的執行原理卻隻字不提,或者言之甚少,重新再去看container和worker的關係,就很難理解這之間的數量關係。
2018/08/03
最主要的內容是這樣的,昨天看了很多關於spark的網文,他們並沒有去詳細的介紹work、container、cores的關係,而是重點關注了spark的運作模型上,從RDD的角度出發,從任務部署的角度出發(應該還算不到任務排程,雖然涉及了,但我覺得不算是排程,僅僅是分配,可能我接觸的都是並沒有資源競爭的)。
通過job、task、stage這幾個方向的角度,對整體上一個應用的執行模型進行了介紹。大致上有了些許理解,但還是感覺差戳破那層紙。
他們主要圍繞的也就是RDD的這個資料處理的內容,這個算是整個資料處理流程的出發點。
2018/11/27
這他麼當時也沒留下一些乾貨,以後怕是直接就忘了,即使翻出書也跟新的知識一樣。
相關文章
- Spark的執行原理Spark
- 【Spark】 Spark作業執行原理--獲取執行結果Spark
- Spark原理-物理執行圖Spark
- Redis執行緒模型的原理分析蒼癘Redis執行緒模型
- spark學習筆記--叢集執行SparkSpark筆記
- Spark學習(一)——執行模式與執行流程Spark模式
- Java開發中Netty執行緒模型原理解析!JavaNetty執行緒模型
- 《深入理解Spark》之Spark的整體執行流程Spark
- 檢視spark程式執行狀態以及安裝sparkSpark
- 圖解JVM記憶體模型及JAVA程式執行原理圖解JVM記憶體模型Java
- 自適應查詢執行:在執行時提升Spark SQL執行效能SparkSQL
- 執行緒模型執行緒模型
- SpringMVC執行原理SpringMVC
- CLR執行原理
- Yarn執行原理Yarn
- SpringBoot執行原理Spring Boot
- Spark叢集和任務執行Spark
- Dubbo學習筆記(三) RPC核心原理和執行緒模型筆記RPC執行緒模型
- redis執行緒模型Redis執行緒模型
- WPF執行緒模型執行緒模型
- Dubbo執行緒模型執行緒模型
- spark streaming執行kafka資料來源SparkKafka
- Locust 執行原理分析
- 《微機執行原理》
- 前端-JavaScript執行原理前端JavaScript
- MySQL 執行原理【表】MySql
- Android Animation 執行原理Android
- Java併發(四)----執行緒執行原理Java執行緒
- Spark入門(二)--如何用Idea執行我們的Spark專案SparkIdea
- 執行緒池執行模型原始碼全解析執行緒模型原始碼
- Spark的工作原理Spark
- Java執行緒池二:執行緒池原理Java執行緒
- Spark閉包 | driver & executor程式程式碼執行Spark
- Spark Task 的執行流程② - 建立、分發 TaskSpark
- 03.執行緒模型執行緒模型
- webrtc執行緒模型分析Web執行緒模型
- Dubbo的執行緒模型執行緒模型
- Redis的執行緒模型Redis執行緒模型