Spark的四種部署方式概括
1.Local模式
Local模式就是執行在一臺計算機上的模式,通常用於在本機上測試,當不設定master引數的值時,預設此模式,具體有以下幾種設定master的方式。
- local:所有計算都執行在一個執行緒當中,沒有任何平行計算。
- local[n]:指定使用n個執行緒來執行計算。
- local[*]:按照CPU的最多核數來設定執行緒數。
2.Standalone模式
設定master引數的值為spark://host:port,即開啟Standalone模式,將構建一個基於Master/Slave的資源排程叢集,Spark任務提交給Master執行。
3.Yarn模式
Spark客戶端直接連線Yarn,不需要格外構建Spark叢集,有yarn-client和yarn-cluster兩種模式,主要區別在於Driver程式的執行節點不同(yarn-client的Driver程式執行在客戶端,適用於互動、除錯,而yarn-cluster的Driver程式執行在由ResourceManager啟動的ApplicationMaster中,適用於生產環境)。master引數設定為yarn,deploy-mode引數為client或者cluster。
4.Mesos模式
Spark客戶端直接連線Mesos,不需要額外構建Spark叢集。
在Spark的後續版本中,已經支援連線到Kubernetes叢集。
這四種模式的差別在於資源管理者是誰。
相關文章
- OAuth 2.0 的四種方式OAuth
- CSS的四種引入方式CSS
- flowable 部署流程的三種方式
- Java 建立類的四種方式Java
- mysql啟動的四種方式MySql
- Mysql的四種啟動方式MySql
- spring的四種注入方式Spring
- 【Spark篇】---Spark中yarn模式兩種提交任務方式SparkYarn模式
- Spring Boot的五種部署方式Spring Boot
- spark 的方式Spark
- flowable 三種方式部署流程
- 【Spark篇】---SparkSQL初始和建立DataFrame的幾種方式SparkSQL
- SQL中的四種連線方式SQL
- JavaScript中的四種列舉方式JavaScript
- 執行緒建立的四種方式執行緒
- react建立組建的四種方式React
- mysql啟動的四種方式 (轉)MySql
- 提交資料四種方式
- 部署Go語言程式的N種方式Go
- SAP Fiori應用的三種部署方式
- 部署Linux.NET的4種方式Linux
- Spring中bean的四種注入方式SpringBean
- SQLite 併發的四種處理方式SQLite
- Java遍歷Map物件的四種方式Java物件
- 手機app的四種開發方式APP
- 機器學習助力移動革命的四種方式機器學習
- css和html的四種結合方式CSSHTML
- AOP的四種主要Java實現方式Java
- python字典的四種遍歷方式Python
- Android的activity的四種啟動方式Android
- 四種XML解析方式詳解XML
- 一種簡單快捷的 java 熱部署方式Java熱部署
- .NET Core應用程式的2種部署方式
- 開發人員提升自己的四種方式
- POSTMAN HTTP請求的四種方式區別PostmanHTTP
- 整理post提交資料的四種解析方式
- curl 傳送 POST 請求的四種方式
- Java建立多執行緒的四種方式Java執行緒