Spark的四種部署方式概括
1.Local模式
Local模式就是執行在一臺計算機上的模式,通常用於在本機上測試,當不設定master引數的值時,預設此模式,具體有以下幾種設定master的方式。
- local:所有計算都執行在一個執行緒當中,沒有任何平行計算。
- local[n]:指定使用n個執行緒來執行計算。
- local[*]:按照CPU的最多核數來設定執行緒數。
2.Standalone模式
設定master引數的值為spark://host:port,即開啟Standalone模式,將構建一個基於Master/Slave的資源排程叢集,Spark任務提交給Master執行。
3.Yarn模式
Spark客戶端直接連線Yarn,不需要格外構建Spark叢集,有yarn-client和yarn-cluster兩種模式,主要區別在於Driver程式的執行節點不同(yarn-client的Driver程式執行在客戶端,適用於互動、除錯,而yarn-cluster的Driver程式執行在由ResourceManager啟動的ApplicationMaster中,適用於生產環境)。master引數設定為yarn,deploy-mode引數為client或者cluster。
4.Mesos模式
Spark客戶端直接連線Mesos,不需要額外構建Spark叢集。
在Spark的後續版本中,已經支援連線到Kubernetes叢集。
這四種模式的差別在於資源管理者是誰。
相關文章
- OAuth 2.0 的四種方式OAuth
- Spring Boot的五種部署方式Spring Boot
- flowable 部署流程的三種方式
- map的四種遍歷方式
- Java 建立類的四種方式Java
- hashMap的四種遍歷方式HashMap
- spark 的方式Spark
- flowable 三種方式部署流程
- JavaScript中的四種列舉方式JavaScript
- Spring中bean的四種注入方式SpringBean
- SQL中的四種連線方式SQL
- 執行緒建立的四種方式執行緒
- Map集合的四種遍歷方式
- python字典的四種遍歷方式Python
- 部署Go語言程式的N種方式Go
- Spark Streaming讀取Kafka資料兩種方式SparkKafka
- 修改NLS_DATE_FORMAT的四種方式ORM
- SQLite 併發的四種處理方式SQLite
- Java遍歷Map物件的四種方式Java物件
- Android中Activity的四種啟動方式Android
- 手機app的四種開發方式APP
- JMeter四種引數化方式JMeter
- 一種簡單快捷的 java 熱部署方式Java熱部署
- POSTMAN HTTP請求的四種方式區別PostmanHTTP
- 整理post提交資料的四種解析方式
- 開發人員提升自己的四種方式
- curl 傳送 POST 請求的四種方式
- Java建立多執行緒的四種方式Java執行緒
- burpsuite暴力破解的四種攻擊方式UI
- Python常用的四種數值交換方式!Python
- SpringBoot實現熱部署兩種方式!Spring Boot熱部署
- Spark入門(四)--Spark的map、flatMap、mapToPairSparkAPTAI
- webapi透過docker部署到Linux的兩種方式WebAPIDockerLinux
- Pytorch 四種邊界填充方式(Padding)PyTorchpadding
- 開發Vue外掛四種方式Vue
- burpsuite暴力破解之四種方式UI
- 把 Console 部署成 Windows 服務,四種方式總有一款適合你!Windows
- css和html的四種結合方式介紹CSSHTML