Spark-2.3.0環境搭建安裝
安裝包:spark-2.3.0-bin-hadoop2.7
1. 下載安裝包
wget https://archive.apache.org/dist/spark/spark-2.3.0/spark-2.3.0-bin-hadoop2.7.tgz
2. 解壓縮
tar -zxvf spark-2.3.0-bin-hadoop2.7.tgz -C /usr/local
3. 配置環境變數
vim /etc/profile
#spark-2.3.1-without-hadoop setting
export SPARK_HOME=/usr/local/spark-2.3.0-bin-hadoop2.7
export PATH=$PATH:${SPARK_HOME}/bin
#重新整理環境變數
source /etc/profile
4. spark配置
#配置檔案目錄
cd $SPARK_HOME/conf
cp spark-env.sh.template spark-env.sh
vi spark-env.sh
export SCALA_HOME=/usr/local/scala-2.11.8
export JAVA_HOME=/usr/local/jdk1.8.0_131
export HADOOP_HOME=/usr/local/hadoop-2.7.5
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export YARN_CONF_DIR=$HADOOP_HOME/etc/hadoop
export SPARK_HOME=/usr/local/spark-2.3.1-bin-without-hadoop
export SPARK_DIST_CLASSPATH=$(${HADOOP_HOME}/bin/hadoop classpath)
export SPARK_MASTER_IP=localhost
export SPARK_EXECUTOR_MEMORY=1G
export SPARK_WORKER_MEMORY=2G
cp slaves.template slaves
#新增hostname
localhost
cp spark-defaults.conf.template spark-defaults.conf
vim spark-defaults.conf
spark.yarn.jars hdfs://localhost:9000//spark_jars/*
cd ../
hadoop fs -mkdir /spark_jars
hadoop fs -put ./jars/* /spark_jars
5. 啟動與關閉服務(先啟動hadoop)
#進入SPARK_HOME
cd $SPARK_HOME
#啟動
./sbin/start-all.sh
#關閉
./sbin/stop-all.sh
ip:8080
相關文章
- Storm系列(一)環境搭建安裝ORM
- Windows下搭載虛擬機器以及環境安裝Windows虛擬機
- 手搭一個 React,Typescript,Koa,GraphQL 環境ReactTypeScript
- 中科三方域名安全,助力構建安全網路環境
- Eclipse+ADT+Android SDK 搭建安卓開發環境EclipseAndroid安卓開發環境
- Windows 環境下 Python 環境安裝WindowsPython
- vmware centos虛擬上面搭lamp環境,做埠對映CentOSLAMP
- LNMP 環境安裝LNMP
- golang環境安裝Golang
- swoft環境安裝
- futter環境安裝
- 安裝LNMP環境LNMP
- node.js環境安裝及環境變數Node.js變數
- 搭建安卓原始碼伺服器,repo+gerrit+git環境,程式碼稽核安卓原始碼伺服器Git
- Ubuntu 環境安裝 phpunitUbuntuPHP
- macOS 安裝 LNMP 環境MacLNMP
- brew lnmp 環境安裝LNMP
- dapr 環境安裝指南
- 新裝Ubuntu環境配置Ubuntu
- Windows 環境安裝LdapWindowsLDA
- Mac GO 環境安裝MacGo
- Pytorch環境安裝PyTorch
- Centos 安裝 erlang 環境CentOS
- zabbix環境安裝搭建
- PyOpenGl 1 -- 環境安裝
- zabbix安裝中文環境
- Windos環境安裝RocketMQMQ
- Windows環境安裝ScrapyWindows
- webpack(1)安裝環境與解決環境問題Web
- linux或者CentOS環境下安裝.NET Core環境LinuxCentOS
- 帶你搭一個SpringBoot+SpringData JPA的環境Spring Boot
- laradocker 安裝 Laravel 環境DockerLaravel
- angular環境配置及安裝Angular
- Flutter開發環境安裝Flutter開發環境
- Windows 環境下安裝 LaravelWindowsLaravel
- Java安裝和環境配置Java
- node開發環境安裝開發環境
- Mac環境下安裝PodMac