Mac 安裝 Hadoop 教程【避坑指南】
安裝教程
參考 優雅的使用macOS-homebrew-5-安裝大資料hadoop環境
必要工作
- homebrew 安裝配置
- jdk 安裝配置
- ssh無密碼登入配置 參考 Mac下配置ssh無密碼登入遠端伺服器
正式安裝
brew install hadoop
brew list hadoop
找到所在資料夾,下面會用到路徑
配置
- 修改配置檔案 core-site.xml
cd /usr/local/Cellar/hadoop/3.2.1_1/libexec/etc/hadoop
不要直接複製,從上面的 list 找到本機對應的資料夾路徑
vim .core-site.xml
<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/local/Cellar/hadoop/hdfs/tmp</value>
<description>A base for other temporary directories.</description>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
- 修改配置檔案 mapred-site.xml
vim mapred-site.xml
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9010</value>
</property>
</configuration>
- 修改配置檔案 hdfs-site.xml
vim hdfs-site.xml
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
- 格式化 hdfs
hadoop namenode -format
啟動
cd /usr/local/Cellar/hadoop/3.2.1_1/sbin
不要直接複製,從上面的 list 找到本機對應的資料夾路徑
./start-all.sh
可能會遇到報錯
ssh connect to host localhost port 22: Connection refused
解決辦法:參考 解決mac下 ssh: connect to host localhost port 22: Connection refused
cd ~
ssh localhost
//ssh: connect to host localhost port 22: Connection refused
sudo systemsetup -f -setremotelogin on
ssh localhost
//success
Last login: Wed Oct 21 22:03:50 2020
有可能輸入 sudo systemsetup -f -setremotelogin on
後提示
setremotelogin: Turning Remote Login on or off requires Full Disk Access privileges.
那麼就要開啟設定-安全性與隱私-隱私-完全磁碟訪問許可權,把終端的訪問許可權開啟
重啟終端,繼續啟動 Hadoop
cd /usr/local/Cellar/hadoop/3.2.1_1/sbin
不要直接複製,從上面的 list 找到本機對應的資料夾路徑
./start-all.sh
如果遇到類似的報錯:
datanode is running as process 17424. Stop it first.
先關閉所有程式服務
./stop-all.sh
再重新執行
./start-all.sh
還有問題就重啟終端試試
檢查啟動情況
jps
然後可以訪問如下幾個管理頁面
Resource Manager: http://localhost:9870
JobTracker: http://localhost:8088
安裝完成~~
相關文章
- Redis 安裝避坑指南Redis
- TensorFlow-GPU安裝避坑指南GPU
- Docker安裝flink及避坑指南Docker
- Windows 11 預覽版安裝避坑指南Windows
- Vim安裝使用以及一些避坑指南
- Harmony OS 開發避坑指南——DevEco Device Tool 安裝配置dev
- Linux下Python3.6的安裝及避坑指南LinuxPython
- .NET AsyncLocal 避坑指南
- 上雲避坑指南
- WIn10+Anaconda 環境下安裝 PyTorch 避坑指南Win10PyTorch
- React Hooks使用避坑指南ReactHook
- eBPF編寫避坑指南eBPF
- 坑爹的Python陷阱(避坑指南)Python
- MySQL 之 LEFT JOIN 避坑指南MySql
- Shell 指令碼避坑指南(一)指令碼
- 微信支付開發避坑指南
- JavaScript作用域面試題避坑指南JavaScript面試題
- Flutter beta3 避坑指南1Flutter
- mac無坑安裝nginxMacNginx
- mac 安裝nvm 踩坑Mac
- 海外電商支付閘道器避坑指南
- 程式設計師避坑指南36條程式設計師
- 個人資訊保安避坑指南“宅家篇”
- H2 資料庫避坑指南資料庫
- PostgreSql安裝教程(填坑版!)SQL
- Windows 10下Hadoop 3.2.2 安裝指南WindowsHadoop
- Canal v1.1.4版本避坑指南
- 從單體邁向 Serverless 的避坑指南Server
- 微服務進階之路 容器落地避坑指南微服務
- MongoDB 最佳實踐和場景避坑指南MongoDB
- 外出遊玩最全個人資訊保安避坑“指南”
- electron跳坑指南 1(electron的安裝)
- Hadoop3偽分散式安裝指南Hadoop分散式
- 避坑指南:關於SPDK問題分析過程
- Redis開發運維的陷阱及避坑指南Redis運維
- Redis避坑指南:為什麼要有分散式鎖?Redis分散式
- 遊戲人避坑指南——怎樣才能減少踩坑的頻率?遊戲
- 【Hadoop】MAC下hadoop2.6安裝以及執行wordcountHadoopMac