好程式設計師大資料教程Hadoop全分佈安裝(非HA)
機器名稱 啟動服務
linux11 namenode secondrynamenode datanode
linux12 datanode
linux13 datanode
第一步:更改主機名,臨時修改+永久修改
臨時修改:hostname linux11
永久修改: vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=linux11
臨時修改:hostname linux12
永久修改: vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=linux11
臨時修改:hostname linux13
永久修改: vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=linux13
第二步:配置ip地址
1.三臺機器關閉NetworkManager服務 service NetworkManager stop
2.三臺機器禁止開機啟動NetworkManager服務 chkconfig NetworkManager off
3. vi /etc/sysconfig/network-scripts/ifcfg-eth0
三臺機器依次配置成這樣
linux11:
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.91.11
DNS1=8.8.8.8
GATEWAY=192.168.91.1
NETMASK=255.255.255.0
linux12:
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.91.12
DNS1=8.8.8.8
GATEWAY=192.168.91.1
NETMASK=255.255.255.0
linux13:
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.91.13
DNS1=8.8.8.8
GATEWAY=192.168.91.1
NETMASK=255.255.255.0
最終結果:
192.168.91.11 linux11
192.168.91.12 linux12
192.168.91.13 linux13
3.三臺機器關閉防火牆 service iptables stop
4.三臺機器設定禁止開機啟動防火牆 chkconfig iptables off
5.三臺機器關閉防火牆 service iptables status
顯示iptables: Firewall is not running.說明防火牆關閉成功
6.三臺機器重啟網路卡service network restart
第三步配置主機對映
使用命令:vi /etc/hosts
三臺機器都改成這樣
192.168.91.11 linux11
192.168.91.12 linux12
192.168.91.13 linux13
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
測試:
在linux11上 ping linux12 ping linux13
第四步配置免密碼登入
linux11:
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
linux12:
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
linux13:
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
在linux11上
ssh-copy-id linux12
ssh-copy-id linux13
測試:測試結果為linux11可以免密碼登入到所有機器。linux12 linux13可以免密碼登入本機
例如:在linux11上輸入 ssh linux11
第五步安裝jdk及hadoop(由於使用root使用者操作,為了防止對liunx操作不熟悉的人,誤刪其他檔案。所以沒有選擇把軟體安裝在/usr下,而是選擇安裝在了自己建立的檔案目錄下)
linux11:
1.在根目錄下建立bigdata目錄 mkdir /bigdata
2.將hadoop安裝包 tar -zxvf /bigdata/hadoop-2.7.1.tar.gz -C /bigdata/
刪除hadoop安裝包 rm -rf /bigdata/hadoop-2.7.1.tar.gz
3.jdk安裝包解壓 tar -zxvf /bigdata/jdk-8u151-linux-x64.gz -C /bigdata/
刪除jdk安裝包 rm -rf /bigdata/jdk-8u151-linux-x64.gz
修改jdk目錄的名字為jdk1.8 mv /bigdata/jdk1.8.0_151/ /bigdata/jdk1.8
4.配置環境變數 vi /etc/profile
在檔案末尾加入如下配置
export JAVA_HOME=/bigdata/jdk1.8
export HADOOP_HOME=/bigdata/hadoop-2.7.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:
第六步:hadoop的配置
1.hadoop-env.sh的配置
使用命令 vi /bigdata/hadoop-2.7.1/etc/hadoop/hadoop-env.sh
第25行export JAVA_HOME=改成下面的樣子
export JAVA_HOME=/bigdata/jdk1.8
2.core-site.xml 的配置
使用命令 vi /bigdata/hadoop-2.7.1/etc/hadoop/core-site.xml
配置成這樣:
3.hdfs-site.xml的配置
使用命令 vi /bigdata/hadoop-2.7.1/etc/hadoop/hdfs-site.xml
配置成這樣:
4.slaves檔案配置
使用命令 vi /bigdata/hadoop-2.7.1/etc/hadoop/slaves
配置成這樣
linux11
linux12
linux13
第七步:遠端複製
1.將bigdata檔案分發給linux12 linux13
scp -r /bigdata linux12:/
scp -r /bigdata linux13:/
2.將/etc/profile檔案分發給linux12 linux13
scp /etc/profile linux12:/etc
scp /etc/profile linux13:/etc
3.三臺機器重新整理環境變數 source /etc/profile
第八步:格式化namenode
在namenode節點linux11上輸入命令 hdfs namenode -format
格式化完成後在linux11上啟動叢集 start-dfs.sh
第九步:驗證叢集是否啟動成功
1.在瀏覽器上輸入192.168.91.11:50070如果頁面能開啟顯示有3個活躍節點說明成功
2.linux11上輸入jps 能看到namenode secondrynamenode datanode三個服務
3.linux12上輸入jps 能看到datanode
4.linux12上輸入jps 能看到datanode
5.上傳個檔案至叢集hdfs dfs -put /bigdata/jdk1.8 /
6.檢視web頁面是否存在這個檔案
好程式設計師 ,從平凡到卓越,為夢想而拼搏!
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69913892/viewspace-2638929/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 好程式設計師大資料教程分享之Hadoop優缺點程式設計師大資料Hadoop
- 好程式設計師大資料教程Scala系列之類程式設計師大資料
- 好程式設計師大資料教程分享大資料之流程控制程式設計師大資料
- 好程式設計師大資料獨家解析-hadoop五大節點程式設計師大資料Hadoop
- 好程式設計師分享大資料入門教程:Hadoop和spark的效能比較程式設計師大資料HadoopSpark
- 好程式設計師大資料培訓分享:Hadoop叢集同步程式設計師大資料Hadoop
- 好程式設計師大資料筆記之:Hadoop叢集搭建程式設計師大資料筆記Hadoop
- 好程式設計師大資料教程Scala系列之繼承程式設計師大資料繼承
- 好程式設計師大資料教程分享:HDFS基本概念程式設計師大資料
- 好程式設計師大資料培訓分享Hadoop怎樣處理資料?程式設計師大資料Hadoop
- 好程式設計師大資料教程分享實用的大資料之陣列程式設計師大資料陣列
- 好程式設計師大資料教學點睛:Hadoop基礎篇程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop入門進階程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop的shuffle過程程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop分散式叢集程式設計師大資料Hadoop分散式
- 好程式設計師大資料培訓之Hadoop常見問題程式設計師大資料Hadoop
- 好程式設計師大資料教程分享Scala系列之閉包程式設計師大資料
- 好程式設計師大資料教程Scala系列之高階函式程式設計師大資料函式
- 大資料面試題整理-好程式設計師大資料面試題程式設計師
- 好程式設計師大資料學習路線分享Hadoop機架感知程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop技術優缺點程式設計師大資料Hadoop
- 好程式設計師淺談大資料與Hadoop有什麼關係程式設計師大資料Hadoop
- 好程式設計師大資料培訓簡述Hadoop常見問題程式設計師大資料Hadoop
- 好程式設計師大資料劃重點 hadoop常用四大模組檔案程式設計師大資料Hadoop
- 好程式設計師大資料教程分享HadoopHDFS操作命令總結程式設計師大資料Hadoop
- 好程式設計師大資料教程:SparkShell和IDEA中編寫Spark程式程式設計師大資料SparkIdea
- 好程式設計師大資料學習路線Hadoop學習乾貨分享程式設計師大資料Hadoop
- 好程式設計師大資料學習路線分享MapReduce全流程總結程式設計師大資料
- 好程式設計師大資料學習路線分享MapReduce全過程解析程式設計師大資料
- 好程式設計師大資料培訓分享如何區分Hive與HBase程式設計師大資料Hive
- 好程式設計師分享大資料教程之執行緒高階部分程式設計師大資料執行緒
- 好程式設計師大資料基礎教程分享TextFile分割槽問題程式設計師大資料
- 好程式設計師分享大資料三大必備技能程式設計師大資料
- 好程式設計師大資料學習路線分享hadoop常用四大模組檔案程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享大資料還學嗎?程式設計師大資料
- 好程式設計師大資料培訓分享大資料的應用程式設計師大資料
- 好程式設計師大資料培訓分享Hadoop入門學習線路圖程式設計師大資料Hadoop
- 好程式設計師大資料分享零基礎學習Hadoop該如何下手程式設計師大資料Hadoop