Hadoop安裝手冊2-Hadoop環境配置
2、Hadoop配置
2.1 配置引數
我們任選一個節點,比如說就hdnode1吧,使用grid使用者登入,而後修改配置檔案,詳細如下。
配置hadoop的基礎環境變數,如JDK位置,hadoop一些配置、檔案及日誌的路徑,這些配置都在hadoop-env.sh檔案中:
- [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/hadoop-env.sh
這裡我們先僅修改JAVA_HOME變數值,指定到JDK目錄:
- export JAVA_HOME=/usr/local/jdk1.7.0_09
提示,本步也可以不做修改,而將JAVA_HOME加到使用者的環境變數中。
修改核心站點配置,主要指定NameNode伺服器的地址:
- [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/core-site.xml
修改內容如下:
fs.default.name
hdfs://hdnode1:9000/
true
這樣我們就將hdnode1定義為NameNode。注意一個hadoop叢集中不管master還是slave,fs.default.name的值必須相同,也就是說一個hadoop只能有一個NameNode。
指定HDFS相關的配置:
- [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/hdfs-site.xml
修改內容如下:
dfs.name.dir
/data2/hadoop/name
true
dfs.data.dir
/data2/hadoop/data
true
dfs.replication
3
那麼這幾個引數又都是什麼意思呢?別的我們不講,說一說上文提到的這哥仨:
- dfs.name.dir:指定namenode儲存後設資料的路徑;
- dfs.data.dir:指定datanode儲存資料的路徑;
- dfs.replication:設定副本的數量,我們這裡仨節點,設定再大沒意義,就設定成3
除了這仨,別的引數還多著呢,後面我們們接觸到了再介紹。
接下來配置mapreduce服務相關的引數,修改mapred-site.xml檔案:
- [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/mapred-site.xml
修改內容如下:
mapred.job.tracker
hdnode1:9001
true
指定JobTracker程式執行的位置,這裡指定在hdnode1節點上執行。
指定執行SecondaryNameNode服務的節點:
[grid@hdnode1 ~]$ more /usr/local/hadoop-0.20.2/conf/masters
hdnode1提示:注意喲,這裡說的是執行SecondaryNameNode服務的節點,並不是指身份為master角色的節點喲。如果希望SecondaryNameNode執行在非namenode節點上的話,可以在這裡指定另外的節點。
指定執行datanode和tasktracker的節點:
[grid@hdnode1 ~]$ more /usr/local/hadoop-0.20.2/conf/slaves
hdnode2
hdnode3剩下的倆節點唄。
這樣第一個節點就配置好了,第二和第三個節點怎麼處理呢?直接將這些檔案複製到第二第三節點即可。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/7607759/viewspace-756809/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Hadoop開發環境配置1-maven安裝配置Hadoop開發環境Maven
- 10分鐘搞定Windows環境下hadoop安裝和配置WindowsHadoop
- Windows環境下達夢資料庫安裝及解除安裝手冊Windows資料庫
- 本地windows搭建spark環境,安裝與詳細配置(jdk安裝與配置,scala安裝與配置,hadoop安裝與配置,spark安裝與配置)WindowsSparkJDKHadoop
- angular環境配置及安裝Angular
- Java安裝和環境配置Java
- scala安裝及環境配置
- GoLand安裝及環境配置GoLand
- Git環境配置與安裝Git
- Linux環境下達夢資料庫安裝及解除安裝手冊Linux資料庫
- GOLDENGATE安裝和配置手冊Go
- Appium Desktop+Eclipse+Windows環境安裝搭建手冊APPEclipseWindows
- [JAVA] JAVA 8 環境安裝配置Java
- QT Creator配置環境和安裝QT
- Linux環境HBase安裝配置Linux
- Linux環境Azkaban安裝配置Linux
- MacOS Flutter環境配置和安裝MacFlutter
- 安裝gnome桌面環境配置工具
- Docker 下安裝配置 lnmp 環境DockerLNMP
- Expo 環境配置和安裝指南
- jdk安裝,環境變數配置JDK變數
- Mac環境下安裝配置RedisMacRedis
- windows下配置安裝YAF環境Windows
- java環境JDK安裝及配置JavaJDK
- MongoDB Windows環境安裝及配置MongoDBWindows
- ubuntu下hadoop環境配置UbuntuHadoop
- 安裝與配置Flutter開發環境Flutter開發環境
- Linux環境下nginx安裝配置LinuxNginx
- CentOS上JETTY環境的配置安裝CentOSJetty
- JDK安裝及環境變數配置JDK變數
- Jenkins 一: 環境安裝以及配置Jenkins
- Node.js安裝及環境配置Node.js
- Java軟體安裝以及環境配置Java
- 安裝python虛擬環境並配置虛擬環境以及安裝scrapy模組Python
- Hadoop安裝手冊4-新增與刪除Hadoop節點Hadoop
- GOLDENGATE安裝和配置手冊總結Go
- CodeMan快速安裝配置教程:Windows下安裝配置Java JDK環境WindowsJavaJDK
- 在linux環境下安裝JDK並配置環境變數LinuxJDK變數