Hadoop安裝手冊2-Hadoop環境配置

junsansi發表於2013-02-02

2、Hadoop配置

2.1 配置引數

我們任選一個節點,比如說就hdnode1吧,使用grid使用者登入,而後修改配置檔案,詳細如下。

配置hadoop的基礎環境變數,如JDK位置,hadoop一些配置、檔案及日誌的路徑,這些配置都在hadoop-env.sh檔案中:

    [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/hadoop-env.sh  

這裡我們先僅修改JAVA_HOME變數值,指定到JDK目錄:

    export JAVA_HOME=/usr/local/jdk1.7.0_09

提示,本步也可以不做修改,而將JAVA_HOME加到使用者的環境變數中。

修改核心站點配置,主要指定NameNode伺服器的地址:

    [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/core-site.xml

修改內容如下:

           

                   fs.default.name

                   hdfs://hdnode1:9000/

                   true

           

這樣我們就將hdnode1定義為NameNode。注意一個hadoop叢集中不管master還是slave,fs.default.name的值必須相同,也就是說一個hadoop只能有一個NameNode。

指定HDFS相關的配置:

    [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/hdfs-site.xml  

修改內容如下:

           

                   dfs.name.dir

                   /data2/hadoop/name

                   true

           

           

                   dfs.data.dir

                   /data2/hadoop/data

                   true

           

           

                   dfs.replication

                   3

           

那麼這幾個引數又都是什麼意思呢?別的我們不講,說一說上文提到的這哥仨:

     
  • dfs.name.dir:指定namenode儲存後設資料的路徑;
  •  
  • dfs.data.dir:指定datanode儲存資料的路徑;
  •  
  • dfs.replication:設定副本的數量,我們這裡仨節點,設定再大沒意義,就設定成3

除了這仨,別的引數還多著呢,後面我們們接觸到了再介紹。

接下來配置mapreduce服務相關的引數,修改mapred-site.xml檔案:

    [grid@hdnode1 ~]$ vi /usr/local/hadoop-0.20.2/conf/mapred-site.xml  

修改內容如下:

           

                   mapred.job.tracker

                   hdnode1:9001

                   true

           

指定JobTracker程式執行的位置,這裡指定在hdnode1節點上執行。

指定執行SecondaryNameNode服務的節點:

    [grid@hdnode1 ~]$ more /usr/local/hadoop-0.20.2/conf/masters  

    hdnode1

提示:注意喲,這裡說的是執行SecondaryNameNode服務的節點,並不是指身份為master角色的節點喲。如果希望SecondaryNameNode執行在非namenode節點上的話,可以在這裡指定另外的節點。

指定執行datanode和tasktracker的節點:

    [grid@hdnode1 ~]$ more /usr/local/hadoop-0.20.2/conf/slaves  

    hdnode2

    hdnode3

剩下的倆節點唄。

這樣第一個節點就配置好了,第二和第三個節點怎麼處理呢?直接將這些檔案複製到第二第三節點即可。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/7607759/viewspace-756809/,如需轉載,請註明出處,否則將追究法律責任。

相關文章