hadoop(二)—hadoop配置、執行錯誤總結

dunne21發表於2021-09-09

問題一:

【namenode無法啟動,這個問題有很多原因,雖然說應該參照日誌檔案進行排錯,但是我試著看了下日誌檔案,真的是很難看的。不過這裡我給出一個常見的錯誤:】
(1)在core-site.xml中指定了如下配置:(就是使用了預設的設定)

<property>
<name>hadoop.tmp.dir</name>
<value>/tmp/hadoop/hadoop-${user.name}</value>
</property>

但是tmp會在啟動的時候清空,而dfs的資料就會變得不一致,導致啟動失敗,可以重新更改位置:

<property>
<name>hadoop.tmp.dir</name>
<value>/var/hadoop/hadoop-${user.name}</value>
</property>
然後執行: hadoop namenode -format  命令(由於namenode資料儲存目錄變更,namenode需要重新格式化)

重啟後即可。
我出錯使用了一個種比較愚蠢的做法,我把namenode所在的結點的tmp資料夾和logs資料夾全部刪除,重新建立,然後重新格式化namenode重啟hadoop叢集,但是,這麼做的結果就是,我發現重啟hadoop叢集后,namenode是跑起來了可是datanode又跑不起來了,於是我索性將slaves結點上的tmp資料夾河logs資料夾都刪除重新建立了下,最後格式化namenode,格式化的時候是沒問題,但是當啟動的時候一大堆的問題,體現最明顯的就是許可權問題,我馬上想起來了,因為平凡的在root和grid使用者之間切換建立資料夾,所以,當用grid使用者進行某些操作時就會出現許可權問題,所以,沒辦法,又得改許可權了(改的時候先切換到root下再改):

  <span style="font-size:18px;">chown –R grid:grid       /usr/hadoop/tmp     sudo chmod -R a+w /usr/local/hadoop</span>

改完後重新啟動,就OK了,全部啟動沒有問題!

問題二

【使用secureCRT中文亂碼問題:】

1,修改遠端linux機器的配置  vim /etc/sysconfig/i18n
把LANG改成支援UTF-8的字符集
如:
LANG=”zh_CN.UTF-8″
或者是
LANG=”en_US.UTF-8″
2,然後再改Secure CRT的設定
選項->會話選項->外觀->字元編碼->uft-8
3,退出,再重新登入。發現utf8的檔案都能正確讀了,utf8的檔名也能正確顯示了

(另外補充一點的是,如果改完後,中文顯示成問號了,這種情況下,果斷換一個secure CRT!!!。我就遇到了這情況,換了一個立馬見效。

這裡給大家一個我試過的沒問題的SecureCRT:

問題三

ecureCRT中文亂碼問題是解決了,那麼如何才能讓secureCRT像在linux中一樣顯示有顏色呢?

SecureCRT 設定彩色和顯示中文】
設定Options->SessionOptions ->Emulation,然後把Terminal型別改成xterm,並點中ANSI Color核取方塊。
字型設定:Options->SessionOptions->Appearance->font然後改成你想要的字型就可以了。
注意:
1:字符集選擇utf8,這樣可以避免顯示漢字亂碼
2:選擇字型的時候,需要選擇ture type的字型(如新宋體),不然會出現漢字亂碼
3:scrollback buffer 調大(5000),這樣你就可以看到以前顯示內容,這樣方便很多
4:terminal要選擇xtem,這樣你ssh到伺服器上才能 顯示顏色 ,並把ANSI Color打上

5:我選擇的顏色方案Windows或Traditional。



作者:文子軒
連結:


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/1600/viewspace-2819137/,如需轉載,請註明出處,否則將追究法律責任。

相關文章