【Hadoop】MAC下hadoop2.6安裝以及執行wordcount

李博Garvin發表於2015-05-13

首先簡單介紹下博主的配置環境

  • MAC 10.10.0
  • hadoop 2.6
  • JDK 1.6(可以在shell裡用jdk -version查詢)

hadoop安裝

安裝的話推薦使用mac下面的brew,理由就是用brew安裝的話,它會自動給幫你配置好相應的路徑。當然也可以到官網下載,注意jdk和hadoop版本要對應。

brew install hadoop

安裝好了之後,可以使用brew list hadoop 來檢視。
位置應該是在:/usr/local/Cellar/hadoop/
這時候就可以直接在shell裡執行hadoop命令,是不是很方便。

執行wordcount

首先說一下,現在要執行的wordcount只是簡單試驗下hadoop是否能工作,並不是多執行緒的偽分散式,因為還沒有配置,這個下一節會講。

1.首先我們先建立以下資料來源
在hadoop根目錄下,建立一個資料夾,叫“input”
在裡面放上txt資料,我直接把”readme.txt”copy 進去了
2.這時候我們就可以執行hadoop的自帶命令了
首先要找到 hadoop-mapreduce-examples-2.6.0.jar 這個檔案的路徑,因為自帶的例子都是在這個裡面的。
jar 命令來執行,因為都是java寫的嘛。

3.執行命令

hadoop jar /usr/local/Cellar/hadoop/2.6.0/libexec/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0.jar wordcount input output
4.效果
這時候你會發現shell蹦出一大串東西
最終會生成一個output資料夾,裡面的東西開啟,就是wordcount
效果圖

本文來自部落格 “李博Garvin“
轉載請標明出處:http://blog.csdn.net/buptgshengod

相關文章