想轉行大資料,如何開始學習 Hadoop?

大資料群722680258發表於2018-08-13

   學習大資料首先要了解大資料的學習路線,首先搞清楚先學什麼,再學什麼,大的學習框架知道了,剩下的就是一步一個腳印踏踏實實從最基礎的開始學起。這裡給大家普及一下學習路線:hadoop生態圈——Strom——Spark——演算法。所以學習hadoop是第一步,在這裡宣告一下,在學習hadoop之前需要有java基礎,因為hadoop底層全是用java寫的;還需要系統層面學會使用linux的基本shell命令,因為你學習hadoop得首先會安裝hadoop。Hadoop在大資料技術體系中的地位至關重要,Hadoop是大資料技術的基礎,對Hadoop基礎知識的掌握的紮實程度,會決定在大資料技術道路上走多遠。

下面談談一談如何開始學習hadoop。本文的思路是:以安裝部署Apache Hadoop2.x版本為主線,來介紹Hadoop2.x的架構組成、各模組協同工作原理、技術細節。安裝不是目的,通過安裝認識Hadoop才是目的。

Hadoop環境搭建,需要更多大資料學習視訊教程可以點選連結進入https://edu.csdn.net/course/detail/8998

第一部分:Linux環境安裝

Hadoop是執行在Linux,雖然藉助工具也可以執行在Windows上,但是建議還是執行在Linux系統上,第一部分介紹Linux環境的安裝、配置、Java JDK安裝等。

第二部分:Hadoop本地模式安裝

Hadoop本地模式只是用於本地開發除錯,或者快速安裝體驗Hadoop,這部分做簡單的介紹。

第三部分:Hadoop偽分散式模式安裝

學習Hadoop一般是在偽分散式模式下進行。這種模式是在一臺機器上各個程式上執行Hadoop的各個模組,偽分散式的意思是雖然各個模組是在各個程式上分開執行的,但是隻是執行在一個作業系統上的,並不是真正的分散式。

第四部分:完全分散式安裝

完全分散式模式才是生產環境採用的模式,Hadoop執行在伺服器叢集上,生產環境一般都會做HA,以實現高可用。

第五部分:Hadoop HA安裝

HA是指高可用,為了解決Hadoop單點故障問題,生產環境一般都做HA部署。這部分介紹瞭如何配置Hadoop2.x的高可用,並簡單介紹了HA的工作原理。

安裝過程中,會穿插簡單介紹涉及到的知識。希望能對大家有所幫助。

上面環境的搭建只是講了一下框架,由於時間有限,具體如何操作可以留言與我交流。

環境搭建好後,然後嘗試編寫mapreduce進行打包執行。當你對hadoop應用程式設計層面沒有疑問的時候,可以嘗試去深入瞭解mapreduce的核心思想,尤其是map,shuffle,join,reduce等。

對於新手來說入門會遇到很多問題,這是正常的,不過遇到問題不可怕,只要想辦法解決了自己的能力就會一點一點的提高,在這裡預祝在大資料之路上求仙的夥伴們學有所

相關文章