好程式設計師解密Spark是否可以替代hadoop
好程式設計師解密Spark是否可以替代hadoop,首先這個問題,需要明確的是Hadoop是生態圈而Spark是計算框架是兩者是不同的,我們所使用Hadoop基本是建立一個完成的分散式資料基礎設施: 它將巨大的資料集分派到一個由普通計算機組成的叢集中的多個節點進行儲存,意味著您不需要購買和維護昂貴的伺服器硬體,而在Hadoop生態圈下,可以提供一些,對資料進行計算操作的方式包括MapReduce或Hive,其實Spark要是體態Hadoop應該是替其內部計算引擎。
主要就是MapReduce,因為MapReduce本身是存在甚多缺點的,最大缺陷之一是Map + Reduce的模型。這個模型並不適合描述複雜的資料處理過程。
而且MapReduce對資料處理時需要多次將計算的資料結果儲存到磁碟上,就會造成大量IO讀寫,發生計算效能下降。而Spark的資料物件儲存在分佈於資料叢集中的叫做彈性分散式資料集(RDD: Resilient Distributed Dataset)中。
這些資料物件既可以放在記憶體,也可以放在磁碟,所以RDD同樣也可以提供完成的災難恢復功能。
所以所Spark完全替代hadoop是不可能的
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69913892/viewspace-2658228/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 好程式設計師技術解析Hadoop和spark的效能比較程式設計師HadoopSpark
- 好程式設計師分享大資料入門教程:Hadoop和spark的效能比較程式設計師大資料HadoopSpark
- 好程式設計師大資料培訓分享常見的Hadoop和Spark專案程式設計師大資料HadoopSpark
- 好程式設計師Java教程解密static關鍵字的理解程式設計師Java解密
- 好程式設計師大資料培訓分享spark之Scala程式設計師大資料Spark
- 好程式設計師大資料培訓分享:Hadoop叢集同步程式設計師大資料Hadoop
- 好程式設計師大資料教程分享之Hadoop優缺點程式設計師大資料Hadoop
- 好程式設計師大資料筆記之:Hadoop叢集搭建程式設計師大資料筆記Hadoop
- 好程式設計師大資料教程:SparkShell和IDEA中編寫Spark程式程式設計師大資料SparkIdea
- 好程式設計師:Java程式設計師面試秘籍程式設計師Java面試
- 好程式設計師大資料學習路線分享spark之Scala程式設計師大資料Spark
- 好程式設計師大資料培訓分享Spark技術總結程式設計師大資料Spark
- 好程式設計師大資料培訓分享Hadoop的shuffle過程程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop分散式叢集程式設計師大資料Hadoop分散式
- 好程式設計師大資料培訓之Hadoop常見問題程式設計師大資料Hadoop
- 好程式設計師大資料教學點睛:Hadoop基礎篇程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop入門進階程式設計師大資料Hadoop
- 程式設計師可以關注和收藏的幾本好書程式設計師
- 好程式設計師大資料培訓分享Spark需要什麼基礎?程式設計師大資料Spark
- 好程式設計師大資料高階班分享 Spark知識點集合程式設計師大資料Spark
- 好程式設計師大資料學習路線分享Hadoop機架感知程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop技術優缺點程式設計師大資料Hadoop
- 好程式設計師淺談大資料與Hadoop有什麼關係程式設計師大資料Hadoop
- 好程式設計師大資料培訓簡述Hadoop常見問題程式設計師大資料Hadoop
- 好程式設計師大資料獨家解析-hadoop五大節點程式設計師大資料Hadoop
- 好程式設計師大資料教程Hadoop全分佈安裝(非HA)程式設計師大資料Hadoop
- 好程式設計師不寫程式碼程式設計師
- 好程式設計師大資料分享Spark任務和叢集啟動流程程式設計師大資料Spark
- 好程式設計師大資料學習路線Hadoop學習乾貨分享程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop怎樣處理資料?程式設計師大資料Hadoop
- 用程式語言解密京東雲女程式設計師解密程式設計師
- 不會填坑的程式設計師不是一個好程式設計師!程式設計師
- 好程式設計師Java培訓分享Java程式設計師技能提升指南程式設計師Java
- 好程式設計師Java培訓Java程式設計師必學技術程式設計師Java
- 好程式設計師Python培訓分享Python程式設計師面試技巧程式設計師Python面試
- 好程式設計師Java培訓分享Java程式設計技巧程式設計師Java
- 好程式設計師大資料分享零基礎學習Hadoop該如何下手程式設計師大資料Hadoop
- 好程式設計師大資料培訓分享Hadoop入門學習線路圖程式設計師大資料Hadoop