雲端計算是否會讓Hadoop過時

roc_guo發表於2021-05-07

Hadoop是一個開源軟體框架,它在近十年前開始流行。ApacheHadoop在當時是一項突破性的創新,企業在處理大量資料時遇到了儲存問題。它透過提供Hadoop分散式檔案系統(HDFS)進行儲存和MapReduce進行資料分析和處理,重新定義了企業處理、分析和儲存資料的方式。據公關通訊社報導,到2012年,財富50強中超過一半的公司採用了Hadoop。

Cloudera在2008年成為第一家致力於Hadoop的公司,MapR和Hortonworks緊隨其後。Hadoop技術成為財富500強公司的最愛,然而他們卻宣佈放棄這項技術。在經歷了這樣一段開拓性的旅程並受到如此多的崇拜之後,為什麼Hadoop今天會經歷相當大的衰退呢?

雲端計算是否會讓Hadoop過時雲端計算是否會讓Hadoop過時

導致崩潰的變化

雲的出現在Hadoop採用率的下降中扮演著關鍵的角色。2018年,Twitter宣佈遷移至谷歌雲,以提高生產力並滿足其不斷增長的需求。此外,他們還表示,他們的Hadoop檔案系統儲存了超過300PB的資料,他們正在將Hadoop計算系統轉移到Google雲上。

自從雲服務普及以來,這不是一個孤立的案例,許多公司決定轉向雲,以獲得更好的大資料解決方案和高階資料分析。下一個路徑,一家自動化雲遷移公司最近宣佈了Crawler360的增強功能和移位™,他們的兩種遷移技術,可以輕鬆快速地從Hadoop遷移到所需的雲平臺。

NextPathway的首席戰略官Vinay Mathur在接受採訪時說:“我們承諾會比最終得到的更多。隨著資料量和分析要求的複雜性增加,它根本就不起作用了。”根據下一份平臺報告,他們與財富500強中的高階公司的對話使他們意識到,他們正在對Hadoop失去興趣。

與經常因維護費用而受到指責的本地Hadoop技術相比,雲技術承諾了可擴充套件和高效的大資料處理。它也不能很好地處理迭代資料,對於大量的小資料集,它通常被標記為低效的解決方案。對實時資料分析的不斷增長的需求也導致了人們對Hadoop興趣的下降。

很多時候,運營商將大量非結構化資料轉儲到分散式檔案系統中,這會增加交付解決方案的複雜性。雲端計算減少了混亂,同時它還提供了一個可擴充套件的經濟高效的平臺。

Hadoop死了嗎?

沒有人應該那麼悲觀。像Hadoop這樣的技術可能會發展,但不會完全消失。AlliedMarketResearch公司的報告顯示,到2027年,全球Hadoop市場預計將達到3403.5億美元,而2019年為267.4億美元,2020-2027年複合年增長率為37.5%。這不矛盾嗎?Hadoop可能正在經歷一場中年危機,最終可能導致技術更加成熟。

儘管Hadoop的採用率可能會下降,但它不會消失,因為如果不用於分析,它仍然可以用於豐富的資料儲存。未來幾年,企業可能會利用基於雲的基礎設施和內部基礎設施,使用混合方法進行資料儲存和分析。在這裡,它將有一個相當大的範圍,因為它是一個公認的技術,具有成本效益和可擴充套件的資料儲存系統。


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69901823/viewspace-2771085/,如需轉載,請註明出處,否則將追究法律責任。

相關文章