hadoop主要的一些特點及相關領域發展狀態
hadoop主要的一些特點
擴容能力:能可靠地儲存和處理千兆位元組(PB)資料。
成本低:可以透過普通機器組成的伺服器群來分發以及處理資料。這些伺服器群總計可達數千個節點。
高效率:透過分發資料,hadoop可以在資料所在的節點上並行地處理它們,這使得處理非常的快速。
可靠性:hadoop能自動地維護資料的多份複製,並且在任務失敗後能自動地重新部署計算任務。
Hadoop在相關領域的發展狀態
Yahoo :34個叢集,總數超過3萬臺機器,最大的叢集是4000臺左右,總儲存容量超過100PB
淘寶:單個叢集規模2000臺,實際儲存資料超過17PB,日執行mapreduce job達6萬個,開發團隊240餘人
Hadoop系統當前的狀態
1、目前hadoop平臺擁有布有36臺機器。
2、每臺機器的配置為:2C四核,32G,1T_RAID0*6,CentOS5.4 64bit。
3、其中35臺為計算節點,共設280個cpu計算資源,儲存容量175T
目前在hadoop上執行的專案
1、ddclick:
a.流量資料的儲存與常用指標計算
2、研究開發組:
a.當首館首流量(各專題單品)
b.專題頁統計
c.首頁輪轉統計
d.推薦效果統計
e.當首所有連結分析
f.基礎資料(瀏覽樹等)生成
g.未設定時執行但隨時可執行的任務:常見搜尋引擎帶來的流量訂單統計;任意指定路徑的流量收訂情況;任意起始位置流量收訂統計;等等
擴容能力:能可靠地儲存和處理千兆位元組(PB)資料。
成本低:可以透過普通機器組成的伺服器群來分發以及處理資料。這些伺服器群總計可達數千個節點。
高效率:透過分發資料,hadoop可以在資料所在的節點上並行地處理它們,這使得處理非常的快速。
可靠性:hadoop能自動地維護資料的多份複製,並且在任務失敗後能自動地重新部署計算任務。
Hadoop在相關領域的發展狀態
Yahoo :34個叢集,總數超過3萬臺機器,最大的叢集是4000臺左右,總儲存容量超過100PB
淘寶:單個叢集規模2000臺,實際儲存資料超過17PB,日執行mapreduce job達6萬個,開發團隊240餘人
Hadoop系統當前的狀態
1、目前hadoop平臺擁有布有36臺機器。
2、每臺機器的配置為:2C四核,32G,1T_RAID0*6,CentOS5.4 64bit。
3、其中35臺為計算節點,共設280個cpu計算資源,儲存容量175T
目前在hadoop上執行的專案
1、ddclick:
a.流量資料的儲存與常用指標計算
2、研究開發組:
a.當首館首流量(各專題單品)
b.專題頁統計
c.首頁輪轉統計
d.推薦效果統計
e.當首所有連結分析
f.基礎資料(瀏覽樹等)生成
g.未設定時執行但隨時可執行的任務:常見搜尋引擎帶來的流量訂單統計;任意指定路徑的流量收訂情況;任意起始位置流量收訂統計;等等
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/15498/viewspace-2096820/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 區塊鏈發展現狀及觸及領域分析區塊鏈
- hadoop一些相關知識Hadoop
- 多執行緒的執行緒狀態及相關操作執行緒
- 自動識別技術的發展及應用領域
- Clean清潔領域模型的幾個特點 -Kamil Grzybek模型
- iOS狀態列相關操作iOS
- 測試員的兩大型別特點及發展空間型別
- 2010年資料庫技術領域盤點及發展趨勢資料庫
- Kotlin 程式語言詳解:特點、應用領域及語法教程Kotlin
- 分散式防火牆技術及主要特點分散式防火牆
- NLP領域預訓練模型的現狀及分析模型
- 動態監聽與靜態監聽的一些特點。
- 自然語言(NLP)發展史及相關體系
- 各種相關的圖結構-定義及相關研究進展
- 幫助你認識PHP的特點與發展PHP
- 掃地機器人產業發展現狀及市場發展前景機器人產業
- 《雲網產業發展白皮書》釋出 雲網路已成為雲端計算發展的熱點領域產業
- MySQL handler相關狀態引數解釋MySql
- 雲端計算的關鍵特點及挑戰
- 鴻海:蘋果業務之外多元化發展, 半導體和電動車領域是長期增長關鍵點蘋果
- 社交平臺的現狀及發展方向
- 自然語言處理領域的進展(六、七)講者狀態的分析與生成、結論與展望自然語言處理
- oracle例項、資料庫及相關資料庫狀態的理解和測試Oracle資料庫
- 乘聯會:關於我國智慧網聯汽車發展現狀及其相關政策的分析
- 分析遊戲平臺生命週期的發展特點遊戲
- mysql 鎖狀態的一些狀態資訊記錄MySql
- 2021年中國人工智慧領域發展現狀(附成立公司數量及投資方投資規模分析)人工智慧
- 服裝供應鏈領域的佈局與發展
- 例子解析C++的引用,傳參,const的相關特點C++
- Web3的主要特點有哪些?Web
- 美國文化產業的發展現狀及啟示產業
- zigbee協議的缺點 zigbee的主要應用領域協議
- 淺談人工智慧在銀行領域的應用及未來發展趨勢人工智慧
- 最新研究進展:關於機器翻譯領域,這4個要點不得不關注
- html規範及主要瀏覽器版本的發展HTML瀏覽器
- Http2的一些特點HTTP
- 【hadoop/Spark】相關命令HadoopSpark
- web跨域及cookie相關知識總結Web跨域Cookie