Hadoop之 Balancer平衡速度
1. dfs.datanode.max.transfer.threads
修改dfs.datanode.max.transfer.threads=4096 (如果執行HBase的話建議為16384),
指定用於在DataNode間傳輸block資料的最大執行緒數,老版本的對應引數為dfs.datanode.max.xcievers。
2. dfs.datanode.balance.bandwidthPerSec
修改dfs.datanode.balance.bandwidthPerSec=52428800,指定DataNode用於balancer的頻寬為50MB,
這個根據情況而定,如果交換機效能好點的,完全可以設定100MB,單位是Byte,
如果機器的網路卡和交換機的頻寬有限,可以適當降低該速度,比如10MB,預設是1048576(1MB)。
hdfs dfsadmin-setBalancerBandwidth 52428800
3. dfs.balancer.block-move.timeout
以毫秒為單位移動的最大時間。如果這個設定大於0,平衡器將停止等待一個塊移動完成。在典型的叢集中,3到5分鐘的超時是合理的。
如果超時發生在很大比例的塊移動中,則需要增加。它也可能是太多的工作被分派,並且許多節點的頻寬總是超過頻寬限制。
在這種情況下,可能需要調整其他平衡器引數。預設情況下,它是禁用的。
4. dfs.balancer.max-no-move-interval
如果這個指定的時間量已經過去,並且沒有一個塊被移出源DataNode,那麼將會有更多的努力在當前的平衡迭代中移出這個DataNode的塊。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31383567/viewspace-2150733/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 漫談Hadoop HDFS BalancerHadoop
- Hadoop2.7實戰v1.0之start-balancer.sh與hdfs balancer資料均衡Hadoop
- CDH5之Balancer難以在快速增長的叢集上平衡大量的資料H5
- Mongodb原始碼分析之balancer(均衡)KBMongoDB原始碼
- hadoop之 hadoop用途方向Hadoop
- Azure Load Balancer : 簡介
- hadoop之 hadoop 機架感知Hadoop
- hadoop 之Hadoop生態系統Hadoop
- hadoop之 HDFS-Hadoop存檔Hadoop
- 思考工具之平衡反饋迴路 | Untools
- hadoop之 hadoop日誌存放路徑Hadoop
- hadoop之 Hadoop 2.x HA 、FederationHadoop
- Azure Load Balancer : 支援 IPv6
- 十三、Mysql之平衡二叉樹(AVL樹)MySql二叉樹
- Hadoop實戰-中高階部分 之 Hadoop 管理Hadoop
- Azure Load Balancer : 動態擴充套件套件
- Codeforces Testing Round #10 B. Balancer
- Hadoop面試題之HDFSHadoop面試題
- Hadoop面試題之MapReduceHadoop面試題
- Hadoop原理之——HDFS原理Hadoop
- Hadoop實戰-中高階部分 之 Hadoop RPCHadoopRPC
- 大資料時代之hadoop(一):hadoop安裝大資料Hadoop
- 小丸子學Hadoop系列之——部署Hadoop叢集Hadoop
- hadoop之 Hadoop1.x和Hadoop2.x構成對比Hadoop
- 全文索引-lucene,solr,nutch,hadoop之nutch與hadoop索引SolrHadoop
- 大資料時代之hadoop(二):hadoop指令碼解析大資料Hadoop指令碼
- hadoop學習之hadoop完全分散式叢集安裝Hadoop分散式
- webpack編譯速度提升之DllPluginWeb編譯Plugin
- 普通平衡樹學習筆記之Splay演算法筆記演算法
- hadoop之yarn(優化篇)HadoopYarn優化
- hadoop之 引數調優Hadoop
- Hadoop之 MapReducer工作過程Hadoop
- hadoop之 map個數控制Hadoop
- hadoop之 reduce個數控制Hadoop
- hadoop家族之mahout安裝Hadoop
- Hadoop之Pig安裝Hadoop
- 平衡的智慧
- 系統優化之---分割槽表加速查詢速度和刪除速度優化