Hadoop之 Balancer平衡速度
1. dfs.datanode.max.transfer.threads
修改dfs.datanode.max.transfer.threads=4096 (如果執行HBase的話建議為16384),
指定用於在DataNode間傳輸block資料的最大執行緒數,老版本的對應引數為dfs.datanode.max.xcievers。
2. dfs.datanode.balance.bandwidthPerSec
修改dfs.datanode.balance.bandwidthPerSec=52428800,指定DataNode用於balancer的頻寬為50MB,
這個根據情況而定,如果交換機效能好點的,完全可以設定100MB,單位是Byte,
如果機器的網路卡和交換機的頻寬有限,可以適當降低該速度,比如10MB,預設是1048576(1MB)。
hdfs dfsadmin-setBalancerBandwidth 52428800
3. dfs.balancer.block-move.timeout
以毫秒為單位移動的最大時間。如果這個設定大於0,平衡器將停止等待一個塊移動完成。在典型的叢集中,3到5分鐘的超時是合理的。
如果超時發生在很大比例的塊移動中,則需要增加。它也可能是太多的工作被分派,並且許多節點的頻寬總是超過頻寬限制。
在這種情況下,可能需要調整其他平衡器引數。預設情況下,它是禁用的。
4. dfs.balancer.max-no-move-interval
如果這個指定的時間量已經過去,並且沒有一個塊被移出源DataNode,那麼將會有更多的努力在當前的平衡迭代中移出這個DataNode的塊。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31383567/viewspace-2150733/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 分片叢集平衡器Balancer
- Mongodb原始碼分析之balancer(均衡)KBMongoDB原始碼
- Azure Load Balancer : 簡介
- Hadoop原理之——HDFS原理Hadoop
- Azure Load Balancer : 支援 IPv6
- hdfs disk balancer 磁碟均衡器
- Hadoop實踐之Python(一)HadoopPython
- hadoop之yarn(優化篇)HadoopYarn優化
- 對hadoop之RPC的理解HadoopRPC
- Hadoop面試題之HDFSHadoop面試題
- Hadoop面試題之MapReduceHadoop面試題
- Hadoop入門(一)之Hadoop偽分散式環境搭建Hadoop分散式
- Hadoop大資料實戰系列文章之安裝HadoopHadoop大資料
- 思考工具之平衡反饋迴路 | Untools
- Azure Load Balancer : 動態擴充套件套件
- 大資料hadoop入門之hadoop家族產品詳解大資料Hadoop
- 十三、Mysql之平衡二叉樹(AVL樹)MySql二叉樹
- 洛谷P3369 普通平衡樹之板子
- Hadoop 基礎之搭建環境Hadoop
- Hadoop 基礎之 HDFS 入門Hadoop
- Hadoop 基礎之生態圈Hadoop
- Hadoop系列之HDFS 資料塊Hadoop
- webpack編譯速度提升之DllPluginWeb編譯Plugin
- 大資料測試之hadoop初探大資料Hadoop
- Hadoop叢集之淺析安全模式Hadoop模式
- Hadoop源生實用工具之distcpHadoopTCP
- Hadoop官網翻譯之HDFS ArchitectureHadoop
- Hadoop2之NameNode HA詳解Hadoop
- 4.hadoop之偽分散式模式Hadoop分散式模式
- 平衡樹
- 普通平衡樹學習筆記之Splay演算法筆記演算法
- 大資料之 Hadoop學習筆記大資料Hadoop筆記
- Hadoop之MapReduce2架構設計Hadoop架構
- Hadoop入門(二)之 HDFS 詳細解析Hadoop
- hadoop發行版本之間的區別Hadoop
- Hadoop官網翻譯之HDFS Users GuideHadoopGUIIDE
- 【譯】Apache Hadoop 系列之四(Edits Viewer指ApacheHadoopView
- Hadoop大資料平臺之HBase部署Hadoop大資料
- Hadoop大資料平臺之Kafka部署Hadoop大資料Kafka