hadoop之 exceeds the limit of concurrent xcievers處理
dfs.datanode.max.transfer.threads: 預設 4096 < 2.0之前該引數為dfs.datanode.max.xcievers >
解釋:Specifies the maximum number of threads to use for transferring data in and out of the DN.
表示datanode上負責進行檔案操作的執行緒數。如果需要處理的檔案過多,而這個引數設定得過低就會有一部分檔案處理不過來,就會報異常。
linux系統中所有的檔案操作都被繫結到一個socket上,進一步具體可以把他看做是一個執行緒。而這個引數就是指定這種執行緒的個數。
在datanode裡面有一個專門的執行緒組來維護這些執行緒,同時有一個守護執行緒來監視這個執行緒組的體量,它負責監測執行緒數量是否到達上線,
超過就丟擲異常,則需調大 hdfs-site.xml 檔案中的 dfs.datanode.max.transfer.threads 。
dfs.datanode.max.transfer.threads 引數設定過小,datanode 異常:
ERROR org.apache.hadoop.dfs.DataNode: DatanodeRegistration(10.10.10.53:50010,
storageID=DS-1570581820-10.10.10.53-50010-1224117842339,infoPort=50075, ipcPort=50020)
:DataXceiver: java.io.IOException: xceiverCount 258 exceeds the limit of concurrent xcievers 256
注意:dfs.datanode.max.transfer.threads 數目不能大於系統開啟檔案數的設定,即/etc/security/limits.conf中nofile的數值。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31383567/viewspace-2150739/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- ORA-27092: skgfofi: size of file exceeds file size limit of the processMIT
- netty 之 非同步處理雙子星io.netty.util.concurrent.Future與io.netty.util.concurrent.PromiseNetty非同步Promise
- EBS Concurrent Manager(併發管理器)異常處理
- 關閉Concurrent Mananger或Server Crash後還是執行狀態的Concurrent Request如何處理NaNServer
- Hadoop Archives 小資料處理HadoopHive
- Heap size 2498K exceeds notification threshold (2048K) 問題處理
- EBS Concurrent Manager(併發管理器)異常處理[final]
- 大資料學習之Hadoop如何高效處理大資料大資料Hadoop
- Hadoop小檔案的處理方式Hadoop
- hadoop常見錯誤及處理方法Hadoop
- avro處理hadoop上的小檔案VRHadoop
- ORA-19566 exceeded limit of 0 corrupt blocks資料壞塊處理MITBloC
- -bash: ulimit: max user processes: cannot modify limit: Operation not permitted問題的處理MIT
- BIEE 之 處理流程
- 從零自學Hadoop(22):HBase協處理器Hadoop
- JAVA之Concurrent包書目錄Java
- SQL優化之limit 1SQL優化MIT
- SQL之limit子句的使用SQLMIT
- 分享Hadoop處理大資料工具及優勢Hadoop大資料
- 分散式處理框架Hadoop的安裝與使用分散式框架Hadoop
- 優步在Hadoop上做增量處理的案例Hadoop
- hadoop0.20.2下相關問題處理方法Hadoop
- 視訊處理之OSD
- 影像處理之骨架提取
- Markdown之表格的處理
- 【scikit-learn基礎】--『預處理』之 缺失值處理
- RMAN出現檔案損壞ORA-19566: exceeded limit of 0 corrupt blocks 處理MITBloC
- Hadoop大資料分散式處理系統簡介Hadoop大資料分散式
- Hadoop 中處理小檔案的方式, Avro應用HadoopVR
- Flink處理函式實戰之四:視窗處理函式
- SPM12之fMRI批次預處理——NII檔案處理
- NodeJS之異常處理NodeJS
- 批處理命令之tree命令
- Netty之非阻塞處理Netty
- MySQL 之動態字串處理MySql字串
- javascript之處理Ajax錯誤JavaScript
- python處理Excel 之 xlrdPythonExcel
- Python之檔案處理Python