使用sqoop將資料從hdfs中匯入mysql時,卡在INFO mapreduce.Job: map 100% reduce 0%的解決辦法
最近在將hdfs中已經處理好的資料匯入到mysql的時候遇到這麼一個現象,當任務執行到
INFO mapreduce.Job: map 100% reduce 0%
mapreduce任務卡在map100% ,任何reduce不繼續執行。
總結了以下解決辦法:
一,如果沒有報錯的話,可能是你mysql的資料庫建表指定的主鍵不全,導致匯入一部分資料後,主鍵出現相同欄位,那麼就造成阻塞了
二,如果報錯的話,可能就是配置問題,叢集無法承載如此大量資料的處理,資源緊張導致的阻塞
對於第一種,仔細檢視錶的結構,看看是否有的欄位長度不夠,或者建表時指定的主鍵不夠全
第二個錯誤,可以配置一下yarn-site.xml檔案
1. <property>
2. <name>yarn.nodemanager.resource.memory-mb</name>
3. <value>20480</value>
4. </property>
5. <property>
6. <name>yarn.scheduler.minimum-allocation-mb</name>
7. <value>2048</value>
8. </property>
9. <property>
10. <name>yarn.nodemanager.vmem-pmem-ratio</name>
11. <value>2.1</value>
12. </property>
重啟yarn嘗試重新執行試試。相關文章
- Sqoop將MySQL資料匯入到hive中OOPMySqlHive
- MYSQL資料庫匯入資料時出現亂碼的解決辦法MySql資料庫
- sqoop匯出hive資料到mysql錯誤ava.util.NoSuchElementException解決辦法OOPHiveMySqlException
- 資料匯入終章:如何將HBase的資料匯入HDFS?
- MySQL匯入資料亂碼、出錯等問題的解決辦法MySql
- Flume:資料匯入到hdfs中
- sqoop資料匯入匯出OOP
- 將資料從文字匯入到mysql(轉)MySql
- sqoop用法之mysql與hive資料匯入匯出OOPMySqlHive
- Excel資料快速匯入mysql的幾個辦法ExcelMySql
- sqoop從hdfs導資料至oracle資料庫OOPOracle資料庫
- MySql登入時閃退的快速解決辦法MySql
- mysql 匯入問題:Unknown command '\'' 解決辦法MySql
- odps平臺將資料匯入到hdfs
- 解決辦法:由於oracle版本不同導致匯入資料時失敗Oracle
- .NET Core使用NPOI將Excel中的資料批量匯入到MySQLExcelMySql
- AndroidStudio匯入新專案一直卡在Building gradle project info的解決解決方案AndroidUIGradleProject
- MYSQL++ 資料庫連線超時的解決辦法LTMySql資料庫
- 將高版本mysql資料庫的資料匯入低版本mysql中MySql資料庫
- sqoop1.4.7環境搭建及mysql資料匯入匯出到hiveOOPMySqlHive
- sqoop定時增量匯入匯出OOP
- Mysql增量寫入Hdfs(一) --將Mysql資料寫入Kafka TopicMySqlKafka
- SQL 匯入匯出的時候資料庫表的主鍵和自動編號丟失的解決辦法SQL資料庫
- 解決MYSQL資料從高版本匯入低版本的問題(轉)MySql
- 解決Mysql資料庫插入資料出現問號(?)的解決辦法MySql資料庫
- 從hive將資料匯出到mysql(轉)HiveMySql
- 管理工具匯入CSV檔案,中文資料亂碼的解決辦法。
- 【問題排查】sqoop將mysql匯入hive異常:No suitable driverOOPMySqlHiveUI
- Sqoop匯入資料異常處理OOP
- 用java的api將資料從HDFS上存到HBASE中JavaAPI
- 將資料匯入kudu表(建立臨時hive表,從hive匯入kudu)步驟Hive
- myeclispe中向mysql中插入中文資料出現??問題解決辦法LispMySql
- 從Excel到匯入MYSQL資料庫ExcelMySql資料庫
- Sqoop解決關係型資料庫與HDFS之間進行資料轉換OOP資料庫
- Solr8 從 MySQL8.0.20中 匯入資料SolrMySql
- 【匯入匯出】將資料匯入到其他使用者
- MySql中limit子查詢的解決辦法MySqlMIT
- hadoop匯入資料工具sqoop介紹Hadoop