【Hadoop篇04】Hadoop配置日誌聚集
成長這一路就是懂得閉嘴努力,知道低調謙遜,學會強大自己,在每一個值得珍惜的日子裡,拼命去成為自己想成為的人
Hadoop配置日誌聚集
應用場景
為了讓應用執行完成以後,將程式執行日誌資訊上傳到HDFS系統上,有了日誌之後就可以檢視程式中的報錯資訊,從而除錯程式
配置步驟
1.配置yarn-site.xml
<!-- 日誌聚集功能使能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!-- 日誌保留時間設定7天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
2.重啟叢集
sbin/stop-yarn.sh
sbin/stop-dfs.sh
sbin/mr-jobhistory-daemon.sh stop historyserver
sbin/start-dfs.sh
sbin/start-yarn.sh
sbin/mr-jobhistory-daemon.sh start historyserver
3.執行程式
上傳資料到HDFS
賦給檔案許可權
執行程式
檢視執行結果
4.檢視日誌
本文配套GitHub:https://github.com/zhutiansama/FocusBigData
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/818/viewspace-2825743/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- hadoop配置歷史伺服器&&配置日誌聚集Hadoop伺服器
- hadoop之 hadoop日誌存放路徑Hadoop
- YARN的日誌聚集配置使用Yarn
- Hadoop偽分散式環境-歷史伺服器、日記聚集 第二篇Hadoop分散式伺服器
- hadoop 日誌級別的調製方法.Hadoop
- Hadoop MapReduce Job提交後的互動日誌Hadoop
- hadoop 部署配置Hadoop
- cygwin 配置hadoopHadoop
- 【Hadoop】 分散式Hadoop叢集安裝配置Hadoop分散式
- 【Hadoop篇】--Hadoop常用命令總結Hadoop
- Hadoop原始碼篇--Reduce篇Hadoop原始碼
- hadoop:spark-project專案的hadoop配置HadoopSparkProject
- 【Hadoop】HBase元件配置Hadoop元件
- Hadoop日記Day1---Hadoop介紹Hadoop
- 1、大資料 Hadoop配置和單機Hadoop系統配置大資料Hadoop
- hadoop(二)—hadoop配置、執行錯誤總結Hadoop
- Hadoop日記Day4---去除HADOOP_HOME is deprecatedHadoop
- 我是如何利用Hadoop做大規模日誌壓縮的Hadoop
- Hadoop安裝手冊2-Hadoop環境配置Hadoop
- Hadoop叢集安裝配置Hadoop
- Win10 配置hadoopWin10Hadoop
- hadoop叢集篇--從0到1搭建hadoop叢集Hadoop
- hadoop,hbase,zookeeper錯誤日誌及部分解決辦法(1)Hadoop
- 從零自學Hadoop(04):Linux準備下HadoopLinux
- hadoop之yarn(優化篇)HadoopYarn優化
- 第五篇:Hadoop流Hadoop
- [日誌分析篇]-利用ELK分析jumpserver日誌-日誌拆分篇Server
- 第三篇:配置Hadoop的Eclipse開發環境HadoopEclipse開發環境
- Hadoop KMS配置(HDFS透明加密)Hadoop加密
- hadoop3.1.3 local 模式配置Hadoop模式
- hadoop 配置檔案簡析Hadoop
- Hadoop雙namenode配置搭建(HA)Hadoop
- Hadoop 叢集安裝與配置Hadoop
- ubuntu下hadoop環境配置UbuntuHadoop
- Hadoop安裝配置:使用cloudreaHadoopCloud
- 日誌配置
- Hadoop-Streaming(Python篇)HadoopPython
- Hadoop原始碼篇--Client原始碼Hadoop原始碼client