【Hadoop篇04】Hadoop配置日誌聚集
成長這一路就是懂得閉嘴努力,知道低調謙遜,學會強大自己,在每一個值得珍惜的日子裡,拼命去成為自己想成為的人
Hadoop配置日誌聚集
應用場景
為了讓應用執行完成以後,將程式執行日誌資訊上傳到HDFS系統上,有了日誌之後就可以檢視程式中的報錯資訊,從而除錯程式
配置步驟
1.配置yarn-site.xml
<!-- 日誌聚集功能使能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!-- 日誌保留時間設定7天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
2.重啟叢集
sbin/stop-yarn.sh
sbin/stop-dfs.sh
sbin/mr-jobhistory-daemon.sh stop historyserver
sbin/start-dfs.sh
sbin/start-yarn.sh
sbin/mr-jobhistory-daemon.sh start historyserver
3.執行程式
上傳資料到HDFS
賦給檔案許可權
執行程式
檢視執行結果
4.檢視日誌
本文配套GitHub:https://github.com/zhutiansama/FocusBigData
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/818/viewspace-2825743/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- hadoop配置歷史伺服器&&配置日誌聚集Hadoop伺服器
- YARN的日誌聚集配置使用Yarn
- Hadoop偽分散式環境-歷史伺服器、日記聚集 第二篇Hadoop分散式伺服器
- hadoop 部署配置Hadoop
- 【Hadoop篇】--Hadoop常用命令總結Hadoop
- hadoop:spark-project專案的hadoop配置HadoopSparkProject
- 【Hadoop】HBase元件配置Hadoop元件
- hadoop(二)—hadoop配置、執行錯誤總結Hadoop
- 1、大資料 Hadoop配置和單機Hadoop系統配置大資料Hadoop
- Hadoop叢集安裝配置Hadoop
- Win10 配置hadoopWin10Hadoop
- hadoop之yarn(優化篇)HadoopYarn優化
- Hadoop KMS配置(HDFS透明加密)Hadoop加密
- hadoop3.1.3 local 模式配置Hadoop模式
- Hadoop雙namenode配置搭建(HA)Hadoop
- hadoop之旅4-centerOS7: hadoop配置yarn資源管理器HadoopROSYarn
- hadoop叢集配置和啟動Hadoop
- Hadoop完全分散式叢集配置Hadoop分散式
- [日誌分析篇]-利用ELK分析jumpserver日誌-日誌拆分篇Server
- HadoopHadoop
- Ubuntu下 hadoop的安裝與配置UbuntuHadoop
- 配置Hadoop中啟用LZO壓縮Hadoop
- Hadoop配置hdfs-site.xml詳解HadoopXML
- Hadoop叢集是配置時間同步!Hadoop
- Hadoop框架:HDFS高可用環境配置Hadoop框架
- hadoop-SSH免密登入配置Hadoop
- Hadoop演進與Hadoop生態Hadoop
- Hadoop - macOS 上編譯 Hadoop 3.2.1HadoopMac編譯
- 日誌配置
- Hadoop學習筆記——————1、Hadoop概述Hadoop筆記
- Hadoop入門系列(2)-安裝HadoopHadoop
- Hadoop叢集--linux虛擬機器Hadoop安裝與配置、克隆虛擬機器HadoopLinux虛擬機
- Ubuntu16.04-hadoop3.1.0安裝與配置UbuntuHadoop
- 大資料 Hadoop介紹、配置與使用大資料Hadoop
- Hadoop–HDFSHadoop
- hadoop概述Hadoop
- 搭建HadoopHadoop
- hadoop命令Hadoop