Hadoop Logs 文件

Published Thu 20 October 2016 in 大数据

by HanXiao  

Hadoop 存在多种日志文件, 其中 Master 上的日志文件记录全面信息, 包括 Slave 上的 JobTrackerDataNode 也会将错误信息写到 Master 中, 而 Slave 中的日志主要记录完成的 Task 任务信息.

Hadoop Log 文件保存在 Hadoop 根目录下的 logs 目录里.

hanxiao@smallcpp01:/usr/smallcpp/hadoop-2.7.3/logs$ ls -l
总用量 452
-rw-rw-r-- 1 hanxiao hanxiao 173292 10月 17 01:22 hadoop-hanxiao-namenode-smallcpp01.log
-rw-rw-r-- 1 hanxiao hanxiao   5314 10月 16 17:32 hadoop-hanxiao-namenode-smallcpp01.out
-rw-rw-r-- 1 hanxiao hanxiao   1030 10月 16 17:27 hadoop-hanxiao-namenode-smallcpp01.out.1
-rw-rw-r-- 1 hanxiao hanxiao   1030 10月 16 17:26 hadoop-hanxiao-namenode-smallcpp01.out.2
-rw-rw-r-- 1 hanxiao hanxiao  64382 10月 17 01:22 hadoop-hanxiao-secondarynamenode-smallcpp01.log
-rw-rw-r-- 1 hanxiao hanxiao   1030 10月 16 17:29 hadoop-hanxiao-secondarynamenode-smallcpp01.out
-rw-rw-r-- 1 hanxiao hanxiao   1030 10月 16 17:27 hadoop-hanxiao-secondarynamenode-smallcpp01.out.1
-rw-rw-r-- 1 hanxiao hanxiao  40588 10月 17 01:22 mapred-hanxiao-historyserver-smallcpp01.log
-rw-rw-r-- 1 hanxiao hanxiao   1852 10月 16 20:27 mapred-hanxiao-historyserver-smallcpp01.out
-rw-rw-r-- 1 hanxiao hanxiao      0 10月 16 17:26 SecurityAuth-hanxiao.audit
-rw-rw-r-- 1 hanxiao hanxiao 132156 10月 17 01:22 yarn-hanxiao-resourcemanager-smallcpp01.log
-rw-rw-r-- 1 hanxiao hanxiao   1899 10月 16 17:29 yarn-hanxiao-resourcemanager-smallcpp01.out
-rw-rw-r-- 1 hanxiao hanxiao   1899 10月 16 17:27 yarn-hanxiao-resourcemanager-smallcpp01.out.1

log 文件的名称由几部分构造: 组件 - 当前用户 - 节点 - 主机

*.log 是日志消息, 故障诊断的首要步骤即为检查该文件 (此日志文件最重要)

*.out 是当前输出 (记录标准输出和标准错误).