zoukankan      html  css  js  c++  java
  • Linux日志分析和管理

    目录

    日志的作用、分类、管理、轮转和级别

    rsyslog服务

    Journal守护进程

    /var/log下相关的日志文件

    日志服务器的建立


    日志的作用、分类、管理、轮转和级别

    日志的作用:

    • 用于记录系统、程序运行中发生的各种事件
    • 通过阅读日志,有助于诊断,解决系统故障

    日志文件的分类:

    • 内核及系统日志:由系统服务 rsyslog 统一管理,日志格式相似
    • 用户日志:记录系统用户登录及退出系统的相关信息
    • 程序日志:由各种应用程序独立管理的日志文件,格式不统一

    日志管理策略
    日志也并不是完全可靠的,高级的黑客在入侵系统后,会删除相应的日志记录,因此需要做好日志的管理工作:

    • 日志的备份和归档
    • 延长日志的保存期限
    • 控制日志的访问权限
    • 集中管理日志。比如,将服务器的日志文件发送到统一到日志文件服务器,这样便于日志信息的统一收集、整理和分析,还可以杜绝日志信息的意外丢失、恶意修改和删除

    日志的轮转和切割
    随着时间的推移,日志文件肯定会越来越大,而且这个趋势是呈线性增长。所以,需要对之前的日志文件做一些处理。日志轮转和切割指的是实现对当前日志归档,开始新的日志,删除早期的日志。Linux中,日志轮转和切割这个服务是由 logrotate 提供的。logrotate这个程序的目录:/etc/cron.daily/logrotate  。logrotate 是作为 corn 的一个每日任务,周期性执行的。它具备自动轮转、压缩、搬迁 和 邮件通知到日志系统的多项功能。每一个日志文件都可以按照每天、每周、每月周期性处理,或是增长到多大而触发处理。

    日志消息的级别

    日志消息的级别
    level等级 状况
    0 EMERG(紧急) 会导致主机系统不可用的情况
    1 ALERT (警告) 必须马上采取措施解决的情况
    2 CRIT (严重) 比较严重的情况
    3 ERR (错误) 运行出现错误
    4 WARNING (提醒) 可能会影响系统功能的事件
    5 NOTICE (注意) 不会影响系统但值得注意
    6 INFO (注意) 一般信息
    7 DEBUG(调试) 程序或系统调试信息等

    rsyslog服务

    rsyslog服务是由 rsyslogd 程序提供的。rsyslogd 程序负责收集和管理与系统有关的日志

    • 程序目录:/sbin/rsyslogd  
    • rsyslogd配置文件所在目录:/etc/rsyslog.conf 
    • rsyslogd相关文件:/etc/sysconfig/rsyslog  
    • 和日志轮转(切割)相关文件:/etc/logrotate.d/syslog

    系统中的程序,在收集日志的时候,都是调用 syslog() 函数,这个函数的作用是发送日志消息给系统的 logger,然后由logger 根据 rsyslogd 程序的配置文件 /etc/rsyslog.conf 中的规则,将日志消息按照不同的格式写入不同的文件中。

    syslog() 函数内部有不同的设备,不同的程序有可能对应相同的设备,也有可能对应不同的设备。通过 man  3  syslog  可查看syslog中的不同设备和不同预警级别。程序所对应的设备大部分不可修改,都已经编译好。但是有的程序的配置文件中允许修改设备。比如sshd程序,在其配置文件 /etc/ssh/sshd_config 中可修改设备。LOCAL0 ~ LOCAL6 是自定义设备。不建议修改程序所对应的默认设备。程序所对应的设备这个不是我们所关心的,是开发者已经配置好的。

    rsyslogd 中有不同的规则,指定了不同的设备的不同预警级别对应的不同文件。logger 就是根据  rsyslogd 中的规则进行日志写入。rsyslogd 中的规则我们自己可以定义修改增加。所以如果我们关闭 rsyslogd 程序的话,logger就不知道该将日志文件写入哪里,所以就会产生错误。 

    一些程序所对应的设备
    程序 Program 设备 Facility
    /usr/sbin/sshd LOG_AUTHPRIV
    /usr/bin/su LOG_AUTHPRIV
    /usr/bin/login LOG_AUTHPRIV
    /usr/sbin/vsftpd LOG_FTP
    /usr/bin/at LOG_CRON
    /usr/sbin/crond LOG_CRON
    /usr/sbin/portfix LOG_MAIL
    rsyslogd的配置文件 /etc/rsyslog.conf 中的一些规则
    设备 Facility 和 级别 对应的文件
    *.info; mail.none; authpriv.none; cron.none (任何设备的这些级别) /var/log/messages
    authpriv.*  (authpriv设备的所有级别) /var/log/secure
    mail.* (mail设备的所有级别) -/var/log/maillog
    cron.*  (cron设备的所有级别) /var/log/cron
    *.emery (所有设备的emery级别) :omusrmsg:*   (打印到终端)
    local0.*   ~  local6.* 自己可定义文件

    但是像我们很多自己的应用,不是由 rsyslogd进程收集和管理日志,因为他们不调用 syslog()函数。比如apache、nginx、mysql、httpd 都有自己的日志进程负责收集和管理日志。
    日志文件默认都是保存在 /var/log/ 目录下。

    常见的日志文件目录
    名称 路径
    内核、公共消息日志、系统主日志文件 /var/log/messages
    用户登录日志 /var/log/secure 
    计划任务日志 /var/log/cron
    跟yum安装有关 /var/log/yum.log
    系统引导日志 /var/log/dmesg
    邮件系统日志,跟postfix有关 /var/log/maillog
    当前登录的用户,二进制文件,可用 last 查看 /var/log/wtmp
    最近登录的用户 , 二进制文件  ,可用 lastb 查看 /var/log/btmp
    所有用户的登录情况,二进制文件,可用 lastlog 查看 /var/log/lastlog

    这个是  /var/log/secure 里的登录日志 ,第一行说明root用户登录xie登录成功。第二三行说明xie用户想登录bob用户然后认证失败了,也就是密码错误。第四行说明xie用户退出登录了。

     grep 'Fail' /var/log/secure | awk '{print $11}' | sort |uniq -c | sort -k1 -n -r | head -5     查看登录失败的那一行,然后打印出第11列(从后数), 然后排序,然后去除重复,然后按第一列排序 ,然后查看前五个

    Journal守护进程

    在Rhel7中,syslog 消息除了由 rsyslog 服务处理外,还新加了一个 journal 监听,日志文件在 /run/log/journal 目录中。
    systemd-journald 守护进程提供了一个改进的日志管理服务。在使用其它工具时,日志往往被分散在整套系统当中,由不同的守护进程及进程负责处理,这意味着我们很难跨越多种应用程序对其内容进行解读。而 systemd 尝试提供一套集中化管理方案,从而统一打理全部内核及用户级进程的日志信息,这也就是我们journal。这套系统能够收集并管理日志内容,它从内核中收集消息:启动过程的早期阶段、标准输出和守护进程的错误。当它们启动和运行时,以及 syslog ,它将这些消息写入到结构化的事件日志。syslog消息也由 systemd-journald 转发到 rsyslog 服务,然后按类型(或设备)和优先级对消息进行排序,并将他们写入到 /var/log/ 日志目录中的持久文件中。

    但是,我们的 /run/log/journal 目录下的日志信息并不能直接查看,该文件是二进制文件,需要借助命令查看

    journal日志的查看

    • journalctl                                   显示所有的日志信息
    • journalctl  -n  10                        显示最近10条的日志信息
    • journalctl  -u   nginx.service       查看nginx服务的日志自信息
    • journalctl  _PID=1234                查看PID进程为1234的日志信息
    • journalctl  _UID=0                     查看UDI为0的用户的日志信息
    • journalctl  /usr/bin/bash             查看指定路径可执行文件的日志信息
    • journalctl  --since  today            查看今天以来的日志的信息

    /var/log下相关的日志文件

    • /var/log/message:几乎所有的开机系统发生的错误都会在此记录;
    • /var/log/secure:记录登录系统存取数据的文件,例如:ssh、pop3、telnet,ftp等都会记录在此.。
    • /var/log/wtmp:记录ssh登录成功的记录,二进制文件
    • /var/log/btmp:记录ssh登录失败的记录,二进制文件
    • /var/log/lastlog 记录每个用户最后的登录信息;
    • /var/log/boot.log:记录一些开机或者关机启动的一些服务显示的启动或者关闭的信息;
    • /var/log/maillog:记录邮件的存取和往来;
    • /var/log/cron:用来记录crontab定时任务的记录;
    • /var/log/httpd:http服务的记录
    •   /var/log/audit:包含被 Linux audit daemon储存的信息
    • /var/log/dmesg:内核日志;
    • /var/log/cpus: CPU的处理信息;
    • /var/log/anaconda.log:在安装Linux时,所有的安装信息记录
    • /var/log/syslog: 事件记录监控程序日志;
    • /var/log/auth.log: 用户认证日志;
    • /var/log/daemon.log: 系统进程日志;
    • /var/log/mail.err :邮件错误信息;
    • /var/log/mail.info: 邮件信息;
    • /var/log/mail.warn: 邮件警告信息;
    • /var/log/daemon.log: 系统监控程序产生的信息;
    • /var/log/kern: 内核产生的信息;
    • /var/log/lpr :  行打印机假脱机系统产生的信息;
    • /var/log/sa:包含每日由sysstat软件包收集的sar文件。
    • /var/log/yum.log:使用yum安装的软件包的记录

    日志服务器的建立

    文章:建立日志服务器

  • 相关阅读:
    Codeforces Round #592 (Div. 2)C. The Football Season(暴力,循环节)
    Educational Codeforces Round 72 (Rated for Div. 2)D. Coloring Edges(想法)
    扩展KMP
    poj 1699 Best Sequence(dfs)
    KMP(思路分析)
    poj 1950 Dessert(dfs)
    poj 3278 Catch That Cow(BFS)
    素数环(回溯)
    sort与qsort
    poj 1952 buy low buy lower(DP)
  • 原文地址:https://www.cnblogs.com/csnd/p/11808041.html
Copyright © 2011-2022 走看看