zoukankan      html  css  js  c++  java
  • Apache日志文件大小管理设置分析方法

    一、apache日志按日期记录

    在apache的配置文件中找到
    ErrorLog logs/error_log
    CustomLog logs/access_log common

    Linux系统配置方法:

    将其改为
    ErrorLog “| /usr/local/apache/bin/rotatelogs /home/logs/www/%Y_%m_%d_error_log 86400 480″
    CustomLog “| /usr/local/apache/bin/rotatelogs /home/logs/www/%Y_%m_%d_access_log 86400 480″ common

    Windows系统下配置方法:

    #ErrorLog “|bin/rotatelogs.exe logs/vicp_net_error-%y%m%d.log 86400 480″
    #CustomLog “|bin/rotatelogs.exe logs/vicp_net_access-%y%m%d.log 86400 480″ common
    第一次不知道设置480这个参数,导致日志记录时间和服务器时间相差8小时,原来是rotatelogs有一个offset参数,表示相对于UTC的时差分钟数,中国是第八时区,相差480分钟。86400是表示1天。
    附rotatelogs说明
    rotatelogs logfile [ rotationtime [ offset ]] | [ filesizeM ]
    选项
    logfile
    它加上基准名就是日志文件名。如果logfile中包含’%’,则它会被视为用于的strftime(3)的格式字串;否则,它会被自动加上以秒为单位的.nnnnnnnnnn后缀。这两种格式都表示新的日志开始使用的时间。
    rotationtime
    日志文件回卷的以秒为单位的间隔时间
    offset
    相对于UTC的时差的分钟数。如果省略,则假定为0,并使用UTC时间。比如,要指定UTC时差为-5小时的地区的当地时间,则此参数应为-300。
    filesizeM
    指定回卷时以兆字节为单位的后缀字母M的文件大小,而不是指定回卷时间或时差。

    二、设置apache日志记录格式

    定制日志文件的格式涉及到两个指令,即LogFormat指令和CustomLog指令,默认httpd.conf文件提供了关于这两个指令的几个示例。
    LogFormat指令定义格式并为格式指定一个名字,以后我们就可以直接引用这个名字。CustomLog指令设置日志文件,并指明日志文件所用的格式(通常通过格式的名字)。
    LogFormat指令的功能是定义日志格式并为它指定一个名字。例如,在默认的httpd.conf文件中,我们可以找到下面这行代码:
    LogFormat “%h %l %u %t ”%r” %>s %b” common
     
    该指令创建了一种名为“common”的日志格式,日志的格式在双引号包围的内容中指定。格式字符串中的每一个变量代表着一项特定的信息,这些信息按照格式串规定的次序写入到日志文件。
    Apache文档已经给出了所有可用于格式串的变量及其含义,下面是其译文:
    %…a: 远程IP地址
    %…A: 本地IP地址
    %…B: 已发送的字节数,不包含HTTP头
    %…b: CLF格式的已发送字节数量,不包含HTTP头。例如当没有发送数据时,写入‘-’而不是0。
    %…{FOOBAR}e: 环境变量FOOBAR的内容
    %…f: 文件名字
    %…h: 远程主机
    %…H 请求的协议
    %…{Foobar}i: Foobar的内容,发送给服务器的请求的标头行。
    %…l: 远程登录名字(来自identd,如提供的话)
    %…m 请求的方法
    %…{Foobar}n: 来自另外一个模块的注解“Foobar”的内容
    %…{Foobar}o: Foobar的内容,应答的标头行
    %…p: 服务器响应请求时使用的端口
    %…P: 响应请求的子进程ID。
    %…q 查询字符串(如果存在查询字符串,则包含“?”后面的部分;否则,它是一个空字符串。)
    %…r: 请求的第一行
    %…s: 状态。对于进行内部重定向的请求,这是指*原来*请求 的状态。如果用%…>s,则是指后来的请求。
    %…t: 以公共日志时间格式表示的时间(或称为标准英文格式)
    %…{format}t: 以指定格式format表示的时间
    %…T: 为响应请求而耗费的时间,以秒计
    %…u: 远程用户(来自auth;如果返回状态(%s)是401则可能是伪造的)
    %…U: 用户所请求的URL路径
    %…v: 响应请求的服务器的ServerName
    %…V: 依照UseCanonicalName设置得到的服务器名字
    在所有上面列出的变量中,“…”表示一个可选的条件。如果没有指定条件,则变量的值将以“-”取代。分析前面来自默认httpd.conf文件的 LogFormat指令示例,可以看出它创建了一种名为“common”的日志格式,其中包括:远程主机,远程登录名字,远程用户,请求时间,请求的第一 行代码,请求状态,以及发送的字节数。
    有时候我们只想在日志中记录某些特定的、已定义的信息,这时就要用到“…”。如果在“%”和变量之间放入了一个或者多个HTTP状态代码,则只有当请 求返回的状态代码属于指定的状态代码之一时,变量所代表的内容才会被记录。例如,如果我们想要记录的是网站的所有无效链接,那么可以使用:
    LogFormat @4{Referer}i BrokenLinks
    反之,如果我们想要记录那些状态代码不等于指定值的请求,只需加入一个“!”符号即可:
    LogFormat %!200U SomethingWrong

    三、专门记录某个蜘蛛记录

    SetEnvIfNoCase User-Agent Baiduspider baidu_robot
    LogFormat “%h %t ”%r” %>s %b” robot
    linux下
    CustomLog “|/usr/local/apache2.2.0/bin/rotatelogs /usr/local/apache2.2.0/logs/baidu_%Y%m%d.txt 86400 480″ robot env=baidu_robot
    windows下
    CustomLog “|bin/rotatelogs.exe logs/baidu_%Y%m%d.txt 86400 480″ robot env=baidu_robot
    这样在logs目录下,就会每天产生baidu_年月日.txt的日志了,每条的记录和下面的类似:
    61.135.168.14 [22/Oct/2008:22:21:26 +0800] “GET / HTTP/1.1″ 200 8427
    四、去掉日志中的图片、js、css、swf文件
    <FilesMatch ".(ico|gif|jpg|png|bmp|swf|css|js)">
    SetEnv IMAG 1
    </FilesMatch>
    CustomLog "|bin/cronolog.exe logs/cpseadmin/access_%Y%m%d.log" combined env=!IMAG
     
    清除error.log、access.log并限制Apache日志文件大小的方法
    Apache下的access.log和error.log文件从安装服务器到现在没有动过,今天突然discuz 的MYSQL数据库连接错误,提示2003 错误,检查发现原来是error.log、access.log爆满,文件达到30个G,奶奶的,立马搜索,得把这两个小子干掉。
    下面是在网上搜索到的方法,立马见效,顶一个!
    在 Windows 下的设置例子如下:
    第一步:删除 Apache2/logs/目录下的 error.log、access.log文件
    第二步:打开 Apache 的 httpd.conf配置文件并找到下面两条配置
    ErrorLog logs/error.log
    CustomLog logs/access.log common
    直接注释掉,换成下面的配置文件。
     
    # 限制错误日志文件为 1M
    ErrorLog “|bin/rotatelogs.exe -l logs/error-%Y-%m-%d.log 1M”
    # 每天生成一个错误日志文件
    #ErrorLog “|bin/rotatelogs.exe -l logs/error-%Y-%m-%d.log 86400″
    # 限制访问日志文件为 1M
    CustomLog “|bin/rotatelogs.exe -l logs/access-%Y-%m-%d.log 1M” common
    # 每天生成一个访问日志文件
    #CustomLog “|bin/rotatelogs.exe -l logs/access-%Y-%m-%d.log 86400″ common
    参考:
     
    Apache下的access.log和error.log文件处理方法
    这几天有会员和我说到网站访问速度越来越慢。我查了一下,看到Apache2下面有两个日志文件非常大了,加起来有800多M了。
    分别是access.log和error.log。
    于是在网上找找了给access.log和error.log减肥的方法,这个方法可让这两个文件按每天日期生成。这样你可以选择
    把前面的旧文件删除了。
    在Apache下的httpd.conf配置文件下找到下面两句:
    ErrorLog logs/error.log
    CustomLog logs/access.log common
    然后把这两句分别改为如下:
    CustomLog “|D:/apache2/bin/rotatelogs.exe D:/apache2/logs/access_%Y_%m_%d.log 86400 480″ common
    ErrorLog “|D:/apache2/bin/rotatelogs.exe D:/apache2/logs/error_%Y_%m_%d.log 86400 480″
    一切就这么简单,这样这两个日志文件每天都会起一个新文件,就不至于单个文件太大,打不开,而无法看到日志信息了.
    你还可以把前面的日志文件删除。
    access.log,件在 WEB 服务器运行一段时间之后会达到几十兆甚至上百兆,如果Apache运行有错误,error.log也会增大到几十兆,我们知道系统读写一个大的文本文件是非常耗内存的,因此限定日志文件大小十分必要。
    日志文件大小的配置指令,通过参考http://httpd.apache.org/docs/2.0/programs /rotatelogs.html,可以用apache 自己的程序 rotatelogs.exe(位于 {$apache}/bin/目录下),来限制日志文件的大小。
    Usage: rotatelogs [-l] [offset minutes from UTC] or
    Add this:
    TransferLog “|rotatelogs /some/where 86400″
    or
    TransferLog “|rotatelogs /some/where 5M”
    to httpd.conf. The generated name will be /some/where.nnnn where nnnn is the system time at which the log nominally starts (N.B. if using a rotation time, the time will always be a multiple of the rotation time, so you can synchronizecron scripts with it). At the end of each rotation time or when the file size is reached a new log is started.
    在 Windows 下的设置例子如下:
    # 限制错误日志文件为 1M
    ErrorLog “|bin/rotatelogs.exe -l logs/error-%Y-%m-%d.log 1M”
    # 每天生成一个错误日志文件
    #ErrorLog “|bin/rotatelogs.exe -l logs/error-%Y-%m-%d.log 86400″
    # 限制访问日志文件为 1M
    CustomLog “|bin/rotatelogs.exe -l logs/access-%Y-%m-%d.log 1M” common
    # 每天生成一个访问日志文件
    #CustomLog “|bin/rotatelogs.exe -l logs/access-%Y-%m-%d.log 86400″ common
    linux/Unix下 应该类似。
     
    清除apache的access.log方法
    有个客户服务器是用apache搭建的,最近总是感觉站很慢,服务器很慢很卡,有时候甚至网站都打不开,后来经过排查分析原来是里面的access.log和error.log这两个文件要经常上去看,和清理,如果时间忙,忘记看和清理了,过不了多久,这两个文件就膨胀的非常的大,打都打不开了。 下面就跟你说下 清理access.log和error.log这两个日志文件的方法希望对大家有些帮助。也怀疑怀疑是有其他的爬虫,明天都在爬我的几个网站。
    优化access.log和error.log的方法如下 :
    CustomLog “|D:/thridparty-system/java/apache2/bin/rotatelogs.exe D:/thridparty-system/java/apache2/logs/access_%Y_%m_%d.log 86400 480″ common
    ErrorLog “|D:/thridparty-system/java/apache2/bin/rotatelogs.exe D:/thridparty-system/java/apache2/logs/error_%Y_%m_%d.log 86400 480″
    一切就这么简单,这样这两个日志文件每天都会起一个新文件,就不至于单个文件太大,打不开,而无法看到日志信息了.
    解决Apache日志文件ACCESS.LOG日益膨胀的一个办法
    将httpd.conf中customlog logs/access.log common 改成
    customlog “|c:/apache/bin/rotatelogs c:/apache/logs/%y_%m_%d.access.log 86400 480″ common
    重启apache
    其中c:/apache/是你安装apache的路径
    这样每一天生成一个日志文件
    解决Apache日志文件ACCESS.LOG日益膨胀的一个办法
  • 相关阅读:
    Java 设计模式(2)工厂模式
    Java 设计模式-六大原则
    华为机试测试- 求有序数组中最长的等差序列
    JAVA SE 基础复习-面向对象(2) static
    Java 设计模式
    Java 字符串
    jQuery源代码学习之七—队列模块queue
    jQuery源代码学习之六——jQuery数据缓存Data
    jQuery源代码学习之五——jQuery.when
    javascript源代码学习之五——jQuery.deferred
  • 原文地址:https://www.cnblogs.com/xiatian0721/p/8400337.html
Copyright © 2011-2022 走看看