zoukankan      html  css  js  c++  java
  • PHP实现读取一个1G的文件大小

    需求如下: 现有一个1G左右的日志文件,大约有500多万行, 用php返回最后几行的内容。

    1. 直接采用file函数来操作 or file_get_content() 肯定报内存溢出
    注: 由于 file函数是一次性将所有内容读入内存,而php为了防止一些写的比较糟糕的程序占用太多的内存而导致系统内存不足,使服务器出现宕机,所以默认情况下限制只能最大使用内存16M, 这是通过php.ini里的memory_limit = 16M来进行设置,这个值如果设置-1,则内存使用量不受限制.

    下面是一段用file来取出这具文件最后一行的代码.

    ini_set('memory_limit','-1');
    $file = 'access.log';
    $data = file($file);
    $line = $data[count($data)-1];

    这里有个问题,假如服务器的内存只有256MB,那么上面的方法就不行了,解决方法就操作文件指针,例如下面的代码

    2. 直接使用php的fseek来进行文件操作

    这种方式是最为普遍的方式,它不需要将文件的内容全部读入内存,而是直接通过指针来操作,所以效率是相当高效的.在使用fseek来对文件进行操作时,也有多种不同的方法,效率可能也是略有差别的,下面是常用的两种方法.

    方法一

    首先通过fseek找到文件的最后一位EOF,然后找最后一行的起始位置,取这一行的数据,再找次一行的起始位置,再取这一行的位置,依次类推,直到找到了$num行。

    function tail($fp,$n,$base=5)
    {
        assert($n>0);
        $pos = $n+1;
        $lines = array();
        while(count($lines)< =$n){
            try{
                fseek($fp,-$pos,SEEK_END);
            } catch (Exception $e){
                fseek(0);
                break;
            }
            $pos *= $base;
            while(!feof($fp)){
                array_unshift($lines,fgets($fp));
            }
        }
        return array_slice($lines,0,$n);
    }
    var_dump(tail(fopen("access.log","r+"),10));

    方法二

    还是采用fseek的方式从文件最后开始读,但这时不是一位一位的读,而是一块一块的读,每读一块数据时,就将读取后的数据放在一个buf里,然后通过换行符( )的个数来判断是否已经读完最后$num行数据.

    实现代码如下

    $fp = fopen($file, "r");
    $line = 10;
    $pos = -2;
    $t = " ";
    $data = "";
    while ($line > 0) {
        while ($t != "
    ") {
            fseek($fp, $pos, SEEK_END);
            $t = fgetc($fp);
            $pos --;
        }
        $t = " ";
        $data .= fgets($fp);
        $line --;
    }
    fclose ($fp);
    echo $data
  • 相关阅读:
    简单说说sharepoint虚机 金大昊(jindahao)
    SharePoint 自定义UI 金大昊(jindahao)
    学习SharePoint 2010 UI 总结 金大昊(jindahao)
    隐藏sharepoint2010列表的下拉菜单 金大昊(jindahao)
    安装Office Web Apps 2010 金大昊(jindahao)
    corev4.css
    SharePoint 2010的Form认证用户维护页面 金大昊(jindahao)
    今天买了两本中文SharePoint2010书 金大昊(jindahao)
    痛苦的日立移动硬盘 金大昊(jindahao)
    liferay开发环境创建
  • 原文地址:https://www.cnblogs.com/phpfans/p/4319580.html
Copyright © 2011-2022 走看看