zoukankan      html  css  js  c++  java
  • 如何用python最快的获取大文件的最后几行

            工作中经常会遇到处理日志文件的问题:为了得到日志的最新状态,我们需要获取日志文件的最后部分行来做判断。那么,这种情况下我们应该怎么做呢?

             1)常规方法:从前往后依次读取

                  步骤:open打开日志文件。

                              读取文件,获取文件的总行数。

                              遍历所有行,提取指定行的数据。

                  优点:简单,方便

                  缺点:当文件大了以后时间太慢,无法忍受

             2)推荐方法:

                   步骤:open打开日志文件。

                              移动文件读取指针到文件末尾。

                              从后往前移动指针直到合适的位置。

                              读取文件,提取指定行的数据。

                  优点:时间相对固定,适合处理大文件

             示例:

        logFile = open('logFilePath.log', 'r')
        logFile.seek(0,2)
        logFile.seek(-1000000,2)
        rowCount = 0
        for row in logFile.readlines()[1:]:
             pass
    


     seek():移动文件读取指针到指定位置

    tell():返回文件读取指针的位置

    seek()的三种模式:

        (1)f.seek(p,0)  移动当文件第p个字节处,绝对位置

        (2)f.seek(p,1)  移动到相对于当前位置之后的p个字节

        (3)f.seek(p,2)  移动到相对文章尾之后的p个字节


  • 相关阅读:
    Legacy和UEFI,MBR和GPT的区别
    如何升级laravel5.4到laravel5.5并使用新特性?
    value toDF is not a member of org.apache.spark.rdd.RDD
    spark能传递外部命名参数给main函数吗?
    spark在idea中本地如何运行?(处理问题NoSuchFieldException: SHUTDOWN_HOOK_PRIORITY)
    工作随笔-20171012
    maven使用实战
    介绍maven构建的生命周期
    python中的pip
    python中的None
  • 原文地址:https://www.cnblogs.com/chenjianhong/p/4144471.html
Copyright © 2011-2022 走看看