zoukankan      html  css  js  c++  java
  • [转] linux 查找文本过滤grep正则表达式命令详解用法

      grep (global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。

      Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的扩展,支持更多的re元字符, fgrep就是fixed grep或fast grep,它们把所有的字母都看作单词,也就是说,正则表达式中的元字符表示回其自身的字面意义,不再特殊。linux使用GNU版本的grep。它功能更强,可以通过-G、-E、-F命令行选项来使用egrepfgrep


          过滤文本grep

      grep是一种强大的文本搜索工具命令,用于查找文件中的符合指定格式的字符串,支持正则表达式。如不指定任何文件名称,或是所给予的文件名为“—”,则grep命令从标准输入设备读取数据。grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的扩展。fgrep就是fixed grep或fast grep,该命令使用任何正则表达式中的元字符表示其自身的字面意义,不再特殊。其中egrep就等同于“grep —E”,fgrep等同于“grep -F”。Linux中的grep功能强大,支持很多丰富的参数,可以方便地进行一些文本处理工作。

      grep单独使用时至少有两个参数,如少于两个参数,grep会一直等待,直到该程序被中断。如果遇到了这样的情况,可以按“Ctrl+c”终止。默认情况下只搜索当前目录,如果递归查找子目录,可使用“r”选项。

    #在指定文件中查找特定字符串
    
    [root@CentOS ~]# grep root /etc/passwd
    
    #结合管道一起使用
    
    [root@CentOS ~]# cat /etc/passwd | grep root
    
    #将显示符合条件的内容所在的行号
    
    [root@CentOS ~]# grep -n root /etc/passwd
    
    #在nginx.conf查找包含listen的行号打印出来
    
    [root@CentOS conf]# grep listen nginx.conf
    
    #结合管道联合使用,其中/sbin/ifconfig 表示查看当前系统的网络配置信息,后查找包含“inetaddr"的字符串,第2行为查找的结果
    
    [root@CentOS etc]# cat filel
    
    [root@CentOS etc]# grep var filel
    
    [root@CentOS etc]# grep -v var filel
    
    #显示行号
    
    [root@CentOS etc]# grep -n var filel
    
    [root@CentOS nginx]#  /sbin/ifconfig | grep "inet addr"
    
    #综合使用
    
     $ grep magic /usr/src/linux/Documentation/* | tail
    
    #查看文件内容
    
    [root@CentOS etc]# cat test.txt
    
    #查找指定字符串,此时是区分大小写
    
    [root@CentOS etc]# grep uuid test.txt
    
    [root@CentOS etc]# grep UUID test.txt
    
    #不区分大小写查找指定字符串
    
    [root@CentOS etc]# grep -i uuid test.txt
    
    #列出匹配字符串的文件名
    
    [root@CentOS etc]# grep -l UUID test.txt
    
    [root@CentOS etc]# grep -L UUID test.txt
    
    #列出不匹配字符串的文件名
    
    [root@CentOS etc]# grep -L uuid test.txt
    
    #匹配整个单词
    
    [root@CentOS etc]# grep -W UU test.txt
    
    [root@CentOS etc]# grep -W UUID test.txt
    
    #除了显示匹配的行,分别显示该行上下文的N行
    
    [root@CentOS etc]# grep -C1 UUID test.txt
    
    [root@CentOS etc]# grep -n -E "^[a-z]+" test.txt
    
    [root@CentOS etc]# grep -n -E "^[^a-z]+" test.txt
    
    #按正则表达式查找指定字符串
    
    [root@CentOS etc]# cat my.cnf
    
    #按正则表达式查找
    
    [root@CentOS etc]#  grep -E "datadir|socket"my.cnf
    
    [root@CentOS etc]#  grep mysql my.cnf
    
    #结合管道一起使用
    
    [root@CentOS etc]#  grep mysql my.cnf | grep datadir
    
    #递归查找
    
    [root@CentOS etc]#  grep -r var .|head -3
    
    

    反向查找,文件名中包含test 的文件中不包含test 的行

    grep -v test*

    例:在文件kkk中搜索匹配字符“test file”。

    [root@rhel ~]# grep 'test file' kkk test file

    例:在文件aa中显示所有包含至少有5个连续小写字符的行数据内容。

    [root@rhel ~]# grep '[a-z]{5}' aa aaaaa aaaaaa

    例:在/root/aa文件中找出以b开头的行内容。

    [root@rhel ~]# grep ^b /root/aa bbb

    例:在/root/aa文件中输出不是以b开头的行内容。

    [root@rhel ~]# grep -v ^b /root/aa aaaaa AAAAA BBB aaaaaa

    例:在/root/kkk文件中输出以le结尾的行内容。

    [root@rhel ~]# grep le$ /root/kkk test file

    在stdout1.log文件中查找有'exception'的行。

    grep 'exception' stdout1.log

    在stdout1.log文件中查找有'exception'的行的数目。

    grep -c 'exception' stdout1.log

    grep不显示本身进程

    ps aux|grep [s]sh

    ps aux | grep ssh | grep -v "grep"

    输出ip地址

    ifconfig eth0|grep -E "([0-9]{1,3}.){3}[0-9]"

    显示当前目录下面以.txt 结尾的文件中的所有包含每个字符串至少有7个连续小写字符的字符串的行

    grep '[a-z]{7}' *.txt

    日志文件过大,不好查看,我们要从中查看自己想要的内容,或者得到同一类数据,比如说没有404日志信息的

    grep '.' access1.log|grep -Ev '404' > access2.log

    grep '.' access1.log|grep -Ev '(404|/photo/|/css/)' > access2.log

    grep '.' access1.log|grep -E '404' > access2.log

    grep支持丰富的正则表达式,常见的正则元字符含义表

    grep正则参数说明

     参数  说明
     ^  指定匹配字符串的行首
     $  指定匹配字符串的结尾
     *  表示0个以上的字符
     +  表示1个以上的字符
       去掉指定字符的特殊含义
     ^  指定行的开始
     $  指定行的结束
     .  匹配一个非换行符的字符
     *  匹配零个或多个先前字符
     []  匹配一个指定范围内的字符
     [^]  匹配一个不在指定范围内的字符
     (..)  标记匹配字符
     <  指定单词的开始
     >  指定单词的结束
     X{m}  重复字符X,m次  如:'0{5}'匹配包含5个o的行。
     X{m,}  重复字符X,至少m次  如:'o{5,}'匹配至少有5个o的行。
     X{m,n}  重复字符X,至少m次,不多于n次  如:'o{5,10}'匹配5--10个o的行。
     W  匹配文字和数字字符,也就是[A-Za-z0-9]
     b  单词锁定符
     +  匹配一个或多个先前的字符
     ?  匹配零个或多个先前的字符
     a|b|c  匹配a或b或c
     ()  分组符号
     [:alnum:]  文字数字字符
     [:alpha:]  文字字符
     [:digit:]  数字字符
     [:graph:]  非空格、控制字符
     [:lower:]  小写字符
     [:cntrl:]  控制字符
     [:print:]  非空字符(包括空格)
     [:punct:]  标点符号
     [:space:]  所有空白字符(新行,空格,制表符)
     [:upper:]  大写字符
     [:xdigit:]  十六进制数字(0-9,a-f,A-F)
       
       

      匹配的实例:

      grep -c "48" test.txt 统计所有以“48”字符开头的行有多少

      grep -i "May" test.txt 不区分大小写查找“May”所有的行)

      grep -n "48" test.txt 显示行号;显示匹配字符“48”的行及行号,相同于 nl test.txt |grep 48)

      grep -v "48" test.txt 显示输出没有字符“48”所有的行)

      grep "471" test.txt 显示输出字符“471”所在的行)

      grep "48;" test.txt 显示输出以字符“48”开头,并在字符“48”后是一个tab键所在的行

      grep "48[34]" test.txt 显示输出以字符“48”开头,第三个字符是“3”或是“4”的所有的行)

      grep "^[^48]" test.txt 显示输出行首不是字符“48”的行)

      grep "[Mm]ay" test.txt 设置大小写查找:显示输出第一个字符以“M”或“m”开头,以字符“ay”结束的行)

      grep "K…D" test.txt 显示输出第一个字符是“K”,第二、三、四是任意字符,第五个字符是“D”所在的行)

      grep "[A-Z][9]D" test.txt 显示输出第一个字符的范围是“A-D”,第二个字符是“9”,第三个字符的是“D”的所有的行

      grep "[35]..1998" test.txt 显示第一个字符是3或5,第二三个字符是任意,以1998结尾的所有行

      grep "4/{2,/}" test.txt 模式出现几率查找:显示输出字符“4”至少重复出现两次的所有行

      grep "9/{3,/}" test.txt 模式出现几率查找:显示输出字符“9”至少重复出现三次的所有行

      grep "9/{2,3/}" test.txt 模式出现几率查找:显示输出字符“9”重复出现的次数在一定范围内,重复出现2次或3次所有行

      grep -n "^$" test.txt 显示输出空行的行号

      ls -l |grep "^d" 如果要查询目录列表中的目录 同:ls -d *

      ls -l |grep "^d[d]" 在一个目录中查询不包含目录的所有文件

      ls -l |grpe "^d…..x..x" 查询其他用户和用户组成员有可执行权限的目录集合

      更多的例子:

      搜索有the的行,并输出行号

      $grep -n 'the' regular_express.txt

      搜 索没有the的行,并输出行号

      $grep -nv 'the' regular_express.txt

      利 用[]搜索集合字符

      [] 表示其中的某一个字符 ,例如[ade] 表示a或d或e

      woody@xiaoc:~/tmp$ grep -n 't[ae]st' regular_express.txt

      8:I can't finish the test.

      9:Oh! the soup taste good!

      可以用^符号做[]内的前缀,表示除[]内的字符之外的字 符。

      比如搜索oo前没有g的字符串所在的行. 使用 '[^g]oo' 作搜索字符串

      woody@xiaoc:~/tmp$ grep -n '[^g]oo' regular_express.txt

      2:apple is my favorite food.

      3:Football game is not use feet only.

      18:google is the best tools for search keyword.

      19:goooooogle yes!

      内可以用范围表示,比如[a-z] 表示小写字母,[0-9] 表示0~9的数字, [A-Z] 则是大写字母们。[a-zA-Z0-9]表示所有数字与英文字符。 当然也可以配合^来排除字符。

      搜索包含数字的行

      woody@xiaoc:~/tmp$ grep -n '[0-9]' regular_express.txt

      5:However ,this dress is about $ 3183 dollars.

      15:You are the best is menu you are the no.1.

      行首与行尾字符 ^ $. ^ 表示行的开头,$表示行的结尾( 不是字符,是位置)那么‘^$’ 就表示空行,因为只有行首和行尾。

      这里^与[]里面使用的^意义不同。它表示^后面的串是在行的开头。

      比如搜索the在开头的行

      woody@xiaoc:~/tmp$ grep -n '^the' regular_express.txt

      12:the symbol '*' is represented as star.

      搜索以小写字母开头的行

      woody@xiaoc:~/tmp$ grep -n '^[a-z]' regular_express.txt

      2:apple is my favorite food.

      4:this dress doesn't fit me.

      10:motorcycle is cheap than car.

      12:the symbol '*' is represented as star.

      18:google is the best tools for search keyword.

      19:goooooogle yes!

      20:go! go! Let's go.

      woody@xiaoc:~/tmp$

      搜索开头不是英文字母的行

      woody@xiaoc:~/tmp$ grep -n '^[^a-zA-Z]' regular_express.txt

      1:"Open Source" is a good mechanism to develop programs.

      21:#I am VBird

      woody@xiaoc:~/tmp$

      $表示它前面的串是在行的结尾,比如 '/.' 表示 . 在一行的结尾

      搜索末尾是.的行

      woody@xiaoc:~/tmp$ grep -n '/.$' regular_express.txt //. 是正则表达式的特殊符号,所以要用/转义

      1:"Open Source" is a good mechanism to develop programs.

      2:apple is my favorite food.

      3:Football game is not use feet only.

      4:this dress doesn't fit me.

      5:However ,this dress is about $ 3183 dollars.

      6:GNU is free air not free beer.

      注意在MS的系统下生成的文本文件,换行会加上一个 ^M 字符。所以最后的字符会是隐藏的^M ,在处理Windows

      下面的文本时要特别注意!

      可以用cat dos_file | tr -d '/r' > unix_file 来删除^M符号。 ^M==/r

      那么'^$' 就表示只有行首行尾的空行拉!

      搜索空行

      woody@xiaoc:~/tmp$ grep -n '^$' regular_express.txt

      22:

      23:

      woody@xiaoc:~/tmp$

      搜索非空行

      woody@xiaoc:~/tmp$ grep -vn '^$' regular_express.txt

      1:"Open Source" is a good mechanism to develop programs.

      2:apple is my favorite food.

      3:Football game is not use feet only.

      4:this dress doesn't fit me.

     

      linux关系推荐:

      linux grep怎么查ip地址

      linux egrep命令在文件或标准输入中查找模式

      linux fgrep命令查找文件里符合条件的字符串

      linux rgrep命令递归查找文件里符合条件的字符串

  • 相关阅读:
    dom4j的安装
    OWl本体语言学习笔记
    java学习笔记之链表(约瑟夫问题)
    C#打开指定文件夹及下载文件代码示例
    如何把phpStorm打造成自己的专属IDE
    SQL和TSQL之间的区别
    整数的划分(分治递归)
    整数的划分(变形)(分治递归)
    子序列 (Data_Structure)
    找球号(Hash)
  • 原文地址:https://www.cnblogs.com/chris-oil/p/11285754.html
Copyright © 2011-2022 走看看