文本处理三剑客之grep&正则表达式

grep是一个文本过滤工具，它支持正则表达式，能把搜索匹配到的行打印出来。grep的全称是Global Regular Expression Print(全局正则表达式)使用权限是所有用户。

一、grep

作用：按照用户指定的模式对目标进行搜索后输出
模式：正则表达式与文本字符

• 按照指定的字符搜索

#单引号只是字符串，双引号识别变量、反单引号识别变量识别命令
grep "$USER" /etc/passwd
grep '$USER' /etc/passwd
grep`whoami` /etc/passwd

• 各项参数

 --color=auto: 对匹配到的文本着色显示
 -v: 显示不被pattern匹配到的行
-i: 忽略字符大小写
-n：显示匹配的行号
-c: 统计匹配的行数
-o: 仅显示匹配到的字符串
-q: 静默模式，不输出任何信息
-A #: after, 后#行
-B #: before, 前#行
-C #：context, 前后各#行
-e：实现多个选项间的逻辑or关系
-w：匹配整个单词
-E：使用ERE
-F：相当于fgrep，不支持正则表达式
-e:或
    grep -e 'root' -e 'admin'  file

---

二、正则表达式

由一类特殊字符及文本字符所编写的模式，其中的某些字符不是字面意义，而是用来表示其规定范围内的内容。

• 基本正则表达式 BRE -----grep

• 扩展正则表达式 ERE-----egrep或者grep -E

• 基本与扩展正则表达式区别在于两者元字符不同

元字符：一个字符出现以后，它并不表示文件本身，
而是用来匹配一定范围内的或者指定符合条件的字符；

• 元字符分为 字符匹配、次数匹配、位置锚定、分组

1. 字符匹配

.    匹配任意单个字符
[]   匹配任意范围内的任意单个字符
[^]  匹配指定范围外的任意单个字符
[:alnum:]   字母和数字
[:alpha:]   匹配大小写字母
[:lower:]   小写字母
[:upper:]   大写字母
[:blank:]   空白字符，包括空格与制表符
[:space:]   水平和垂直的空白字符（比[:blank:]包含的范围广）
[:cntrl:]   不可打印的控制字符（退格、删除、警铃...）
[:digit:]   十进制数字 [:xdigit:]十六进制数字
[:graph:]   可打印的非空白字符
[:print:]   可打印字符
[:punct:]   标点符号

2. 次数匹配

*       匹配前字符任意次数，包括0次；贪婪模式，尽可能长的匹配
.*      任意长度任意字符。(点为任意单个，*为任意次)
?      前一字符0次或者1次
+      前一字符至少1次
{n}   前一字符n次
{m,n} 前一字符m到n次
{,n}  前一字符最多n次
{m,}  前字符最少m次

3. 位置锚定

^       行首锚定
$       行尾
^abc$   用于匹配正行只有abc字符
         ^$     匹配空行
         ^[[:space:]]*$   空白行
<      词首锚定
>      词首锚定
<abc> 匹配整个单词

4. 分组

()     将多个字符捆绑在一起，当做一个整体
1     2    捆绑在一起的整体成为组，用 1  2 表示表示第一组第二组
从左起第一个括号，到与其匹配的括号为止为1组

• 举例

(string1+(string2)*)
1 为string1+(string2)*
2 为string2
#
分组的引用
#当通过1再次引用字符串是，1表示之前()组内匹配的结果。

• 或者

a|b:     a或者b
(C|c)at:     Cat或者cat

5. 正则表达式图片详解

---

三、 练习题

1. proc/meminfo文件中以大小s开头的行(要求：使用两种方法)

[root@centos7 app]# grep ^[S|s] /proc/meminfo 
SwapCached:            0 kB
SwapTotal:       2097148 kB
SwapFree:        2097148 kB
Shmem:              7868 kB
Slab:             110820 kB
SReclaimable:      54148 kB
SUnreclaim:        56672 kB

2. 显示/etc/passwd文件中不以/bin/bash结尾的行

[root@centos7 app]# grep -v "/bin/bash$" /etc/passwd  

3. 显示用户rpc默认的shell程序

[root@centos7 app]# grep  -w ^rpc /etc/passwd|cut -d: -f7

4. 找出/etc/passwd中的两位或三位数

[root@centos7 app]# grep -w "[[:digit:]]{2,3}" /etc/passwd
[root@centos7 app]# grep -w "[0-9]{2,3}" /etc/passwd 

5. 显示CentOS7的/etc/grub2.cfg文件中，至少以一个空白字符开头的且后面存非空白字符的行

[root@centos7 app]# grep "^[[:space:]]+[^[:space:]]" /etc/grub2.cfg

6. 找出“netstat -tan”命令的结果中以‘LISTEN’后跟任意多个空白字符结尾的行

[root@centos7 app]# netstat -tan | grep "LISTEN[[:space:]]+"

7. 显示CentOS7上所有系统用户的用户名和UID

[root@centos7 app]# cut -d: -f1,3 /etc/passwd|grep -w "[[:digit:]]{1,3}$"|sort -t: -k2

8. 添加用户bash、testbash、basher、sh、nologin(其shell为/sbin/nologin),找出/etc/passwd用户名同shell名的行

[root@centos7 app]# grep -o "^([[:alpha:]]+>).*<1$" /etc/passwd

9. 利用df和grep，取出磁盘各分区利用率，并从大到小排序

[root@centos7 app]# df|grep "^/dev/sd"|tr -s ' '|cut -d ' ' -f1,5|sort -t' ' -k 2 -n

---

1. 显示三个用户root、nologin的UID和默认shell

[root@centos7 ~]# cut -d: -f1,3,7 /etc/passwd | grep -E -e "^root" -e "^nologin"
root:0:/bin/bash
nologin:1102:/sbin/nologin

2. 找出/etc/rc.d/init.d/functions文件中行首为某单词(包括下划线)后面跟一个小括号的行

[root@centos7 ~]# egrep "^(_|[[:alpha:]])+(" /etc/rc.d/init.d/functions

3. 使用egrep取出/etc/rc.d/init.d/functions中其基名

[root@centos7 ~]# echo /etc/rc.d/init.d/functions |grep -E "[^/]+/?$" -o

4. 使用egrep取出上面路径的目录名

[root@centos7 ~]# echo /etc/rc.d/init.d/functions |grep -E "^/.*/<"

5. 统计last命令中以root登录的每个主机IP地址登录次数

[root@centos7 ~]# last|tr -s ' '| cut -d ' ' -f1,3| grep "([[:digit:]]+.){3}[[:digit:]]+"|sort -r|uniq -c

6. 利用扩展正则表达式分别表示0-9、10-99、100-199、200-249、250-255

[root@centos7 ~]# echo {1..100}| egrep -w [0-9]{1} -o
[root@centos7 ~]# echo {1..100}| egrep -w [1-9][0-9]
[root@centos7 ~]# echo {190..300}| egrep -w 2[0-4][0-9] 
[root@centos7 ~]# echo {190..300}| egrep -w 25[0-5]  

7. 显示ifconfig命令结果中所有IPv4地址

[root@centos7 ~]# ifconfig | egrep  "([[:digit:]]+.){3}[[:digit:]]+" -o

8. 将此字符串：welcome to magedu linux 中的每个字符去重并排序，重复次数多的排到前面

[root@centos7 ~]# echo welcome to aubin linux|grep [[:alpha:]] -o|sort -n|uniq -c