zoukankan      html  css  js  c++  java
  • Shell脚本学习指南 [ 第三、四章 ] 查找与替换、文本处理工具

    摘要:第三章讨论的是编写Shell脚本时经常用到的两个基本操作。第四章总共介绍了约30种处理文本文件的好用工具。

    第三章 查找与替换

    概括:本章讨论的是编写Shell脚本时经常用到的两个基本操作:文本查找、文本替换。

    3.1  查找文本

    如需从输入的数据文件中取出特定的文本行,主要的工具为grep程序。POSIX采用三种不同grep变体:grep、egrep、fgrep整合为单个版本,通过不同的选项,分别提供这三种行为模式。
    who | grep -F root
    上面使用-F选项,以查找固定字符串root。事实上,只要匹配的模式里未含有正则表达式的meta字符,则grep默认行为模式就等同于使用了-F。

    3.2  正则表达式

    POSIX的正则表达式有两种,基本正则表达式(BRE)以及扩展正则表达式(ERE)。
    sed是处理简单字符串替换的主要工具。
    在某些程序语言里,单个字符串可能包含数行,那种情况下,^与$指的分别是字符串的开头与结尾。
    正则表达式匹配范例:
    表达式 匹配
    tolstoy 位于一行上任何位置的7个字母:tolstoy
    ^tolstoy 7个字母tolstoy,出现在一行的开头
    tolstoy$ 7个字母tolstoy,出现在一行的结尾
    ^tolstoy$ 正好包括tolstoy这7个字母的一行,没有其他的任何字符
    [Tt]olstoy 在一行上的任意位居中,含有Tolstoy或是tolstoy
    tol.toy 在一行上的任意位居中,含有tol这3个字母,加上任何一个字符,再接着toy这三个字母
    tol.*toy 在一行上的任意位居中,含有tol这3个字母,加上任意的0或多个字符,再继续toy这三个字母

    区间表达式匹配规则:
    {n} 前置正则表达式所得结果重现n次
    {n,} 前置正则表达式所得结果重现至少n次
    {n,m} 前置正则表达式所得结果重现n至m次

    在s命令里以g结尾表示的是,全局性。如:
    $ echo Tolstoy reads well. Tolstoy writes well. >example.txt 输入样本
    $ sed 's/Tolstoy/Camus/' < example.txt 没有设置g
    Camus reads well. Tolstoy writes well.
    $ sed 's/Tolstoy/Camus/g'< example.txt 设置了'g'
    Camus reads well. Camus writes well.
    $sed 's/Tolstoy/Camus/2' < example.txt 仅替代第二个匹配者
    Tolstoy reads well.Camus writes well.

    sed -n '10,42p' foo.xml 仅打印10-42行

    3.3  字段处理

    cut命令用以剪下选定的字符范围或字段,join则是用来结合记录中具有共同键值的字段的文件。
    awk多半用于简单的“命令行程序”,当想要只显示选定的字段,或是重新安排行内的字段顺序时,就是awk派上用场的时候了。

    awk '{ print $1}' file 打印第一个字段
    awk '{ print $2,$5}' file 打印第2与第5个字段
    awk '{ print $1,$NF}' file 打印第一个与最后一个字段
    awk 'NF>0 {print $0}' file 打印非空行
    awk 'NF>0' file 同上
    awk -F ' ' '{if($8==2){print }}' 打印第8列为2的行

    第四章 文本处理工具

    摘要:本章总共介绍了约30种处理文本文件的好用工具。它们都是功能很强的工具组,可用来编写Shell脚本。

    4.1  排序文本

    sort -t: -k1,1 file 以冒号隔开的第一个字段进行排序
    sort -t: -k2nr,2 file 从字段2起始处开始,以数值类型反向排序并结束于字段3的结尾
    sort -t: -k2n -k3n file 先以第二列排序,在以第三列排序
    sort -t: -k2n -u file 输出键值字段匹配的唯一记录

    4.2  删除重复

    sort file |uniq 显示唯一的排序后的记录
    sort file |uniq -c 计数唯一的排序后的记录
    sort file |uniq -d 仅显示重复的记录
    sort file |uniq -u 仅显示未重复的记录

    4.3  重新格式化段落

    fmt -s -w 10 file               长度大于10的行格式化为短的行

    4.4  计算行数、字数以及字符数

    echo hello wrold |wc 计算行数、字数、字节数
    echo hello world |wc -c 计算字节数
    echo hello world |wc -l 计算行数
    echo hello world |wc -w 计算字数
    wc file1 file2 计算两个文件里的数据

    4.5  打印

    4.6  提取开头或结尾数行

    head -n file 输出文件的前n行
    tail -n file 输出文件的后n行

  • 相关阅读:
    排序算法之归并排序(Merge Sort)
    排序算法之选择排序
    [BUUCTF]REVERSE——firmware
    [BUUCTF]REVERSE——[WUSTCTF2020]Cr0ssfun
    [BUUCTF]PWN——hitcontraining_magicheap
    [BUUCTF]PWN——ciscn_2019_n_3
    [BUUCTF]PWN——[V&N2020 公开赛]easyTHeap
    [BUUCTF]PWN——babyfengshui_33c3_2016
    [BUUCTF]PWN——babyheap_0ctf_2017
    CTFHub[PWN技能树]——栈溢出
  • 原文地址:https://www.cnblogs.com/wonglu/p/5874903.html
Copyright © 2011-2022 走看看