shell用法总结

shell基础的一些东西

　　●umask   --查看当前用户创建文件或文件夹时的默认权限
　

[test@szbirdora 1]$umask
0002
[test@szbirdora 1]$ls -lh
-rw-rw-r--     test test   myfile    
drwxrwxr-x     test test   1

上面的例子中我们看到由test默认创建的文件myfile和文件夹1的权限分别为664，775.而通过umask查到的默认权限为002.所以可以推断出umask的计算算法为：
umask                  file                      directory
0                           6                            7
1                           5                            6
2                           4                            5
3                           3                            4
4                           2                            3
5　　　　　　      1　　　　　　　   2
6　　　　　　      0　　　　　          1　
7　　　　　　      0　　　　　          0
 总结：

规律：如果文件权限位=7-umask-1  目录权限位=7-umask

●连接ln
硬连接 ln sourcefile targetfile                  连接后的target文件大小和source文件一样,如果删除文件，必须硬链接数为0时，才表示真正的删除
软连接 ln -s sourcefile targetfile              类似于windows的快捷方式
 
●shell script 基本结构
#！/bin/bash                          --------bash shell开头必须部分
# description                          --------注释部分（可有可无，为了阅读方便最好加以说明）
variable name=value             ---------变量部分，声明变量，赋值
control segment                    ---------流程控制结构，如判断、循环、顺序

#创建helloworld.sh
#! /bin/bash
# This is a helloworld shell script
printchar = "hello world"
echo $printchar

[test@szbirdora 1]$sh helloworld.sh
　　hello world
 
●shell 特性
①别名          alias                  eg. alias ll = “ls -l”
②管道          a |b                   将a命令的输出作为b命令的输入 eg. ls |sort   将ls列举的项排序
③命令替换   a `b`                 将b命令的输出作为a命令的输入 eg.   ls `cat myfile` 列举出cat myfile的输出项
④后台运行   nohup command&    可通过jobs -l查看后台运行的脚本，输出信息重定向到nohup.out，以追加的形式
⑤重定向       >,<                      可以改变程序运行的输出来源和输入来源
⑥变量                                       可以用$varname 来调用变量
⑦特殊字符
                     `用来替换命令
                    用来使shell无法认出其后的特殊字符，使其失去特殊含义
                    ；允许一行放多个命令
                    () 创建成组的命令  
                    {} 创建命令块          
 
关于变量和运算符：
 
　　●本地变量：在用户现在的shell生命期的脚本中使用。设置变量：various_name=value.可用set 来查看。用readonly可以使变量只读。
　　●环境变量：用于当前用户下所有用户进程（不限于现在的shell）。
                      设置变量：export various_name=value。用env查看。
                      用readonly可以使变量只读。
●变量替换   
　　echo ${variablename}                   显示实际值到variablename
　　echo ${variablename:+value}     如果设置了variablename，则显示value值，否则为空
　　echo ${variable name:?value}     如果未设置variablename，则显现用户定义错误信息value
　　echo ${variablename:-value}      如果未设置variablename，则显示value,否则显示variablename
　　echo ${variablename:=value}    　　  如果未设置，则设置其值，并显示,若已经设置，则只是显示
●清除变量                                    unset variable name
●位置变量
位置变量表示$0,$1,$2...$9
　　$0 ----脚本名字
　　$1 ----根据参数位置表示参数1

#! /bin/bash
#parm.sh
echo "This is script name : $0"
echo "This is parameter 1: $1"
echo "This is parameter 2: $2"

[test@szbirdora 1]$sh parm.sh a b
　　This is script name : parm.sh
　　This is parameter 1: a
　　This is parameter 2: b
●向系统中传递位置变量

#!/bin/bash
#parm.sh
find /u01/test/1 -name $1 -print

[test@szbirdora 1]$ sh parm.sh myfile
/u01/test/1/myfile

●标准变量                              bash默认建立了一些标准环境变量，可在/etc/profile中定义
EXINIT
HOME
IFS
LOGNAME                                       --当前登录用户名
MAIL
MAILPATH
PATH
TERM                                              --终端信息
TZ                                                  --时区
PS1                                                --登录提示，如[test@szbirdora 1]$

[test@szbirdora 1]$ echo $PS1
[u@h w]$                                    --u -user --h -host --w -path

PS2                                                --一命令多行，换行提示 二级提示符，一行命令没有全部输出，换行后的提示符，,如>
PWD                                                --当前目录
MAILCHECK                                   --每隔多少秒检查是否有新邮件

[test@szbirdora 1]$ echo $MAILCHECK
60

SHELL                                            --当前shell
MANPATH                                       --帮助文档位置
TERMINFO                                     --终端信息

●特殊变量
$#          传递到脚本的参数个数
$*          以一个单字符串显示所有向脚本传递的参数，与位置变量不同，参数可超过9个
$$          脚本运行的当前进程ID号
$!          后台运行的最后一个进程的进程ID号
$@         传递到脚本的参数列表，并在引号中返回每个参数,与$*类似
$-          显示shell使用的当前选项，与set命令功能相同
$?         显示最后命令的退出状态，0表示没有错误，其他表示有错误
eg.

#!/bin/bash
#parm
echo "this is shellname: $0"
echo "this is parm1 :    $1"
echo "this is parm2 :    $2"
echo "show parm number : $#"
echo "show parm list :   $*"
echo "show process id:   $$"
echo "show precomm stat: $?"

[test@szbirdora 1]$ sh parm.sh a b
this is shellname: parm.sh
this is parm1 :    a
this is parm2 :    b
show parm number : 2
show parm list :   a b
show process id:   24544
show precomm stat: 0

●影响变量的命令
declare 设置或显示变量
      -f     只显示函数名
       -r    创建只读变量
      -x     创建转出变量
       -i    创建整数变量
      使用+替代-，可以颠倒选项的含义，比如调试时用的比较多的set -x开启调试信息，set +x 关闭调试信息

export
      -p   显示全部全局变量

shift[n]    移动位置变量，调整位置变量，使$3赋予$2,使$2赋予$1     n 前移n，比如shift 1 ,就是原来属于$1的变成$2,$2的变成$3

typeset     和declare同义
 
注意：双引号不能解析$,\,`三个字符，所以在双引号中可以引用变量、转义字符、替换变量

比如  echo -e "$var   `ls -l`"  如果需要echo支持转义字符需要加-e选项

单引号可以解析，所以单引号中引用变量等无效
[test@szbirdora 1]$ echo "$test"
test
[test@szbirdora 1]$ echo '$test'
$test

●运算符类型
⒈按位运算符
~    取反
<<   左移运算符
>>   右移运算符
&    与
|     或
^     异或
$[ ]    表示形式告诉shell对方括号中表达式求值 $[a+b]

2.逻辑运算符
&&
||
>,<,=,!=

3.赋值运算符
let variablename1=variablename1+ varablename2
let variablename1 +=variablename1

关于 shell的输入和输出
1.echo    echo [option] string
            -e 解析转移字符
           -n 回车不换行，linux系统默认回车换行
            转移字符 c f

#!/bin/bash
#echo
echo -e "this echo's 3 newlne


"
echo "OK"
echo
echo "this is echo's 3 ewline


"
echo "this log file have all been done">mylogfile.txt

[test@szbirdora ~]$ sh echod.sh
this echo's 3 newlne
 
OK

this is echo's 3 ewline
上面可以看到有-e则可以解析转移字符，没有不能解析。echo空输出为空

2.read 可以从键盘或文件的某一行文本中读入信息，并将其赋给一个变量
read variable1 variable2
eg.

#!/bin/bash
#readname
echo -n "first name:"
read firstname
echo -n "last name:"
read lastname
echo "this name is $firstname $lastname"
 

3.cat        显示文件的内容，创建内容，还可以显示控制字符
            cat [options]filename1 filename2
                   -v   显示控制字符（Windows文件）
             cat命令不会分页显示，要分页可以采用more、less

4.管道|

5.tee     把输出的一个副本输送到标准输出，另一个副本拷贝到相应的文件中,一般与管道合用
              tee [options] files
              -a 在文件中追加
eg.
[test@szbirdora 1]$ echo |tee myfile
[test@szbirdora 1]$ cat myfile
 
将myfile文件置空

6.文件重定向
command>filename                                        ---覆盖输出 
command>>filename                                      ---追加输出
command>filename 2>&1                                 ---把标准输出和标准错误重定向
command<<delimiter                                     ---输入直到delimiter分解符
command<filename                                       ----输入文件内容到命令
command<-                                                     --- 关闭标准输入
>nullfile.txt                                                       ---创建字节为0的文件
command1<filename>command3               ---按从左到右顺序执行
eg.
说明：myfile为空间
[test@szbirdora 1]$ df -lh>myfile
[test@szbirdora 1]$ cat myfile
Filesystem            Size Used Avail Use% Mounted on
/dev/sda1              20G  3.3G  16G    18%     /
none                 　 2.0G   0       2.0G   0%     /dev/shm
/dev/sda2              79G   17G   59G    23%   /u01
/dev/sda4              28G 3.9G   22G   15%     /u02

[test@szbirdora 1]$ cat >>myfile<<exit
> China
> Hubei
> Suizhou
> exit

从标准输入读到exit为止，并追加输入到myfile
[test@szbirdora 1]$ cat myfile
China
Hubei
Suizhou

7.exec        可以用来替代当前shell。现有任何环境变量都会清除

第四章 控制流结构
1.if语句
if 条件1
then 
     命令1
elif 条件2
then 
     命令2
else
     命令3
fi
------------------
if 条件
then 命令
fi
eg：

#!/bin/bash
#if test
#this is a comment line
if [ "10" -lt "12" ];then
#yes 10 is less than 12
echo "yes,10 is less than 12"
else
echo "no"
fi

注意：if语句必须以fi终止
   "10" 前一个空格，“12”后也有一个空格。这个条件都是通过test命令来指定。条件表达为test expression或者[expression]
 
条件表达式中的比较函数
man test

NAME
       test - check file types and compare values
SYNOPSIS
       test EXPRESSION
       [ EXPRESSION ]
       [ OPTION
DESCRIPTION
       Exit with the status determined by EXPRESSION.
       --help display this help and exit
       --version
              output version information and exit
       EXPRESSION is true or false and sets exit status. It is one of:
       ( EXPRESSION )
              EXPRESSION is true
       ! EXPRESSION
              EXPRESSION is false
       EXPRESSION1 -a EXPRESSION2
              both EXPRESSION1 and EXPRESSION2 are true
       EXPRESSION1 -o EXPRESSION2
              either EXPRESSION1 or EXPRESSION2 is true
       [-n] STRING
              the length of STRING is nonzero
       -z STRING
              the length of STRING is zero
       STRING1 = STRING2
              the strings are equal
       STRING1 != STRING2
               the strings are not equal
       INTEGER1 -eq INTEGER2
              INTEGER1 is equal to INTEGER2
       INTEGER1 -ge INTEGER2
              INTEGER1 is greater than or equal to INTEGER2
       INTEGER1 -gt INTEGER2
              INTEGER1 is greater than INTEGER2
       INTEGER1 -le INTEGER2
              INTEGER1 is less than or equal to INTEGER2
       INTEGER1 -lt INTEGER2
              INTEGER1 is less than INTEGER2
       INTEGER1 -ne INTEGER2
              INTEGER1 is not equal to INTEGER2
       FILE1 -ef FILE2
              FILE1 and FILE2 have the same device and inode numbers
       FILE1 -nt FILE2
              FILE1 is newer (modification date) than FILE2
       FILE1 -ot FILE2
              FILE1 is older than FILE2
       -b FILE
              FILE exists and is block special
       -c FILE
              FILE exists and is character special
       -d FILE
              FILE exists and is a directory
       -e FILE
              FILE exists
       -f FILE
              FILE exists and is a regular file
       -g FILE
              FILE exists and is set-group-ID
       -h FILE
              FILE exists and is a symbolic link (same as -L)
       -G FILE
              FILE exists and is owned by the effective group ID
       -k FILE
              FILE exists and has its sticky bit set
       -L FILE
              FILE exists and is a symbolic link (same as -h)
       -O FILE
              FILE exists and is owned by the effective user ID
       -p FILE
              FILE exists and is a named pipe
       -r FILE
              FILE exists and is readable
       -s FILE
              FILE exists and has a size greater than zero
       -S FILE
              FILE exists and is a socket
       -t [FD]
              file descriptor FD (stdout by default) is opened on a terminal
       -u FILE
              FILE exists and its set-user-ID bit is set
       -w FILE
              FILE exists and is writable
       -x FILE
             FILE exists and is executable

eg.

#!/bin/bash
#if test
#this is a comment line
echo "Enter your filename:"
read myfile
if [ -e $myfile ]
then
   if [ -s $myfile ];then
    echo "$myfile exist and size greater than zero"
   else
    echo "$myfile exist but size is zero"
   fi
else
echo "file no exist"
fi

[test@szbirdora 1]$ sh iftest.sh 
Enter your filename:
11
11 exist but size is zero

2.case语句
case语句为多选择语句。
case 值 in
模式1）
    命令1
    ;;
模式2)
    命令2
    ;;
esac

eg.

#!/bin/bash
#case select
echo -n "enter a number from 1 to 3:"
read ans
case $ans in
1)
echo "you select 1"
;;
2)
echo "you select 2"
;;
3)
echo "you select 3"
;;
*)
echo "`basename $0`:this is not between 1 and 3">&2
exit;
;;
esac

3.for 循环
for循环一般格式：
for 变量名 in 列表 (列表以空格作为分割)
do
   命令1
   命令2
done
eg：

#!/bin/bash
#forlist1
for loop in 1 2 3 4 5
do
echo $loop
done

4.until循环
until 条件
do
   命令1
   命令2
   ...
done
条件测试发生在循环末尾，所以循环至少可以执行一次。直到条件满足

5.
while循环
while 命令 （可以是一个命令也可以是多个，做条件测试）或者测试条件
do
      命令1
      命令2
      ...
done

从文件中按照行读数据

#!/bin/bash
#while02
while read LINE 
do
        echo $LINE
done < names.txt 

注意：如果从文件中读入变量<filename要放到done后

#!/bin/bash
#while02
#这样写是不对的 ，需要把<name.txt 放在 while循环后面
while read LINE < names.txt   
do
        echo $LINE
done  

6.break和continue控制
　　break跳出，continue跳过
 
第五章 文本过滤
 
1.正则表达式
一种用来描述文本模式的特殊语法，由普通字符以及特殊字符（元字符）组成
^    ----只匹配行首
$    ----只匹配行尾
*    ----匹配0个或多个此单字符
[]   ----只匹配[]内字符，可以使用-表示序列范围[1-5]
   ----屏蔽一个元字符的特殊含义
.    ----匹配任意单字符
pattern{n} 只用来匹配前面pattern出现的次数，n为次数
pattern{n，}只用来匹配前面pattern出现的次数，至少为n
pattern{n，m}只用来匹配前面pattern出现的次数，次数在n-m之间
eg：

A{3}B   AAAB
A{3,}B  AAAB AAAAB ...
A{3,5}B AAAB AAAAB AAAAAB

2.find命令     ----查找文件和目录
　　find pathname -options [-print -exec -ok]
pathname --查找的目录路径.    '. '--表示当前目录，/表示根目录
-print 输出
-exec 对匹配的文件执行该参数所给出的shell命令，相应命令形式为'command'{} ;'    注意{}和;之间的空格 如  ：find ./ -name "*.sh" -exec ls -l {} ;

-ok    与-exec相同，不过执行命令前会有提示 
options   ： 
-name 
-perm 
-user 
-group 
-mtime -n +n (atime,-ctime) 修改时间（访问时间，创建时间）+n超过n天，-n为n天以内

-size n：[c] 查找文件长度为n块的文件，带有c时表示文件长度以字节计。
-depth：在查找文件时，首先查找当前目录中的文件，然后再在其子目录中查找。默认就支持

-type 查找某一类型的文件
eg.
[test@szbirdora 1]$ find ./ -mtime +5
./helloworld.sh
./nohup.out
查看./目录（当前）下修改时间超过5天的文件
 
3.grep介绍
grep -c 输出匹配行计数
grep -i 不区分大小写
grep -h 查询多文件时不显示文件名
grep -H 显示文件名
grep -l 查询多文件时只输出包含匹配字符的文件名
grep -n 显示匹配行及行号
grep -s 不显示不存在或不匹配文本的错误信息
grep -v 显示不包含匹配文本的所有行（过滤文本）
 
eg.
[test@szbirdora 1]$ grep -n 's.a' myfile
2:/dev/sda1              20G 3.3G   16G 18% /
4:/dev/sda2              79G   18G   58G 23% /u01
5:/dev/sda4              28G 3.9G   22G 15% /u02
[test@szbirdora 1]$ grep -n '2$' myfile
5:/dev/sda4              28G 3.9G   22G 15% /u02

grep -options '正则表达式' filename
 
4.sed介绍
sed不与初始化文件打交道，它操作的只是一个拷贝，然后所有的改动如果没有重定向到一个文件将输出到屏幕
sed是一种重要的文本过滤工具，使用一行命令或使用管道与grep与awk相结合。
sed调用：
 1.命令  sed [options] '正则表达式sedcommand' input-files
2.script : sed [options] -f sedscript input-files
sed在文本中查询文本的方式
   -行号，可以是简单数字，或一个行号范围
   -使用正则表达式
　x ----行号
   x,y ----行号范围从x到y
   x,y! ---不包含行号x到y
sed 选项含义

 --version            显示sed版本。

    --help               显示帮助文档。

    -n,--quiet,--silent    静默输出，默认情况下，sed程序在所有的脚本指令执行完毕后，将自动打印模式空间中的内容，这些选项可以屏蔽自动打印。

    -e script              允许多个脚本指令被执行。

    -f script-file,

    --file=script-file        从文件中读取脚本指令，对编写自动脚本程序来说很棒！

    -i,--in-place        直接修改源文件，经过脚本指令处理后的内容将被输出至源文件（源文件被修改）慎用！

     -l N, --line-length=N    该选项指定l指令可以输出的行长度，l指令用于输出非打印字符。

     --posix            禁用GNU sed扩展功能。

     -r, --regexp-extended   在脚本指令中使用扩展正则表达式

     -s, --separate        默认情况下，sed将把命令行指定的多个文件名作为一个长的连续的输入流。GNU sed则允许把他们当作单独的文件， 这样如正则表达式则不进行跨文件匹配。

     -u, --unbuffered      最低限度的缓存输入与输出。

基本sed命令
p　　 打印匹配行
=　　 显示文本行号
a 　   在定位行号后附加新文本信息
i　　  在定位行号前插入新文本信息
d       删除定位行
c　　用新文本替换定位文本
s　　 使用替换模式替换相应模式
r 　　从另一个文件中读文本
w 　　写文本到一个文件
q 　　第一个模式匹配完成后退去
l 　　显示与八进制ascii代码等价的控制字符
{}　　在定位行执行命令组
n 　　从一个文件中读文本下一行，并附加在下一行
g 　　将模式2粘贴到/pattern n/
y 　　传送字符

这里就简单介绍几个脚本指令操作作为sed程序的例子。

    a,append        追加

    i,insert        插入

    d,delete        删除

    s,substitution  替换

sed基本语法结构

sed  Options...  [script]   [inputfile...]
sed  选项...       [脚本指令]      [输入文件]
如果没有输入文件，则sed默认对标准输入进行处理（即键盘输入）。脚本指令是第一个不以“-”开始的参数。

1.选项含义：

   

查找替换应用举例
sed  '2a TYPE=Ethernet'  test.txt    第二行后添加TYPE=Ethernet
sed  '3i  TYPE=Ethernet'  test.txt   第三行前添加TYPE=Ethernet
sed  's/yes/no/g'     test.txt       将样本文件中的所有yes替换为no
sed  '3,4d'  test.txt                删除第3至4行的内容
总结：以上大多数操作指令，都依据行号定位操作对象（地址），如：2a即第二行后添加。
但实际情况可能大多数情况你并不确定你要操作对象（地址）的行号，这时更多的我们会使用正则表达式确定操作对象（地址）。

　　

下面是使用正则表达式定位操作行的示例：
sed  '/222/a iiii=1111 '  testfile.txt
匹配到包含222的行，并在其后添加iiii=1111
sed  '/^aaa/d'  testfile.txt
匹配以aaaa开始的行，并删除改行

需要执行多个指令时，可以使用以下三种方法：
#sed  's/yes/no/;s/static/dhcp/'  test.txt            注：使用分号隔开指令。

#sed  -e  's/yes/no/'    -e  's/static/dhcp/'  test.txt    注：使用-e选项。

#sed '
    >s/yes/no/
    >s/static/dhcp/'  test.txt                                    注：利用分行指令。
 然而在命令行上输入过长的指令是愚蠢的，这时就需要-f选项指定sed脚本文件，在脚本文件中可以包含多行指令，而且便于修改！

sed  -i  's/^M//g'  a.txt > new.out  （-i选项是会直接修改源文件的，慎用）
cat gpdata_wbm10.bak | sed 's/^M//g' | awk '$0' > 2.log

eg.
[test@szbirdora 1]$ sed -n '2p' myfile
c
打印myfile第2行
[test@szbirdora 1]$ sed -n '2,4p' myfile
c
f
b
打印第二行到第四行
[test@szbirdora 1]$ sed -n '/a/p' myfile
a
打印匹配a的行
[test@szbirdora 1]$ sed -n '2,/2/p' myfile
c
f
b
1
2
打印第二行到匹配'2'的行
 
 
 
 
s命令替换
[test@szbirdora 1]$ sed 's/b/a/p' myfile
a
a
a
c
d
e
替换b为a
 
允许多个脚本指令被执行。-e
eg. （myfile包含a-e）
[test@szbirdora 1]$ sed -e '2d' -e 's/c/d/' myfile 11
a
d
d
e
 删除第二行并且把c替换成d
sed命令r ---从文件中读取选定的行，读入输入文件中，显示在匹配的行后面
eg.
[test@szbirdora 1]$ cat 11
*******************Alaska***************
[test@szbirdora 1]$ sed '/a/r 11' myfile
a
*******************Alaska***************
b
c
d
e
 从myfile中匹配a的行并把文件11的内容放到a的后面并输出到标准输出

写入命令：w   将输入文件中的匹配行写入到指定文件中
eg.
[test@szbirdora 1]$ cat 11
b
[test@szbirdora 1]$ sed -n '/a/w 11' myfile
[test@szbirdora 1]$ cat 11
a
 就是把myfile中匹配到的a写入到11文件中，原来文件11的内容会被清空

追加：a   将文本追加到匹配行的后面。sed要求在a后加\,不止一行的以连接
eg.
[test@szbirdora 1]$ sed '/b/a****************hello*************-------------china---------' myfile
a
b
****************hello*************-------------china---------
c
d
e

在b的后面追加但不写入文件
 
插入命令：i   将文本插入到匹配行的前面。sed要求在a后加\,不止一行的以连接
eg.
[test@szbirdora 1]$ sed '/b/i
> THE CHARACTER B IS BEST
> *******************************' myfile

a
THE CHARACTER B IS BEST
*******************************
b
c
d
e
插入到b前面，不修改文件

 
下一个：n 从一个文件中读文本下一行，并附加在下一行
 
退出命令 q 打印多少行后退出
eg.
[test@szbirdora 1]$ sed '3q' myfile
a alert
b best
c cook
 
sed script:用法
sed -f scriptfile myfile
 
5.awk介绍

awk可从文件或字符串值基于指定规则浏览和抽取信息
awk三种调用方式：
1.命令行方式
awk [-F field-sperator]'pattern{active}' input-files
awk [-F field-sperator]'command' input-files
awk脚本
所有awk命令插入一个文件，并使awk程序可执行，然后用awk命令解析器作为脚本的首行，以便通过键入脚本名称来调用。
awk命令插入一个单独文件
awk -f awk-script-file input-files
 
 
awk脚本由模式和动作组成
分隔符、域、记录
注意这里的$1,$2是域与位置变量$1,$2不一样。$0文件中的所有记录
eg：
awk '{print $0}' myfile
awk 'BEGIN {print "IP DATE ----"}{print $1" "$4}END{print "end-of -report"}
[test@szbirdora 1]$ df |awk '$1!~"dev"'|grep -v Filesystem
none                   1992400         0   1992400   0% /dev/shm
[test@szbirdora 1]$ df |awk '{if ($1=="/dev/sda1") print $0}'
/dev/sda1             20641788   3367972 16225176 18% /
 
[test@szbirdora shelltest]$ cat employee
Tom Jones       4424    5/12/66 543354
Mary Adams      5346    11/4/63 28765
Sally Chang     1654    7/22/54 650000
Billy Black     1683    9/23/44 336500
[test@szbirdora shelltest]$ awk '/[Aa]dams/' employee 
Mary Adams      5346    11/4/63 28765
[test@szbirdora shelltest]$ sed -n '/[Aa]dams/p' employee
Mary Adams      5346    11/4/63 28765
[test@szbirdora shelltest]$ grep '[Aa]dams' employee
Mary Adams      5346    11/4/63 28765
三种命令方式下，使用模式匹配查询
 
[test@szbirdora shelltest]$ awk '{print $1}' employee
Tom
Mary
Sally
Billy
打印文件第一列
 
[test@szbirdora shelltest]$ awk '/Sally/{print $1" "$2}' employee
Sally   Chang
　　打印匹配Sally的行的第一列和第二列
 
[test@szbirdora shelltest]$ df |awk '$4>20884623'
Filesystem           1K-blocks      Used Available Use% Mounted on
/dev/sda2             82567220  17488436 60884616 23% /u01
/dev/sda4             28494620   4589172 22457992 17% /u02
打印df输出第四列大于××的行
 
格式输出：
打印函数—
[test@szbirdora shelltest]$ date
Mon Mar 10 15:15:47 CST 2008
[test@szbirdora shelltest]$ date |awk '{print "Month:" $2" Year:" $6}'
Month:Mar
Year:2008
[test@szbirdora shelltest]$ awk '/Sally/{print " Have a nice day,"$1" "$2}' employee 
                Have a nice day,Sally   Chang
 
printf函数
[test@szbirdora shelltest]$ echo "LINUX"|awk '{printf "|%-10s| ",$1}'
|LINUX     |
[test@szbirdora shelltest]$ echo "LINUX"|awk '{printf "|%10s| ",$1}'
|     LINUX|
 
～匹配符
[test@szbirdora shelltest]$ awk '$1~/Tom/{print $1,$2}' employee 
Tom Jones
 也可以这样写 awk '{if($1~"Tom") print $1，$2}'

可见awk用法比较灵活

awk 给表达式赋值
关系运算符：
<             小于   
>             大于
==           等于
!=            不等于
>=           大于等于
<=           小于等于
~              匹配
!~            不匹配
eg.
[test@szbirdora shelltest]$ cat employee 
Tom Jones       4424    5/12/66 543354
Mary Adams      5346    11/4/63 28765
Sally Chang     1654    7/22/54 650000
Billy Black     1683    9/23/44 336500
[test@szbirdora shelltest]$ awk '$2~/Adams/' employee 
Mary Adams      5346    11/4/63 28765
 
条件表达式：
condition   expression1?expression2:expression3
eg.
awk '{max=($1>$2) ? $1:$2;print max}' filename
 
运算符
+，-，*，/,%,^,&&,||,!
 
[test@szbirdora shelltest]$ cat /etc/passwd |awk -F: '
NF!=7{
printf("line %d does not have 7 fields:%s ",NR,$0)}
$1!~/[A-Za-z0-9]/{printf("line %d,nonalphanumberic user id:%s ",NR,$0)}
$2=="*"{printf("line %d,no password:%s ",NR,$0)}'
NF 就是字段数，NR就是已经读取的记录数

具体可以查看这个博客

https://blog.csdn.net/qq_34685846/article/details/73224709 

awk编程
递增操作符 x++，++x
递减操作符 x--，--x
 
BEGIN模块
BEGIN模块后面紧跟着动作块，在读入文件前执行。通常被用来改变内建变量的值，如：FSRSOFS,初始化变量的值和打印输出标题。
[test@szbirdora shelltest]$ awk 'BEGIN{print "HELLO WORLD"}'
HELLO WORLD
[test@szbirdora shelltest]$ awk 'BEGIN{print "---------LIST---------"}{print}END{print "------END--------"}' donors 
---------LIST---------
Mike Harrington:(510) 548-1278:250:100:175
Christian Dobbins:(408) 538-2358:155:90:201
Susan Dalsass:(206) 654-6279:250:60:50 
Archie McNichol:(206) 548-1348:250:100:175 
Jody Savage:(206) 548-1278:15:188:150 
Guy Quigley:(916) 343-6410:250:100:175 
Dan Savage:(406) 298-7744:450:300:275 
Nancy McNeil:(206) 548-1278:250:80:75 
John Goldenrod:(916) 348-4278:250:100:175 
Chet Main:(510) 548-5258:50:95:135 
Tom Savage:(408) 926-3456:250:168:200 
Elizabeth Stachelin:(916) 440-1763:175:75:300
------END--------
 
重定向和管道
输出重定向
awk输出重定向到一个文件需要使用输出重定向符，输出文件名需要用双引号括起来。
[test@szbirdora shelltest]$ awk -F: '{print $1,$2>"note"}' donors 
[test@szbirdora shelltest]$ cat note
Mike Harrington (510) 548-1278
Christian Dobbins (408) 538-2358
Susan Dalsass (206) 654-6279
Archie McNichol (206) 548-1348
Jody Savage (206) 548-1278
Guy Quigley (916) 343-6410
Dan Savage (406) 298-7744
Nancy McNeil (206) 548-1278
John Goldenrod (916) 348-4278
Chet Main (510) 548-5258
Tom Savage (408) 926-3456
Elizabeth Stachelin (916) 440-1763
 
输入重定向
getline函数
[test@szbirdora shelltest]$ awk 'BEGIN{"date +%Y"|getline d;print d}'
2008
 
[test@szbirdora shelltest]$ awk -F"[ :]" 'BEGIN{printf "What is your name?";
getline name<"/dev/tty"}
$1~ name{print "Found " name " on line",NR"."}
END{print "see ya," name "."}' donors
What is your name?Jody
Found   Jody    on line 5.
see ya,Jody.
 
[test@szbirdora shelltest]$ awk 'BEGIN{while(getline<"/etc/passwd">0)lc++;print lc}'
36
从文件中输入，如果得到一个记录，getline函数就返回1，如果文件已经到了末尾，则返回0，如果文件名错误则返回-1.
 
管道：
awk命令打开一个管道后要打开下一个管道需要关闭前一个管道，管道符右边可以使用“”关闭管道。在同一时间只有一个管道存在
[test@szbirdora shelltest]$ awk '{print $1,$2|"sort -r +1 -2 +0 -1"}' names
tony tram
john smith
dan savage
john oldenrod
barbara nguyen
elizabeth lone
susan goldberg
george goldberg
eliza goldberg
alice cheba
|后用""关闭管道
至于sort请看这个博客：

http://blog.51cto.com/lspgyy/1282334

 
system函数
system（"LINUX command"）
system("cat" $1)
system("clear")
 
条件语句
1.if（）{}

2.if(){}
else{}

3.if(){}
else if(){}
else if(){}
else{}
[test@szbirdora shelltest]$ awk -F: '{if ($3>250){printf "%-2s%13s ",$1,"-----------good partman"}else{print $1}}' donors
 
循环语句
[test@szbirdora shelltest]$ awk -F: '{i=1;while(i<=NF){print NF,$i;i++}}' donors 
循环控制语句break、continue
 
程序控制语句
next从输入文件中读取下一行，然后从头开始执行awk脚本
{if($1~/Peter/){next}
else{print}}
 
exit 结束awk语句，但不会结束END模块的处理。
 
数组：
awk '{name[x++]=$1;for(i=0;i<NR;i++){print i,name[i]}}' donors
 

awk内建函数
sub（正则表达式，替换字符[，$n]） ---域n匹配正则表达式的字符串将被替换。
[test@szbirdora shelltest]$ awk '{sub(/Tom/,"Jack",$1);print}' employee 
Jack Jones 4424 5/12/66 543354
Mary Adams      5346    11/4/63 28765
Sally Chang     1654    7/22/54 650000
Billy Black     1683    9/23/44 336500
Jack He 3000 8/22/44 320000
 
index函数 index（字符串，子字符串） 子字符串在字符串中的位置
[test@szbirdora shelltest]$ awk 'BEGIN{a=index("hello","llo");print a}'
3
 
length函数 length（string） 字符串的长度
[test@szbirdora shelltest]$ awk 'BEGIN{a=length("hello world");print a}'
11
 
substr函数 substr（字符串，开始位置[，子字符串长度]）
[test@szbirdora shelltest]$ awk 'BEGIN{a=substr("hello world",7);print a}'
world
[test@szbirdora shelltest]$ awk 'BEGIN{a=substr("hello world",7,3);print a}'
wor
 
match(string,正则表达式) 找出字符串中第一个匹配正则表达式的位置,其内建变量RSTART为匹配开始位置，RLENGTH为匹配开始后字符数
[test@szbirdora shelltest]$ awk '{a=match($0,/Jon/);if (a!=0){print NR,a}}' employee 
1 5
[test@szbirdora shelltest]$ awk '{a=match($0,/Jon/);if (a!=0){print NR,a,RSTART,RLENGTH}}' employee 
1 5 5 3
 
toupper和tolower函数
[test@szbirdora shelltest]$ awk 'BEGIN{a=toupper("hello");print a}'
HELLO
 
split函数 split（string,array,fieldseperator）
[test@szbirdora shelltest]$ awk 'BEGIN{"date"|getline d;split(d,date);print date[2]}'
Mar
 
时间函数
systime（） ----1970年1月1日到当前忽略闰年得出的秒数。
strftime(格式描述，时间戳)
[test@szbirdora shelltest]$ awk 'BEGIN{d=strftime("%T",systime());print d}'
13:08:09
[test@szbirdora shelltest]$ awk 'BEGIN{d=strftime("%D",systime());print d}'
03/12/08
[test@szbirdora shelltest]$ awk 'BEGIN{d=strftime("%Y",systime());print d}'
2008
 
6.sort介绍
sort：
     -c 测试文件是否已经排序
     -m 合并两个排序文件
     -u 删除所有复制行
     -o 存储sort结果的输出文件名
     -t 域分隔符；用非空格或tab键分割域
     +n n为域号，使用此域号开始排序   （注意0是第一列）
     -r 逆序排序
     n 指定排序是域上的数字排序项
[test@szbirdora 1]$ df -lh|grep -v 'Filesystem'|sort +1
none                  2.0G     0 2.0G   0% /dev/shm
/dev/sda1              20G 3.3G   16G 18% /
/dev/sda4              28G 3.9G   22G 15% /u02
/dev/sda2              79G   17G   59G 23% /u01
uniq [option]files 从一个文本文件中去除或禁止重复行
     -u 只显示不重复行
     -d 只显示有重复数据行，每重复行只显示其中一行
     -c 打印每一重复行出现次数
     -f n为数字，前n个域被忽略
注意要先排序
7.split cut join 分割和合并文件命令
[test@szbirdora 1]$ split -l 2 myfile split   （每两行分割为一个以split名称开头的文件）
[test@szbirdora 1]$ ls
case.sh df.out helloworld.sh iftest.sh myfile nohup.out nullfile.txt parm.sh splitaa splitab splitac splitad splitae
[test@szbirdora 1]$ cat splitaa
Filesystem            Size Used Avail Use% Mounted on
/dev/sda1              20G 3.3G   16G 18% /
 即把myfile文件内容每两行分割成以split命名开头的文件
 shell函数
 
1.定义函数
funcation name()
{
   command1
   ....
}
或
函数名()
   {
   command1
   ...
   }
eg.

#!/bin/bash
#hellofun
function hello()
{
echo "hello,today is `date`"
return 1
}

2.函数调用

#!/bin/bash
#hellofun
function hello()
{
echo "hello,today is `date`"
return 1
}
echo "now going to the function hello"
hello
echo "back from the function"

所以调用函数只需要在脚本中使用函数名就可以了。

3.参数传递
像函数传递参数就像在脚本中使用位置变量$1,$2...$9
4.函数文件
函数可以文件保存。在调用时使用". 函数文件名"(.+空格+函数文件名)
如：

hellofun.sh
#!/bin/bash
#hellofun
function hello()
{
echo "hello,$1 today is `date`"
return 1
}
func.sh
#!/bin/bash
#func
. hellofun.sh
echo "now going to the function hello"
echo "Enter yourname:"
read name
hello $name
echo "back from the function"
[test@szbirdora 1]$ sh func.sh
now going to the function hello
Enter yourname:
hh
hello,hh today is Thu Mar 6 15:59:38 CST 2008
back from the function

5.检查载入函数 set
删除载入函数 unset 函数名
6.函数返回状态值 return 0、return 1
7.脚本参数的传递

shift命令
shift n 每次将参数位置向左偏移n

#!/bin/bash
#opt2
usage()
{
echo "usage:`basename $0` filename"
}
totalline=0
if [ $# -lt 2 ];then
    usage
fi
while [$# -ne 0]
do
    line=`cat $1|wc -l`
    echo "$1 : ${line}"
    totalline=$[$totalline+$line]
    shift                               #   $# -1
done
echo "-----"
echo "total:${totalline}"

[test@szbirdora 1]$ sh opt2.sh myfile df.out
myfile : 10
df.out : 4
-----
total:14
 
8.getopts命令
获得多个命令行参数
getopts ahfvc OPTION   --从ahfvc一个一个读出赋值给OPTION.如果参数带有：则把变量赋值给：前的参数--:只能放在末尾。
该命令可以做获得命令的参数

#!/bin/bash
#optgets
ALL=false
HELP=false
FILE=false
while getopts ahf OPTION
do
   case $OPTION in
    a)
      ALL=true
      echo "ALL is $ALL"
      ;;
    h)
      HELP=true
      echo "HELP is $HELP"
      ;; 
    f)
      FILE=true
      echo "FILE is $FILE"
      ;;
    ?)
      echo "`basename $0` -[a h f] file"
      ;;
    esac 
done

　　

[test@szbirdora 1]$ sh optgets.sh -a -h -m
ALL is true
HELP is true
optgets.sh: illegal option -- m
optgets.sh -[a h f] file
 
getopts表达式：
while getopts p1p2p3... var  

 do
    case var in
    ..)
    ....
   esac
done
如果在参数后面还需要跟自己的参数，则需要在参数后加：
如果在参数前面加：表示不想将错误输出
getopts函数自带两个跟踪参数的变量：optind，optarg

| Column 1 | Column 2 | Column 3 |
| -------- | -------- | -------- |
| Text | Text | Text |

optind初始值为1，在optgets处理完一次命令行参数后加1
optarg包含合法参数的值，即带：的参数后跟的参数值