Shell使用

1 Shell是什么

• Shell 是一个用 C 语言编写的程序，它是用户使用 Linux 的桥梁。Shell 既是一种命令语言，又是一种程序设计语言。
• Shell 是指一种应用程序，这个应用程序提供了一个界面，用户通过这个界面访问操作系统内核的服务。

2 Shell 脚本是什么

• Shell 脚本（shell script），是一种为 shell 编写的脚本程序。
• 业界所说的 shell 通常都是指 shell 脚本，但读者朋友要知道，shell 和 shell script 是两个不同的概念。
• 由于习惯的原因，简洁起见，本文出现的 "shell编程" 都是指 shell 脚本编程，不是指开发 shell 自身。
• 一个系统可以存在多个shell，可以通过cat /etc/shells命令查看系统中安装的shell，不同的shell可能支持的命令语法是不相同的

3 Shell的执行方式

• 创建一个shell脚本(文件以 .sh 结尾)
  
• 第一种执行方式：bash或sh +脚本
  
• 第二种执行方式：输入脚本的绝对路径或相对路径(首先要赋予+x权限)
  

4 Shell中的变量

• Linux Shell中的变量分为“系统变量”和“用户自定义变量”，可以通过set命令查看那系统变量
• 系统变量：$HOME、$PWD、$SHELL、$USER等等
  

4.1 定义变量

• 变量名＝值 （例如STR=123）
• 等号两侧不能有空格
• 变量名称一般习惯为大写
• 双引号和单引号有区别，双引号仅将空格脱意，单引号会将所有特殊字符脱意

4.2 撤销变量

• unset 变量名 (例如unset STR)

4.3 声明静态变量

• readonly 变量名=值(例如readonly STR=123) -->不能被unset

4.4 全局环境变量

export 变量名(例如export STR)

4.5 将命令的返回值赋给变量

• A=`ls -la` 反引号，运行里面的命令，并把结果返回给变量A
• A=$(ls -la) 等价于反引号
  

4.6 特殊变量

• $? 表示上一个命令退出的状态(0代表成功)
• $$ 表示当前进程编号
• $0 表示当前脚本名称
• $n 表示n位置的输入参数（n代表数字，n>=1）
• $# 表示参数的个数，常用于循环
• $*和$@ 都表示参数列表 
  
• 修改helloWorld.sh

#!/bin/bash
echo "当前脚本是: "$0
echo "第一个输入参数是: "$1
echo "第二个输入参数是: "$2
echo "输入参数的个数是: "$#
echo "所有参数列表: "$*
echo "所有参数列表: "$@

• $*与$@区别
  • $* 和 $@ 都表示传递给函数或脚本的所有参数，不被双引号" "包含时，都以$1 $2 … $n 的形式输出所有参数
  • 当它们被双引号" "包含时，"$*" 会将所有的参数作为一个整体，以"$1 $2 … $n"的形式输出所有参数；"$@" 会将各个参数分开，以"$1" "$2" … "$n" 的形式输出所有参数

5 Shell中的运算符

• 格式 :expr m + n 或$((m+n)) 注意expr运算符间要有空格
• 例如计算（2 ＋3 ）×4 的值
  • 1 .分步计算 S=`expr 2 + 3` 然后SS=`expr $S * 4`
  • 2.一步完成计算
    echo `expr \`expr 2 + 3\` * 4` 或$(((2+3)*4))
    

6 read 写入变量值

• read -p(提示语句)-n(字符个数) -t(等待时间)
  • read -p "please input your name: " NAME
    

7 流程控制 for

#!/bin/bash
#循环1-4
for N in 1 2 3 4
do
        echo $N
done

echo "***************************"
#循环输入参数
for N in $*
do
        echo $N
done

echo "***************************"
#循环1-4
for N in 1 2 3 4; do echo $N; done

echo "***************************"
#循环1-4
for N in {1..4}; do echo $N; done

echo "***************************"
#循环5次
for ((i = 0; i <= 4; i++))
do
        echo "welcome $i times"
done

echo "***************************"
#循环5次
for ((i = 0; i <= 4; i++)); do echo "welcome $i times"; done

8 流程控制 while

#!/bin/bash
#方式一：注意表达式的空格
A=1
while [ $A -lt 3 ]
do
        echo $A
        A=$(($A+1))
done
#方式二:

i=1
while ((i<=3))
do
  echo $i
  let i++
done

9 流程控制 case

#!/bin/bash
case $1 in
start)
        echo "starting"
        ;;
stop)
        echo "stoping"
        ;;
*)
        echo "Please input args-->: {start|stop} "
esac

10 流程控制 if

#!/bin/bash
read -p "please input your name:" NAME

if [ $NAME = root ]
        then
                echo "hello ${NAME},  welcome !"
elif [ $NAME = heaton ]
        then
                echo "hello ${NAME},nice to meet!"
else
                echo "SB, get out here !"
fi

11 判断语句

• [ condition ] (注意condition前后要有空格)

• 非空返回true，可使用$?验证（0为true，>1为false）

• [ condition ] && echo YES || echo NO
  
  
• 常用判断逻辑条件

= 字符串比较
-lt 小于
-le 小于等于
-eq 等于
-gt 大于
-ge 大于等于
-ne 不等于

• 常用判断权限条件

-r 有读的权限
-w 有写的权限
-x 有执行的权限
-f 文件存在并且是一个常规的文件
-s 文件存在且不为空
-d 文件存在并是一个目录
-b文件存在并且是一个块设备
-L 文件存在并且是一个链接

12 自定义函数

• 1.必须在调用函数地方之前，先声明函数，shell脚本是逐行运行。不会像其它语言一样先预编译
• 2.函数返回值，只能通过$? 系统变量获得，可以显示加：return 返回，如果不加，将以最后一条命令运行结果，作为返回值。 return后跟数值n(0-255)
• 3.调试脚本sh -vx 脚本名.sh 或者在脚本中增加set -x

#!/bin/bash
#set -x
fSum 3 2
function fSum()
{
        echo $1,$2
        return $(($1+$2))
}
fSum 5 7
total=$?
echo $total

13 sort排序

• sort 命令对 File 参数指定的文件中的行排序，并将结果写到标准输出。如果 File 参数指定多个文件，那么 sort 命令将这些文件连接起来，并当作一个文件进行排序。

[root@master ~]# sort [-fbMnrtuk] [file or stdin]
选项与参数：
-f  ：忽略大小写的差异，例如 A 与 a 视为编码相同；
-b  ：忽略最前面的空格符部分；
-M  ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法；
-n  ：使用『纯数字』进行排序(默认是以文字型态来排序的)；
-r  ：反向排序；
-u  ：就是 uniq ，相同的数据中，仅出现一行代表；
-t  ：分隔符，默认是用 [tab] 键来分隔；
-k  ：以那个区间 (field) 来进行排序的意思

uniq

• uniq命令可以去除排序过的文件中的重复行，因此uniq经常和sort合用。也就是说，为了使uniq起作用，所有的重复行必须是相邻的。

[root@master ~]# uniq [-icu]
选项与参数：
-i   ：忽略大小写字符的不同；
-c  ：进行计数
-u  ：只显示唯一的行
-d  ：显示不唯一的行

14 cut分割

• cut命令可以从一个文本文件或者文本流中提取文本列。

[root@master ~]# cut -d'分隔字符' -f fields <==用于有特定分隔字符
[root@master ~]# cut -c 字符区间            <==用于排列整齐的信息
选项与参数：
-d  ：后面接分隔字符。与 -f 一起使用；
-f  ：依据 -d 的分隔字符将一段信息分割成为数段，用 -f 取出第几段的意思；
-c  ：以字符 (characters) 的单位取出固定字符区间；

15 wc统计

• 统计文件里面有多少单词，多少行，多少字符。

[root@www ~]# wc [-lwm]
选项与参数：
-l  ：仅列出行；
-w  ：仅列出多少字(英文单字)；
-m  ：多少字符；

16 Sed编辑器

1. Sed简介
sed 是一种在线编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有 改变，除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。
2. 定址
可以通过定址来定位你所希望编辑的行，该地址用数字构成，用逗号分隔的两个行数表示以这两行为起止的行的范围（包括行数表示的那两行）。如1，3表示1，2，3行，美元符号($)表示最后一行。范围可以通过数据，正则表达式或者二者结合的方式确定 。
3. Sed命令
调用sed命令有两种形式：

sed [options] 'command' file(s)

sed [options] -f scriptfile file(s)

a
在当前行后面加入一行文本。
b lable
分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。
c
用新的文本改变本行的文本。
d
从模板块（Pattern space）位置删除行。
D
删除模板块的第一行。
i
在当前行上面插入文本。
h
拷贝模板块的内容到内存中的缓冲区。
H
追加模板块的内容到内存中的缓冲区
g
获得内存缓冲区的内容，并替代当前模板块中的文本。
G
获得内存缓冲区的内容，并追加到当前模板块文本的后面。
l
列表不能打印字符的清单。
n
读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。
N
追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。
p
打印模板块的行。
P（大写）
打印模板块的第一行。
q
退出Sed。
r file
从file中读行。
t label
if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
T label
错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
w file
写并追加模板块到file末尾。
W file
写并追加模板块的第一行到file末尾。
!
表示后面的命令对所有没有被选定的行发生作用。
s/re/string
用string替换正则表达式re。
=
打印当前行号码。
#
把注释扩展到下一个换行符以前。
以下的是替换标记
*
g表示行内全面替换。
*
p表示打印行。
*
w表示把行写入一个文件。
*
x表示互换模板块中的文本和缓冲区中的文本。
*
y表示把一个字符翻译为另外的字符（但是不用于正则表达式）

4. 选项
-e command, --expression=command
允许多台编辑。
-h, --help
打印帮助，并显示bug列表的地址。
-n, --quiet, --silent
取消默认输出。
-f, --filer=script-file
引导sed脚本文件名。
-V, --version
打印版本和版权信息。

5. 元字符集^
锚定行的开始 如：/^sed/匹配所有以sed开头的行。 
$
锚定行的结束 如：/sed$/匹配所有以sed结尾的行。 
.
匹配一个非换行符的字符 如：/s.d/匹配s后接一个任意字符，然后是d。 
*
匹配零或多个字符 如：/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。 
[]
匹配一个指定范围内的字符，如/[Ss]ed/匹配sed和Sed。 
[^]
匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行。 
(..)
保存匹配的字符，如s/(love)able/1rs，loveable被替换成lovers。 
&
保存搜索字符用来替换其他字符，如s/love/**&**/，love这成**love**。 
<
锚定单词的开始，如:/<love/匹配包含以love开头的单词的行。 
>
锚定单词的结束，如/love>/匹配包含以love结尾的单词的行。 
x{m}
重复字符x，m次，如：/o{5}/匹配包含5个o的行。 
x{m,}
重复字符x,至少m次，如：/o{5,}/匹配至少有5个o的行。 
x{m,n}
重复字符x，至少m次，不多于n次，如：/o{5,10}/匹配5--10个o的行。

• 实例

$ sed '2d' example-----删除example文件的第二行。
*
$ sed '2,$d' example-----删除example文件的第二行到末尾所有行。
*
$ sed '$d' example-----删除example文件的最后一行。
*
$ sed '/test/'d example-----删除example文件所有包含test的行。
替换：s命令
*
$ sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest。
*
$ sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说，如果某一行开头的test被替换成mytest，就打印它。
*
$ sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost。
*
$ sed -n 's/(love)able/1rs/p' example-----love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来。
*
$ sed 's#10#100#g' example-----不论什么字符，紧跟着s命令的都被认为是新的分隔符，所以，“#”在这里是分隔符，代替了默认的“/”分隔符。表示把所有10替换成100。
选定行的范围：逗号
*
$ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。
*
$ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。
*
$ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行，每行的末尾用字符串sed test替换。
多点编辑：e命令
*
$ sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。
*
$ sed --expression='s/test/check/' --expression='/love/d' example-----一个比-e更好的命令是--expression。它能给sed表达式赋值。
从文件读入：r命令
*
$ sed '/test/r file' example-----file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面。
写入文件：w命令
*
$ sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。
追加命令：a命令
*
$ sed '/^test/a\--->this is a example' example    '----->this is a example'被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠。
插入：i命令
$ sed '/test/i\
new line
-------------------------' example
如果test被匹配，则把反斜杠后面的文本插入到匹配行的前面。
下一个：n命令
*
$ sed '/test/{ n; s/aa/bb/; }' example-----如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续。
变形：y命令
*
$ sed '1,10y/abcde/ABCDE/' example-----把1--10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令。
退出：q命令
*
$ sed '10q' example-----打印完第10行后，退出sed。
保持和获取：h命令和G命令
*
$ sed -e '/test/h' -e '$G example-----在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。
保持和互换：h命令和x命令
*
$ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

• 脚本
  • Sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。

17 awk分析工具

• 简介

  • awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
  • awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。
  • awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。

• 使用方法

  • awk '{pattern + action}' {filenames}
  • 尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。
  • awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
  • 通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。

• 调用awk

  • 有三种方式调用awk
  • 1.命令行方式

awk [-F  field-separator]  'commands'  input-file(s)
其中，commands 是真正awk命令，[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。
在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。

- 2.shell脚本方式

将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。
相当于shell脚本首行的：#!/bin/sh
可以换成：#!/bin/awk

- 3.将所有的awk命令插入一个单独文件，然后调用：

awk -f awk-script-file input-file(s)
其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。

• 实例
  
  
  

awk工作流程是这样的：先执行BEGING，然后读取文件，读入有/n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。

搜索支持正则，例如找root开头的: awk -F: '/^root/' /etc/passwd

• awk内置变量

awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。

ARGC               命令行参数个数
ARGV               命令行参数排列
ENVIRON            支持队列中系统环境变量的使用
FILENAME           awk浏览的文件名
FNR                浏览文件的记录数
FS                 设置输入域分隔符，等价于命令行 -F选项
NF                 浏览记录的域的个数
NR                 已读的记录数
OFS                输出域分隔符
ORS                输出记录分隔符
RS                 控制记录分隔符
 
此外,$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。

• 实例
  • 统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:
    
  • 使用printf替代print,可以让代码更加简洁，易读
    
  • 除了awk的内置变量，awk还可以自定义变量。
  • 下面统计/etc/passwd的账户人数
    
  • 这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:
    
  • 统计某个文件夹下的文件占用的字节数（按M为单位）
    
  • 统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹):
    
  • awk中的循环语句同样借鉴于C语言，支持while、do/while、for、break、continue，这些关键字的语义和C语言中的语义完全相同。
  • 因为awk中数组的下标可以是数字和字母，数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储，因此在显示数组内容时会发现，它们并不是按照你预料的顺序显示出来的。数组和变量一样，都是在使用时自动创建的，awk也同样会自动判断其存储的是数字还是字符串。一般而言，awk中的数组用来从记录中收集信息，可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。
  • 显示/etc/passwd的账户
    

18 crond定时器

• crond是linux下用来周期性的执行某种任务或等待处理某些事件的一个守护进程，与windows下的计划任务类似，当安装完成操作系统后，默认会安装此服务工具，并且会自动启动crond进程，- - crond进程每分钟会定期检查是否有要执行的任务，如果有要执行的任务，则自动执行该任务。
• Linux下的任务调度分为两类，系统任务调度和用户任务调度。
• 系统任务调度：系统周期性所要执行的工作，比如写缓存数据到硬盘、日志清理等。在/etc目录下有一个crontab文件，这个就是系统任务调度的配置文件。
  

前四行是用来配置crond任务运行的环境变量，
第一行SHELL变量指定了系统要使用哪个shell，这里是bash，
第二行PATH变量指定了系统执行命令的路径，
第三行MAILTO变量指定了crond的任务执行信息将通过电子邮件发送给root用户，如果MAILTO变量的值为空，则表示不发送任务执行信息给用户，
第四行的HOME变量指定了在执行命令或者脚本时使用的主目录。
minute： 表示分钟，可以是从0到59之间的任何整数。
hour：表示小时，可以是从0到23之间的任何整数。
day：表示日期，可以是从1到31之间的任何整数。
month：表示月份，可以是从1到12之间的任何整数。
week：表示星期几，可以是从0到7之间的任何整数，这里的0或7代表星期日。
command：要执行的命令，可以是系统命令，也可以是自己编写的脚本文件。

星号（）：代表所有可能的值，例如month字段如果是星号，则表示在满足其它字段的制约条件后每月都执行该命令操作。
逗号（,）：可以用逗号隔开的值指定一个列表范围，例如，“1,2,5,7,8,9”
中杠（-）：可以用整数之间的中杠表示一个整数范围，例如“2-6”表示“2,3,4,5,6”
正斜线（/）：可以用正斜线指定时间的间隔频率，例如“0-23/2”表示每两小时执行一次。同时正斜线可以和星号一起使用，例如/10，如果用在minute字段，表示每十分钟执行一次。