zoukankan      html  css  js  c++  java

  • 简洁的bash编程技巧

    下面这几条是我自己在写shell代码的时候，比较喜欢的几种写法，抛砖引玉。

    　　1) 检查命令执行是否成功

    　　第一种写法，比较常见：

    1
    2
    3
    4
    5
    6
    7
    echo abcdee | grep -q abcd
      
    if [ $? -eq 0 ]; then
        echo "Found"
    else
        echo "Not found"
    fi

    　　简洁的写法：

    1
    2
    3
    4
    5
    if echo abcdee | grep -q abc; then
        echo "Found"
    else
        echo "Not found"
    fi

    　　当然你也可以不要if/else,不过这样可读性比较差:

    1
    2
    3
    [Sun Nov 04 05:58 AM] [kodango@devops] ~/workspace
    $ echo abcdee | grep -q abc && echo "Found" || echo "Not found"
    Found

     

    　　2) 将标准输出与标准错误输出重定向到/dev/null 第一种写法，比较常见：

    1
    grep "abc" test.txt 1>/dev/null 2>&1

    　　常见的错误写法：

    1
    grep "abc" test.txt 2>&1 1>/dev/null

    　　简洁的写法：

    1
    grep "abc" test.txt &> /dev/null

    　　3) awk的使用

    　　举一个实际的例子，获取Xen DomU的id。

    　　常见的写法：

    1
    sudo xm li | grep vm_name | awk '{print $2}'

    　　简洁的写法：

    1
    sudo xm li | awk '/vm_name/{print $2}'

    　　4) 将一个文本的所有行用逗号连接起来

    　　假设文件内容如下所示:

    1
    2
    3
    4
    5
    [Sat Nov 03 10:04 PM] [kodango@devops] ~/workspace
    $ cat /tmp/test.txt
    1
    2
    3

    　　使用Sed命令：

    1
    2
    3
    [Sat Nov 03 10:14 PM] [kodango@devops] ~/workspace
    $ sed ':a;$!N;s/\n/,/;ta' /tmp/test.txt
    1,2,3

    　　简洁的写法：

    1
    2
    3
    [Sat Nov 03 10:04 PM] [kodango@devops] ~/workspace
    $ paste -sd, /tmp/test.txt
    1,2,3

    　　5) 过滤重复行

    　　假设文件内容如下所示：

    1
    2
    3
    4
    5
    6
    [Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace
    $ sort /tmp/test.txt
    1
    1
    2
    3

    　　常用的方法：

    1
    2
    3
    4
    5
    [Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace
    $ sort /tmp/test.txt | uniq
    1
    2
    3

    　　简单的写法：

    1
    2
    3
    4
    5
    [Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace
    $ sort /tmp/test.txt -u
    1
    2
    3

    　　6) grep查找单词

    　　假设一个文本的每一行是一个ip地址，例如

    1
    2
    3
    4
    5
    [Sat Nov 03 10:20 PM] [kodango@devops] ~/workspace
    $ cat /tmp/ip.list
    10.0.0.1
    10.0.0.12
    10.0.0.123

    　　使用grep查找是否包括10.0.0.1这个ip地址。常见的写法：

    1
    2
    3
    [Sat Nov 03 10:22 PM] [kodango@devops] ~/workspace
    $ grep '10.0.0.1\>' /tmp/ip.list
    10.0.0.1

    　　简单的方法（其实这方法不见得简单，只是为了说明-w这个参数还是很有用的)

    1
    2
    3
    [Sat Nov 03 10:23 PM] [kodango@devops] ~/workspace
    $ grep -w '10.0.0.1' /tmp/ip.list
    10.0.0.1

    　　顺便grep的-n/-H/-v/-f/-c这几参数都很有用。

    　　7) 临时设置环境变量

    　　常见的写法：

    1
    2
    3
    4
    5
    6
    [Sat Nov 03 10:26 PM] [kodango@devops] ~/workspace
    $ export LC_ALL=zh_CN.UTF-8
      
    [六 11月 03 10:26 下午] [kodango@devops] ~/workspace
    $ date
    2012年 11月 03日 星期六 22:26:55 CST

    　　简洁的写法:

    1
    2
    3
    4
    5
    6
    [六 11月 03 10:26 下午] [kodango@devops] ~/workspace
    $ unset LC_ALL
      
    [Sat Nov 03 10:27 PM] [kodango@devops] ~/workspace
    $ LC_ALL=zh_CN.UTF-8 date
    2012年 11月 03日 星期六 22:27:43 CST

    　　在命令之前加上环境变更的设置，只是临时改变当前执行命令的环境。

    　　8) $1,$2…等位置参数的使用

    　　假设只想使用$2,$3..这几个参数，常见的做法是:

    1
    2
    shift
    echo "$@"

    　　为什么不这样写呢？

    1
    echo "${@:2}"

    　　9）退而求其次的写法

    　　相信大家会有这种需求，当一个参数值没有提供时，可以使用默认值。常见的写法是：

    1
    2
    3
    4
    5
    arg=$1
      
    if [ -z "$arg" ]; then
       arg=0
    fi

    　　简洁的写法是这样的:

    1
    arg=${1:-0}

    　　10）bash特殊参数–的用法

    　　假设要用grep查找字符串中是否包含-i，我们会这样尝试：

    1
    2
    3
    4
    5
    6
    7
    8
    [Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace
    $ echo 'abc-i' | grep "-i"
    Usage: grep [OPTION]... PATTERN [FILE]...
    Try 'grep --help' for more information.
      
    [Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace
    $ echo 'abc-i' | grep "\-i"
    abc-i

    　　简洁的方法是：

    1
    2
    3
    [Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace
    $ echo 'abc-i' | grep -- -i
    abc-i

    　　bash中–后面的参数不会被当作选项解析。

    　　11）函数的返回值默认是最后一行语句的返回值

    1
    2
    3
    4
    5
    6
    7
    8
    # Check whether an item is a function
    # $1: the function name
    # Return: 0(yes) or 1(no)
    function is_function()
    {
        local func_name=$1
        test "`type -t $1 2>/dev/null`" = "function"
    }

    　　不要画蛇添足再在后面加一行return $?了。

    　　12) 将printf格式化的结果赋值给变量

    　　例如将数字转换成其十六进制形式，常见的写法是：

    1
    2
    [Sat Nov 03 10:55 PM] [kodango@devops] ~/workspace
    $ var=$(printf '%%%02x' 111)

    　　简单的写法是：

    1
    2
    [Sat Nov 03 10:54 PM] [kodango@devops] ~/workspace
    $ printf -v var '%%%02x' 111

    　　看看printf的help

    1
    2
    3
    4
    5
    6
    7
    8
    [Sat Nov 03 10:53 PM] [kodango@devops] ~/workspace
    $ help printf | grep -A 1 -B 1 -- -v
    printf: printf [-v var] format [arguments]
        Formats and prints ARGUMENTS under control of the FORMAT.
    --
        Options:
          -v var    assign the output to shell variable VAR rather than
                display it on the standard output

    　　13）打印文件行

    　　打印文件的第一行：

    1
    head -1 test.txt

    　　打印文件的第2行：

    1
    sed -n '2p' test.txt

    　　打印文件的第2到5行：

    1
    sed -n '2,5p' test.txt

    　　打印文件的第2行始（包括第2行在内）5行的内容：

    1
    sed -n '2,+4p' test.txt

    　　打印倒数第二行：

    1
    2
    $ tail -2 test.txt | head -1
    $ tac test.txt | sed -n '2p'

    　　14）善用let或者(())命令做算术运算

    　　如何对一个数字做++运算，可能你会这样用：

    1
    2
    a=1
    a=`expr a + 1`

    　　为何不用你熟悉的:

    1
    2
    3
    a=1
    let a++
    let a+=2

    　　15）获取软连接指定的真实文件名

    　　如果你不知道，你可能会这样获取：

    1
    2
    3
    [Sat Nov 03 11:12 PM] [kodango@devops] ~/workspace
    $ ls -l /usr/bin/python | awk -F'->' '{print $2}' | tr -d ' '
    /usr/bin/python2

    　　如果你知道有一个叫readlink的命令，那么：

    1
    2
    3
    [Sat Nov 03 11:13 PM] [kodango@devops] ~/workspace
    $ readlink /usr/bin/python
    /usr/bin/python2

    　　16）获取一个字符的ASCII码

    1
    2
    3
    4
    5
    6
    [Sat Nov 03 11:14 PM] [kodango@devops] ~/workspace
    $ printf '%02x' "'+"
    2b
    [Sat Nov 03 11:30 PM] [kodango@devops] ~/workspace
    $ echo -n '+' | od -tx1 -An | tr -d ' '
    2b

    　　17）清空一个文件

    　　常见的用法:

    1
    echo "" > test.txt

    　　简单的写法：

    1
    > test.txt

    　　18) 不要忘记有here document

    　　下面一段代码：

    1
    2
    3
    4
    5
    6
    grep -v 1 /tmp/test.txt | while read line; do
        let a++
        echo --$line--
    done
      
    echo a:$a

    　　执行后有什么问题吗？

    1
    2
    3
    4
    5
    [Sun Nov 04 05:35 AM] [kodango@devops] ~/workspace
    $ sh test.sh
    --2--
    --3--
    a:

    　　发现a这个变量没有被赋值，为什么呢？因为管道后面的代码是在在一个子shell中执行的，所做的任何更改都不会对当前shell有影响，自然a这个变量就不会有赋值了。

    　　换一种思路，可以这样做：

    1
    2
    3
    4
    5
    6
    7
    8
    9
    grep -v 1 /tmp/test.txt > /tmp/test.tmp
      
    while read line; do
        let a++
        echo --$line--
    done < /tmp/test.tmp
      
    echo a:$a
    rm -f /tmp/test.tmp

    　　不过多了一个临时文件，最后还要删除。这里其实可以用到here document：

    1
    2
    3
    4
    5
    6
    7
    8
    9
    b=1
    while read line2; do
        let b++
        echo ??$line2??
    done < < EOF
    `grep -v 1 /tmp/test.txt`
    EOF
      
    echo b: $b

    　　here document往往用于需要输出一大段文本的地方，例如脚本的help函数。

    　　19）删除字符串中的第一个或者最后一个字符

    　　假设字符串为：

    1
    2
    [Sun Nov 04 10:21 AM] [kodango@devops] ~/workspace
    $ str="aremoveb"

    　　可能你第一个想法是通过sed或者其它命令来完成这个功能，但是其实有很简单的方法：

    1
    2
    3
    4
    5
    6
    7
    [Sun Nov 04 10:24 AM] [kodango@devops] ~/workspace
    $ echo "${str#?}"
    removeb
      
    [Sun Nov 04 10:24 AM] [kodango@devops] ~/workspace
    $ echo "${str%?}"
    aremove

    　　类似地，你也可以删除2个、3个、4个……

    　　有没有一次性删除第一个和最后一个字符的方法呢？答案当然是肯定的：

    1
    2
    3
    [Sun Nov 04 10:26 AM] [kodango@devops] ~/workspace
    $ echo "${str:1:-1}"
    remove

    　　关于这些变量替换的内容在bash的man手册中都有说明。

    　　20）使用逗号join数组元素

    　　假设数组元素没有空格，可以用这种方法：

    1
    2
    3
    4
    5
    6
    7
    [Sun Nov 04 10:14 AM] [kodango@devops] ~/workspace
    $ a=(1 2 3)
    $ b="${a[*]}"
      
    [Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace
    $ echo ${b// /,}
    1,2,3

    　　假设数组元素包含有空格，可以借用printf命令来达到：

    1
    2
    3
    4
    5
    6
    [Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace
    $ a=(1 "2 3" 4)
      
    [Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace
    $ printf ",%s" "${a[@]}" | cut -c2-  
    1,2 3,4

    　　21) Shell中的多进程

    　　在命令行下，我们会在命令行后面加上&符号来让该命令在后台执行，在shell脚本中，使用”(cmd)”可以让fork一个子shell来执行该命令。利用这两点，可以实现shell的多线程：

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    job_num=10
      
    function do_work()
    {
        echo "Do work.."
    }
      
    for ((i=0; i<job_num ;i++)); do
        echo "Fork job $i"
        (do_work) &
    done
      
    wait   # wait for all job done
    echo "All job have been done!"

    　　注意最后的wait命令，作用是等待所有子进程结束。

    　　22） bash中alias的使用

    　　alias其实是给常用的命令定一个别名，比如很多人会定义一下的一个别名：

    1
    alias ll='ls -l'

    　　以后就可以使用ll，实际展开后执行的是ls -l。

    　　现在很多发行版都会带几个默认的别名，比如：

    1
    2
    3
    alias grep='grep --color=auto'  # 带颜色显示
    alias ls='ls --color=auto' # 同上
    alias rm='rm -i'  # 删除文件需要确认

    　　alias在某些方面确实提高了很大的效率，但是也是有隐患的，这点可以看我以前的一篇文章终端下肉眼看不见的东西。那么如何不要展开alias，而是用本来的意思呢？答案是使用转义：

    1
    2
    \ls
    \grep

    　　在命令前面加一个反斜杠后就可以了。

    　　这里要插一段故事，前两天我在shell脚本中定义了下面的一个alias，假设位于文件util.sh：

    1
    2
    3
    4
    #!/bin/bash
    ...
    alias ssh='ssh -o StrictHostKeyChecking=no -o LogLevel=quiet -o BatchMode=yes'
    ...

    　　后面这串ssh选项是为了去掉一些warning的信息，不提示输入密码等等。具体可以看ssh的文档说明。我自己测试的时候好好的，当时我同事跑得时候却依然有报Warning。我对比了下我们两个人的用法：

    1
    2
    sh util.sh  # 我的
    ./util.sh   # 他的

    　　大家应该知道，直接./util.sh执行，shell会去找脚本第一行的shebang中给定的解释器去执行改脚本，所以第二种用法相当于直接用 bash来执行。那想必是bash/sh对alias是否默认展开这一点上是有区别的了（可能是bash版本的问题，RHEL 5U4）。翻阅了下Bash的man手册，发现可以通过设置expand_aliases选项来打开alias展开的功能，默认在非交互式Shell下是 关闭的（什么是交互式登录Shell）。

    　　修改下util.sh，打开这个选项就Ok了：

    1
    2
    3
    4
    5
    6
    #!/bin/bash
    ...
    # Expand aliases in script
    shopt -s expand_aliases
    alias ssh='ssh -o StrictHostKeyChecking=no -o LogLevel=quiet -o BatchMode=yes'
    ...

    　　23）awk打印除第一列之外的其他列

    　　awk用来截取输入行中的某几列很有用，当时如果要排除某几列呢？

    　　例如有如下的一个文件：

    1
    2
    3
    $ cat /tmp/test.txt
    1 2 3 4 5
    10 20 30 40 50

    　　可以用下面的代码解决（来源）：

    1
    2
    3
    $ awk '{$1="";print $0}' /tmp/test.txt
     2 3 4 5
     20 30 40 50

    　　但是前面多了一个空格，可以用cut命令稍微调整下：

    1
    2
    3
    $ awk '{$1="";print $0}' /tmp/test.txt | cut -c2-
    2 3 4 5
    20 30 40 50

    　　附几则小技巧：

    　　1）sudo iptables -L -n | vim -

    　　2）grep -v xxx | vim -　

    　　3）echo $’\”

    　　4）set — 1 2 3; echo “$@”

    　　5）搜索stackoverflow/superuser等站点
  • 相关阅读:
    hdu 3951(博弈规律)
    hdu 3537(博弈，翻硬币)
    hdu 3032（博弈sg函数）
    hdu 2897(威佐夫博奕变形)
    hdu 1527（威佐夫博奕）
    hdu 2516（斐波拉切博弈）
    FZU 2171(线段树的延迟标记)
    二叉数的遍历
    树和二叉树的互相转换
    树的存储
  • 原文地址：https://www.cnblogs.com/xupeizhi/p/3124182.html
Copyright © 2011-2022 走看看