zoukankan      html  css  js  c++  java
  • subprocess模块

    一、subprocess以及常用的封装函数
    运行python的时候,我们都是在创建并运行一个进程。像Linux进程那样,一个进程可以fork一个子进程,并让这个子进程exec另外一个程序。在Python中,我们通过标准库中的subprocess包来fork一个子进程,并运行一个外部的程序。
    subprocess包中定义有数个创建子进程的函数,这些函数分别以不同的方式创建子进程,所以我们可以根据需要来从中选取一个使用。另外subprocess还提供了一些管理标准流(standard stream)和管道(pipe)的工具,从而在进程间使用文本通信。

    subprocess.call()
    父进程等待子进程完成
    返回退出信息(returncode,相当于Linux exit code)

    常用方法:

    subprocess.call():执行命令,并返回执行状态,其中shell参数为False时,命令需要通过列表的方式传入,当shell为True时,可直接传入命令

    >>> a = subprocess.call(['df','-hT'],shell=False)
    Filesystem    Type    Size  Used Avail Use% Mounted on
    /dev/sda2     ext4     94G   64G   26G  72% /
    tmpfs        tmpfs    2.8G     0  2.8G   0% /dev/shm
    /dev/sda1     ext4    976M   56M  853M   7% /boot
    
    >>> a = subprocess.call('df -hT',shell=True)
    Filesystem    Type    Size  Used Avail Use% Mounted on
    /dev/sda2     ext4     94G   64G   26G  72% /
    tmpfs        tmpfs    2.8G     0  2.8G   0% /dev/shm
    /dev/sda1     ext4    976M   56M  853M   7% /boot
    >>> print a0
    View Code

    subprocess.check_call()

    父进程等待子进程完成
    返回0
    检查退出信息,如果returncode不为0,则举出错误subprocess.CalledProcessError,该对象包含有returncode属性,可用try…except…来检查

    subprocess.check_call():用法与subprocess.call()类似,区别是,当返回值不为0时,直接抛出异常

    >>> a = subprocess.check_call('df -hT',shell=True)
    Filesystem    Type    Size  Used Avail Use% Mounted on
    /dev/sda2     ext4     94G   64G   26G  72% /
    tmpfs        tmpfs    2.8G     0  2.8G   0% /dev/shm
    /dev/sda1     ext4    976M   56M  853M   7% /boot
    >>> print a
    >>> a = subprocess.check_call('dfdsf',shell=True)
    /bin/sh: dfdsf: command not found
    Traceback (most recent call last):
      File "<stdin>", line 1, in <module>
      File "/usr/lib64/python2.6/subprocess.py", line 502, in check_call
        raise CalledProcessError(retcode, cmd)
    subprocess.CalledProcessError: Command 'dfdsf' returned non-zero exit status 127
    View Code

    subprocess.check_output()
    父进程等待子进程完成
    返回子进程向标准输出的输出结果
    检查退出信息,如果returncode不为0,则举出错误subprocess.CalledProcessError,该对象包含有returncode属性和output属性,output属性为标准输出的输出结果,可用try…except…来检查。

    subprocess.check_output():用法与上面两个方法类似,区别是,如果当返回值为0时,直接返回输出结果,如果返回值不为0,直接抛出异常。需要说明的是,该方法在python3.x中才有。

    这三个函数的使用方法相类似,下面来以subprocess.call()举例说明:

    代码如下:

    >>> import subprocess
    >>> retcode = subprocess.call(["ls", "-l"])
    #和shell中命令ls -a显示结果一样
    >>> print retcode
    0
    

      

    将程序名(ls)和所带的参数(-l)一起放在一个表中传递给subprocess.call()

    shell默认为False,在Linux下,shell=False时, Popen调用os.execvp()执行args指定的程序;shell=True时,如果args是字符串,Popen直接调用系统的Shell来执行args指定的程序,如果args是一个序列,则args的第一项是定义程序命令字符串,其它项是调用系统Shell时的附加参数。

    上面例子也可以写成如下:

    代码如下:
    >>> retcode = subprocess.call("ls -l",shell=True)
    

      


    在Windows下,不论shell的值如何,Popen调用CreateProcess()执行args指定的外部程序。如果args是一个序列,则先用list2cmdline()转化为字符串,但需要注意的是,并不是MS Windows下所有的程序都可以用list2cmdline来转化为命令行字符串。

    subprocess.Popen()

    在一些复杂场景中,我们需要将一个进程的执行输出作为另一个进程的输入。在另一些场景中,我们需要先进入到某个输入环境,然后再执行一系列的指令等。这个时候我们就需要使用到suprocess的Popen()方法。该方法有以下参数:

    args:shell命令,可以是字符串,或者序列类型,如list,tuple。

    bufsize:缓冲区大小,可不用关心

    stdin,stdout,stderr:分别表示程序的标准输入,标准输出及标准错误

    shell:与上面方法中用法相同

    cwd:用于设置子进程的当前目录

    env:用于指定子进程的环境变量。如果env=None,则默认从父进程继承环境变量

    universal_newlines:不同系统的的换行符不同,当该参数设定为true时,则表示使用 作为换行符

    示例1,在/root下创建一个suprocesstest的目录:

    >>> a = subprocess.Popen('mkdir subprocesstest',shell=True,cwd='/root')
    

      

    代码如下:

    class Popen(args, bufsize=0, executable=None, stdin=None, stdout=None, stderr=None, preexec_fn=None, close_fds=False, shell=False, cwd=None, env=None, universal_newlines=False, startupinfo=None, creationflags=0)
    

      

    实际上,上面的几个函数都是基于Popen()的封装(wrapper)。这些封装的目的在于让我们容易使用子进程。当我们想要更个性化我们的需求的时候,就要转向Popen类,该类生成的对象用来代表子进程。

    与上面的封装不同,Popen对象创建后,主程序不会自动等待子进程完成。我们必须调用对象的wait()方法,父进程才会等待 (也就是阻塞block),举例:

    代码如下:
    >>> import subprocess
    >>> child = subprocess.Popen(['ping','-c','4','blog.linuxeye.com'])
    >>> print 'parent process'

    从运行结果中看到,父进程在开启子进程之后并没有等待child的完成,而是直接运行print。

    对比等待的情况:

    代码如下:
    >>> import subprocess
    >>> child = subprocess.Popen('ping -c4 blog.linuxeye.com',shell=True)
    >>> child.wait()
    >>> print 'parent process'
    

      

    从运行结果中看到,父进程在开启子进程之后并等待child的完成后,再运行print。
    此外,你还可以在父进程中对子进程进行其它操作,比如我们上面例子中的child对象:代码如下:


    child.poll() # 检查子进程状态
    child.kill() # 终止子进程
    child.send_signal() # 向子进程发送信号
    child.terminate() # 终止子进程

    子进程的PID存储在child.pid

    示例2,使用python执行几个命令:

     1 import subprocess
     2 
     3 obj = subprocess.Popen(["python"], stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.PIPE)
     4 obj.stdin.write('print 1 
    ')
     5 obj.stdin.write('print 2 
    ')
     6 obj.stdin.write('print 3 
    ')
     7 obj.stdin.write('print 4 
    ')
     8 obj.stdin.close()
     9 
    10 cmd_out = obj.stdout.read()
    11 obj.stdout.close()
    12 cmd_error = obj.stderr.read()
    13 obj.stderr.close()
    14 
    15 print cmd_out
    16 print cmd_error
    View Code

    也可以使用如下方法:

     1 import subprocess
     2 
     3 obj = subprocess.Popen(["python"], stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.PIPE)
     4 obj.stdin.write('print 1 
    ')
     5 obj.stdin.write('print 2 
    ')
     6 obj.stdin.write('print 3 
    ')
     7 obj.stdin.write('print 4 
    ')
     8 
     9 out_error_list = obj.communicate()
    10 print out_error_list
    View Code

    示例3,将一个子进程的输出,作为另一个子进程的输入:

    1 import subprocess
    2 child1 = subprocess.Popen(["cat","/etc/passwd"], stdout=subprocess.PIPE)
    3 child2 = subprocess.Popen(["grep","0:0"],stdin=child1.stdout, stdout=subprocess.PIPE)
    4 out = child2.communicate()
    View Code

    其他方法:

    1 import subprocess
    2 child = subprocess.Popen('sleep 60',shell=True,stdout=subprocess.PIPE)
    3 child.poll()    #检查子进程状态
    4 child.kill()     #终止子进程
    5 child.send_signal()    #向子进程发送信号
    6 child.terminate()   #终止子进程
    View Code


    二、子进程的文本流控制
    子进程的标准输入、标准输出和标准错误如下属性分别表示:

    代码如下:
    child.stdin
    child.stdout
    child.stderr
    

      


    可以在Popen()建立子进程的时候改变标准输入、标准输出和标准错误,并可以利用subprocess.PIPE将多个子进程的输入和输出连接在一起,构成管道(pipe),如下2个例子:

    代码如下:
    >>> import subprocess
    >>> child1 = subprocess.Popen(["ls","-l"], stdout=subprocess.PIPE)
    >>> print child1.stdout.read(),

    #或者child1.communicate()
    >>> import subprocess
    >>> child1 = subprocess.Popen(["cat","/etc/passwd"], stdout=subprocess.PIPE)
    >>> child2 = subprocess.Popen(["grep","0:0"],stdin=child1.stdout, stdout=subprocess.PIPE)
    >>> out = child2.communicate()

     subprocess.PIPE实际上为文本流提供一个缓存区。child1的stdout将文本输出到缓存区,随后child2的stdin从该PIPE中将文本读取走。child2的输出文本也被存放在PIPE中,直到communicate()方法从PIPE中读取出PIPE中的文本。

    注意:communicate()是Popen对象的一个方法,该方法会阻塞父进程,直到子进程完成





    当我们需要调用系统的命令的时候,最先考虑的os模块。用os.system()和os.popen()来进行操作。但是这两个命令过于简单,不能完成一些复杂的操作,如给运行的命令提供输入或者读取命令的输出,判断该命令的运行状态,管理多个命令的并行等等。这时subprocess中的Popen命令就能有效的完成我们需要的操作。

          subprocess模块允许一个进程创建一个新的子进程,通过管道连接到子进程的stdin/stdout/stderr,获取子进程的返回值等操作。 

    这个模块一个类:Popen。

    #Popen它的构造函数如下:
     
    subprocess.Popen(args, bufsize=0, executable=None, stdin=None, stdout=None,stderr=None, preexec_fn=None, close_fds=False, shell=False, 
    cwd=None, env=None, universal_newlines=False, startupinfo=None, creationflags=0)
    # 参数args可以是字符串或者序列类型(如:list,元组),用于指定进程的可执行文件及其参数。
    # 如果是序列类型,第一个元素通常是可执行文件的路径。我们也可以显式的使用executeable参
    # 数来指定可执行文件的路径。在windows操作系统上,Popen通过调用CreateProcess()来创
    # 建子进程,CreateProcess接收一个字符串参数,如果args是序列类型,系统将会通过
    # list2cmdline()函数将序列类型转换为字符串。
    # 
    # 
    # 参数bufsize:指定缓冲。我到现在还不清楚这个参数的具体含义,望各个大牛指点。
    # 
    # 参数executable用于指定可执行程序。一般情况下我们通过args参数来设置所要运行的程序。如
    # 果将参数shell设为True,executable将指定程序使用的shell。在windows平台下,默认的
    # shell由COMSPEC环境变量来指定。
    # 
    # 参数stdin, stdout, stderr分别表示程序的标准输入、输出、错误句柄。他们可以是PIPE,
    # 文件描述符或文件对象,也可以设置为None,表示从父进程继承。
    # 
    # 参数preexec_fn只在Unix平台下有效,用于指定一个可执行对象(callable object),它将
    # 在子进程运行之前被调用。
    # 
    # 参数Close_sfs:在windows平台下,如果close_fds被设置为True,则新创建的子进程将不会
    # 继承父进程的输入、输出、错误管道。我们不能将close_fds设置为True同时重定向子进程的标准
    # 输入、输出与错误(stdin, stdout, stderr)。
    # 
    # 如果参数shell设为true,程序将通过shell来执行。
    # 
    # 参数cwd用于设置子进程的当前目录。
    # 
    # 参数env是字典类型,用于指定子进程的环境变量。如果env = None,子进程的环境变量将从父
    # 进程中继承。
    # 
    # 参数Universal_newlines:不同操作系统下,文本的换行符是不一样的。如:windows下
    # 用’/r/n’表示换,而Linux下用’/n’。如果将此参数设置为True,Python统一把这些换行符当
    # 作’/n’来处理。
    # 
    # 参数startupinfo与createionflags只在windows下用效,它们将被传递给底层的
    # CreateProcess()函数,用于设置子进程的一些属性,如:主窗口的外观,进程的优先级等等。
    

    简单命令:

    import subprocess
     
    a=subprocess.Popen('ls')#  创建一个新的进程,与主进程不同步
     
    print('>>>>>>>',a)#a是Popen的一个实例对象
     
    '''
    >>>>>>> <subprocess.Popen object at 0x10185f860>
    __init__.py
    __pycache__
    log.py
    main.py
     
    '''
     
    # subprocess.Popen('ls -l',shell=True)
     
    # subprocess.Popen(['ls','-l'])

    subprocess.PIPE

    在创建Popen对象时,subprocess.PIPE可以初始化stdin, stdout或stderr参数。表示与子进程通信的标准流。

    1
    2
    3
    4
    5
    6
    import subprocess
     
    # subprocess.Popen('ls')
    p=subprocess.Popen('ls',stdout=subprocess.PIPE)#结果跑哪去啦?
     
    print(p.stdout.read())#这这呢:b'__pycache__ hello.py ok.py web '

    这是因为subprocess创建了子进程,结果本在子进程中,if 想要执行结果转到主进程中,就得需要一个管道,即 : stdout=subprocess.PIPE

    subprocess.STDOUT

    创建Popen对象时,用于初始化stderr参数,表示将错误通过标准输出流输出。

    Popen的方法

    Popen.poll() 
    用于检查子进程是否已经结束。设置并返回returncode属性。
    
    Popen.wait() 
    等待子进程结束。设置并返回returncode属性。
    
    Popen.communicate(input=None)
    与子进程进行交互。向stdin发送数据,或从stdout和stderr中读取数据。可选参数input指定发送到子进程的参数。 Communicate()返回一个元组:(stdoutdata, stderrdata)。注意:如果希望通过进程的stdin向其发送数据,在创建Popen对象的时候,参数stdin必须被设置为PIPE。同样,如 果希望从stdout和stderr获取数据,必须将stdout和stderr设置为PIPE。
    
    Popen.send_signal(signal) 
    向子进程发送信号。
    
    Popen.terminate()
    停止(stop)子进程。在windows平台下,该方法将调用Windows API TerminateProcess()来结束子进程。
    
    Popen.kill()
    杀死子进程。
    
    Popen.stdin 
    如果在创建Popen对象是,参数stdin被设置为PIPE,Popen.stdin将返回一个文件对象用于策子进程发送指令。否则返回None。
    
    Popen.stdout 
    如果在创建Popen对象是,参数stdout被设置为PIPE,Popen.stdout将返回一个文件对象用于策子进程发送指令。否则返回 None。
    
    Popen.stderr 
    如果在创建Popen对象是,参数stdout被设置为PIPE,Popen.stdout将返回一个文件对象用于策子进程发送指令。否则返回 None。
    
    Popen.pid 
    获取子进程的进程ID。
    
    Popen.returncode 
    获取进程的返回值。如果进程还没有结束,返回None。

    supprocess模块的工具函数

    supprocess模块提供了一些函数,方便我们用于创建进程来实现一些简单的功能。
     
    subprocess.call(*popenargs, **kwargs)
    运行命令。该函数将一直等待到子进程运行结束,并返回进程的returncode。如果子进程不需要进行交 互,就可以使用该函数来创建。
     
    subprocess.check_call(*popenargs, **kwargs)
    与subprocess.call(*popenargs, **kwargs)功能一样,只是如果子进程返回的returncode不为0的话,将触发CalledProcessError异常。在异常对象中,包 括进程的returncode信息。
     
    check_output(*popenargs, **kwargs)
    与call()方法类似,以byte string的方式返回子进程的输出,如果子进程的返回值不是0,它抛出CalledProcessError异常,这个异常中的returncode包含返回码,output属性包含已有的输出。
     
    getstatusoutput(cmd)/getoutput(cmd)
    这两个函数仅仅在Unix下可用,它们在shell中执行指定的命令cmd,前者返回(status, output),后者返回output。其中,这里的output包括子进程的stdout和stderr。
     1 import subprocess
     2 
     3 #1
     4 # subprocess.call('ls',shell=True)
     5 '''
     6 hello.py
     7 ok.py
     8 web
     9 '''
    10 # data=subprocess.call('ls',shell=True)
    11 # print(data)
    12 '''
    13 hello.py
    14 ok.py
    15 web
    16 '''
    17 
    18 #2
    19 # subprocess.check_call('ls',shell=True)
    20 
    21 '''
    22 hello.py
    23 ok.py
    24 web
    25 '''
    26 # data=subprocess.check_call('ls',shell=True)
    27 # print(data)
    28 '''
    29 hello.py
    30 ok.py
    31 web
    32 '''
    33 # 两个函数区别:只是如果子进程返回的returncode不为0的话,将触发CalledProcessError异常
    34 
    35 
    36 
    37 #3
    38 # subprocess.check_output('ls')#无结果
    39 
    40 # data=subprocess.check_output('ls')
    41 # print(data)  #b'hello.py
    ok.py
    web
    '
    演示

    交互命令:

    终端输入的命令分为两种:

    • 输入即可得到输出,如:ifconfig
    • 输入进行某环境,依赖再输入,如:python

    需要交互的命令示例

  • 相关阅读:
    Xhprof分析php性能
    Xhprof graphviz Warning: proc_open() [function.proc-open]: CreateProcess failed, error code 解决方法
    使用xhprof会在nginx下报502 Bad Gateway错误
    springbooot2 thymeleaf 配置以及加载资源文件。Cannot find template location: classpath:/templates/ (please add some templates or check your Thymeleaf configuration)
    springboot用户登陆密码两次md5加密
    SpringBoot2.0 redis生成组建和读写配置文件
    spring2.0:The server time zone value 'Öйú±ê׼ʱ¼ä' is unrecognized or represents more than one time zone. You must configure either th
    SpringBoot 2.0 报错: Failed to configure a DataSource: 'url' attribute is not specified and no embe
    秋季学期总结
    寒假作业3:抓老鼠啊~亏了还是赚了?
  • 原文地址:https://www.cnblogs.com/Mengchangxin/p/9380758.html
Copyright © 2011-2022 走看看