zoukankan      html  css  js  c++  java
  • 040.Python进程和Join


    一  进程相关介绍

    1.1 进程的概念(process)

    • 进程就是正在运行的程序,它是操作系统中,资源分配的最小单位
    • 资源分配:分配的是cpu和内存等物理资源
    • 进程号是程的唯标识
    • 同—个程序执行两次之后是两个进程
    • 进程和进程之间的关系:数据彼此隔离,通过 socket通信

    1.2 并行和并发

    并发:一个cpu同一时间不停执行多个程序

    并行:多个cpu同一时间不停执行多个程序

    1.3 进程的调度方法

    1. 先来先服努fcfs( first come first server):先来的先执行
    2. 短作业优先算法:分配的cpu多,先把短的算完
    3. 时间片轮转算法:每一个任务就枘行一个时间片的时间.然后驯执行其他的
    4. 多级反馈队列算法

    越是时间长的,cpu分配的资源越短,优先级靠后

    越是时间短的,cpu分配的资源越多

    1.4 进程三状态图

    (1)就绪(Read)状态:只剩下CPU需要执行外,其他所有資源都已分配完毕称为就绪状态。

    (2)执行(Running)状态:CPU开始执行该进程时称为执行状态。

    (3)阻塞(Blocked)状态:由于等待某个事件发生而无法行时,便是阻塞状态,cpu执行其他进程.例如,等待I/O完成 input、申请缓中区不能满足等等。

    1.5 同步 异步 /阻塞 非阻塞

    场景在多任务当中

    同步:必须等我这件事干完了,你在干,只有一条主线,就是同步

    异步:没等我这件事情干完,你就在干了,有两条主线,就是异步

    阻塞:比如代码有了 input,就是阻塞,必须要输入一个字符串,否则代码不往下执行

    非阻塞:没有任何等待,正常代码往下执行

    • 同步阻塞:效率低,cpu利用不充分
    • 异步阻塞:比如 socketserver,可以同时连接多个,但是彼此都有recv
    • 同步非阻塞没有类似 input的代码,从上到下执行默认的正常情况代码
    • 异步非阻塞:效率是最高的,cpu过度充分,过度发热

    二 python进程的相关操作

    2.1 打印一个进程号

    复制代码
    import os
    from multiprocessing import Process
    #获取子进程的ID(当前进程)
    res = os.getpid()
    print ("子进程是:",res)
    #获取父进程id
    res = os.getppid()
    print ("父进程是:",res)
    复制代码

    执行

    [root@node10 python]# python3 test.py
    子进程是: 3452
    父进程是: 3294

    2.2 进程的基本语法

    复制代码
    import os
    from multiprocessing import Process
    #获取子进程的ID(当前进程)
    res = os.getpid()
    print ("子进程是:",res)
    #获取父进程id
    res = os.getppid()
    print ("父进程是:",res)
    def func():
            print("1子进程id>>>:%s,父进程id>>>:%s" % (os.getpid(),os.getppid()) )
    if __name__ == "__main__":
            print("2子进程id>>>:%s,父进程id>>>:%s" % (os.getpid(),os.getppid()) )
            # 创建子进程 target 是指定要完成的任务,后面接的是函数变量
            p = Process(target=func)
            # 调用子进程
            p.start()
    func()
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    子进程是: 3468
    父进程是: 3294
    2子进程id>>>:3468,父进程id>>>:3294
    1子进程id>>>:3468,父进程id>>>:3294
    1子进程id>>>:3469,父进程id>>>:3468
    复制代码

    2.3 带有参数的函数

    复制代码
    import os
    from multiprocessing import Process
    def func():
            for i in range(1,6):
                    print ("1子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
    if __name__ == "__main__":
            print ("2子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
            p = Process(target=func)
            #调用子进程
            p.start()
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    2子进程id:3488,父进程id:3294
    1子进程id:3489,父进程id:3488
    1子进程id:3489,父进程id:3488
    1子进程id:3489,父进程id:3488
    1子进程id:3489,父进程id:3488
    1子进程id:3489,父进程id:3488
    复制代码

    2先于1执行

    复制代码
    import os
    from multiprocessing import Process
    def func():
            for i in range(1,6):
                    print ("1子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
    if __name__ == "__main__":
            print ("2子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
            p = Process(target=func)
            #调用子进程
            p.start()
            n = 5
            for i in range(1,n+1):
                    print ("*"*i)
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    2子进程id:3494,父进程id:3294
    *
    **
    ***
    ****
    *****
    1子进程id:3495,父进程id:3494
    1子进程id:3495,父进程id:3494
    1子进程id:3495,父进程id:3494
    1子进程id:3495,父进程id:3494
    1子进程id:3495,父进程id:3494
    复制代码

    带参数

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(n):
            for i in range(1,n+1):
                    print ("1子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
    if __name__ == "__main__":
            print ("2子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
            n = 5
            p = Process(target=func,args=(n,))
            #调用子进程
            p.start()
            for i in range(1,n+1):
                    print ("*"*i)
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    2子进程id:3508,父进程id:3294
    *
    **
    ***
    ****
    *****
    1子进程id:3509,父进程id:3508
    1子进程id:3509,父进程id:3508
    1子进程id:3509,父进程id:3508
    1子进程id:3509,父进程id:3508
    1子进程id:3509,父进程id:3508
    复制代码

    加延迟,即阻塞

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(n):
            for i in range(1,n+1):
                    time.sleep(0.1)
                    print ("1子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
    if __name__ == "__main__":
            print ("2子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
            n = 5
            p = Process(target=func,args=(n,))
            #调用子进程
            p.start()
            for i in range(1,n+1):
                    time.sleep(0.1)
                    print ("*"*i)
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    2子进程id:3515,父进程id:3294
    *
    1子进程id:3516,父进程id:3515
    **
    1子进程id:3516,父进程id:3515
    ***
    1子进程id:3516,父进程id:3515
    ****
    1子进程id:3516,父进程id:3515
    *****
    1子进程id:3516,父进程id:3515
    复制代码

    修改阻塞时间

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(n):
            for i in range(1,n+1):
                    time.sleep(0.3)
                    print ("1子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
    if __name__ == "__main__":
            print ("2子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))

          # 创建子进程,返回进程对象,如果有参数用args关键字参数进行指定
          # 对应的值是元组,参数赛到元组当中,按照传递次序排列

            n = 5
            p = Process(target=func,args=(n,))
            #调用子进程
            p.start()
            for i in range(1,n+1):
                    time.sleep(0.1)
                    print ("*"*i)
    复制代码

    执行

    复制代码
    2子进程id:3504,父进程id:3294
    *
    **
    ***
    1子进程id:3505,父进程id:3504
    ****
    *****
    1子进程id:3505,父进程id:3504
    1子进程id:3505,父进程id:3504
    1子进程id:3505,父进程id:3504
    1子进程id:3505,父进程id:3504
    复制代码

    2.4 进程之间数据彼此隔离

    复制代码
    import os
    import time
    from multiprocessing import Process
    count = 99
    def func():
            global count
            count += 1
            print ("子进程id:%s"%(os.getpid()))
            print (count)
    if __name__ == "__main__":
            p = Process(target=func)
            p.start()
            print ("主进程,count=",count)
    复制代码

    执行

    [root@node10 python]# python3 test.py
    主进程,count= 99
    子进程id:3527
    100

    主进程和子进程之间是隔离的,相当于是直接复制一份,不是直接延续主进程

    复制代码
    import os
    import time
    from multiprocessing import Process
    count = 99
    def func():
            global count
            count += 1
            print ("子进程id:%s"%(os.getpid()))
            print (count)
    if __name__ == "__main__":
            p = Process(target=func)
            p.start()
            time.sleep(1)
            print ("主进程,count=",count)
    复制代码

    执行

    [root@node10 python]# python3 test.py
    子进程id:3533
    100
    主进程,count= 99

    2.5 多进程之间的并发

    在程序并发时,因为cpu的调度策略问题,不一定谁先执行,谁后执行,任务的执行,是资源抢占的过程

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func():
            print ("1子进程id:%s,父进程id:%s"%(os.getpid(),os.getppid()))
    
    if __name__ == "__main__":
            for i in range(10):
                    Process(target=func).start()
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    1子进程id:3538,父进程id:3537
    1子进程id:3539,父进程id:3537
    1子进程id:3540,父进程id:3537
    1子进程id:3541,父进程id:3537
    1子进程id:3542,父进程id:3537
    1子进程id:3543,父进程id:3537
    1子进程id:3544,父进程id:3537
    1子进程id:3545,父进程id:3537
    1子进程id:3546,父进程id:3537
    1子进程id:3547,父进程id:3537
    复制代码

    把i作为参数

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(i):
            print("i=%s,1子进程id>>>:%s,父进程id>>>:%s" % (i,os.getpid(),os.getppid()) )
    
    
    if __name__ == "__main__":
            for i in range(10):
                    Process(target=func,args=(i,)).start()
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    i=0,1子进程id>>>:3577,父进程id>>>:3576
    i=1,1子进程id>>>:3578,父进程id>>>:3576
    i=2,1子进程id>>>:3579,父进程id>>>:3576
    i=3,1子进程id>>>:3580,父进程id>>>:3576
    i=4,1子进程id>>>:3581,父进程id>>>:3576
    i=5,1子进程id>>>:3582,父进程id>>>:3576
    i=6,1子进程id>>>:3583,父进程id>>>:3576
    i=7,1子进程id>>>:3584,父进程id>>>:3576
    i=8,1子进程id>>>:3585,父进程id>>>:3576
    i=9,1子进程id>>>:3 586,父进程id>>>:3576
    复制代码

    2.6 子进程和父进程之间的关系

    • 通常情况下,父进程(主进程)速度执行稍块,但是不绝对,在父进程执行所有代码完毕之后,会默认等待所有子进程执行完毕,然后在彻底程序,为了方便进程的管理
    • 如果不等待,子进程会变成僵尸程序,在后台不停的占用内存和cpu,因为进程太多,一时找不到,并不容易.
    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(args):
            print("i=%s,1子进程id>>>:%s,父进程id>>>:%s" % (i,os.getpid(),os.getppid()) )
            print("end,args= ",args)
    
    if __name__ == "__main__":
            for i in range(10):
                    Process(target=func,args=(i,)).start()
            print("主进程执行结束")
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    i=0,1子进程id>>>:3591,父进程id>>>:3590
    end,args=  0
    i=1,1子进程id>>>:3592,父进程id>>>:3590
    end,args=  1
    i=2,1子进程id>>>:3593,父进程id>>>:3590
    end,args=  2
    i=3,1子进程id>>>:3594,父进程id>>>:3590
    end,args=  3
    i=4,1子进程id>>>:3595,父进程id>>>:3590
    end,args=  4
    i=5,1子进程id>>>:3596,父进程id>>>:3590
    end,args=  5
    i=6,1子进程id>>>:3597,父进程id>>>:3590
    end,args=  6
    i=7,1子进程id>>>:3598,父进程id>>>:3590
    end,args=  7
    主进程执行结束
    i=8,1子进程id>>>:3599,父进程id>>>:3590
    end,args=  8
    i=9,1子进程id>
    复制代码

    添加延迟阻塞

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(args):
            print("i=%s,1子进程id>>>:%s,父进程id>>>:%s" % (i,os.getpid(),os.getppid()) )
            time.sleep(0.3)
            print("end,args= ",args)
    
    if __name__ == "__main__":
            for i in range(10):
                    Process(target=func,args=(i,)).start()
            print("主进程执行结束")
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    i=0,1子进程id>>>:3616,父进程id>>>:3615
    i=1,1子进程id>>>:3617,父进程id>>>:3615
    i=2,1子进程id>>>:3618,父进程id>>>:3615
    i=3,1子进程id>>>:3619,父进程id>>>:3615
    i=4,1子进程id>>>:3620,父进程id>>>:3615
    i=5,1子进程id>>>:3621,父进程id>>>:3615
    i=6,1子进程id>>>:3622,父进程id>>>:3615
    i=7,1子进程id>>>:3623,父进程id>>>:3615
    主进程执行结束
    i=8,1子进程id>>>:3624,父进程id>>>:3615
    i=9,1子进程id>>>:3625,父进程id>>>:3615
    end,args=  6
    end,args=  0
    end,args=  3
    end,args=  4
    end,args=  7
    end,args=  1
    end,args=  2
    end,args=  5
    end,args=  8
    end,args=  9
    复制代码

    三  join的基本使用

    3.1 基本应用

    等待有子进程执行完毕之后,主进程在向下执行;

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func():
            print("this is first thing")
    
    if __name__ == "__main__":
            p = Process(target=func)
            p.start()
            print("This is second thing")
    复制代码

    执行

    [root@node10 python]# python3 test.py
    This is second thing
    this is first thing

    first要先执行,使用阻塞延迟

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func():
            print("this is first thing")
    
    if __name__ == "__main__":
            p = Process(target=func)
            p.start()
            time.sleep(0.2)
            print("This is second thing")
    复制代码

    执行

    [root@node10 python]# python3 test.py
    this is first thing
    This is second thing

    使用join

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func():
            print("this is first thing")
    
    if __name__ == "__main__":
            p = Process(target=func)
            p.start()
            p.join()    #自动加锁
            print("This is second thing")
    复制代码

    执行

    [root@node10 python]# python3 test.py
    this is first thing
    This is second thing

    3.2 __name__相关认知

    打印__name__和__name__类型

    print (__name__)
    print (type(__name__))

    执行

    [root@node10 python]# python3 ceshi.py
    __main__
    <class 'str'>

    3.3 调用自定义的模块

    [root@node10 python]# vim mymoudle.py

    print ("123 defined by myself")
    a = 111222333

    调用

    import mymoudle
    print (mymoudle.a)

    执行

    [root@node10 python]# python3 ceshi.py
    123 defined by myself
    111222333

    或者

    from  mymoudle import a
    print (a)

    执行

    123 defined by myself
    111222333

    __name__:如果作为一个主文件执行,得到的时__main__,如果作为一个分模块导入,那么返回的时模块名称;是主进程,返回__main__ 不是主进程,返回模块名;

    [root@node10 python]# vi mymoudle.py

    print (__name__)

    执行

    [root@node10 python]# python3 mymoudle.py
    __main__

    当被调用时

    import  mymoudle

    再次执行

    [root@node10 python]# python3 ceshi.py
    mymoudle

    由于教程使用的是windows,它所执行的是引用的模式,所以必须使用(if __name__ == "__main__)判断主进程,我这里使用的时centos系统,底层的实现方式是forks实现的,可以不添加,直接可以使用,来源:老男孩教育https://www.oldboyedu.com/

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func():
            print("this is first thing")
    
    #if __name__ == "__main__":
    p = Process(target=func)
    p.start()
    p.join()
    print("This is second thing")
    复制代码

    执行

    [root@node10 python]# python3 test.py
    this is first thing
    This is second thing

    这样也不会报错,后面将直接使用linux的使用方式,如果有朋友使用windows系统做实验,请加上这个判断

    3.4 多个子进程通过join加阻塞,可以和主进程进行同步控制

    等子进程全部执行完毕之后,主进程在走

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(index):
            print("第%s封邮件已经发送..."%(index))
    
    for i in range(10):
            p = Process(target = func,args = (i,))
            p.start()
    print ("发出第十封邮件...")
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    第0封邮件已经发送...
    第1封邮件已经发送...
    第2封邮件已经发送...
    第3封邮件已经发送...
    第4封邮件已经发送...
    第5封邮件已经发送...
    第6封邮件已经发送...
    第7封邮件已经发送...
    发出第十封邮件...
    第8封邮件已经发送...
    第9封邮件已经发送...
    复制代码

    使用列表,让每一个进程使用join

    复制代码
    import os
    import time
    from multiprocessing import Process
    def func(index):
            print("第%s封邮件已经发送..."%(index))
    
    lst = []
    for i in range(10):
            p = Process(target = func,args = (i,))
            p.start()
            lst.append(p)
    for i in lst:
            i.join()
    print ("发出第十封邮件...")
    复制代码

    执行

    复制代码
    第0封邮件已经发送...
    第1封邮件已经发送...
    第2封邮件已经发送...
    第3封邮件已经发送...
    第4封邮件已经发送...
    第5封邮件已经发送...
    第6封邮件已经发送...
    第7封邮件已经发送...
    第8封邮件已经发送...
    第9封邮件已经发送...
    发出第十封邮件...
    复制代码

    使用第二种方法创建进程

    3.5 用自定义类的方式创建进程

    必须继承父类Process,里面必须用run命名方法;

    基本使用

    复制代码
    import os
    import time
    from multiprocessing import Process
    class MyProcess(Process):
            def run(self):
                    pass
    p = MyProcess()
    p.start()
    print ("主进程:{}".format(os.getpid()))
    复制代码

    执行

    [root@node10 python]# python3 test.py
    主进程:3823

    定义子进程

    复制代码
    import os
    import time
    from multiprocessing import Process
    class MyProcess(Process):
            def run(self):
                    print("1子进程id>>>:%s,父进程id>>>:%s" % (os.getpid(),os.getppid()) )
    p = MyProcess()
    p.start()
    print ("主进程:{}".format(os.getpid()))
    复制代码

    执行

    [root@node10 python]# python3 test.py
    主进程:3823
    1子进程id>>>:3824,父进程id>>>:3823

    3.6 带参数的子进程函数

    复制代码
    import os
    import time
    from multiprocessing import Process
    class MyProcess(Process):
            #这里需要传参,需要自己初始化,但是有需要调用父类方法
            def __init__(self,arg):
                    #调用一下父类的构造方法来进行初始化
                    super().__init__()
                    #传入参数
                    self.arg = arg
    
            def run(self):
                    print("1子进程id>>>:%s,父进程id>>>:%s" % (os.getpid(),os.getppid()) )
                    print (self.arg)
    lst = []
    for i in range(10):
            p = MyProcess("参数:%s"%(i))
            p.start()
            lst.append(p)
    for i in lst:
            i.join()
    print ("最后执行子进程:{}".format(os.getpid()))
    复制代码

    执行

    复制代码
    [root@node10 python]# python3 test.py
    1子进程id>>>:3845,父进程id>>>:3844
    参数:0
    1子进程id>>>:3846,父进程id>>>:3844
    参数:1
    1子进程id>>>:3847,父进程id>>>:3844
    参数:2
    1子进程id>>>:3848,父进程id>>>:3844
    参数:3
    1子进程id>>>:3849,父进程id>>>:3844
    参数:4
    1子进程id>>>:3850,父进程id>>>:3844
    参数:5
    1子进程id>>>:3851,父进程id>>>:3844
    参数:6
    1子进程id>>>:3852,父进程id>>>:3844
    参数:7
    1子进程id>>>:3853,父进程id>>>:3844
    参数:8
    1子进程id>>>:3854,父进程id>>>:3844
    参数:9
    最后执行子进程:3844
    复制代码
    学习记录,小白一枚
  • 相关阅读:
    php下拉选项的批量操作方法
    php(Yii)的增删改查之改
    无限分类方法大全
    Ajax 实例大全
    从入门到精通1
    课后作业二需求分析
    2018年春季个人阅读计划
    软件需求与分析需掌握的内容
    阅读笔记3
    阅读笔记
  • 原文地址:https://www.cnblogs.com/wangsirde0428/p/14322665.html
Copyright © 2011-2022 走看看