一、进程应用
1、multiprocessing模块介绍
python中的多线程无法利用多核优势,如果想要充分地使用多核CPU的资源(os.cpu_count()查看),在python中大部分情况需要使用多进程。Python提供了 multiprocessing。
multiprocessing模块用来开启子进程,并在子进程中执行我们定制的任务(比如函数),该模块与多线程模块threading的编程接口类似。
multiprocessing模块的功能众多:支持子进程、通信和共享数据、执行不同形式的同步,提供了Process、Queue、Pipe、Lock等组件。
需要再次强调的一点是:与线程不同,进程没有任何共享状态,进程修改的数据,改动仅限于该进程内。
2、Process类的介绍
创建进程的类:
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动) 强调: 1. 需要使用关键字的方式来指定参数 2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
1 group参数未使用,值始终为None 2 target表示调用对象,即子进程要执行的任务 3 args表示调用对象的位置参数元组,args=(1,2,'egon',) 4 kwargs表示调用对象的字典,kwargs={'name':'egon','age':18} 5 name为子进程的名称
方法介绍:
1 p.start():启动进程,并调用该子进程中的p.run() 2 p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法 3 p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁 4 p.is_alive():如果p仍然运行,返回True 5 p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
属性介绍:
1 p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置 2 p.name:进程的名称 3 p.pid:进程的pid 4 p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可) 5 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)
注意:在windows中Process()必须放到# if __name__ == '__main__':下
在windows系统中应该把全局变量定义在if __name__ == '__main__'之上就可以了
# 开启进程的方式一: import time import os from multiprocessing import Process def task(n, tag): print("%s is running" % tag) time.sleep(3) print("%s is done" % tag) if __name__ == '__main__': p1 = Process(target=task, args=(5, "子进程1")) p2 = Process(target=task, args=(3, "子进程2")) p3 = Process(target=task, args=(2, "子进程3")) p1.start() p2.start() p3.start() print("主:%s。。。" % os.getpid())
ps:得用start启动进程,不能用run,这里底层Process会做很多事情
# 开启进程的方式二: import time import os from multiprocessing import Process class Myprocess(Process): def __init__(self,tag): super().__init__() self.tag = tag def run(self) -> None: print("%s is running" % self.tag) time.sleep(3) print("%s is done" % self.tag) if __name__ == '__main__': p1 = Myprocess("进程1") p2 = Myprocess("进程2") p3 = Myprocess("进程3") p1.start() # p1.run() p2.start() # p2.run() p3.start() # p3.run() print("主:%s。。。" % os.getpid())
二、Process对象的join方法
join:主进程等,等待子进程结束
#例1
import time import os from multiprocessing import Process def task(n, tag): print("%s is running" % tag) time.sleep(n) print("%s is done" % tag) if __name__ == '__main__': p1 = Process(target=task, args=(3, "子进程1")) p2 = Process(target=task, args=(4, "子进程2")) p3 = Process(target=task, args=(5, "子进程3")) # start=time.time()
#不一定先启动p1但先启动谁取决于操作系统,先提交不一定谁先启动可能p2 可能p3 p1.start() p2.start() p3.start() p1.join() p3.join() p2.join()#.join顺序不同,结果?
#如果有p.join(0.0001) #意思是等待p停止,等0.0001秒就不再等了
#很明显p.join()是让主线程等待p的结束,卡住的是主线程而绝非进程p
#详细解析如下:
#进程只要start就会在开始运行了,所以p1-p4.start()时,系统中已经有四个并发的进程了
#而我们p1.join()是在等p1结束,没错p1只要不结束主线程就会一直卡在原地,这也是问题的关键
#join是让主线程等,而p1-p3仍然是并发执行的,p1.join的时候,其余p2,p3仍然在运行,等#p1.join结束,可能p2,p3早已经结束了,这样p2.join,p3.join.p4.join直接通过检测,无需等待
# 所以3个join花费的总时间仍然是耗费时间最长的那个进程运行的时间
print(p1.pid) print(p2.pid) print(p3.pid) # print(time.time() - start) print("主:%s。。。" % os.getpid())
#例2 import time import os from multiprocessing import Process def task(n, tag): print("%s is running" % tag) time.sleep(n) print("%s is done" % tag) if __name__ == '__main__': p1 = Process(target=task, args=(3, "子进程1")) p2 = Process(target=task, args=(4, "子进程2")) p3 = Process(target=task, args=(5, "子进程3")) # start=time.time() p1.start() p1.join() p2.start() p2.join() p3.start() p3.join() print(p1.pid) print(p2.pid) print(p3.pid) # print(time.time() - start) print("主:%s。。。" % os.getpid())
---36---