zoukankan      html  css  js  c++  java
  • 协程 异步IO

    协程

    协程:又称微线程,纤程。英文名Coroutine。

    子程序:或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。

    所以子程序调用是通过栈实现的,一个线程就是执行一个子程序。

    子程序调用总是一个入口,一次返回,调用顺序是明确的。而协程的调用和子程序不同。

    协程看上去也是子程序,但执行过程中,在子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。

    注意,在一个子程序中中断,去执行其他子程序,不是函数调用,有点类似CPU的中断。比如子程序A、B:

    def A():
        print('1')
        print('2')
        print('3')
    
    def B():
        print('x')
        print('y')
        print('z')

    假设由协程执行,在执行A的过程中,可以随时中断,去执行B,B也可能在执行过程中中断再去执行A,结果可能是:

    1
    2
    x
    y
    3
    z

    看起来A、B的执行有点像多线程,但协程的特点在于是一个线程执行,那和多线程比,协程有何优势?

    最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显。

    第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多。

    因为协程是一个线程执行,那怎么利用多核CPU呢?最简单的方法是多进程+协程,既充分利用多核,又充分发挥协程的高效率,可获得极高的性能。

    Python对协程的支持是通过generator实现的。

    在generator中,我们不但可以通过for循环来迭代,还可以不断调用next()函数获取由yield语句返回的下一个值。

    但是Python的yield不但可以返回一个值,它还可以接收调用者发出的参数。

    来看例子:

    传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。

    如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高:

    def consumer():
        r = ''
        while True:
            n = yield r  # 3.暂停,跳出
            if not n: # 6. n = 1  为FALSE
                return
            print('[CONSUMER] Consuming %s...' % n)  # 7.赋值n= 1,打印输出
            r = '200 OK'  # 8.赋值r。consumer运行结束,跳回produce继续运行
    
    def produce(c):
        c.send(None) # 2.运行consumer(),并赋值None
        n = 0  # 4.继续运行
        while n < 5:
            n = n + 1
            print('[PRODUCER] Producing %s...' % n)
            r = c.send(n) # 5.运行consumer,并且赋值n= 1
            print('[PRODUCER] Consumer return: %s' % r) # 9.输出r,继续运行
        c.close()
    
    c = consumer()
    produce(c)  # 1.运行开始,调用c = consumer()
    
    

    结果:

    [PRODUCER] Producing 1...
    [CONSUMER] Consuming 1...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 2...
    [CONSUMER] Consuming 2...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 3...
    [CONSUMER] Consuming 3...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 4...
    [CONSUMER] Consuming 4...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 5...
    [CONSUMER] Consuming 5...
    [PRODUCER] Consumer return: 200 OK

    异步IO

    1、asyncio

    asyncio是Python 3.4版本引入的标准库,直接内置了对异步IO的支持。

    asyncio的编程模型就是一个消息循环。我们从asyncio模块中直接获取一个EventLoop的引用,然后把需要执行的协程扔到EventLoop中执行,就实现了异步IO。

    (1.把generator标记为coroutine   2.把coroutine放进Eventloop  3.run_unitl_complete运行coroutine)

    # import asyncio,threading
    #
    # @asyncio.coroutine  # 把generator标记为coroutine
    # def dmeo():
    #     print('hell word!!!%s'%threading.currentThread())
    #     # 异步调用sleep
    #     n = yield from asyncio.sleep(1)
    #
    #     print('coroutine:%s'%threading.currentThread())
    #
    # loop = asyncio.get_event_loop()  # 把coroutine放进eventloop中
    #
    # tasks = [dmeo(),dmeo()]
    #
    # loop.run_until_complete(asyncio.wait(tasks))  # 执行coroutine
    #
    # loop.close()

    2、async/await

    asyncio提供的@asyncio.coroutine可以把一个generator标记为coroutine类型,然后在coroutine内部用yield from调用另一个coroutine实现异步操作。

    为了简化并更好地标识异步IO,从Python 3.5开始引入了新的语法asyncawait,可以让coroutine的代码更简洁易读。

    请注意,asyncawait是针对coroutine的新语法,要使用新的语法,只需要做两步简单的替换:

    1. @asyncio.coroutine替换为async
    2. yield from替换为await
    # import asyncio,threading
    #
    # # @asyncio.coroutine  # 把generator标记为coroutine
    # async def dmeo():
    #     print('hell word!!!%s'%threading.currentThread())
    #     # 异步调用sleep
    #     # n = yield from asyncio.sleep(1)
    #     n = await asyncio.sleep(2)
    #     print('coroutine:%s'%threading.currentThread())
    #
    # loop = asyncio.get_event_loop()  # 把coroutine放进eventloop中
    #
    # tasks = [dmeo(),dmeo()]
    #
    # loop.run_until_complete(asyncio.wait(tasks))  # 执行coroutine
    #
    # loop.close()

    3、aiohttp

    文章参考:https://www.liaoxuefeng.com/wiki/1016959663602400/1017968846697824

  • 相关阅读:
    我为什么要选择RabbitMQ ,RabbitMQ简介,各种MQ选型对比(转载)
    spring boot 使用application.properties 进行外部配置
    Nginx+Springboot+Vue 前后端分离 解决跨域问题
    windows7下RabbitMQ的安装
    七牛云 如何配置域名的 CNAME
    springboot接口 接收参数为实体对象跟MultipartFile对象报错。
    数据库性能优化之SQL语句优化(下)
    数据库性能优化之SQL语句优化(上)
    七个对我最好的职业建议
    程序员最艰巨的十大任务
  • 原文地址:https://www.cnblogs.com/070727sun/p/11046516.html
Copyright © 2011-2022 走看看