zoukankan      html  css  js  c++  java
  • 生产者消费者模型

    什么是生产者消费者模式

    在工作中,大家可能会碰到这样一种情况:某个模块负责产生数据,这些数据由另一个模块来负责处理(此处的模块是广义的,可以是类、函数、线程、进程等)。产生数据的模块,就形象地称为生产者;而处理数据的模块,就称为消费者。在生产者与消费者之间在加个缓冲区,我们形象的称之为仓库,生产者负责往仓库了进商品,而消费者负责从仓库里拿商品,这就构成了生产者消费者模式。结构图如下:

    生产者消费者模式的优点

    1、解耦

    假设生产者和消费者分别是两个类。如果让生产者直接调用消费者的某个方法,那 么生产者对于消费者就会产生依赖(也就是耦合)。将来如果消费者的代码发生变化, 可能会影响到生产者。而如果两者都依赖于某个缓冲区,两者之间不直接依赖,耦合也 就相应降低了。

    举个例子,我们去邮局投递信件,如果不使用邮筒(也就是缓冲区),你必须得把 信直接交给邮递员。有同学会说,直接给邮递员不是挺简单的嘛?其实不简单,你必须 得认识谁是邮递员,才能把信给他(光凭身上穿的制服,万一有人假冒,就惨了)。这 就产生和你和邮递员之间的依赖(相当于生产者和消费者的强耦合)。万一哪天邮递员 换人了,你还要重新认识一下(相当于消费者变化导致修改生产者代码)。而邮筒相对 来说比较固定,你依赖它的成本就比较低(相当于和缓冲区之间的弱耦合)。

    2、支持并发

    由于生产者与消费者是两个独立的并发体,他们之间是用缓冲区作为桥梁连接,生产者只需要往缓冲区里丢数据,就可以继续生产下一个数据,而消费者只需要从缓冲区了拿数据即可,这样就不会因为彼此的处理速度而发生阻塞。

    接上面的例子,如果我们不使用邮筒,我们就得在邮局等邮递员,直到他回来,我们把信件交给他,这期间我们啥事儿都不能干(也就是生产者阻塞),或者邮递员得挨家挨户问,谁要寄信(相当于消费者轮询)。

    3、支持忙闲不均

    缓冲区还有另一个好处。如果制造数据的速度时快时慢,缓冲区的好处就体现出来 了。当数据制造快的时候,消费者来不及处理,未处理的数据可以暂时存在缓冲区中。 等生产者的制造速度慢下来,消费者再慢慢处理掉。

    为了充分复用,我们再拿寄信的例子来说事。假设邮递员一次只能带走1000封信。 万一某次碰上情人节(也可能是圣诞节)送贺卡,需要寄出去的信超过1000封,这时 候邮筒这个缓冲区就派上用场了。邮递员把来不及带走的信暂存在邮筒中,等下次过来 时再拿走。

    实际应用

    在版本升级项目中,信息服务器要接收大批量的客户端请求,原来那种串行化的 处理,根本无法及时处理客户端请求,造成信息服务器大量请求堆积,导致丢包异 常严重。之后就采用了生产者消费者模式,在业务请求与业务处理间,建立了一个List 类型的缓冲区,服务端接收到业务请求,就往里扔,然后再去接收下一个业务请求,而 多个业务处理线程,就会去缓冲区里取业务请求处理。这样就大大提高了服务器的相 应速度。

    import time
    import threading
     
    #当还剩下一百个产品时,则不进行消费,待生产者生产
    #当生产了一千个产品时,则不进行生产,待消费者消费
     
    product = 0 #产品初始化时为0
     
    lock = threading.Condition()
     
    class Producer(threading.Thread):
        def __init__(self, lock):
            self._lock = lock
            threading.Thread.__init__(self)
     
        def run(self):
            global product
            while True:
                if self._lock.acquire():
                    if product >= 1000:
                        self._lock.wait()
                    else:
                        product += 100
                        print "add 100, product count=" + str(product)
                        self._lock.notify()
                    self._lock.release()
                    time.sleep(1)
     
     
     
     
    class Consumer(threading.Thread):
        def __init__(self, lock):
            self._lock = lock
            threading.Thread.__init__(self)
     
        def run(self):
            global product
            while True:
                if self._lock.acquire():
                    if product <= 100:
                        self._lock.wait()
                    else:
                        product -= 3
                        print 'consum 3, count=' + str(product)
                        self._lock.notify()
                    self._lock.release()
                    time.sleep(1)
     
     
    def test():
        for i in range(5):
            p = Producer(lock)
            p.start()
     
        for i in range(5):
            s = Consumer(lock)
            s.start()
     
    if __name__ == '__main__':
        test()
    View Code
  • 相关阅读:
    千亿美元规模,云计算的下半场将走向何方?
    巧用云原生能力和工具,提升云上运维效率
    基础设施代码化(IaC)的自动化配置与编排
    盘点2020 | 阿里云弹性计算年度关键词:快、弹、稳
    整体算力提升40% 芯片级安全防护 | 阿里云发布第七代ECS云服务器
    真正云原生的智能运维体系,阿里云发布ECS自动化运维套件
    安装wireshark
    查看linux的登录日志 centos7
    CentOS查看系统当前登录用户信息的4种方法
    free -m查询内存使用情况,祥解
  • 原文地址:https://www.cnblogs.com/muzinan110/p/4967225.html
Copyright © 2011-2022 走看看