zoukankan      html  css  js  c++  java
  • RabbitMQ consumer的一些坑

    坑就像是恶梦,总是在最不设防的时候出现,打的你满地找牙。这里记录一些坑,遇到的朋友可以及时的跳出,避免带来损失。

    使用事件方式去获取queue中的消息,然后再进行处理。这看起来没什么问题,但是如果queue中的消息有几万条甚至才几十万条,一股脑的全丢给consumer会造成什么情况呢?

    下面模拟一个例子,我们的queue中有着二千多条消息,每个消息处理的时间需要1s。为了消息的可靠性我们手动交付消息的处理状态。

    using (var channel = RabbitMqHelper.GetConnection().CreateModel())
                {
                    var consumer = new EventingBasicConsumer(channel);
    
                    consumer.Received += (sender, e) =>
                    {
                        Console.WriteLine(Encoding.UTF8.GetString(e.Body));
    
                        //处理时间
                        Thread.Sleep(1000);
                        //手动交付
                        channel.BasicAck(e.DeliveryTag, false);
                    };
    
                    //不自动确认
                    channel.BasicConsume("lazyqueue", false, consumer);
    
                    Console.WriteLine("consumer启动成功");
    
                    Console.ReadKey();
    
                }

    这里是queue,可以看到有2847条消息

    image

    后面把程序运行起来,短短的时间里可以看到内存占用了一个多G!而CPU占用率也很高。如果再跑一会,啧啧 怕是要爆掉了。

    image

    这时再看我们的队列,什么? 才处理了一条消息。-.- 还好用的是手动确认机制,不然可能会丢失所有的消息。

    image

    处理方式也很简单,在之前的博文中也有说到,为了queue分发给consumer的消息是平均的,设置在同一时间一个consumer只处理一条消息,当处理完确认后再分发给consumer下一条消息,这听起来很靠谱。我们设置一下,再把程序跑起来

    这时候再看,内存只占用了几M而已,这时候就显的轻松无比了

    image

  • 相关阅读:
    四,redis6版本的使用部署
    记录篇-浪潮服务器raid卡
    sudo漏洞解决方案--源码转rpm包(spec文件编写)
    关闭 Chrome 浏览器阅读清单功能
    【转译】如何成为一个数据工程师?
    Python 用最小堆获取大量元素 topk 大个元素
    Python 实现二分查找
    Python 排序算法之堆排序,使用 heapq 实现
    Python 排序算法之归并排序
    Python 排序算法之快速排序
  • 原文地址:https://www.cnblogs.com/LiangSW/p/6233271.html
Copyright © 2011-2022 走看看