zoukankan      html  css  js  c++  java
  • 消息队列

    1.1 消息队列
      “消息”是在两台计算机间传送的数据单位。消息可以非常简单,例如只包含文本字符串;也可以更复杂,可能包含嵌入对象。消息被发送到队列中,“消息队列”是在消息的传输过程中保存消息的容器。

      消息队列(Message Queue),是分布式系统中重要的组件,其通用的使用场景可以简单地描述为:

    当不需要立即获得结果,但是并发量又需要进行控制的时候,差不多就是需要使用消息队列的时候。  

      消息队列主要解决了应用耦合、异步处理、流量削锋等问题。当前使用较多的消息队列有RabbitMQ、RocketMQ、ActiveMQ、Kafka、ZeroMQ、MetaMq等,而部分数据库如Redis、Mysql以及phxsql也可实现消息队列的功能。更多详细内容请参考:《消息队列及其应用场景介绍》

      我也在前几年写过一篇基于Redis做消息队列的文章,对消息队列的一个应用场景做了介绍,没有了解过的童鞋可以看看。

    1.2 RabbitMQ
      

      RabbitMQ是一款基于AMQP(高级消息队列协议),由Erlang开发的开源消息队列组件。是一款优秀的消息队列组件,他由两部分组成:服务端和客户端,客户端支持多种语言的驱动,如:.Net、JAVA、Erlang等。

      网上有很多性能比较的文章,例如在1百万条1k的消息下,每秒种的收发情况如下图所示:

      性能比较

      这里不过多介绍RabbitMQ,有关RabbitMQ的一些需要了解的概念你可以通过下面的文章了解:

      颜圣杰,《RabbitMQ知多少》

      如果你想了解RabbitMQ与Kafka的对比,可以阅读这篇文章:《开源软件成熟度评测报告-分布式消息中间件》

      而EasyNetQ呢,它是一款基于RabbitMQ.Client封装的API库,正如其名,使用起来比较Easy,它把原RabbitMQ.Client中的很多操作都进行了再次封装,让开发人员减少了很多工作量。

    二、RabbitMQ的安装
    2.1 Linux下的安装
      这里不演示如何在Linux下安装,但推荐生产环境使用Linux,下面是一些参考资料:

      mcgrady,《Linux下RabbitMQ的安装》

      晓晨Master,《.NET Core使用RabbitMQ》

      牛头人,《Linux安装RabbitMQ》

      一只猪儿虫,《RabbitMQ Linux安装》

    2.2 Windows下的安装
      开发环境下,我一般使用Windows Server虚拟机,所以这里说明下如何在Windows下安装:

      (1)下载Erlang和RabbitMQ (这里我选则的并非最新版本,而是etp20.3和rabbitmq3.7.5)

      

      (2)首先安装Erlang,然后添加环境变量(如果添加了,则skip这一步)并加到PATH中

      

      (3)其次安装RabbitMQ,一路Next,安装完成后也为其添加环境变量并添加到PATH中

      

      

      (4)检查是否安装成功:rabbitmqctl status

      这里我碰到了如下的错误:

      

      解决方法:

      更正erlang.cookie文件,详情请参考:https://blog.csdn.net/u012637358/article/details/80078610

      最终状态:

      

      检查Windows服务,发现已经自动注册了一个服务:

      

      (5)激活Web管理插件,然后检查是否可见(http://127.0.0.1:15672

      

      

    2.3 一些必要的配置
      (1)使用默认账号:guest/guest登录进去,添加一个新用户(Administrator权限),并设置其Permission

      

      (2)添加新的虚拟机(默认为/,这里我添加一个名为EDCVHOST的虚拟机)

      

      (3)绑定新添加的用户到新的虚拟机上,接下来在我们的程序中就主要使用admin这个用户和EDCVHOST这个虚拟机

      

      *.当然,为了安全考虑,你也可以把guest用户remove掉

    三、Quick Start:第一个消息队列
    3.1 项目准备
      这里为了快速的演示如何使用EasyNetQ,我们来一个QuickStart,准备三个项目:两个Console程序和一个Class Library。

      

      其中,对Publisher和Subscriber项目安装EasyNetQ:

    NuGet>Install-Package EasyNetQ  

      针对Messages类库,新增一个class如下:

    public class TextMessage
    {
        public string Text { get; set; }
    }
    

    3.2 我是Publisher
      添加以下代码:

    复制代码

    public class Program
    {
        public static void Main(string[] args)
        {
            var connStr = "host=192.168.80.71;virtualHost=EDCVHOST;username=admin;password=edison";
    
            using (var bus = RabbitHutch.CreateBus(connStr))
            {
                var input = "";
                Console.WriteLine("Please enter a message. 'Quit' to quit.");
                while ((input = Console.ReadLine()) != "Quit")
                {
                    bus.Publish(new TextMessage
                    {
                        Text = input
                    });
                }
            }
        }
    }
    

    复制代码
      可以看到,我们在其中使用EasyNetQ高度封装的接口创建了一个IBus接口的实例,通过这个IBus实例我们可以通过一个超级Easy的Publish接口进行发布消息。这里主要是读取用户在控制台中输入的消息字符串进行发送。实际中,发送的一般都是一个或多个复杂的实体对象。

    3.3 我是Subscriber
      添加如下所示代码:

    复制代码

    public class Program
    {
        public static void Main(string[] args)
        {
            var connStr = "host=192.168.80.71;virtualHost=EDCVHOST;username=admin;password=edison";
    
            using (var bus = RabbitHutch.CreateBus(connStr))
            {
                bus.Subscribe<TextMessage>("my_test_subscriptionid", HandleTextMessage);
    
                Console.WriteLine("Listening for messages. Hit <return> to quit.");
                Console.ReadLine();
            }
        }
    
        public static void HandleTextMessage(TextMessage textMessage)
        {
            Console.ForegroundColor = ConsoleColor.Red;
            Console.WriteLine("Got message: {0}", textMessage.Text);
            Console.ResetColor();
        }
    }
    

    复制代码
      这里主要是通过IBus实例去订阅消息(这里是除非用户关闭程序否则一直处于监听状态),当发布者发布了指定类型的消息之后,这里就把它打印出来(红色字体显示)。

    3.4 简单测试
      通过控制台信息查看结果:

      

      通过RabbitMQ管理界面查看:

      (1)通过Connections Tab可以发现我们的两个客户端都在Running中

      

      (2)通过Queues Tab查看目前已有的队列=>可以看到目前我们只注册了一个队列

      

    四、在ASP.NET Core中的使用
    4.1 案例结构与说明

      这里假设有这样一个场景,客户通过浏览器提交了一个保单,这个保单中包含一些客户信息,ClientService将这些信息处理后发送一个消息到RabbitMQ中,NoticeService和ZAPEngineService订阅了这个消息。NoticeService会将客户信息取出来并获取一些更多信息为客户发送Email,而ZAPEngineService则会根据客户的一些关键信息(比如:年龄,是否吸烟,学历,年收入等等)去数据库读取一些规则来生成一份Question List并存入数据库。

    4.2 项目准备工作
      创建上面提到的这几个项目,这里我选择ASP.NET Core WebAPI类型。

      分别为这几个项目通过NuGet安装EasyNetQ组件,并且通过以下代码注入统一的IBus实例对象:

    复制代码

    public IServiceProvider ConfigureServices(IServiceCollection services)
    {
      // IoC - EventBus
      services.AddSingleton(RabbitHutch.CreateBus(Configuration["MQ:Dev"]));
      ......
    }
    

    复制代码
      这里我将连接字符串写到了配置文件中,请参考上面的QuickStart中的内容。

      下面是这个demo用到的一个消息对象实体:通过标签声明队列名称。

    复制代码

    [Queue("Qka.Client", ExchangeName = "Qka.Client")]
    public class ClientMessage
    {
        public int ClientId { get; set; }
        public string ClientName { get; set; }
        public string Sex { get; set; }
        public int Age { get; set; }
        // N: Non-Smoker, S: Smoker
        public string SmokerCode { get; set; }
        // Bachelor, Master, Doctor
        public string Education { get; set; }
        public decimal YearIncome { get; set; }
    }
    

    复制代码
      此外,为了充分简化代码量,EasyNetQ提供了一个AutoSubscriber的方式,可以通过接口和标签快速地让一个类成为Consumer。详细内容参考:https://github.com/EasyNetQ/EasyNetQ/wiki/Auto-Subscriber

      这里为了快速的在项目中使用Subscriber,添加一个扩展方法,它会从注入的服务中取出IBus实例对象,并自动帮我们进行Subscriber(那些实现了IConsume接口的类)的注册。具体用法见后面的介绍。

    复制代码

    public static class AppBuilderExtension
    {
        public static IApplicationBuilder UseSubscribe(this IApplicationBuilder appBuilder, string subscriptionIdPrefix, Assembly assembly)
        {
            var services = appBuilder.ApplicationServices.CreateScope().ServiceProvider;
    
            var lifeTime = services.GetService<IApplicationLifetime>();
            var bus = services.GetService<IBus>();
            lifeTime.ApplicationStarted.Register(() =>
            {
                var subscriber = new AutoSubscriber(bus, subscriptionIdPrefix);
                subscriber.Subscribe(assembly);
                subscriber.SubscribeAsync(assembly);
            });
    
            lifeTime.ApplicationStopped.Register(() => bus.Dispose());
    
            return appBuilder;
        }
    }
    

    复制代码
    4.3 Publisher:ClientService
      ClientService作为发布者,这里假设我们在API中处理完业务代码后,将message发布给RabbitMQ:

    复制代码

    [Produces("application/json")]
    [Route("api/Client")]
    public class ClientController : Controller
    {
        private readonly IClientService clientService;
        private readonly IBus bus;
    
        public ClientController(IClientService _clientService, IBus _bus)
        {
            clientService = _clientService;
            bus = _bus;
        }
    
        ......
    
        [HttpPost]
        public async Task<string> Post([FromBody]ClientDTO clientDto)
        {
            // Business Logic here...
            // eg.Add new client to your service databases via EF
            // Sample Publish
            ClientMessage message = new ClientMessage
            {
                ClientId = clientDto.Id.Value,
                ClientName = clientDto.Name,
                Sex = clientDto.Sex,
                Age = 29,
                SmokerCode = "N",
                Education = "Master",
                YearIncome = 100000
            };
            await bus.PublishAsync(message);
    
            return "Add Client Success! You will receive some letter later.";
        }
    }
    

    复制代码
      当然,你可以使用同步方法:bus.Publish(message);

    4.4 Subscriber: NoticeService & ZAPEngineService
      (1)NoticeService:新增一个实现IConsume接口的Consumer类

    复制代码

    public class ClientMessageConsumer: IConsumeAsync<ClientMessage>
    {
        [AutoSubscriberConsumer(SubscriptionId = "ClientMessageService.Notice")]
        public Task ConsumeAsync(ClientMessage message)
        {
            // Your business logic code here
            // eg.Build one email to client via SMTP service
            // Sample console code
            System.Console.ForegroundColor = System.ConsoleColor.Red;
            System.Console.WriteLine("Consume one message from RabbitMQ : {0}, I will send one email to client.", message.ClientName);
            System.Console.ResetColor();
    
            return Task.CompletedTask;
        }
    }
    

    复制代码
      这里为了演示效果,增加了一些输出信息的代码,下面的ZAPEngineService也是一样,不再赘述。

      (2)ZAPEngineService:新增一个实现IConsume接口的Consumer类

    复制代码

    public class ClientMessageConsumer : IConsumeAsync<ClientMessage>
    {
        [AutoSubscriberConsumer(SubscriptionId = "ClientMessageService.ZapQuestion")]
        public Task ConsumeAsync(ClientMessage message)
        {
            // Your business logic code here
            // eg.Generate one ZAP question records into database and send to client
            // Sample console code
            System.Console.ForegroundColor = System.ConsoleColor.Red;
            System.Console.WriteLine("Consume one message from RabbitMQ : {0}, I will generate one ZAP question list to client", message.ClientName);
            System.Console.ResetColor();
    
            return Task.CompletedTask;
        }
    }
    

    复制代码
      注意两个Consumer的SubscriptionId不能一样,否则无法接受到消息。

      (3)为两个Consumer使用扩展方法:UseSubscribe

    复制代码

    public void Configure(IApplicationBuilder app, IHostingEnvironment env, IApplicationLifetime lifetime)
    {
        ......
    
        // easyNetQ
        app.UseSubscribe("ClientMessageService", Assembly.GetExecutingAssembly());
    }
    

    复制代码
    4.5 简单测试
      (1)借助Postman向ClientService发起Post请求

      (2)查看NoticeService的日志信息

      (3)查看ZAPEngineService的日志信息

      (4)查看RabbitMQ的管理控制台:

    五、小结
      本篇超级简单地介绍了一下消息队列与RabbitMQ,通过使用EasyNetQ这个基于RabbitMQ.Client的客户端做了一个QuickStart演示了在.NET Core环境下如何进行消息的发布与订阅,并通过一个微服务的小案例演示了如何在ASP.NET Core环境下如何基于EasyNetQ完成消息的发布与订阅,看起来就像一个类似于简单的事件总线。当然,本篇的内容都十分基础,如果要应用好RabbitMQ,还得把那些基础概念(如:Channel,Exchange等)弄清楚,然后去理解一下事件总线的概念,实际中还得考虑数据一致性等等,路途漫漫,继续加油吧!

  • 相关阅读:
    巧用$.extend
    easyui 表格中combo选择值后显示为valueField而非textField的解决
    jeasyui 造成$.data(...) is undefined报错的原因及解决
    无线路由器+摩托罗拉手机WIFI=能连接,但不能上网
    javascript 复制粘贴功能 各种浏览器兼容
    WriteLiteral与Write的区别
    打印机队列取消不了的解决方法
    js判断字符串长度,中文占两个字符
    针对chrome的css hack
    JS生成26个英文字母
  • 原文地址:https://www.cnblogs.com/caozhengze/p/14368024.html
Copyright © 2011-2022 走看看