zoukankan      html  css  js  c++  java
  • 分布式消息通信之RabbitMQ_01

    官网

    RabbitMQ
    RabbitMQ Tutorials & 1 Hello World! | 2 Work queues | 3 Publish/Subscribe | 4 Routing | 5 Topics | 6 RPC & RabbitMQ 教程
    Installation Guide

    1. RabbitMQ安装

    1.1 Window版安装

     a.需要首先安装安装Erlang以及对应版本的rabbitmq-server,可在此处Installing on Windows下载;
     本次安装版本为rabbitmq-server-3.7.14.exeOTP 21.3 Windows 64-bit;下载完成后一直next即可;可将erlrabbitMQ加入环境变量;
     b.安装完成后启用rabbitmq_management

    C:Program FilesRabbitMQ Server
    abbitmq_server-3.7.14sbin>enable rabbitmq_management
    'enable' 不是内部或外部命令,也不是可运行的程序
    或批处理文件。
    
    C:Program FilesRabbitMQ Server
    abbitmq_server-3.7.14sbin>rabbitmq-plugins.bat enable rabbitmq_management
    Enabling plugins on node rabbit@DESKTOP-2NHH5NJ:
    rabbitmq_management
    The following plugins have been configured:
      rabbitmq_management
      rabbitmq_management_agent
      rabbitmq_web_dispatch
    Applying plugin configuration to rabbit@DESKTOP-2NHH5NJ...
    The following plugins have been enabled:
      rabbitmq_management
      rabbitmq_management_agent
      rabbitmq_web_dispatch
    
    set 3 plugins.
    Offline change; changes will take effect at broker restart.
    
    C:Program FilesRabbitMQ Server
    abbitmq_server-3.7.14sbin>
    

     c.之后启动RabbitMQ,net start RabbitMQ

    C:Program FilesRabbitMQ Server
    abbitmq_server-3.7.14sbin>rabbitmq-server.bat net start RabbitMQ
    "WARNING: Using RABBITMQ_ADVANCED_CONFIG_FILE: C:UsersEDDY~1.SHEAppDataRoamingRabbitMQadvanced.config"
    
      ##  ##
      ##  ##      RabbitMQ 3.7.14. Copyright (C) 2007-2019 Pivotal Software, Inc.
      ##########  Licensed under the MPL.  See https://www.rabbitmq.com/
      ######  ##
      ##########  Logs: C:/Users/EDDY~1.SHE/AppData/Roaming/RabbitMQ/log/RABBIT~1.LOG
                        C:/Users/EDDY~1.SHE/AppData/Roaming/RabbitMQ/log/rabbit@DESKTOP-2NHH5NJ_upgrade.log
    
                  Starting broker...
     completed with 3 plugins.
    
    

     启动成功后可打开http://localhost:15672/#/测试地址查看,用户名密码默认均为guest

    1.2 Linux版安装

    2. 典型应用场景

     异步,解耦,削峰
      跨系统的异步通信;
     系统内的同步变为异步;
     基于pub/sub模型的广播订阅;
     分布式事物的最终一致性解决方案;

    3. 基本介绍

    3.1 AMQP协议

     AMQP协议,跨语言,跨系统,跨平台的协议,Advanced Message Queuing Protocol 一种高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的消息中间件可跨产品,跨语言的消息通信。Erlang中的实现有 RabbitMQ等。

    3.2 RabbitMQ的特性

     RabbmitMQ使用Erlang语言编写,使用Mnesia数据库存储消息。
     1)可靠性(Reliability) RabbitMQ使用一些机制来保证消息传输的可靠性,如持久化,传输确认,发布确认。
     2)灵活的路由(Flexible Routing) 在消息进入队列之前,通过Exchange来路由消息。对应典型的路由功能,RabbmitMQ已经内置了一些Exchange来支持。针对更复杂的路由功能,可以将多个Exchange绑定在一起,也可以通过插件机制实现自己的Exchange。
     3) 消息集群(Clustering) 多个RabbitMQ服务可以组成一个集群,形成一个逻辑Broker。
     4) 高可用队列(Highly Available Queues) 队列可以在集群机器上进行镜像,使得在部分节点出现问题的情况下队列让然可用。
     5) 多种协议(Multi Protocol) RabbitMQ支持多种消息队列协议,如 AMQP, STOMP, MQTT等。
     6) 多语言客户端(Clients) RabbitMQ几乎支持所有常用语言,如 Python, Java, Ruby, PHP, C#, JavaScript, Go, Elixir, Objective-C等。
     7) 管理界面(Management UI) RabbitMQ提供了一个易用的用户界面,使得用户可以监控和管理消息,集群中的节点。
     8) 插件机制(Plugin) RabbitMQ提供了许多插件,以实现多方面的扩展,当然也可以编写自己的插件。

    3.3 工作模型

    RMQ工作模型
    工作流程:
     1. 首先生产者将消息发布至交换机Exchange,绑定路由关键字Routing Key(生产者不会讲消息直接放入队列,就算是不声明交换机,也是先发布至默认的交换机)
     2. 消费者创建通道channel,队列queue,并指定队列queue绑定的交换机Exchange,使用绑定关键字Binding Key来绑定(一个交换机可绑定多个队列queue,一个交换机绑定一个队列时,也可以使用多个绑定关键字)
     3. 当交换机收到消息,根据生产者发送消息时的路由关键字routing key和消费者定义的绑定关键字Binding Key做匹配,匹配合适的话就将消息存入匹配到的队列中去
     4. 消费者从队列中取走消息

     关键字:
    Broker RabbitMQ的实体服务器,提供一种传输及服务,维护一条从生产者到消费者的传输路线,保证消息按指定的方式传输。
    Exchange 消息交换机,指定消息按照哪种规则路由到哪个队列Queue。
    Queue 消息队列。消息的载体,每个消息都会被投送到一个或多个队列中。
    Binding 绑定。将Exchange和Queue按照某种路由规则绑定。
    Routing Key 路由关键字。和 Binding Key对应,按照关键字匹配通过Exchange找到对应的Queue。
    VHost 虚拟主机。相当于一个小的Broker,小的rabbitMQ服务器,一个Broker可以有一到多个虚拟主机,用于不同用户的权限分离。一个虚拟主机拥有一组 Exchange, Queue和 Binding。
    Producer 消息生产者。将消息投递到Exchange上,一般是独立的应用程序。
    Consumer 消息消费者。消息的接受者,一般是独立的应用程序。
    Connection Producer,Broker和Consumer之间的TCP长连接。
    Channel 消息通道,也成信道。在客户端的每个连接里可以建立多个Channel,每个Channel代表一个会话认为。在RabbitMQ Java Client中,channel上定义了大量的编程接口。

    3.4 三种主要的交换机

    Direct Exchange 直连交换机
    Direct Exchange
     使用直连类型的交换机时,发送消息时的路由关键字Routing Key和接收消息时的绑定关键字Binding Key必须完全匹配时,生产者发送的消息才能被对应的消费者所接收到;
     如上图,当生产者发送消息指定路由关键字是error的时候,交换机发现第一个和第二个队列都是以error绑定的,所以队列1,2都会受到消息;当生产者发送消息指定路由关键字是info或者warning时,只有第二个队列能匹配,消费者C2才能受到消息。

    Topic Exchange 主题交换机
    Topic Exchange
     路由关键字Routing Key和绑定关键字Binding Key不需要完全匹配,类似于正则表达式符合一定规则匹配到即可接收消息。通配符有两个:

      * 代表匹配一个单词;
      # 代表匹配零到多个单词;
      多个单词之间用.分隔。
    

     如上图,当使用路由关键字fast.orange.tiger发送消息时,表达式匹配队列Q1,消费者C1会受到消息;
     当使用路由关键字fast.orange.rabbit发送消息时,表达式匹配队列Q1,Q2,消费者C1,C2都会受到消息;
     当使用路由关键字lazy.blue.rabbit发送消息时,队列Q2绑定交换机时使用的两个关键字都可以匹配到,但只会受到1条消息,不会多次发送;

    Fanout Exchange 广播交换机
    Fanout Exchange
     使用广播类型的交换机时,不需要指定Routing KeyBinding Key,生产者将消息发送至该交换机后,所有与之绑定的队列都能收到消息。
     如上图,当生产者发送一条消息时,不需要指定路由关键字,消息都会通过Fanout Exchange发送至队列1和队列2,消费者C1,C2都会受到消息。

    4. Java API编程

    Java API基础操作手册

                // 声明交换机
                com.rabbitmq.client.Channel#exchangeDeclare(String exchange, BuiltinExchangeType type, boolean durable)
                 
                // 声明队列
                com.rabbitmq.client.Channel#queueDeclare(String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments)
            
               // 发布消息
               com.rabbitmq.client.Channel#basicPublish(String exchange, String routingKey, BasicProperties props, byte[] body)
    

     参数说明

    声明交换机

    exchange : 交换机名称
    type : 交换机类型,DIRECT("direct"), FANOUT("fanout"), TOPIC("topic"), HEADERS("headers"); 4种,也可以直接使用字符串表示
    durable : 是否持久化,代表交换机在服务器重启后是否存在

    声明队列

    String queue : 队列名称
    boolean durable : 是否持久化,代表队列在服务器重启后是否存在
    boolean exclusive : 是否排他队列,如果要声明一个只有自己可见,其余用户都不可见的队列,可以使用排他队列;该队列有两个特性:1)只有首次声明它的连接(connection)可见(对connection中的多个channel也可见),2)会在连接断开时自动删除
    boolean autoDelete :是否自动删除,如果为true,在没有消费者连接到这个队列时,会自动删除
    Map<String, Object> arguments :队列的其他属性,例如x-message-ttl、x-expires、x-max-length、x-max-length-bytes、x-dead-letter-exchange、x-dead-letter-routing-key、x-max-priority;
    RMQ_QUEUE_params

    发布消息

    BasicProperties props, :14个属性

      public static class BasicProperties extends com.rabbitmq.client.impl.AMQBasicProperties {
            private String contentType;
            private String contentEncoding;
            private Map<String,Object> headers;   // 消息的其他自定义参数
            private Integer deliveryMode;    // 2持久化,其他 瞬态 
            private Integer priority;           // 消息的优先级 
            private String correlationId;
            private String replyTo;            // 回调队列 
            private String expiration;        // TTL 消息过期时间,单位毫秒 
            private String messageId;
            private Date timestamp;
            private String type;
            private String userId;
            private String appId;
            private String clusterId;
          ...
    

    5. 进阶知识

    5.1 自动删除没人消费的消息

     TTL (Time To Live) 可以通过设置队列的过期时间或者每条消息的过期时间来实现:

                // 队列设置过期时间
                Map<String, Object> queueArgs = new HashMap<>();
                queueArgs.put("x-message-ttl", 60000);  //queue msg ttl 6s
                channel.queueDeclare("MY_TTL_QUEUE", true, false, false, queueArgs);
               
                ...
                // 消息设置过期时间
                AMQP.BasicProperties msgArgs = new AMQP.BasicProperties().builder()
                        .expiration("5000")  // TTL  5s
                        .deliveryMode(2)   // 消息持久化
                        .contentEncoding("UTF-8")
                        .build();
                channel.basicPublish("", "MY_TTL_QUEUE", msgArgs, "Hello World".getBytes());
                   
    

    5.2 无法路由的消息,去了哪里

    死信队列
     创建队列的时候可以指定队列中的消息无法路由或者过期后的去处,转发到指定的交换机,也就是死信交换机,和死信交换机绑定的队列为死信队列。
     三种情况消息会进入死信交换机DLX(Dead Letter Exchange):
    消息过期;
    消费端设置autoAck为false,不使用自动应答而是使用手工应答,并且手工应答的处理是reject或者Nack,且requeue属性为false,被拒绝的消息不会重新入队的时候

      -- 消费端 autoAck为false
      com.rabbitmq.client.Channel#basicConsume(String queue, boolean autoAck, DeliverCallback deliverCallback, CancelCallback cancelCallback);
       ...
      -- requeue 重新入队为false
      com.rabbitmq.client.Channel#basicReject(long deliveryTag, boolean requeue);
      com.rabbitmq.client.Channel#basicNack(long deliveryTag, boolean multiple, boolean requeue) throws IOException;
      
    

    队列达到最大长度,先入队的消息会被放至DLX
     可以为普通的队列设置死信交换机,当队列中的消息变为死信后会进入指定的死信交换机,然后定义我们的死信队列来接收死信交换机里的内容:

                String myDeadLetterExchange = "MY_DLX_EXCHANGE";
                String myDeadLetterQueue = "MY_DLX_QUEUE";
    
                Map<String, Object> commonQueueArgs = new HashMap<>();
                commonQueueArgs.put("x-message-ttl", 60000);
                commonQueueArgs.put("x-max-length", 4); // 队列最大长度
                commonQueueArgs.put("x-expires", "9000");  // TTL过期时间
                commonQueueArgs.put("x-dead-letter-exchange", myDeadLetterExchange);
                // 声明普通队列
                channel.queueDeclare("MY_TTL_QUEUE", true, false, false, commonQueueArgs);
    
                // 声明死信交换机
                channel.exchangeDeclare(myDeadLetterExchange, "topic");
                // 声明死信队列
                channel.queueDeclare(myDeadLetterQueue, false, false, false, null);
                // 绑定
                channel.queueBind(myDeadLetterQueue, myDeadLetterExchange, "#");
    

    5.3 可以让消息优先得到消费吗

     当队列中消息堆积时,可以设置队列和消息的优先级,级别高的消息会优先消费。
      设置队列支持的最大优先级属性x-max-priority及消息优先级属性com.rabbitmq.client.AMQP.BasicProperties#priority,当队列中消息堆积时,队列会根据属性优先级大小进行优先消费,如果消息不会堆积,设置优先级并没什么用。

       // 生产者 发送消息时设置消息优先级
            Map<String, Object> headers = new HashMap<String, Object>();
            headers.put("name", "test");
            headers.put("level", "top");
    
            AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
                    .deliveryMode(2)   // 2代表持久化
                    .contentEncoding("UTF-8")  // 编码
                    .expiration("10000")  // TTL,过期时间
                    .headers(headers) // 自定义属性
                    .priority(5) // 消息的优先级,默认为5,配合队列的 x-max-priority 属性使用
                    .messageId(String.valueOf(UUID.randomUUID()))
                    .build();
    
      // 消费者创建队列时设置队列支持的最大优先级
            Map<String, Object> map = new HashMap<>();
            map.put("x-max-priority", 10);  //指定队列的最大优先级
            // 声明队列(默认交换机AMQP default,Direct)
            // String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments
            channel.queueDeclare(QUEUE_NAME, false, false, false, null);
            
    

    5.4 延迟队列

     当在使用智能产品时,比如要设置1个小时以后发送一条短信,可以使用延迟队列;消息会立刻进入队列,但1个小时后才会被消费掉;
     Rabbit MQ本身并不支持延迟队列,可以使用之前提到的消息过期时间TTL加死信队列DLX来实现。
     或者使用插件 rabbitmq-delayed-message-exchange

    5.5 RPC

    RabbitMQ RPC

    5.6 服务端流控

     Flow Control, Rabbit MQ中数据是存储在磁盘或者内存中的,可以设置内存使用率,来达到限流效果。
     RabbitMQ 会在启动时检测机器的物理内存数值。默认当 MQ 占用 40% 以上内存时,MQ 会主动抛出一个内存警告并阻塞所有连接(Connections)。可以通过修改 rabbitmq.config 文件来调整内存阈值,默认值是 0.4,如下所示: [{rabbit, [{vm_memory_high_watermark, 0.4}]}].,默认情况,如果剩余磁盘空间在 1GB 以下,RabbitMQ 主动阻塞所有的生产者。这个阈值也是可调的。
     注意队列长度只在消息堆积的情况下有意义,而且会删除先入队的消息,不能实现服务端限流。

    5.6 消费端限流

     当多个消费者C1,C2,C3绑定同一个队列,队列中的消息由可以快速处理和处理很慢的类型构成,比如现在队列中有100条消息,默认会均匀分给C1,C2,C3三个消费者33-34条,假设C1,C2接收到的都是可以很快处理掉的消息,快速的把数据处理完了,而此时C3在处理业务比较复杂的数据类型,处理的很慢,可能处理起来会话很长时间;但此时C1,C2其实已经空闲下来了,造成了资源的不合理利用。
     消费端限流可以达到每个消费者只可以同时处理1或N条消息的目的,当前消息没有处理完,RabbitMQ不会在给当前消费者推送消息,这和 java JUC包下的 java.util.concurrent.Semaphore很类似,具体代码实现如下:

       // 消费端 autoAck=false 非自动确认消息的前提下,如果一定数目的消息(通过基于consume或者channel设置Qos的值)未被确认前,不进行消费新的消息。
            channel.basicQos(1);
            channel.basicConsume(QUEUE_NAME, false, consumer);
    

    6. UI管理界面

     UI页面可以用来监控消息,管理交换机队列等。不论是是由代码创建的交换机队列,还是UI界面或者http api方式创建,如果名称和参数都一样,都是可以创建的。
     当RabbitMQ需要升级时,原有RabbitMQ内的交换机,队列等重新建立会很麻烦,UI界面提供了export功能,可以将老的导出然后导入新的RabbitMQ内。
    RMQ export

    7. Spring配置方式集成RabbitMQ

    8. Spring Boot集成RabbitMQ

  • 相关阅读:
    view上面 长view时候要设置其frame的,
    controller.allowsEditing = NO;神医,
    怎样计算,遗留,
    编码,一点阅读(转:阮一峰的网络日志),
    原来 ascll是对英文系统的编码,
    CoreGraphics 画图,(转燕羽天空)
    Core Graphics,
    计算数据类型占有 字节的长度,
    浅谈Promise(一)
    原生js实现表格内容增删改
  • 原文地址:https://www.cnblogs.com/Qkxh320/p/distributed_rabbitmq_01.html
Copyright © 2011-2022 走看看