官网
RabbitMQ
RabbitMQ Tutorials & 1 Hello World! | 2 Work queues | 3 Publish/Subscribe | 4 Routing | 5 Topics | 6 RPC & RabbitMQ 教程
Installation Guide
1. RabbitMQ安装
1.1 Window版安装
a.需要首先安装安装Erlang
以及对应版本的rabbitmq-server
,可在此处Installing on Windows下载;
本次安装版本为rabbitmq-server-3.7.14.exe
及OTP 21.3 Windows 64-bit
;下载完成后一直next即可;可将erl
和rabbitMQ
加入环境变量;
b.安装完成后启用rabbitmq_management
C:Program FilesRabbitMQ Server
abbitmq_server-3.7.14sbin>enable rabbitmq_management
'enable' 不是内部或外部命令,也不是可运行的程序
或批处理文件。
C:Program FilesRabbitMQ Server
abbitmq_server-3.7.14sbin>rabbitmq-plugins.bat enable rabbitmq_management
Enabling plugins on node rabbit@DESKTOP-2NHH5NJ:
rabbitmq_management
The following plugins have been configured:
rabbitmq_management
rabbitmq_management_agent
rabbitmq_web_dispatch
Applying plugin configuration to rabbit@DESKTOP-2NHH5NJ...
The following plugins have been enabled:
rabbitmq_management
rabbitmq_management_agent
rabbitmq_web_dispatch
set 3 plugins.
Offline change; changes will take effect at broker restart.
C:Program FilesRabbitMQ Server
abbitmq_server-3.7.14sbin>
c.之后启动RabbitMQ,net start RabbitMQ
C:Program FilesRabbitMQ Server
abbitmq_server-3.7.14sbin>rabbitmq-server.bat net start RabbitMQ
"WARNING: Using RABBITMQ_ADVANCED_CONFIG_FILE: C:UsersEDDY~1.SHEAppDataRoamingRabbitMQadvanced.config"
## ##
## ## RabbitMQ 3.7.14. Copyright (C) 2007-2019 Pivotal Software, Inc.
########## Licensed under the MPL. See https://www.rabbitmq.com/
###### ##
########## Logs: C:/Users/EDDY~1.SHE/AppData/Roaming/RabbitMQ/log/RABBIT~1.LOG
C:/Users/EDDY~1.SHE/AppData/Roaming/RabbitMQ/log/rabbit@DESKTOP-2NHH5NJ_upgrade.log
Starting broker...
completed with 3 plugins.
启动成功后可打开http://localhost:15672/#/测试地址查看,用户名密码默认均为guest
1.2 Linux版安装
2. 典型应用场景
异步,解耦,削峰
跨系统的异步通信;
系统内的同步变为异步;
基于pub/sub模型的广播订阅;
分布式事物的最终一致性解决方案;
3. 基本介绍
3.1 AMQP协议
AMQP协议,跨语言,跨系统,跨平台的协议,Advanced Message Queuing Protocol 一种高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的消息中间件可跨产品,跨语言的消息通信。Erlang中的实现有 RabbitMQ等。
3.2 RabbitMQ的特性
RabbmitMQ使用Erlang语言编写,使用Mnesia数据库存储消息。
1)可靠性(Reliability) RabbitMQ使用一些机制来保证消息传输的可靠性,如持久化,传输确认,发布确认。
2)灵活的路由(Flexible Routing) 在消息进入队列之前,通过Exchange来路由消息。对应典型的路由功能,RabbmitMQ已经内置了一些Exchange来支持。针对更复杂的路由功能,可以将多个Exchange绑定在一起,也可以通过插件机制实现自己的Exchange。
3) 消息集群(Clustering) 多个RabbitMQ服务可以组成一个集群,形成一个逻辑Broker。
4) 高可用队列(Highly Available Queues) 队列可以在集群机器上进行镜像,使得在部分节点出现问题的情况下队列让然可用。
5) 多种协议(Multi Protocol) RabbitMQ支持多种消息队列协议,如 AMQP, STOMP, MQTT等。
6) 多语言客户端(Clients) RabbitMQ几乎支持所有常用语言,如 Python, Java, Ruby, PHP, C#, JavaScript, Go, Elixir, Objective-C等。
7) 管理界面(Management UI) RabbitMQ提供了一个易用的用户界面,使得用户可以监控和管理消息,集群中的节点。
8) 插件机制(Plugin) RabbitMQ提供了许多插件,以实现多方面的扩展,当然也可以编写自己的插件。
3.3 工作模型
工作流程:
1. 首先生产者将消息发布至交换机Exchange
,绑定路由关键字Routing Key
(生产者不会讲消息直接放入队列,就算是不声明交换机,也是先发布至默认的交换机)
2. 消费者创建通道channel
,队列queue
,并指定队列queue
绑定的交换机Exchange
,使用绑定关键字Binding Key
来绑定(一个交换机可绑定多个队列queue,一个交换机绑定一个队列时,也可以使用多个绑定关键字)
3. 当交换机收到消息,根据生产者发送消息时的路由关键字routing key
和消费者定义的绑定关键字Binding Key
做匹配,匹配合适的话就将消息存入匹配到的队列中去
4. 消费者从队列中取走消息
关键字:
Broker
RabbitMQ的实体服务器,提供一种传输及服务,维护一条从生产者到消费者的传输路线,保证消息按指定的方式传输。
Exchange
消息交换机,指定消息按照哪种规则路由到哪个队列Queue。
Queue
消息队列。消息的载体,每个消息都会被投送到一个或多个队列中。
Binding
绑定。将Exchange和Queue按照某种路由规则绑定。
Routing Key
路由关键字。和 Binding Key对应,按照关键字匹配通过Exchange找到对应的Queue。
VHost
虚拟主机。相当于一个小的Broker,小的rabbitMQ服务器,一个Broker可以有一到多个虚拟主机,用于不同用户的权限分离。一个虚拟主机拥有一组 Exchange, Queue和 Binding。
Producer
消息生产者。将消息投递到Exchange上,一般是独立的应用程序。
Consumer
消息消费者。消息的接受者,一般是独立的应用程序。
Connection
Producer,Broker和Consumer之间的TCP长连接。
Channel
消息通道,也成信道。在客户端的每个连接里可以建立多个Channel,每个Channel代表一个会话认为。在RabbitMQ Java Client中,channel上定义了大量的编程接口。
3.4 三种主要的交换机
Direct Exchange 直连交换机
使用直连类型的交换机时,发送消息时的路由关键字Routing Key
和接收消息时的绑定关键字Binding Key
必须完全匹配时,生产者发送的消息才能被对应的消费者所接收到;
如上图,当生产者发送消息指定路由关键字是error的时候,交换机发现第一个和第二个队列都是以error绑定的,所以队列1,2都会受到消息;当生产者发送消息指定路由关键字是info或者warning时,只有第二个队列能匹配,消费者C2才能受到消息。
Topic Exchange 主题交换机
路由关键字Routing Key
和绑定关键字Binding Key
不需要完全匹配,类似于正则表达式符合一定规则匹配到即可接收消息。通配符有两个:
* 代表匹配一个单词;
# 代表匹配零到多个单词;
多个单词之间用.分隔。
如上图,当使用路由关键字fast.orange.tiger发送消息时,表达式匹配队列Q1,消费者C1会受到消息;
当使用路由关键字fast.orange.rabbit发送消息时,表达式匹配队列Q1,Q2,消费者C1,C2都会受到消息;
当使用路由关键字lazy.blue.rabbit发送消息时,队列Q2绑定交换机时使用的两个关键字都可以匹配到,但只会受到1条消息,不会多次发送;
Fanout Exchange 广播交换机
使用广播类型的交换机时,不需要指定Routing Key
和Binding Key
,生产者将消息发送至该交换机后,所有与之绑定的队列都能收到消息。
如上图,当生产者发送一条消息时,不需要指定路由关键字,消息都会通过Fanout Exchange发送至队列1和队列2,消费者C1,C2都会受到消息。
4. Java API编程
// 声明交换机
com.rabbitmq.client.Channel#exchangeDeclare(String exchange, BuiltinExchangeType type, boolean durable)
// 声明队列
com.rabbitmq.client.Channel#queueDeclare(String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments)
// 发布消息
com.rabbitmq.client.Channel#basicPublish(String exchange, String routingKey, BasicProperties props, byte[] body)
参数说明
声明交换机
exchange
: 交换机名称
type
: 交换机类型,DIRECT("direct"), FANOUT("fanout"), TOPIC("topic"), HEADERS("headers"); 4种,也可以直接使用字符串表示
durable
: 是否持久化,代表交换机在服务器重启后是否存在
声明队列
String queue
: 队列名称
boolean durable
: 是否持久化,代表队列在服务器重启后是否存在
boolean exclusive
: 是否排他队列,如果要声明一个只有自己可见,其余用户都不可见的队列,可以使用排他队列;该队列有两个特性:1)
只有首次声明它的连接(connection)可见(对connection中的多个channel也可见),2)
会在连接断开时自动删除
boolean autoDelete
:是否自动删除,如果为true,在没有消费者连接到这个队列时,会自动删除
Map<String, Object> arguments
:队列的其他属性,例如x-message-ttl、x-expires、x-max-length、x-max-length-bytes、x-dead-letter-exchange、x-dead-letter-routing-key、x-max-priority;
发布消息
BasicProperties props,
:14个属性
public static class BasicProperties extends com.rabbitmq.client.impl.AMQBasicProperties {
private String contentType;
private String contentEncoding;
private Map<String,Object> headers; // 消息的其他自定义参数
private Integer deliveryMode; // 2持久化,其他 瞬态
private Integer priority; // 消息的优先级
private String correlationId;
private String replyTo; // 回调队列
private String expiration; // TTL 消息过期时间,单位毫秒
private String messageId;
private Date timestamp;
private String type;
private String userId;
private String appId;
private String clusterId;
...
5. 进阶知识
5.1 自动删除没人消费的消息
TTL (Time To Live) 可以通过设置队列的过期时间或者每条消息的过期时间来实现:
// 队列设置过期时间
Map<String, Object> queueArgs = new HashMap<>();
queueArgs.put("x-message-ttl", 60000); //queue msg ttl 6s
channel.queueDeclare("MY_TTL_QUEUE", true, false, false, queueArgs);
...
// 消息设置过期时间
AMQP.BasicProperties msgArgs = new AMQP.BasicProperties().builder()
.expiration("5000") // TTL 5s
.deliveryMode(2) // 消息持久化
.contentEncoding("UTF-8")
.build();
channel.basicPublish("", "MY_TTL_QUEUE", msgArgs, "Hello World".getBytes());
5.2 无法路由的消息,去了哪里
创建队列的时候可以指定队列中的消息无法路由或者过期后的去处,转发到指定的交换机,也就是死信交换机,和死信交换机绑定的队列为死信队列。
三种情况消息会进入死信交换机DLX(Dead Letter Exchange):
消息过期;
消费端设置autoAck为false,不使用自动应答而是使用手工应答,并且手工应答的处理是reject或者Nack,且requeue属性为false,被拒绝的消息不会重新入队的时候
-- 消费端 autoAck为false
com.rabbitmq.client.Channel#basicConsume(String queue, boolean autoAck, DeliverCallback deliverCallback, CancelCallback cancelCallback);
...
-- requeue 重新入队为false
com.rabbitmq.client.Channel#basicReject(long deliveryTag, boolean requeue);
com.rabbitmq.client.Channel#basicNack(long deliveryTag, boolean multiple, boolean requeue) throws IOException;
队列达到最大长度,先入队的消息会被放至DLX
可以为普通的队列设置死信交换机,当队列中的消息变为死信后会进入指定的死信交换机,然后定义我们的死信队列来接收死信交换机里的内容:
String myDeadLetterExchange = "MY_DLX_EXCHANGE";
String myDeadLetterQueue = "MY_DLX_QUEUE";
Map<String, Object> commonQueueArgs = new HashMap<>();
commonQueueArgs.put("x-message-ttl", 60000);
commonQueueArgs.put("x-max-length", 4); // 队列最大长度
commonQueueArgs.put("x-expires", "9000"); // TTL过期时间
commonQueueArgs.put("x-dead-letter-exchange", myDeadLetterExchange);
// 声明普通队列
channel.queueDeclare("MY_TTL_QUEUE", true, false, false, commonQueueArgs);
// 声明死信交换机
channel.exchangeDeclare(myDeadLetterExchange, "topic");
// 声明死信队列
channel.queueDeclare(myDeadLetterQueue, false, false, false, null);
// 绑定
channel.queueBind(myDeadLetterQueue, myDeadLetterExchange, "#");
5.3 可以让消息优先得到消费吗
当队列中消息堆积时,可以设置队列和消息的优先级,级别高的消息会优先消费。
设置队列支持的最大优先级属性x-max-priority
及消息优先级属性com.rabbitmq.client.AMQP.BasicProperties#priority,当队列中消息堆积时,队列会根据属性优先级大小进行优先消费,如果消息不会堆积,设置优先级并没什么用。
// 生产者 发送消息时设置消息优先级
Map<String, Object> headers = new HashMap<String, Object>();
headers.put("name", "test");
headers.put("level", "top");
AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
.deliveryMode(2) // 2代表持久化
.contentEncoding("UTF-8") // 编码
.expiration("10000") // TTL,过期时间
.headers(headers) // 自定义属性
.priority(5) // 消息的优先级,默认为5,配合队列的 x-max-priority 属性使用
.messageId(String.valueOf(UUID.randomUUID()))
.build();
// 消费者创建队列时设置队列支持的最大优先级
Map<String, Object> map = new HashMap<>();
map.put("x-max-priority", 10); //指定队列的最大优先级
// 声明队列(默认交换机AMQP default,Direct)
// String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
5.4 延迟队列
当在使用智能产品时,比如要设置1个小时以后发送一条短信,可以使用延迟队列;消息会立刻进入队列,但1个小时后才会被消费掉;
Rabbit MQ本身并不支持延迟队列,可以使用之前提到的消息过期时间TTL加死信队列DLX来实现。
或者使用插件 rabbitmq-delayed-message-exchange
5.5 RPC
5.6 服务端流控
Flow Control, Rabbit MQ中数据是存储在磁盘或者内存中的,可以设置内存使用率,来达到限流效果。
RabbitMQ 会在启动时检测机器的物理内存数值。默认当 MQ 占用 40% 以上内存时,MQ 会主动抛出一个内存警告并阻塞所有连接(Connections)。可以通过修改 rabbitmq.config 文件来调整内存阈值,默认值是 0.4,如下所示: [{rabbit, [{vm_memory_high_watermark, 0.4}]}].,默认情况,如果剩余磁盘空间在 1GB 以下,RabbitMQ 主动阻塞所有的生产者。这个阈值也是可调的。
注意队列长度只在消息堆积的情况下有意义,而且会删除先入队的消息,不能实现服务端限流。
5.6 消费端限流
当多个消费者C1,C2,C3绑定同一个队列,队列中的消息由可以快速处理和处理很慢的类型构成,比如现在队列中有100条消息,默认会均匀分给C1,C2,C3三个消费者33-34条,假设C1,C2接收到的都是可以很快处理掉的消息,快速的把数据处理完了,而此时C3在处理业务比较复杂的数据类型,处理的很慢,可能处理起来会话很长时间;但此时C1,C2其实已经空闲下来了,造成了资源的不合理利用。
消费端限流可以达到每个消费者只可以同时处理1或N条消息的目的,当前消息没有处理完,RabbitMQ不会在给当前消费者推送消息,这和 java JUC包下的 java.util.concurrent.Semaphore
很类似,具体代码实现如下:
// 消费端 autoAck=false 非自动确认消息的前提下,如果一定数目的消息(通过基于consume或者channel设置Qos的值)未被确认前,不进行消费新的消息。
channel.basicQos(1);
channel.basicConsume(QUEUE_NAME, false, consumer);
6. UI管理界面
UI页面可以用来监控消息,管理交换机队列等。不论是是由代码创建的交换机队列,还是UI界面或者http api方式创建,如果名称和参数都一样,都是可以创建的。
当RabbitMQ需要升级时,原有RabbitMQ内的交换机,队列等重新建立会很麻烦,UI界面提供了export功能,可以将老的导出然后导入新的RabbitMQ内。