zoukankan      html  css  js  c++  java
  • Spring Cloud Alibaba学习笔记(8)

    Topic

    一类消息的集合,RocketMQ的基本订阅单位

    部署结构

    Name Server

    Name Server 为 producer 和 consumer 提供路由信息。
    相对来说,nameserver的稳定性非常高。原因有二:

    • nameserver互相独立,彼此没有通信关系,单台nameserver挂掉,不影响其他nameserver,即使全部挂掉,也不影响业务系统使用。无状态
    • nameserver不会有频繁的读写,所以性能开销非常小,稳定性很高。

    Broker Server

    代理服务器,消息中转角色,负责存储消息、转发消息

    消息模型

    Producer

    消息生产者,生产者的作用就是将消息发送到 MQ,生产者本身既可以产生消息,如读取文本信息等。
    也可以对外提供接口,由外部应用来调用接口,再由生产者将收到的消息发送到 MQ。

    与NameServer关系

    • 连接
      • 单个生产者者和一台NameServer保持长连接,定时查询topic配置信息,如果该NameServer挂掉,生产者会自动连接下一个NameServer,直到有可用连接为止,并能自动重连。
    • 心跳
      • 无心跳连接
    • 轮询时间
      • 默认情况下,生产者每隔30秒从NameServer获取所有topic的最新队列情况,这意味着某个broker如果宕机,生产者最多要30秒才能感知,在此期间,发往该broker的消息发送失败。该时间由DefaultMQProducer的pollNameServerInteval参数决定,可手动配置。

    与Borker关系

    • 连接
      • 单个生产者和该生产者关联的所有broker保持长连接。
    • 心跳
      • 默认情况下,生产者每隔30秒向所有broker发送心跳,该时间由DefaultMQProducer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接。
    • 断开
      • 移除broker上的生产者信息

    Broker

    Broker 接收来自生产者的消息,储存以及为消费者拉取消息的请求做好准备。

    与NameServer关系

    • 连接
      • 单个broker和所有nameserver保持长连接
    • 心跳
      • 心跳间隔:每隔30秒(此时间无法更改)向所有nameserver发送心跳,心跳包含了自身的topic配置信息。
      • 心跳超时:nameserver每隔10秒钟(此时间无法更改),扫描所有还存活的broker连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则断开连接。
    • 断开
      • 时机:broker挂掉;心跳超时导致nameserver主动关闭连接
      • 动作:一旦连接断开,nameserver会立即感知,更新topic与队列的对应关系,但不会通知生产者和消费者

    负载均衡

    • 一个topic分布在多个broker上,一个broker可以配置多个topic,它们是多对多的关系。
    • 如果某个topic消息量很大,应该给它多配置几个队列?这什么意思,并且尽量多分布在不同broker上,减轻某个broker的压力。
    • topic消息量都比较均匀的情况下,如果某个broker上的队列越多,则该broker压力越大。

    Consumer

    消息消费者,简单来说,消费 MQ 上的消息的应用程序就是消费者,至于消息是否进行逻辑处理,还是直接存储到数据库等取决于业务需要。

    与NameServer关系

    • 连接
      • 单个消费者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,消费者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。
    • 心跳
      • 不心跳关联
    • 轮询时间
      • 默认情况下,消费者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,客户端最多要30秒才能感知。该时间由DefaultMQPushConsumer的pollNameServerInteval参数决定,可手动配置。

    与Borker关系

    • 连接
      • 单个消费者和该消费者关联的所有broker保持长连接。
    • 心跳
      • 默认情况下,消费者每隔30秒向所有broker发送心跳,该时间由DefaultMQPushConsumer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费。
    • 断开
      • 时机:消费者挂掉;心跳超时导致broker主动关闭连接
      • 动作:一旦连接断开,broker会立即感知到,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费

    负载均衡

    • 集群消费模式下,一个消费者集群多台机器共同消费一个topic的多个队列,一个队列只会被一个消费者消费。
    • 如果某个消费者挂掉,分组内其它消费者会接替挂掉的消费者继续消费。

    消费机制

    • 本地队列
      • 消费者不间断的从broker拉取消息,消息拉取到本地队列,然后本地消费线程消费本地消息队列,只是一个异步过程,拉取线程不会等待本地消费线程,这种模式实时性非常高。对消费者对本地队列有一个保护,因此本地消息队列不能无限大,否则可能会占用大量内存,本地队列大小由DefaultMQPushConsumer的pullThresholdForQueue属性控制,默认1000,可手动设置。
    • 轮询间隔
      • 消息拉取线程每隔多久拉取一次?间隔时间由DefaultMQPushConsumer的pullInterval属性控制,默认为0,可手动设置。
    • 消息消费数量
      • 监听器每次接受本地队列的消息是多少条?这个参数由DefaultMQPushConsumer的consumeMessageBatchMaxSize属性控制,默认为1,可手动设置。

    消费进度存储

    • 每隔一段时间将各个队列的消费进度存储到对应的broker上,该时间由DefaultMQPushConsumer的persistConsumerOffsetInterval属性控制,默认为5秒,可手动设置。

    连接数

    • 如果一个topic在某broker上有3个队列,一个消费者消费这3个队列,那么该消费者和这个broker有几个连接?
    • 一个连接,消费单位与队列相关,消费连接只跟broker相关,事实上,消费者将所有队列的消息拉取任务放到本地的队列,挨个拉取,拉取完毕后,又将拉取任务放到队尾,然后执行下一个拉取任务

    Group

    Producer Group

    生产者组,简单来说就是多个发送同一类消息的生产者称之为一个生产者组。

    Consumer Group

    消费者组,和生产者类似,消费同一类消息的多个 consumer 实例组成一个消费者组(集群)。

    Tag

    标签可以被认为是对Topic进一步细化。一般在相同业务模块中通过引入标签来标记不同用途的消息。
    RocketMQ支持给在发送的时候给topic打tag,同一个topic的消息虽然逻辑管理是一样的。但是消费topic1的时候,如果你订阅的时候指定的是tagA,那么tagB的消息将不会投递。

    Message

    Message 是消息的载体。一个 Message 必须指定 topic,相当于寄信的地址。
    Message 还有一个可选的 tag 设置,以便消费端可以基于 tag 进行过滤消息。
    也可以添加额外的键值对,例如你需要一个业务 key 来查找 broker 上的消息,方便在开发过程中诊断问题。

    Message Queue

    简称queue或Q,消息物理管理单位。一个Topic将有若干个Q。若Topic同时创建在不同的Broker,则不同的broker上都有若干Q,消息将物理地存储落在不同Broker结点上,具有水平扩展的能力。

    Offset

    RocketMQ中,有很多offset的概念。但通常我们只关心暴露到客户端的offset。一般我们不特指的话,就是指逻辑Message Queue下面的offset。

    Consumer Offset

    用于标记Consumer Group在一条逻辑Message Queue上,消息消费到哪里了。注:从源码上看,这个数值是最新消费的那条消息的offset+1,所以实际上这个值存储的是【下次拉取的话,从哪里开始拉取的offset】。

    参考

    https://www.jianshu.com/p/3938d990a8de
    https://www.cnblogs.com/qdhxhz/p/11094624.html

  • 相关阅读:
    移动端支付6位密码框
    移动端canvas刮刮乐
    原生ajax请求json数据
    canvas绘制video
    移动端阻止默认长按选中文本和弹出菜单、点击阴影
    前端移动端相关的代码(pc端与移动端自动切换)
    统一管理网站中的某些需要定期更新的时间届数 倒计时 ( 换届 之类的网站)( 兼容ie )
    Hbuilder 常用快捷键汇总
    文件找不到,路径错误问题
    图片清晰度问题
  • 原文地址:https://www.cnblogs.com/fx-blog/p/11737832.html
Copyright © 2011-2022 走看看