zoukankan      html  css  js  c++  java
  • RabbitMQ和Kafka

    消息队列(Message queue)是一种进程间通信或同一进程的不同线程间的通信方式,软件的贮列用来处理一系列的输入。

    消息队列是分布式系统中重要的组件,使用消息队列主要是为了通过异步处理提高系统性能和削峰、降低系统耦合性。

    通过异步处理提高系统性能(削峰、减少响应所需时间)

    点对点模式

    应用程序由:消息队列,发送方,接收方组成。

    每个消息都被发送到一个特定的队列,接收者从队列中获取消息。队列保留着消息,直到他们被消费或超时。

     

    发布订阅模式

    应用程序有由:角色主题(Topic)、发布者(Publisher)、订阅者(Subscriber)构成。

    发布者发布一个消息,该消息通过topic传递给所有的客户端。该模式下,发布者与订阅者都是匿名的,即发布者与订阅者都不知道对方是谁。并且可以动态的发布与订阅Topic。Topic主要用于保存和传递消息,且会一直保存消息直到消息被传递给客户端。

    RabbitMQ架构

    • broker:每个节点运行的服务程序,功能为维护该节点的队列的增删以及转发队列操作请求。
    • master queue:每个队列都分为一个主队列和若干个镜像队列。
    • mirror queue:镜像队列,作为master queue的备份。在master queue所在节点挂掉之后,系统把mirror queue提升为master queue,负责处理客户端队列操作请求。注意,mirror queue只做镜像,设计目的不是为了承担客户端读写压力。

     集群中有两个节点,每个节点上有一个broker,每个broker负责本机上队列的维护,并且borker之间可以互相通信。集群中有两个队列A和B,每个队列都分为master queue和mirror queue(备份)。

    队列消费

     有两个consumer消费队列A,这两个consumer连在了集群的不同机器上。RabbitMQ集群中的任何一个节点都拥有集群上所有队列的元信息,所以连接到集群中的任何一个节点都可以,主要区别在于有的consumer连在master queue所在节点,有的连在非master queue节点上。

    因为mirror queue要和master queue保持一致,故需要同步机制,正因为一致性的限制,导致所有的读写操作都必须都操作在master queue上,然后由master节点同步操作到mirror queue所在的节点。即使consumer连接到了非master queue节点,该consumer的操作也会被路由到master queue所在的节点上,这样才能进行消费。

    队列生产

     RabbitMQ的不足:由于master queue单节点,导致性能瓶颈,吞吐量受限。虽然为了提高性能,内部使用了Erlang这个语言实现,但是终究摆脱不了架构设计上的致命缺陷。

    Kafka

    Kafka我觉得就是看到了RabbitMQ这个缺陷才设计出的一个改进版,改进的点就是:把一个队列的单一master变成多个master,即一台机器扛不住qps,那么我就用多台机器扛qps,把一个队列的流量均匀分散在多台机器上,多个master之间的数据没有交集,即一条消息要么发送到这个master queue,要么发送到另外一个master queue。

     集群上只有一个queue(Kafka中叫Topic)。每个生产者随机把消息发送到主分片上,之后主分片再同步给副分片。

     队列读取的时候虚拟出一个Group的概念,一个Topic内部的消息,只会路由到同Group内的一个consumer上,同一个Group中的consumer消费的消息是不一样的;Group之间共享一个Topic,看起来就是一个队列的多个拷贝。

  • 相关阅读:
    前端模糊查询
    CSS水平居中/垂直居中的方法
    echart图是用细节
    bootstrap-datetimepicker日期时间选择器学习
    zTree -- jQuery 树插件
    URL传参中文出现乱码
    在游览器标签页失去焦点时网页title改变的实现方法
    JS实现将数字金额转换为大写人民币汉字的方法
    div+css网站布局基础知识
    [转载]Jenkins中执行batch和Python
  • 原文地址:https://www.cnblogs.com/KL2016/p/15161903.html
Copyright © 2011-2022 走看看