zoukankan      html  css  js  c++  java
  • 关于MQ的几件小事(五)如何保证消息按顺序执行

    1.为什么要保证顺序

    消息队列中的若干消息如果是对同一个数据进行操作,这些操作具有前后的关系,必须要按前后的顺序执行,否则就会造成数据异常。举例:
    比如通过mysql binlog进行两个数据库的数据同步,由于对数据库的数据操作是具有顺序性的,如果操作顺序搞反,就会造成不可估量的错误。比如数据库对一条数据依次进行了 插入->更新->删除操作,这个顺序必须是这样,如果在同步过程中,消息的顺序变成了 删除->插入->更新,那么原本应该被删除的数据,就没有被删除,造成数据的不一致问题。

    2.出现顺序错乱的场景

    (1)rabbitmq
    ①一个queue,有多个consumer去消费,这样就会造成顺序的错误,consumer从MQ里面读取数据是有序的,但是每个consumer的执行时间是不固定的,无法保证先读到消息的consumer一定先完成操作,这样就会出现消息并没有按照顺序执行,造成数据顺序错误。
    rabbitmq消息顺序错乱第一种情况示意图.png

    ②一个queue对应一个consumer,但是consumer里面进行了多线程消费,这样也会造成消息消费顺序错误。
    abbitmq消息顺序错乱第二种情况示意图.png

    (2)kafka
    ①kafka一个topic,一个partition,一个consumer,但是consumer内部进行多线程消费,这样数据也会出现顺序错乱问题。
    kafka消息顺序错乱第一种情况示意图.png

    ②具有顺序的数据写入到了不同的partition里面,不同的消费者去消费,但是每个consumer的执行时间是不固定的,无法保证先读到消息的consumer一定先完成操作,这样就会出现消息并没有按照顺序执行,造成数据顺序错误。
    kafka消息顺序错乱第二种情况示意图..png

    3.保证消息的消费顺序

    (1)rabbitmq
    ①拆分多个queue,每个queue一个consumer,就是多一些queue而已,确实是麻烦点;这样也会造成吞吐量下降,可以在消费者内部采用多线程的方式取消费。
    一个queue对应一个consumer

    ②或者就一个queue但是对应一个consumer,然后这个consumer内部用内存队列做排队,然后分发给底层不同的worker来处理
    一个queue对应一个consumer,采用多线程.png

    (2)kafka
    ①确保同一个消息发送到同一个partition,一个topic,一个partition,一个consumer,内部单线程消费。
    单线程保证顺序.png

    ②写N个内存queue,然后N个线程分别消费一个内存queue即可
    多线程保证顺序.png

    上一篇《如何防止数据队列数据丢失

    下一篇《消息积压在消息队列里怎么办

  • 相关阅读:
    MOSS 2013研究系列动态修改WebConfig(上) 欧阳锋
    MOSS 2013研究系列MOSS 2013安装篇 欧阳锋
    GPIO
    [转]vi/vim使用进阶: 在VIM中使用GDB调试 – 使用pyclewn
    建立openwrt虚拟环境
    ebtables基本使用
    LFS小记
    Autoconf & Automake使用小记
    Packet Filter小记
    Web技术整理
  • 原文地址:https://www.cnblogs.com/jack1995/p/10908814.html
Copyright © 2011-2022 走看看