zoukankan      html  css  js  c++  java
  • Redis和mysql数据怎么保持数据一致的?

    2、第二种方案:异步更新缓存(基于订阅binlog的同步机制)

    1.技术整体思路:

    MySQL binlog增量订阅消费+消息队列+增量数据更新到redis

    1)读Redis:热数据基本都在Redis

    2)写MySQL:增删改都是操作MySQL

    3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis

    2.Redis更新

    1)数据操作主要分为两大块:

    • 一个是全量(将全部数据一次写入到redis)
    • 一个是增量(实时更新)

    这里说的是增量,指的是mysql的update、insert、delate变更数据。

    2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。

    这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。

    其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。

    这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。

    当然,这里的消息推送工具你也可以采用别的第三方:kafkarabbitMQ等来实现推送更新Redis

    在讨论这三种情况之前,先说明一下我使用缓存的策略,也是大多数人使用的策略,叫做 Cache Aside Pattern。简而言之,就是

    1. 首先尝试从缓存读取,读到数据则直接返回;如果读不到,就读数据库,并将数据会写到缓存,并返回。

    2. 需要更新数据时,先更新数据库,然后把缓存里对应的数据失效掉(删掉)。

    读的逻辑大家都很容易理解,谈谈更新。如果不采取我提到的这种更新方法,你还能想到什么更新方法呢?大概会是:先删除缓存,然后再更新数据库。这么做引发的问题是,如果A,B两个线程同时要更新数据,并且A,B已经都做完了删除缓存这一步,接下来,A先更新了数据库,C线程读取数据,由于缓存没有,则查数据库,并把A更新的数据,写入了缓存,最后B更新数据库。那么缓存和数据库的值就不一致了。另外有人会问,如果采用你提到的方法,为什么最后是把缓存的数据删掉,而不是把更新的数据写到缓存里。这么做引发的问题是,如果A,B两个线程同时做数据更新,A先更新了数据库,B后更新数据库,则此时数据库里存的是B的数据。而更新缓存的时候,是B先更新了缓存,而A后更新了缓存,则缓存里是A的数据。这样缓存和数据库的数据也不一致。按照我提到的这种更新缓存的策略,理论上也是有不一致的风险的,之前在其他的博客文章有看到过,只不过概率很小,我们暂时可以不考虑,后面我们有其他手段来补救。讨论完使用缓存的策略,我们再来看这三种不一致的情况。

    1. 对于第一种,在读数据的时候,会自动把数据库的数据写到缓存,因此不一致自动消除.

    2. 对于第二种,数据最终变成了不相等,但他们之前在某一个时间点一定是相等的(不管你使用懒加载还是预加载的方式,在缓存加载的那一刻,它一定和数据库一致)。这种不一致,一定是由于你更新数据所引发的。前面我们讲了更新数据的策略,先更新数据库,然后删除缓存。因此,不一致的原因,一定是数据库更新了,但是删除缓存失败了。

    3. 对于第三种,情况和第二种类似,你把数据库的数据删了,但是删除缓存的时候失败了。

    因此,最终的结论是,需要解决的不一致,产生的原因是更新数据库成功,但是删除缓存失败。

    解决方案大概有以下几种:

    1. 对删除缓存进行重试,数据的一致性要求越高,我越是重试得快。

    2. 定期全量更新,简单地说,就是我定期把缓存全部清掉,然后再全量加载。

    3. 给所有的缓存一个失效期。

    第三种方案可以说是一个大杀器,任何不一致,都可以靠失效期解决,失效期越短,数据一致性越高。但是失效期越短,查数据库就会越频繁。因此失效期应该根据业务来定。

    并发不高的情况:

    读: 读redis->没有,读mysql->把mysql数据写回redis,有的话直接从redis中取;

    写: 写mysql->成功,再写redis;

    并发高的情况:

    读: 读redis->没有,读mysql->把mysql数据写回redis,有的话直接从redis中取;

    写:异步话,先写入redis的缓存,就直接返回;定期或特定动作将数据保存到mysql,可以做到多次更新,一次保存;

  • 相关阅读:
    21.错误和异常
    20.装饰器相关
    19.装饰器
    18.函数编程的练习
    Remove Duplicates from Sorted List II
    Ubuntu 12.04输入密码登陆后又跳回到登录界面
    Remove Linked List Elements
    Populating Next Right Pointers in Each Node *
    Convert Sorted Array to Binary Search Tree
    Flatten Binary Tree to Linked List *
  • 原文地址:https://www.cnblogs.com/cjjjj/p/12804406.html
Copyright © 2011-2022 走看看