zoukankan      html  css  js  c++  java
  • Redis

    1.Redis是什么

    Redis是C语言开发的一个开源的(遵从BSD协议)高性能键值对(key-value)的内存数据库,可以用作数据库、缓存、消息中间件等。它是一种NoSQL(not-only sql,泛指非关系型数据库)的数据库。Redis作为一个内存数据库。

    1、性能优秀,数据在内存中,读写速度非常快,支持并发10W QPS;

    2、单进程单线程,是线程安全的,采用IO多路复用机制;

    3、丰富的数据类型,支持字符串(strings)、散列(hashes)、列表(lists)、集合(sets)、有序集合(sorted sets)等;

    4、支持数据持久化。可以将内存中数据保存在磁盘中,重启时加载;

    5、主从复制,哨兵,高可用;

    6、可以用作分布式锁;

    7、可以作为消息中间件使用,支持发布订阅

    2.五种数据类型

    首先redis内部使用一个redisObject对象来表示所有的key和value,redisObject最主要的信息如上图所示:type表示一个value对象具体是何种数据类型,encoding是不同数据类型在redis内部的存储方式。

    比如:type=string表示value存储的是一个普通字符串,那么encoding可以是raw或者int。

    1、string是redis最基本的类型,可以理解成与memcached一模一样的类型,一个key对应一个value。value不仅是string,也可以是数字。string类型是二进制安全的,意思是redis的string类型可以包含任何数据,比如jpg图片或者序列化的对象。string类型的值最大能存储512M。

    2、Hash是一个键值(key-value)的集合。redis的hash是一个string的key和value的映射表,Hash特别适合存储对象。常用命令:hget,hset,hgetall等。

    3、list列表是简单的字符串列表,按照插入顺序排序。可以添加一个元素到列表的头部(左边)或者尾部(右边) 常用命令:lpush、rpush、lpop、rpop、lrange(获取列表片段)等。应用场景:list应用场景非常多,也是Redis最重要的数据结构之一,比如关注列表,粉丝列表都可以用list结构来实现。数据结构:list就是链表,可以用来当消息队列用。redis提供了List的push和pop操作,还提供了操作某一段的api,可以直接查询或者删除某一段的元素。实现方式:redis list的是实现是一个双向链表,既可以支持反向查找和遍历,更方便操作,不过带来了额外的内存开销。

    4、set是string类型的无序集合。集合是通过hashtable实现的。set中的元素是没有顺序的,而且是没有重复的。常用命令:sdd、spop、smembers、sunion等。应用场景:redis set对外提供的功能和list一样是一个列表,特殊之处在于set是自动去重的,而且set提供了判断某个成员是否在一个set集合中。

    5、zset和set一样是string类型元素的集合,且不允许重复的元素。常用命令:zadd、zrange、zrem、zcard等。使用场景:sorted set可以通过用户额外提供一个优先级(score)的参数来为成员排序,并且是插入有序的,即自动排序。当你需要一个有序的并且不重复的集合列表,那么可以选择sorted set结构。和set相比,sorted set关联了一个double类型权重的参数score,使得集合中的元素能够按照score进行有序排列,redis正是通过分数来为集合中的成员进行从小到大的排序。实现方式:Redis sorted set的内部使用HashMap和跳跃表(skipList)来保证数据的存储和有序,HashMap里放的是成员到score的映射,而跳跃表里存放的是所有的成员,排序依据是HashMap里存的score,使用跳跃表的结构可以获得比较高的查找效率,并且在实现上比较简单。

    3.数据类型应用场景总结

    类型简介特性场景 
    string(字符串) 二进制安全 可以包含任何数据,比如jpg图片或者序列化对象    
    Hash(字典) 键值对集合,即编程语言中的map类型 适合存储对象,并且可以像数据库中的update一个属性一样只修改某一项属性值 存储、读取、修改用户属性  
    List(列表) 链表(双向链表) 增删快,提供了操作某一元素的api 最新消息排行;消息队列  
    set(集合) hash表实现,元素不重复 添加、删除、查找的复杂度都是O(1),提供了求交集、并集、差集的操作 共同好友;利用唯一性,统计访问网站的所有Ip  
    sorted set(有序集合zset) 将set中的元素增加一个权重参数score,元素按score有序排列 数据插入集合时,已经进行了天然排序 排行榜;带权重的消息队列  

    结合spring boot使用的。一般有两种方式,一种是直接通过RedisTemplate来使用,另一种是使用spring cache集成Redis

    4.缓存问题

        缓存和数据库数据一致性问题

                 分布式环境下非常容易出现缓存和数据库间数据一致性问题,针对这一点,如果项目对缓存的要求是强一致性的,那么就不要使用缓存。我们只能采取合适的策略来降低缓存和数据库间数据不一致的概率,而无法保证两者间的强一致性。

    合适的策略包括合适的缓存更新策略,更新数据库后及时更新缓存、缓存失败时增加重试机制。

       Redis雪崩

                 一般缓存都是定时任务去刷新,或者查不到之后去更新缓存的,定时任务刷新就有一个问题。举个栗子:如果首页所有Key的失效时间都是12小时,中午12点刷新的,我零点有个大促活动大量用户涌入,假设每秒6000个请求,本来缓存可以抗住每秒5000个请求,但是缓存中所有Key都失效了。此时6000个/秒的请求全部落在了数据库上,数据库必然扛不住,真实情况可能DBA都没反应过来直接挂了,此时,如果没什么特别的方案来处理,DBA很着急,重启数据库,但是数据库立马又被新流量给打死了。这就是我理解的缓存雪崩。

        解决方案

       在批量往Redis存数据的时候,把每个Key的失效时间都加个随机值就好了,这样可以保证数据不会再同一时间大面积失效。

    setRedis(key, value, time+Math.random()*10000);

       如果Redis是集群部署,将热点数据均匀分布在不同的Redis库中也能避免全部失效。或者设置热点数据永不过期,有更新操作就更新缓存就好了(比如运维更新了首页商品,那你刷下缓存就好了,不要设置过期时间)。

       缓存穿透和击穿和雪崩的区别

          缓存穿透

             缓存穿透是指缓存和数据库中都没有的数据,而用户不断发起请求,举个栗子:我们数据库的id都是从1自增的,如果发起id=-1的数据或者id特别大不存在的数据,这样的不断攻击导致数据库压力很大,严重会击垮数据库。

         解决方案

    1.  在接口层增加校验,比如用户鉴权,参数做校验,不合法的校验直接return,比如id做基础校验,id小于1直接拦截。
    2. 高级用法**布隆过滤器(Bloom Filter)**这个也能很好的预防缓存穿透的发生,他的原理也很简单,就是利用高效的数据结构和算法快速判断出你这个Key是否在数据库中存在,不存在你return就好了,存在你就去查DB刷新KV再return。

        

         缓存击穿

           跟缓存雪崩有点像,但是又有一点不一样,缓存雪崩是因为大面积的缓存失效,打崩了DB,而缓存击穿不同的是缓存击穿是指一个Key非常热点,在不停地扛着大量的请求,大并发集中对这一个点进行访问,当这个Key在失效的瞬间,持续的大并发直接落到了数据库上,就在这个Key的点上击穿了缓存。

        解决方案

           设置热点数据永不过期,或者加上互斥锁就搞定了。Demo:

      

    public static String getData(String key) throws InterruptedException {
         //从Redis查询数据
         String result = getDataByKV(key);
         //参数校验
         if (StringUtils.isBlank(result)) {
             try {
                 //获得锁
                 if (reenLock.tryLock()) {
                     //去数据库查询
                     result = getDataByDB(key);
                     //校验
                     if (StringUtils.isNotBlank(result)) {
                         //插进缓存
                         setDataToKV(key, result);
                     }
                 } else {
                     //睡一会再拿
                     Thread.sleep(100L);
                     result = getData(key);
                 }
             } finally {
                 //释放锁
                 reenLock.unlock();
             }
         }
         return result;
     }

        

    5.Redis为什么这么快

    Redis是单进程单线程的模型,因为Redis完全是基于内存的操作,CPU不是Redis的瓶颈,Redis的瓶颈最有可能是机器内存的大小或者网络带宽。 第一:Redis完全基于内存,绝大部分请求是纯粹的内存操作,非常迅速,数据存在内存中,类似于HashMap,HashMap的优势就是查找和操作的时间复杂度是O(1)。第二:数据结构简单,对数据操作也简单。第三:采用单线程,避免了不必要的上下文切换和竞争条件,不存在多线程导致的CPU切换,不用去考虑各种锁的问题,不存在加锁释放锁操作,没有死锁问题导致的性能消耗。第四:使用多路复用IO模型,非阻塞IO。

    6.Redis淘汰策略

    策略描述
    volatile-lru 从已设置过期时间的KV集中优先对最近最少使用(less recently used)的数据淘汰
    volitile-ttl 从已设置过期时间的KV集中优先对剩余时间短(time to live)的数据淘汰
    volitile-random 从已设置过期时间的KV集中随机选择数据淘汰
    allkeys-lru 从所有KV集中优先对最近最少使用(less recently used)的数据淘汰
    allKeys-random 从所有KV集中随机选择数据淘汰
    noeviction 不淘汰策略,若超过最大内存,返回错误信息

    补充一下:Redis4.0加入了LFU(least frequency use)淘汰策略,包括volatile-lfu和allkeys-lfu,通过统计访问频率,将访问频率最少,即最不经常使用的KV淘汰。

    7.持久化

    redis为了保证效率,数据缓存在了内存中,但是会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件中,以保证数据的持久化。Redis的持久化策略有两种:

           1、RDB:快照形式是直接把内存中的数据保存到一个dump的文件中,定时保存,保存策略。

           2、AOF:把所有的对Redis的服务器进行修改的命令都存到一个文件里,命令的集合。Redis默认是快照RDB的持久化方式。当Redis重启的时候,它会优先使用AOF文件来还原数据集,因为AOF文件保存的数据集通常比RDB文件所保存的数据集更完整。甚至可以关闭持久化功能,让数据只在服务器运行时存。

        

        RDB工作模式

             默认Redis是会以快照"RDB"的形式将数据持久化到磁盘的一个二进制文件dump.rdb。工作原理:当Redis需要做持久化时,Redis会fork一个子进程,子进程将数据写到磁盘上一个临时RDB文件中。当子进程完成写临时文件后,将原来的RDB替换掉,这样的好处是可以copy-on-write。

           RDB的优点是:

            这种文件非常适合用于备份:比如,你可以在最近的24小时内,每小时备份一次,并且在每个月的每一天也备份一个RDB文件。这样的话,即使遇上问题,也可以随时将数据集还原到不同的版本。RDB非常适合灾难恢复。

           RDB的缺点是:

            如果你需要尽量避免在服务器故障时丢失数据,那么RDB不合适你。

       AOF持久化

           AOF做持久化,每一个写命令都通过write函数追加到appendonly.aof中,配置方式如下

    appendfsync yes
    appendfsync always     #每次有数据修改发生时都会写入AOF文件。
    appendfsync everysec   #每秒钟同步一次,该策略为AOF的缺省策略。

           AOF可以做到全程持久化,只需要在配置中开启 appendonly yes。这样redis每执行一个修改数据的命令,都会把它添加到AOF文件中,当redis重启时,将会读取AOF文件进行重放,恢复到redis关闭前的最后时刻。

          

         AOF优点

                让redis变得非常耐久。可以设置不同的fsync策略,aof的默认策略是每秒钟fsync一次,在这种配置下,就算发生故障停机,也最多丢失一秒钟的数据。

        缺点

               是对于相同的数据集来说,AOF的文件体积通常要大于RDB文件的体积。根据所使用的fsync策略,AOF的速度可能会慢于RDB。

        

    如何选择

    果你非常关心你的数据,但仍然可以承受数分钟内的数据丢失,那么可以额只使用RDB持久。AOF将Redis执行的每一条命令追加到磁盘中,处理巨大的写入会降低Redis的性能,不知道你是否可以接受。数据库备份和灾难恢复:定时生成RDB快照非常便于进行数据库备份,并且RDB恢复数据集的速度也要比AOF恢复的速度快。当然了,redis支持同时开启RDB和AOF,系统重启后,redis会优先使用AOF来恢复数据,这样丢失的数据会最少。

    8.主从复制

    主从配置结合哨兵模式能解决单点故障问题,提高redis可用性。从节点仅提供读操作,主节点提供写操作。对于读多写少的状况,可给主节点配置多个从节点,从而提高响应效率。

      复制过程

    1. 从节点执行slaveof[masterIP][masterPort],保存主节点信息
    2. 从节点中的定时任务发现主节点信息,建立和主节点的socket连接
    3. 从节点发送Ping信号,主节点返回Pong,两边能互相通信
    4. 连接建立后,主节点将所有数据发送给从节点(数据同步)
    5. 主节点把当前的数据同步给从节点后,便完成了复制的建立过程。接下来,主节点就会持续的把写命令发送给从节点,保证主从数据一致性。

      主从复制的(缺点)

          1、一旦主节点宕机,从节点晋升为主节点,同时需要修改应用方的主节点地址,还需要命令所有从节点去复制新的主节点,整个过程需要人工干预。

          2、主节点的写能力受到单机的限制。

          3、主节点的存储能力受到单机的限制。

          4、原生复制的弊端在早期的版本中也会比较突出,比如:redis复制中断后,从节点会发起psync。此时如果同步不成功,则会进行全量同步,主库执行全量备份的同时,可能会造成毫秒或秒级的卡顿。

      

    解决方案

    哨兵模式
  • 相关阅读:
    ZOJ 1450
    HDU 3932
    POJ 3348
    POJ 1873
    POJ 1228
    POJ 2007
    POJ 1113
    POJ 1696
    POJ 1329
    HDU 3432
  • 原文地址:https://www.cnblogs.com/shuixingshushuren/p/13582240.html
Copyright © 2011-2022 走看看