zoukankan      html  css  js  c++  java
  • redis基础总结

    redids知识点总结

    redis简介

    缓存中间件——Memcache和Redis的区别:

    • Memcache:代码层次类似Hash

      1、支持简单数据类型
      2、不支持数据持久化存储
      3、不支持主从
      4、不支持分片
      
    • Redis

      1、数据类型丰富
      2、支持数据磁盘持久化存储
      3、支持主从
      4、支持分片 
      

    为什么Redis能这么快

    • 完全基于内存,绝大部分请求是纯粹的内存操作,执行效率高

    • 数据结果简单,对数据操作也简单

    • 采用单线程,单线程也能处理高并发请求,想多核也可启动多实例

    • 使用多路I/O复用模型,非阻塞IO

      多路I/O复用模型

      FD:File descriptor,文件描述符

      一个打开的文件通过唯一的描述符进行引用,该描述符是打开文件的元数据到文件本身的映射

    说说你用过的Redis的数据类型

    • String:最基本的数据类型,二进制安全

    • Hash:String元素组成的字典,适合用于存储对象

    • List:列表,按照String元素插入顺序排序

    • Set:String元素组成无序集合,通过哈希表实现,不允许重复·

    • Sorted Set:通过分数来为集合中的成员进行从小到大的排序

    • 其他类型:用于技术的HyperLogLog、用于存储地理位置信息的Geo

      redis底层数据类型基础:

      1、简单动态字符串

      2、链表

      3、字典

      4、跳跃表

      5、整数集合

      6、压缩列表

      7、对象

    从海量key里查询出某一固定前缀的key

    留意细节

    • 摸请数据规模,即问清楚边界

    使用keys对线上的业务的影响

    keys pattern:查找所有符合给定模式pattern的key

    缺点:
    1、keys指令一次性返回所有匹配的key
    2、键的数量过大会使服务卡顿
    

    从海量key里查询出某一固定前缀的key

    scan cursor [MATCH pattern] [COUNT count]:
    1、基于游标的迭代器,需要基于上一次的游标延续之前的迭代过程
    2、以0作为游标开始一次新的迭代,直到命令返回游标0完成一次遍历
    3、不保证每次执行都反回某个给定数量的元素,支持模糊查询
    4、一次返回的数量不可控,只能是大概率符合count参数
    

    如何通过Redis实现分布式锁

    分布式锁需要解决的问题

    - 互斥锁
    - 安全性
    - 死锁
    - 容错 
    

    使用

    SETNX key value: 如果key不存在,则创建并赋值
    
    • 时间复杂度:O(1)
    • 返回值:设置成功,返回1;设置失败,返回0

    如何解决SETNX长期有效的问题

    EXPIRE key seconds
    
    • 设置key的生存时间,当key过期时(生存时间为0),会被自动删除

    缺点:

    原子性得不到满足

    解决办法

    EX second:设置键的过期时间为second秒
    PX millisecond:设置键的过期时间为millisecond毫秒
    NX:只在键不存在时,才对键进行设置操作
    XX:只在 键已经存在时,才对键进行操作
    SET操作成功完成时,返回OK,否则返回nil
    

    大量的key同时过期的注意事项

    集中过期,由于清除大量的key很耗时,会出现短暂的卡顿现象
    

    解决办法:在设置key的过期时间的时候,给每个key加上随机值

    如何使用Redsi做异步队列

    • 使用List作为队列,RPush生产消息,LPOP消费消息

      • 缺点:没有等待队列里有值就要直接消费
      • 弥补:可以通过在应用层引入Sleep机制去调用LPOP重试
    • BLOPO key [key...] :阻塞直到队列有消息或者超时

      • 缺点:只能供一个消费者消费
    • pub/sub:主题订阅者模式

      • 发送者(pub)发送消息,订阅者(sub)接收消息
      • 订阅者可以订阅任意数量的频道
      • 缺点:消息的发布时无状态的,无法保证可达

    Redis如何做持久化

    RDB

    • RDB(快照)持久化:保存某个时间点的全量数据快照

      1、快照策略://redis/redis.conf:
      save 900 1  		#900秒里发生1次写入 进行保存
      save 300 10			#300秒里发生10次写入 进行保存
      save 60 10000		#60秒里发生10000次写入 进行保存
      
      2、stop-writes-on-bgsave-error yes   #当备份进程出错的时候,主进程停止接收新的写入操作
      
      3、rdbcompression yes  #在备份的时候,需要将rdb文件压缩后进行保存,压缩会消耗cpu资源
      
    • RDB可以通过两个命令生成

      1、save:阻塞Redis的服务器进程,直到RDB文件被创建完毕;(很少被使用)
      2、bgsave:Fork出一个子进程来创建RDB文件,不阻塞服务器进程;
      3、lastsave: 查找上一次保存备份是什么时候
      
    • 自动化触发RDB持久化的方式

      1、根据redis.conf配置里的 SAVE m n定时触发(用的是bgsave)
      2、主从复制时,主节点自动触发
      3、执行Debug Reload
      4、执行shutdown且没有开启AOF持久化
      

      BGSAVE原理

      系统调用了fork():创建进程,实现了Copy-on-Write

      Copy-on-Write

      1569627072851

    • 缺点:

      1、内存数据的全量同步,数据量大会由于I/O而严重影响性能
      2、可能会因为Redis挂掉而丢失从当前至最近一次快照期间的数据
      

    AOF

    AOF(Append-Only-File)持久化:保存写状态

    • 记录下除了查询以外的所有变更数据库状态的指令

    • 以append的形式追加保存到AOF文件中(增量)

    • 使用:

      //redis/redis.conf:
      appendonly yes   #是否开启AOF
      appendfilename "appendonly.aof"   #备份的文件名
      appendfsync everysec   #每秒保存一次
      ##修改完配置需要重启redis
      
    • 日志重写解决AOF文件大小不断增大的问题,原理如下:

      1、调用fork(),创建一个子进程
      2、子进程把新的AOF写到一个临时文件里,不依赖原来的AOF文件
      3、主进程持续将新的变动同时写到内存和原来的AOF里
      4、主进程获取子进程重写AOF的完成信号,往新AOF同步增量变动
      5、使用新的AOF文件替换掉旧的AOF文件
      
    • RDB和AOF的优缺点:

      RDB优点:全量数据快照,文件小,恢复快
      RDB缺点:无法保存最近一次快照之后的数据
      
      AOF优点:可读性高,适合保存存量数据,数据不易丢失
      AOF缺点:文件体积大,恢复时间长
      

    RDB-AOF混合持久方式(推荐)

    1、bgsave做镜像全量持久化,aof做增量持久化;

    使用pipeline的好处

    1、Pipeline和Linux的管道类似
    2、Redis基于请求、响应模型,单个请求处理需要一一应答
    3、Pipline批量执行质量,节省多次IO往返的时间
    4、有顺序依赖的指令建议分批发送
    

    Redis的同步机制

    主从同步原理

    全同步过程

    1、Salve发送sync命令到Master
    2、Master启动一个后台进程,将Redis中的数据快照保存到文件中
    3、Master将保存的数据快照期间接收到的写命令缓存起来
    4、Master完成写文件操作后,将该文件发送给Salve
    5、使用新的AOF文件替换掉旧的AOF文件
    6、Master将这期间收集的增量写命令发送给Slave端
    

    增量同步过程

    1、Master接收到用户的操作指令,判断是否需要传播到Slave
    2、将操作记录追加到AOF文件
    3、将操作传播到其他Slave:1、对齐主从;2、往响应缓存写入指令
    4、将缓存中的数据发送到Slave
    

    Redis Sentinel()

    解决主从同步Master宕机后的主从切换问题:

    1、监控:检查主从服务器是否运行正常
    2、提醒:通过API向管理员或者其他应用程序发送故障通知
    3、自动故障迁移:主从切换
    

    流言协议Gossip

    在杂乱无章中寻求一致

    每个节点都随机的与对方通信,最终所有节点的状态达成一致
    种子节点定期随机向其他节点发送节点列表以及需要传播的消息
    不保证信息一定会传递给所有节点,但是最终会趋于一致
    

    Redis的集群原理

    如何从海量数据里快速找到所需?

    1、分片:按照某种规则去划分数据,分散存储在多个节点上
    2、常规的按照哈希划分无法实现节点的动态增减
    

    一致新哈希算法:对2^32取模,将哈希值空间组织成虚拟的圆环

    缺点:hash环的数据倾斜问题

    引入虚拟节点解决数据倾斜问题

  • 相关阅读:
    JasperReports项目中的应用
    请问两个div之间的上下距离怎么设置
    Spring MVC Flash Attribute 的讲解与使用示例
    8.ireport 取消自动分页,detail不分页
    python网络爬虫学习笔记
    ShareSDK for Android 2.3.8它已发表
    OllyDbg 使用注意事项 (十)
    ListView的cacheColorHint与listSelector物业和fragment里面onActivityResult问题没有响应
    Hdu 3341 Lost's revenge (ac+自己主动机dp+hash)
    PhoneGap 开发与应用 上传 App Store 在
  • 原文地址:https://www.cnblogs.com/xujie09/p/11601480.html
Copyright © 2011-2022 走看看