zoukankan      html  css  js  c++  java
  • Redis(四)——持久化方案(RDB和AOF使用)

    一、持久化的作用

    1.什么是持久化

    redis的所有数据保存在内存中,对数据的更新将异步的保存到硬盘上

    2.持久化的实现方式

    快照:某时某刻数据的一个完成备份
        -mysql的Dump
        -redis的RDB
    写日志:任何操作记录日志,要恢复数据,只要把日志重新走一遍即可
        -mysql的 Binlog
        -Hhase的 HLog
        -Redis的 AOF

    二、RDB

    1.什么是RDB

    2.触发机制-主要三种方式

    第一种:
    save(同步)
    1 客户端输入save命令----》redis服务端----》同步创建RDB二进制文件
    2 会造成redis的阻塞(数据量非常大的时候)
    3 文件策略:如果老的RDB存在,会替换老的
    4 复杂度 o(n)

    第二种: bgsave(异步,Backgroud saving started) 1 客户端输入save命令----》redis服务端----》异步创建RDB二进制文件(fork函数生成一个子进程(fork会阻塞reids),执行createRDB,执行成功,返回给reids消息) 2 此时访问redis,会正常响应客户端 3 文件策略:跟save相同,如果老的RDB存在,会替换老的 4 复杂度 o(n)
    第三种:(常用方式)(******) 自动(通过配置文件) 配置 seconds changes save 900 1 save 300 10 save 60 10000 如果60s中改变了1w条数据,自动生成rdb 如果300s中改变了10条数据,自动生成rdb 如果900s中改变了1条数据,自动生成rdb 以上三条符合任意一条,就自动生成rdb,内部使用bgsave #配置: save 900 1 #配置一条 save 300 10 #配置一条 save 60 10000 #配置一条 dbfilename dump.rdb #rdb文件的名字,默认为dump.rdb dir ./ #rdb文件存在当前目录 stop-writes-on-bgsave-error yes #如果bgsave出现错误,是否停止写入,默认为yes rdbcompression yes #采用压缩格式 rdbchecksum yes #是否对rdb文件进行校验和检验 #最佳配置 save 900 1 save 300 10 save 60 10000 dbfilename dump-${port}.rdb #以端口号作为文件名,可能一台机器上很多reids,不会乱 dir /bigdiskpath #保存路径放到一个大硬盘位置目录 stop-writes-on-bgsave-error yes #出现错误停止 rdbcompression yes #压缩 rdbchecksum yes #校验

    RDB触发机制一般使用第三种方式,但是这种方式也会有缺点。如果修改的条数没有在设置范围内那么就不会触发,就会引发很多数据没有持久化的情况。所以我们一般采用下面方式:AOF。

    如果是保存不重要的数据可以使用RDB方式(比如缓存数据),如果是保存很重要的数据就要使用AOF,但是两种方式也可以同时使用。

    三、AOF

    1.RDB问题

    耗时,耗性能。不可控,可能会丢失数据。

    2.AOF介绍

    客户端每写入一条命令,都记录一条日志,放到日志文件中,如果出现宕机,可以将数据完全恢复

    3.AOF的三种策略

    日志不是直接写到硬盘上,而是先放在缓冲区,缓冲区根据一些策略,写到硬盘上
    #第一种:
    always:redis--》写命令刷新的缓冲区---》每条命令fsync到硬盘---》AOF文件
    #第二种:
    everysec(默认值):redis——》写命令刷新的缓冲区---》每秒把缓冲区fsync到硬盘--》AOF文件
    #第三种:
    no:redis——》写命令刷新的缓冲区---》操作系统决定,缓冲区fsync到硬盘--》AOF文件
    命令alwayseverysecno
    优点 不丢失数据 每秒一次fsync,丢失1秒数据 不用管
    缺点 IO开销大,一般的sata盘只有几百TPS 丢1秒数据 不可控

    4.AOF重写

    随着命令的逐步写入,并发量的变大, AOF文件会越来越大,通过AOF重写来解决该问题

    原生AOFAOF重写

    set hello world<br/>

    set hello java<br/>

    set hello hehe<br/>

    incr counter<br/>

    ncr counter<br/>

    rpush mylist a<br/>

    rpush mylist b<br/>

    rpush mylist c<br/>

    过期数据

    set hello hehe<br/>

    set counter 2<br/>

    rpush mylist a b c

    本质就是把过期的,无用的,重复的,可以优化的命令,来优化这样可以减少磁盘占用量,加速恢复速度

    实现方式

    bgrewriteaof:
    
    客户端向服务端发送bgrewriteaof命令,服务端会起一个fork进程,完成AOF重写

    AOF重写配置:

    配置名含义
    auto-aof-rewrite-min-size AOF文件重写需要尺寸
    auto-aof-rewrite-percentage AOF文件增长率
    统计名含义
    aof_current_size AOF当前尺寸(单位:字节)
    aof_base_size AOF上次启动和重写的尺寸(单位:字节)

    自动触发时机(两个条件同时满足):

    aof_current_size>auto-aof-rewrite-min-size:当前尺寸大于重写需要尺寸
    
    (aof_current_size-aof_base_size)/aof_base_size>auto-aof-rewrite-percentage:(增长率)当前尺寸减去上次重写的尺寸,除以上次重写的尺寸如果大于配置中的增长率

    重写流程

    AOF配置文件 (******)

    appendonly yes #将该选项设置为yes,打开
    appendfilename "appendonly-${port}.aof" #文件保存的名字
    appendfsync everysec #采用第二种策略
    dir /bigdiskpath #存放的路径
    no-appendfsync-on-rewrite yes #在aof重写的时候,是否要做aof的append操作,因为aof重写消耗性能,磁盘消耗,正常aof写磁盘有一定的冲突,这段期间的数据,允许丢失

    四、RDB和AOF的选择

    1.rdb和aof的比较

    命令rdbaof
    启动优先级 高(挂掉重启,会加载aof的数据)
    体积
    恢复速度
    数据安全性 丢数据 根据策略决定
    轻重

    2.rdb最佳策略

    rdb关掉,主从操作时
    
    集中管理:按天,按小时备份数据
    
    主从配置,从节点打开

    3.aof最佳策略

    开:缓存和存储,大部分情况都打开,
    
    aof重写集中管理
    
    everysec:通过每秒刷新的策略

    4.最佳策略

    小分片:每个redis的最大内存为4g
    
    缓存或存储:根据特性,使用不通策略
    
    时时监控硬盘,内存,负载网络等
    
    有足够内存

    。。。

  • 相关阅读:
    HDU
    洛谷- P1306 斐波那契公约数
    HDU
    HDU
    POJ3321
    SPOJ
    HDU
    POJ 1236 Network of Schools
    POJ-3169 Layout (差分约束+SPFA)
    POJ-1062 昂贵的聘礼 (最短路)
  • 原文地址:https://www.cnblogs.com/wangcuican/p/12179338.html
Copyright © 2011-2022 走看看