zoukankan      html  css  js  c++  java
  • Redis持久化(转载)

    原文地址:http://www.jianshu.com/p/2f14bc570563?from=jiantop.com

    数据持久化

    Redis提供了将数据定期自动持久化至硬盘的能力,包括RDB和AOF两种方案,两种方案分别有其长处和短板,可以配合起来同时运行,确保数据的稳定性。

    必须使用数据持久化吗?

    Redis的数据持久化机制是可以关闭的。如果你只把Redis作为缓存服务使用,Redis中存储的所有数据都不是该数据的主体而仅仅是同步过来的备份,那么可以关闭Redis的数据持久化机制。
    但通常来说,仍然建议至少开启RDB方式的数据持久化,因为:

    • RDB方式的持久化几乎不损耗Redis本身的性能,在进行RDB持久化时,Redis主进程唯一需要做的事情就是fork出一个子进程,所有持久化工作都由子进程完成
    • Redis无论因为什么原因crash掉之后,重启时能够自动恢复到上一次RDB快照中记录的数据。这省去了手工从其他数据源(如DB)同步数据的过程,而且要比其他任何的数据恢复方式都要快
    • 现在硬盘那么大,真的不缺那一点地方

    RDB

    采用RDB持久方式,Redis会定期保存数据快照至一个rbd文件中,并在启动时自动加载rdb文件,恢复之前保存的数据。可以在配置文件中配置Redis进行快照保存的时机:

    save [seconds] [changes]

    意为在[seconds]秒内如果发生了[changes]次数据修改,则进行一次RDB快照保存,例如

    save 60 100

    会让Redis每60秒检查一次数据变更情况,如果发生了100次或以上的数据变更,则进行RDB快照保存。
    可以配置多条save指令,让Redis执行多级的快照保存策略。
    Redis默认开启RDB快照,默认的RDB策略如下:

    save 900 1

    save 300 10

    save 60 10000

    也可以通过BGSAVE命令手工触发RDB快照保存。

    RDB的优点:

    • 对性能影响最小。如前文所述,Redis在保存RDB快照时会fork出子进程进行,几乎不影响Redis处理客户端请求的效率。(但是如果数据量比较大,那么会造成比较大的延迟)
    • 每次快照会生成一个完整的数据快照文件,所以可以辅以其他手段保存多个时间点的快照(例如把每天0点的快照备份至其他存储媒介中),作为非常可靠的灾难恢复手段。
    • 使用RDB文件进行数据恢复比使用AOF要快很多。

    RDB的缺点:

    • 快照是定期生成的,所以在Redis crash时或多或少会丢失一部分数据。
    • 如果数据集非常大且CPU不够强(比如单核CPU),Redis在fork子进程时可能会消耗相对较长的时间(长至1秒),影响这期间的客户端请求。

    AOF

    采用AOF持久方式时,Redis会把每一个写请求都记录在一个日志文件里。在Redis重启时,会把AOF文件中记录的所有写操作顺序执行一遍,确保数据恢复到最新。

    AOF默认是关闭的,如要开启,进行如下配置:

    appendonly yes

    AOF提供了三种fsync配置,always/everysec/no,通过配置项[appendfsync]指定:

    • appendfsync no:不进行fsync,将flush文件的时机交给OS决定,速度最快
    • appendfsync always:每写入一条日志就进行一次fsync操作,数据安全性最高,但速度最慢
    • appendfsync everysec:折中的做法,交由后台线程每秒fsync一次

    aof 比快照方式有更好的持久化性,是由于在使用aof持久化方式时,redis会将每一个收到的写命令都通过write函数追加到文件中(默认是appendonly.aof)。当redis重启时会通过重新执行文件中保存的写命令来在内存中重建整个数据库的内容。当然由于os会在内核中缓存 write做的修改,所以可能不是立即写到磁盘上。这样aof方式的持久化也还是有可能会丢失部分修改。

    随着AOF不断地记录写操作日志,必定会出现一些无用的日志,例如某个时间点执行了命令SET key1 "abc",在之后某个时间点又执行了SET key1 "bcd",那么第一条命令很显然是没有用的。大量的无用日志会让AOF文件过大,也会让数据恢复的时间过长。
    所以Redis提供了AOF rewrite功能,可以重写AOF文件,只保留能够把数据恢复到最新状态的最小写操作集(我理解的,比如同一个key,set多次,只最后一次的。)。
    AOF rewrite可以通过BGREWRITEAOF命令触发,也可以配置Redis定期自动进行:

    auto-aof-rewrite-percentage 100

    auto-aof-rewrite-min-size 64mb

    上面两行配置的含义是,Redis在每次AOF rewrite时,会记录完成rewrite后的AOF日志大小,当AOF日志大小在该基础上增长了100%后,自动进行AOF rewrite。同时如果增长的大小没有达到64mb,则不会进行rewrite。

    AOF的优点:

    • 最安全,在启用appendfsync always时,任何已写入的数据都不会丢失,使用在启用appendfsync everysec也至多只会丢失1秒的数据。
    • AOF文件在发生断电等问题时也不会损坏,即使出现了某条日志只写入了一半的情况,也可以使用redis-check-aof工具轻松修复。
    • AOF文件易读,可修改,在进行了某些错误的数据清除操作后,只要AOF文件没有rewrite,就可以把AOF文件备份出来,把错误的命令删除,然后恢复数据。

    AOF的缺点:

    • AOF文件通常比RDB文件更大
    • 性能消耗比RDB高
    • 数据恢复速度比RDB慢

     

     

    Redis实战中说:

    当redis中存储的数据量只有几个G的时候,使用快照来保存数据是没有问题的。redis会创建子进程并将数据保存到硬盘里面,生成快照的时间很短,但是如果redis占用的内存越来越大,BGSAVE占用的时间会很长,导致系统长时间的停顿。所以最好的方式是,在凌晨发送SAVA来执行快照,然后其他时间用AOF来保证持久性。

     

    下面介绍详细的快照保存过程

    1.redis调用fork,现在有了子进程和父进程。

    2. 父进程继续处理client请求,子进程负责将内存内容写入到临时文件。由于os的写时复制机制(copy on write)父子进程会共享相同的物理页面,当父进程处理写请求时os会为父进程要修改的页面创建副本(注:应该是把修改前的段创建副本给子进程),而不是写共享的页面。所以子进程的地址空间内的数 据是fork时刻整个数据库的一个快照。

    3.当子进程将快照写入临时文件完毕后,用临时文件替换原来的快照文件,然后子进程退出。

    client 也可以使用save或者bgsave命令通知redis做一次快照持久化。save操作是在主线程中保存快照的,由于redis是用一个主线程来处理所有 client的请求,这种方式会阻塞所有client请求。所以不推荐使用。另一点需要注意的是,每次快照持久化都是将内存数据完整写入到磁盘一次,并不 是增量的只同步脏数据。如果数据量大的话,而且写操作比较多,必然会引起大量的磁盘io操作,可能会严重影响性能。

    个人理解:根据上面所说,之所以在内存大的时候fork出来的子进程会影响到父进程造成停顿,并不是父进程被挂起了,而是子进程大量操作IO和内存读取,导致父进程运行缓慢。

  • 相关阅读:
    其他综合收益的会计处理
    公允价值变动损益与投资收益的区别是什么?
    公允价值变动损益属于什么科目
    交易性金融资产和其他权益工具投资的区别
    属于在某一时段内履行的履约义务的情形
    合同履约成本和合同取得成本
    linux find查找并拷贝 exec xargs区别[转载]
    centos 安装discuz
    批处理变量,扩展,及变量截取
    常用DDL
  • 原文地址:https://www.cnblogs.com/xiaolang8762400/p/7226285.html
Copyright © 2011-2022 走看看