zoukankan      html  css  js  c++  java
  • Redis持久化(RDB和AOF)

    Redis的第一大特性?

    快!
    在解决redis的一系列问题的时候,不能舍弃这个特性

    Redis用来做缓存和数据库有什么区别?

    • 缓存
      缓存的数据想多来说不是那么的重要,允许一点点的数据丢失,可接受
      缓存的瓶颈:数据量过大的问题。需要一个淘汰策略,只保留热数据

    key的有效期
    淘汰机制:LRU和LFU
    LFU:碰了多少次
    LRU:多久没碰他

    • 数据库
      作为数据库必须保证数据的持久化,Redis作为内存数据库,数据掉电易失,就必须解决数据的持久化问题

    任何存储层解决数据可靠的两大方式:

    • 快照/副本
    • 日志

    Redis 提供了不同级别的持久化方式:

    • RDB持久化方式能够在指定的时间间隔能对你的数据进行快照存储.
    • AOF持久化方式记录每次对服务器写的操作,当服务器重启的时候会重新执行这些命令来恢复原始的数据,AOF命令以redis协议追加保存每次写的操作到文件末尾.Redis还能对AOF文件进行后台重写,使得AOF文件的体积不至于过大.
    • 如果只希望数据在服务器运行的时候存在,你也可以不使用任何持久化方式.
    • 可以同时开启两种持久化方式, 在这种情况下, 当redis重启的时候会优先载入AOF文件来恢复原始的数据,因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整.

    RDB快照存储(snapshot)

    快照一定是基于某时间点备份那个时刻的所有数据。Redis 将数据库快照保存在名字为 dump.rdb的二进制文件中(文件路径dir /var/lib/redis/6379 )。你可以对 Redis 进行设置, 让它在“ N 秒内数据集至少有 M 个改动”这一条件被满足时, 自动保存一次数据集。你也可以通过调用 SAVE或者 BGSAVE , 手动让 Redis 进行数据集保存操作。

    1.save 阻塞

    会阻塞所有的客户端的请求,不建议在生产环境使用。
    使用场景:停机维护时对数据进行备份。

    2.bgsave非阻塞

    工作方式

    当 Redis 需要保存 dump.rdb 文件时, 服务器执行以下操作:

    • Redis 调用forks. 同时拥有父进程和子进程。
    • 子进程将数据集写入到一个临时 RDB 文件中。
    • 当子进程完成对新 RDB 文件的写入时,Redis 用新 RDB 文件替换原来的 RDB 文件,并删除旧的 RDB 文件。
      这种工作方式使得 Redis 可以从写时复制(copy-on-write)机制中获益。

    问题:在占用少量内存的前提下,快速完成复制备份

    1.子线程用fork实现,快且占用内存少
    fork()函数通过系统调用创建一个与原来进程几乎完全相同的进程,也就是两个进程可以做完全相同的事,但如果初始参数或者传入的变量不同,两个进程也可以做不同的事。一个进程调用fork()函数后,系统先给新的进程分配资源,例如存储数据和代码的空间。然后把原来的进程的所有值都复制到新的新进程中,只有少数值与原来的进程的值不同。相当于克隆了一个自己。

    2.copy on write:内核机制,写时复制
    fork()会产生一个和父进程完全相同的子进程,但子进程在此后多会exec系统调用,出于效率考虑,linux中引入了“写时复制“技术,也就是只有进程空间的各段的内容要发生变化时,才会将父进程的内容复制一份给子进程。
    在fork之后exec之前两个进程用的是相同的物理空间(内存区),子进程的代码段、数据段、堆栈都是指向父进程的物理空间,也就是说,两者的虚拟空间不同,但其对应的物理空间是同一个。当父子进程中有更改相应段的行为发生时,再为子进程相应的段分配物理空间,如果不是因为exec,内核会给子进程的数据段、堆栈段分配相应的物理空间(至此两者有各自的进程空间,互不影响),而代码段继续共享父进程的物理空间(两者的代码完全相同)。而如果是因为exec,由于两者执行的代码不同,子进程的代码段也会分配单独的物理空间。
    参考:https://www.cnblogs.com/biyeymyhjob/archive/2012/07/20/2601655.html

    RDB的优点

    • RDB是一个非常紧凑的文件,它保存了某个时间点得数据集,非常适用于数据集的备份,比如你可以在每个小时报保存一下过去24小时内的数据,同时每天保存过去30天的数据,这样即使出了问题你也可以根据需求恢复到不同版本的数据集.
    • RDB是一个紧凑的单一文件,很方便传送到另一个远端数据中心,非常适用于灾难恢复.
    • RDB在保存RDB文件时父进程唯一需要做的就是fork出一个子进程,接下来的工作全部由子进程来做,父进程不需要再做其他IO操作,所以RDB持久化方式可以最大化redis的性能.
    • 与AOF相比,在恢复大的数据集的时候,RDB方式会更快一些.

    RDB的缺点

    • 意外停止工作的情况下多少也会丢失数据.
    • RDB 需要经常fork子进程来保存数据集到硬盘上,当数据集比较大的时候,fork的过程是非常耗时的,可能会导致Redis在一些毫秒级内不能响应客户端的请求.如果数据集巨大并且CPU性能不是很好的情况下,这种情况会持续1秒,AOF也需要fork,但是你可以调节重写日志文件的频率来提高数据集的耐久度.

    AOF 只追加操作的文件(Append-only file)

    快照功能并不是非常耐久(dura ble)

    三种方式配置 Redis 多久才将数据 fsync 到磁盘一次:

    appendfsync always  #每次有新命令追加到 AOF 文件时就执行一次 fsync :非常慢,也非常安全
    appendfsync everysec   #每秒 fsync 一次:足够快(和使用 RDB 持久化差不多),并且在故障时只会丢失 1 秒钟的数据。
    appendfsync no  #从不 fsync :将数据交给操作系统来处理。更快,也更不安全的选择。
    

    推荐(并且也是默认)的措施为每秒 fsync 一次, 这种 fsync 策略可以兼顾速度和安全性。

    其他配置

    appendonly yes
    appendfilename "appendonly.aof"
    
    auto-aof-rewrite-percentage 100
    auto-aof-rewrite-min-size 64mb
    

    日志重写

    AOF不断地将命令追加到文件的末尾, 所以随着写入命令的不断增加, AOF 文件的体积也会变得越来越大。并且可能有很多的重复数据,不利于快速恢复数据。
    可以执行 BGREWRITEAOF 命令, Redis 将生成一个新的 AOF 文件, 这个文件包含重建当前数据集所需的最少命令。
    4.0版本以前的实现是删除抵消的命令,合并重复的命令;4.0以后的版本是将老的数据RDB到aof文件中,将增量的以指令的方式Append到AOF。

    工作原理

    AOF 重写和 RDB 创建快照一样,都巧妙地利用了写时复制机制:

    • Redis 执行 fork() ,现在同时拥有父进程和子进程。
    • 子进程开始将新 AOF 文件的内容写入到临时文件。
    • 对于所有新执行的写入命令,父进程一边将它们累积到一个内存缓存中,一边将这些改动追加到现有 AOF 文件的末尾,这样样即使在重写的中途发生停机,现有的 AOF 文件也还是安全的。
    • 当子进程完成重写工作时,它给父进程发送一个信号,父进程在接收到信号之后,将内存缓存中的所有数据追加到新 AOF 文件的末尾。

    AOF 优点

    • 耐久: 你可以使用不同的fsync策略:无fsync,每秒fsync,每次写的时候fsync.使用默认的每秒fsync策略,Redis的性能依然很好(fsync是由后台线程进行处理的,主线程会尽力处理客户端请求),一旦出现故障,你最多丢失1秒的数据.
    • AOF文件是一个只进行追加的日志文件,所以不需要写入seek,即使由于某些原因(磁盘空间已满,写的过程中宕机等等)未执行完整的写入命令,你也也可使用redis-check-aof工具修复这些问题.
    • Redis 可以在 AOF 文件体积变得过大时,自动地在后台对 AOF 进行重写: 重写后的新 AOF 文件包含了恢复当前数据集所需的最小命令集合。 整个重写操作是绝对安全的,因为 Redis 在创建新 AOF 文件的过程中,会继续将命令追加到现有的 AOF 文件里面,即使重写过程中发生停机,现有的 AOF 文件也不会丢失。 而一旦新 AOF 文件创建完毕,Redis 就会从旧 AOF 文件切换到新 AOF 文件,并开始对新 AOF 文件进行追加操作。
    • AOF 文件有序地保存了对数据库执行的所有写入操作, 这些写入操作以 Redis 协议的格式保存, 因此 AOF 文件的内容非常容易被人读懂, 对文件进行分析(parse)也很轻松。 导出(export) AOF 文件也非常简单: 举个例子, 如果你不小心执行了 FLUSHALL 命令, 但只要 AOF 文件未被重写, 那么只要停止服务器, 移除 AOF 文件末尾的 FLUSHALL 命令, 并重启 Redis , 就可以将数据集恢复到 FLUSHALL 执行之前的状态。

    AOF 缺点

    • AOF 文件的体积通常要大于 RDB 文件的体积。
    • 根据所使用的 fsync 策略,AOF 的速度可能会慢于 RDB 。 在一般情况下, 每秒 fsync 的性能依然非常高, 而关闭 fsync 可以让 AOF 的速度和 RDB 一样快, 即使在高负荷之下也是如此。 不过在处理巨大的写入载入时,RDB 可以提供更有保证的最大延迟时间(latency)。
  • 相关阅读:
    寄生组合式继承
    原型式继承
    js数学方法应用
    arguments.callee
    date日期比较和格式化方法
    转型函数 Boolean()
    javaScript高程第三版读书笔记
    《JavaScript dom 编程艺术》 placeholder占位符IE8兼容办法。
    正确设置网站title、keywords、description(转载)
    理解RESTful架构
  • 原文地址:https://www.cnblogs.com/farmersun/p/12735092.html
Copyright © 2011-2022 走看看