zoukankan      html  css  js  c++  java
  • 第九章· MySQL的备份和恢复

    一.备份的原因

    运维工作的核心简单概括就两件事:

    • 1)第一个是保护公司的数据.
    • 2)第二个是让网站能7*24小时提供服务(用户体验)。

      备份的原因
    • 1)备份就是为了恢复。
    • 2)尽量减少数据的丢失(公司的损失)

    二.备份的类型

    1.冷备份:

    这些备份在用户不能访问数据时进行,因此无法读取或修改数据。这些脱机备份会阻止执行任何使用数据的活动。这些类型的备份不会干扰正常运行的系统的性能。但是,对于某些应用程序,会无法接受必须在一段较长的时间里锁定或完全阻止用户访问数据。

    2.温备份:

    这些备份在读取数据时进行,但在多数情况下,在进行备份时不能修改数据本身。这种中途备份类型的优点是不必完全锁定最终用户。但是,其不足之处在于无法在进行备份时修改数据集,这可能使这种类型的备份不适用于某些应用程序。在备份过程中无法修改数据可能产生性能问题。

    3.热备份:

    这些动态备份在读取或修改数据的过程中进行,很少中断或者不中断传输或处理数据的功能。使用热备份时,系统仍可供读取和修改数据的操作访问。

    三.备份的方式

    1.逻辑备份:

    基于SQL语句的备份

    • 1)binlog
    • 2)into outfile
    mysql> select * from world.city into outfile '/tmp/world_city.data';
    
    • 3)mysqldump
    • 4)replication

    2.物理备份:

    基于数据文件的备份

    • 1)Xtrabackup(percona公司)

    四.备份策略

    • 1)全量备份 full
    • 2)增量备份 increamental

    五.备份工具

    1.备份工具

    1)mysqldump(逻辑)
    mysql原生自带很好用的逻辑备份工具

    2)mysqlbinlog(逻辑)
    实现binlog备份的原生态命令

    3)xtrabackup(物理)
    precona公司开发的性能很高的物理备份工具

    2.备份工具使用

    2.1 mysqldump的备份

    mysqldump常用参数

    1)连接服务端参数(基本参数):-u -p -h -P -S
    
    2)-A, --all-databases:全库备份
    
    [root@db01 ~]# mysqldump -uroot -poldboy123 -A > /backup/full.sql
    
    3)不加参数:单库、单表多表备份
    
    [root@db01 ~]# mysqldump -uroot -poldboy123 db1 > /backup/db1.sql
    [root@mysql-db01 backup]# mysqldump -uroot -poldboy123 world city > /backup/city.sql
    
    4)-B:指定库备份
    
    [root@db01 ~]# mysqldump -uroot -p123 -B db1 > /backup/db1.sql
    [root@db01 ~]# mysqldump -uroot -p123 -B db1 db2 > /backup/db1_db2.sql
    
    5)-F:flush logs在备份时自动刷新binlog(不怎么常用)
    
    [root@db01 backup]# mysqldump -uroot -p123 -A -R –triggers -F > /backup/full_2.sql
    
    6)--master-data=2:备份时加入change master语句0没有1不注释2注释
    
    [root@db01 backup]# mysqldump -uroot -p123 --master-data=2 >/backup/full.sql
    
    7)-d:仅表结构
    
    8)-t:仅数据
    

    备份额外扩展项

    • 1)-R, --routines:备份存储过程和函数数据
    • 2)--triggers:备份触发器数据
    [root@db01 backup]# mysqldump -uroot -p123 -A -R --triggers > /backup/full_2.sql
    

    mysqldump特殊参数

    1)-x:锁表备份(myisam温备份)
    2)--single-transaction:快照备份
    
    [root@db01 backup]# mysqldump -uroot -p123 -A -R --triggers --master-data=2 –single-transaction>/backup/full.sql
    3) gzip:压缩备份
    
    [root@db01 ~]# mysqldump -uroot -p123 -A -R --triggers --master-data=2 –single-transaction|gzip>/backup/full.sql.gz
    

    mysqldump的恢复

    #先不记录二进制日志
    mysql> set sql_log_bin=0;
    #库内恢复操作
    mysql> source /backup/full.sql
    #库外恢复操作
    [root@db01 ~]# mysql -uroot -p123 < /backup/full.sql
    

    注意:

    • 1)mysqldump在备份和恢复时都需要MySQL实例启动为前提
    • 2)一般数据量级100G以内,大约15-30分钟可以恢复(PB、EB就需要考虑别的方式)
    • 3)mysqldump是以覆盖的形式恢复数据的

    2.2 企业故障恢复案例

    背景:
    正在运行的网站系统,MySQL数据库,数据量25G,日业务增量10-15M。

    备份策略:
    每天23:00,计划任务调用mysqldump执行全备脚本

    故障时间点:
    上午10点开发人员误删除一个核心业务表,如何恢复?

    思路:

    1)停业务避免数据的二次伤害
    2)找一个临时的库,恢复前一天的全备
    3)截取前一天23:00到第二天10点误删除之间的binlog,恢复到临时库
    4)测试可用性和完整性
    5)开启业务前的两种方式
    a.直接使用临时库顶替原生产库,前端应用割接到新库
    b.将误删除的表单独导出,然后导入到原生产环境
    6)开启业务
    

    故障模拟演练:

    准备数据:

    #刷新binlog使内容更清晰
    mysql> flush logs;
    #查看当前使用的binlog
    mysql> show master status;
    #创建backup库
    mysql> create database backup;
    #进入backup库
    mysql> use backup
    #创建full表
    mysql> create table full select * from world.city;
    #创建full_1表
    mysql> create table full_1 select * from world.city;
    #查看表
    mysql> show tables;
    

    全备:

    [root@db01 ~]# mysqldump -uroot -p123 -A -R --triggers --master-data=2 --single-transaction|gzip > /backup/full_$(date +%F).sql.gz
    

    模拟数据变化:

    #进入backup库
    mysql> use backup
    #创建new表
    mysql> create table new select * from mysql.user;
    #创建new_1表
    mysql> create table new_1 select * from world.country;
    #查看表
    mysql> show tables;
    #查看full表中所有数据
    mysql> select * from full;
    #把full表中所有的countrycode都改成CHN
    mysql> update full set countrycode='CHN' where 1=1;
    #提交
    mysql> commit;
    #删除id大于200的数据
    mysql> delete from full where id>200;
    #提交
    mysql> commit;
    

    模拟故障:

    #删除new表
    mysql> drop table new;
    #查看表
    mysql> show tables;
    

    恢复过程:

    1)准备临时数据库

    [root@db02 ~]# mysqld_safe --defaults-file=/data/3307/my.cnf &
    

    2)拷贝数据到新库上

    [root@db02 ~]# scp /backup/full_2018-08-16.sql.gz root@10.0.0.52:/tmp
    

    3)解压全备数据文件

    #进入tmp目录
    [root@db02 ~]# cd /tmp/
    #解压全备数据文件
    [root@db02 tmp]# gzip -d full_2018-08-16.sql.gz
    截取二进制
    #查看全备的位置点(起始位置点)
    [root@db02 tmp]# head -50 full_2018-08-16.sql |grep -i 'change master to'
    #找到drop语句执行的位置点(结束位置点)
    mysql> show binlog events in 'mysql-bin.000017';
    #截取二进制
    [root@db01 tmp]#mysqlbinlog -uroot -p123 --start-position=268002 --stop-position=671148 /application/mysql/data/mysql-bin.000017 > /tmp/inc.sql
    #发送增量数据到新库
    [root@db01 tmp]# scp /tmp/inc.sql root@10.0.0.52:/tmp
    在新库内恢复数据
    #不记录二进制日志
    mysql> set sql_log_bin=0;
    #恢复全备数据
    mysql> source /tmp/full_2018-08-16.sql
    #进入backup库
    mysql> use backup
    # 查看表
    mysql> show tables;
    #恢复增量数据
    mysql> source /tmp/inc.sql
    #查看表
    mysql> show tables;
    

    4)将故障表导出并恢复到生产

    #导出new表
    [root@db02 ~]# mysqldump -uroot -p123 -S /data/3307/mysql.sock backup new > /tmp/new.sql
    #发送到生产库
    [root@db02 ~]# scp /tmp/new.sql root@10.0.0.51:/tmp/
    #进入backup库
    mysql> use backup
    #在生产库恢复数据
    mysql> source /tmp/new.sql
    #查看表
    mysql> show tables;
    

    2.3 物理备份(Xtrabackup)

    Xtrabackup安装

    #下载epel源
    wget -O /etc/yum.repos.d/epel.repo  https://mirrors.aliyun.com/repo/epel-6.repo
    #安装依赖
    yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL
    #下载Xtrabackup
    wget httpss://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm
    

    备份方式(物理备份)

    • 1)对于非innodb表(比如myisam)是直接锁表cp数据文件,属于一种温备。
    • 2)对于innodb的表(支持事务),不锁表,cp数据页最终以数据文件方式保存下来,并且把redo和undo一并备走,属于热备方式。
    • 3)备份时读取配置文件/etc/my.cnf

    2.3.1 全量备份

    #全备
    [root@db01 data]# innobackupex --user=root --password=123 /backup
    #避免时间戳,自定义路径名
    [root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp /backup/full
    #查看备份路径中的内容
    [root@db01 backup]# ll /backup/full
    #记录binlog文件名和binlog的位置点
    -rw-r-----  1 root root       21 Aug 16 06:23 xtrabackup_binlog_info 
    #备份时刻,立即将已经commit过的内存中的数据页刷新到磁盘
    #备份时刻有可能会有其他数据写入,已备走的数据文件就不会再发生变化了
    #在备份过程中,备份软件会一直监控着redo和undo,一旦有变化会将日志一并备走
    -rw-r-----  1 root root      117 Aug 16 06:23 xtrabackup_checkpoints
    #备份汇总信息
    -rw-r-----  1 root root      485 Aug 16 06:23 xtrabackup_info
    #备份的redo文件
    -rw-r-----  1 root root     2560 Aug 16 06:23 xtrabackup_logfile
    

    全备的恢复

    准备备份

    将redo进行重做,已提交的写到数据文件,未提交的使用undo回滚,模拟CSR的过程

    [root@db01 full]# innobackupex --user=root --password=123 --apply-log /backup/full
    

    恢复备份

    前提1:被恢复的目录是空的
    前提2:被恢复的数据库的实例是关闭的

    #停库
    [root@db01 full]# /etc/init.d/mysqld stop
    #进入mysql目录
    [root@db01 full]# cd /application/mysql
    #删除data目录(在生产中可以备份一下)
    [root@db01 mysql]# rm -fr data/
    #拷贝数据
    [root@db01 mysql]# innobackupex --copy-back /backup/ful
    #授权
    [root@db01 mysql]# chown -R mysql.mysql /application/mysql/data/
    #启动MySQL
    [root@db01 mysql]# /etc/init.d/mysqld start
    

    2.3.2 增量备份及恢复

    备份方式

    • 1)基于上一次备份进行增量
    • 2)增量备份无法单独恢复,必须基于全备进行恢复
    • 3)所有增量必须要按顺序合并到全备当中
    #不使用之前的全备,执行一次全备
    [root@mysql-db01 ~]#  innobackupex --user=root --password=123 --no-timestamp /backup/full
    

    模拟数据变化

    mysql> create database inc1;
    mysql> use inc1
    mysql> create table inc1_tab(id int);
    mysql> insert into inc1_tab values(1),(2),(3);
    mysql> commit;
    mysql> select * from inc1_tab;
    

    第一次增量备份

    [root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full/ /backup/inc1
    参数说明:
    --incremental:开启增量备份功能
    --incremental-basedir:上一次备份的路径
    

    再次模拟数据变化

    mysql> create database inc2;
    mysql> use inc2
    mysql> create table inc2_tab(id int);
    mysql> insert into inc2_tab values(1),(2),(3);
    mysql> commit;
    

    第二次增量备份

    [root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/inc1/ /backup/inc2
    

    增量恢复

    #破坏数据
    [root@db01 ~]# rm -fr /application/mysql/data/
    

    准备备份

    • 1)full+inc1+inc2
    • 2)需要将inc1和inc2按顺序合并到full中
    • 3)分步骤进行--apply-log

    第一步:在全备中apply-log时,只应用redo,不应用undo

    [root@db01 ~]# innobackupex --apply-log --redo-only /backup/full/
    

    第二步:合并inc1合并到full中,并且apply-log,只应用redo,不应用undo

    [root@db01 ~]# innobackupex --apply-log --redo-only --incremental-dir=/backup/inc1/ /backup/full/
    

    第三步:合并inc2合并到full中,redo和undo都应用

    [root@db01 ~]# innobackupex --apply-log --incremental-dir=/backup/inc2/ /backup/full/
    

    第四步:整体full执行apply-log,redo和undo都应用

    [root@db01 mysql]# innobackupex --apply-log /backup/full/
    copy-back
    [root@db01 ~]# innobackupex --copy-back /backup/full/
    [root@db01 ~]# chown -R mysql.mysql /application/mysql/data/
    [root@db01 ~]# /etc/init.d/mysqld start
    

    2.3.3 差异备份:

    1)先做全备
    [root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp /backup/full
    from_lsn = 0
    to_lsn = 2539999813
    2)模拟数据变化
    
    mysql> create database chayi1;
    Query OK, 1 row affected (0.00 sec)
    
    mysql> use chayi1;
    Database changed
    mysql> create table chayi1(id int);
    Query OK, 0 rows affected (0.03 sec)
    
    mysql> insert into chayi1 values(1),(2);
    Query OK, 2 rows affected (0.01 sec)
    Records: 2  Duplicates: 0  Warnings: 0
    
    mysql> commit;
    Query OK, 0 rows affected (0.00 sec)
    
    3)做差异备份
    [root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full /backup/chayi1
    from_lsn = 2539999813
    to_lsn = 2540006274
    
    4)模拟第二次数据变化
    mysql> create database chayi2;
    Query OK, 1 row affected (0.00 sec)
    
    mysql> use chayi2
    Database changed
    mysql> create table chayi2(id int);
    Query OK, 0 rows affected (0.02 sec)
    
    mysql> insert into chayi2 values(1),(2),(3);
    Query OK, 3 rows affected (0.00 sec)
    Records: 3  Duplicates: 0  Warnings: 0
    
    mysql> commit;
    Query OK, 0 rows affected (0.01 sec)
    
    5)第二次差异备份
    [root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full /backup/chayi2
    from_lsn = 2539999813
    to_lsn = 2540011876
    
    6)模拟数据损坏
    [root@db01 ~]# /etc/init.d/mysql stop
    Shutting down MySQL.. SUCCESS! 
    [root@db01 ~]# rm -fr /application/mysql/data/
    
    7)恢复数据
    	a)全备只做redo
    	[root@db01 ~]# innobackupex --apply-log --redo-only /backup/full/
    	b)合并最后一次差异备份,redo undo 都做
    	[root@db01 ~]# innobackupex --apply-log --incremental-dir=/backup/chayi2/ /backup/full/
    	c)全备做redo undo模拟CSR
    	[root@db01 ~]# innobackupex --apply-log  /backup/full/
    	d)执行copy-back恢复数据
    	[root@db01 ~]# innobackupex --copy-back  /backup/full/
    8)修改权限
    [root@db01 ~]# chown -R mysql.mysql /application/mysql/data/
    9)启动数据库
    [root@db01 ~]# /etc/init.d/mysql start
    

    思考:

    企业级增量恢复实战

    背景:
    某大型网站,mysql数据库,数据量500G,每日更新量100M-200M

    备份策略:
    xtrabackup,每周六0:00进行全备,周一到周五及周日00:00进行增量备份。

    故障场景:
    周三下午2点出现数据库意外删除表操作。

    如何恢复???

  • 相关阅读:
    有哪些学习openCV的网站或书籍?
    开发者自述:我是这样学习 GAN 的
    FSGAN Subject Agnostic Face Swapping and Reenactment翻译+重点标注
    01-GAN公式简明原理之铁甲小宝篇
    CentOS 7 之 hostapd.conf 配置说明
    dlib库实现人脸68个特征点的定标操作的原理有哪些?
    生成对抗网络GAN---生成mnist手写数字图像示例(附代码)
    deepfake 资源总结
    大话CNN经典模型:VGGNet
    欧几里得距离
  • 原文地址:https://www.cnblogs.com/Forever-x/p/10995097.html
Copyright © 2011-2022 走看看