Mysql Backup

1、完全备份# innobackupex --user=DBUSER --password=DBUSERPASS  /path/to/BACKUP-DIR/如果要使用一个最小权限的用户进行备份，则可基于如下命令创建此类用户：(不好用)mysql> CREATE USER 'backupupser'@'localhost' IDENTIFIED BY 'backupuser';mysql> GRANT RELOAD, LOCK TABLES, REPLICATION CLIENT ON *.* TO 'backupuser'@'localhost';mysql> FLUSH PRIVILEGES;使用innobakupex备份时，其会调用xtrabackup备份所有的InnoDB表，复制所有关于表结构定义的相关文件(.frm)、以及MyISAM、MERGE、CSV和ARCHIVE表的相关文件，同时还会备份触发器和数据库配置信息相关的文件。这些文件会被保存至一个以时间命令的目录中。在备份的同时，innobackupex还会在备份目录中创建如下文件：
    (1)xtrabackup_checkpoints ―― 备份类型（如完全或增量）、备份状态（如是否已经为prepared状态）和LSN(日志序列号)范围信息；每个InnoDB页(通常为16k大小)都会包含一个日志序列号，即LSN。LSN是整个数据库系统的系统版本号，每个页面相关的LSN能够表明此页面最近是如何发生改变的。
    (2)xtrabackup_binlog_info ―― mysql服务器当前正在使用的二进制日志文件及至备份这一刻为止二进制日志事件的位置。
    (3)xtrabackup_binlog_pos_innodb ―― 二进制日志文件及用于InnoDB或XtraDB表的二进制日志文件的当前position。
    (4)xtrabackup_binary ―― 备份中用到的xtrabackup的可执行文件；
    (5)backup-my.cnf ―― 备份命令用到的配置选项信息；在使用innobackupex进行备份时，还可以使用--no-timestamp选项来阻止命令自动创建一个以时间命名的目录；如此一来，innobackupex命令将会创建一个BACKUP-DIR目录来存储备份数据。
2、准备(prepare)一个完全备份一般情况下，在备份完成后，数据尚且不能用于恢复操作，因为备份的数据中可能会包含尚未提交的事务或已经提交但尚未同步至数据文件中的事务。因此，此时数据文件仍处理不一致状态。“准备”的主要作用正是通过回滚未提交的事务及同步已经提交的事务至数据文件也使得数据文件处于一致性状态。innobakupex命令的--apply-log选项可用于实现上述功能。如下面的命令：# innobackupex --apply-log  /path/to/BACKUP-DIR如果执行正确，其最后输出的几行信息通常如下：xtrabackup: starting shutdown with innodb_fast_shutdown = 1120407  9:01:36  InnoDB: Starting shutdown...120407  9:01:40  InnoDB: Shutdown completed; log sequence number 92036620120407 09:01:40  innobackupex: completed OK!在实现“准备”的过程中，innobackupex通常还可以使用--use-memory选项来指定其可以使用的内存的大小，默认通常为100M。如果有足够的内存可用，可以多划分一些内存给prepare的过程，以提高其完成速度。
3、从一个完全备份中恢复数据innobackupex命令的--copy-back选项用于执行恢复操作，其通过复制所有数据相关的文件至mysql服务器DATADIR目录中来执行恢复过程。innobackupex通过backup-my.cnf来获取DATADIR目录的相关信息。# innobackupex --copy-back  /path/to/BACKUP-DIR如果执行正确，其输出信息的最后几行通常如下：innobackupex: Starting to copy InnoDB log filesinnobackupex: in '/backup/2012-04-07_08-17-03'innobackupex: back to original InnoDB log directory '/mydata/data'innobackupex: Finished copying back files.120407 09:36:10  innobackupex: completed OK!请确保如上信息的最行一行出现“innobackupex: completed OK!”。当数据恢复至DATADIR目录以后，还需要确保所有数据文件的属主和属组均为正确的用户，如mysql，否则，在启动mysqld之前还需要事先修改数据文件的属主和属组。如：# chown -R  mysql:mysql  /mydata/data/   增量备份还原需要注意的是，增量备份仅能应用于InnoDB或XtraDB表，对于MyISAM表而言，执行增量备份时其实进行的是完全备份。“准备”(prepare)增量备份与整理完全备份有着一些不同，尤其要注意的是：
    (1)需要在每个备份(包括完全和各个增量备份)上，将已经提交的事务进行“重放”。“重放”之后，所有的备份数据将合并到完全备份上。
    (2)基于所有的备份将未提交的事务进行“回滚”。于是，操作就变成了：# innobackupex --apply-log --redo-only BASE-DIR接着执行：# innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-1(必须为绝对路径)而后是第二个增量：# innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-2其中BASE-DIR指的是完全备份所在的目录，而INCREMENTAL-DIR-1指的是第一次增量备份的目录，INCREMENTAL-DIR-2指的是第二次增量备份的目录，其它依次类推，即如果有多次增量备份，每一次都要执行如上操作；例如:innobackupex --apply-log --redo-only /backup/xtrabackup/2016-10-01_17-00-13/innobackupex --apply-log --redo-only /backup/xtrabackup/2016-10-01_17-00-13/ --incremental-dir=/backup/xtrabackup/2016-10-01_17-15-00/'''

脚本内容

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# Author EdwardLiu


import datetime
import os
from subprocess import Popen, PIPE
import logging

# 获取当前时间
time = datetime.datetime.now().strftime("%Y-%m-%d-%H")
# 定义备份存放目录
backup_directory = "/software/mysql_backup/"
# 定义完全备份目录
full_dir = "%s" % backup_directory + "full" + "backup" + "/"
# 定义增量备份目录
increment_dir = "%s" % backup_directory + "increment" + "/"
# 命令路径
EXES = "/usr/bin/innobackupex"
EXES_increment = "/usr/bin/innobackupex"
# 备份使用的用户密码
mysql_user = "root"
mysql_password = "Pvmu,u9(7W"
# 备份使用命令
backup_full_mysql_command = "%s --user=%s  --password='%s' %s" % (
    EXES, mysql_user, mysql_password, full_dir)


class sunday:

    def backup_command(self):
        # 运行完整备份
        proc = Popen(backup_full_mysql_command, stdin=PIPE,
                     stdout=PIPE, universal_newlines=True, shell=True)
        result = ""
        exit_code = proc.wait()
        if exit_code != 0:
            for line in proc.stderr:
                result = result + line
        else:
            for line in proc.stdout:
                result = result + line
        return result

    def full_backup_dir(self):
        # 判断存放完整备份目录是否存在
        if not os.path.exists(full_dir):
            os.makedirs(full_dir)
            self.backup_command()
        else:
            self.backup_command()

    def full_backup_run(self):
        # 判断备份目录是否存在
        if not os.path.exists(backup_directory):
            os.makedirs(backup_directory)
            self.full_backup_dir()
        else:
            self.full_backup_dir()


class Tuesday_Saturday:
    # 每次的增量部署拿上一次的增量部署进行备份

    def last_time_increment_name(self):
        last_backup_directory_name = "ls -lrt %s | grep ^d | awk '{print $9}' | tail -n 1" % increment_dir
        proc = Popen(last_backup_directory_name, stdin=PIPE,
                     stdout=PIPE, universal_newlines=True, shell=True)
        exit_code = proc.wait()
        result = ""
        if exit_code != 0:
            for line in proc.stderr:
                result = result + line
        else:
            for line in proc.stdout:
                result = result + line
        return result

    def increment_every_backup(self):
        # 根据最后一次完整备份做增量备份
        last_full_dir = "%s/%s" % (increment_dir,
                                   self.last_time_increment_name())
        backup_increment_mysql_command = "%s --user=%s --password='%s' --incremental %s --incremental-basedir=%s" % (
            EXES_increment, mysql_user, mysql_password, increment_dir, last_full_dir)
        proc = Popen(backup_increment_mysql_command, stdin=PIPE,
                     stdout=PIPE, universal_newlines=True, shell=True)
exit_code = proc.wait()
        result = ""
        if exit_code != 0:
            for line in proc.stderr:
                result = result + line
        else:
            for line in proc.stdout:
                result = result + line
        return result

    def increment_run(self):
        # 周2-周六使用增量备份进行增量备份
        if not os.path.exists(increment_dir):
            os.makedirs(increment_dir)
            self.increment_every_backup()
        else:
            self.increment_every_backup()


class Monday:

    def last_full_name(self):
        # 最后一次完整备份文件名
        last_backup_directory_name = "ls -lrt %s | grep ^d | awk '{print $9}' | tail -n 1" % full_dir
        proc = Popen(last_backup_directory_name, stdin=PIPE,
                     stdout=PIPE, universal_newlines=True, shell=True)
        exit_code = proc.wait()
        result = ""
        if exit_code != 0:
            for line in proc.stderr:
                result = result + line
        else:
            for line in proc.stdout:
                result = result + line
        return result

    def increment_run(self):
        # 根据最后一次完整备份做增量备份
        last_full_dir = "%s/%s" % (full_dir, self.last_full_name())
        backup_increment_mysql_command = "%s --user=%s --password=%s --incremental %s --incremental-basedir=%s" % (
            EXES_increment, mysql_user, mysql_password, increment_dir, last_full_dir)
        proc = Popen(backup_increment_mysql_command, stdin=PIPE,
                     stdout=PIPE, universal_newlines=True, shell=True)
        exit_code = proc.wait()
        result = ""
        if exit_code != 0:
            for line in proc.stderr:
                result = result + line
        else:
            for line in proc.stdout:
                result = result + line
        return result

    def increment(self):
        if not os.path.exists(increment_dir):
            os.makedirs(increment_dir)
            self.increment_run()
        else:
            self.increment_run()


if __name__ == '__main__':
    d = datetime.datetime.now()
    if d.weekday() == 6:
        print u'今天是星期%s'.encode('utf-8') % (d.weekday() + 1) + u'执行全量备份'.encode('utf-8')
        full = sunday()
        full.full_backup_run()
    elif d.weekday() == 0:
        print u'今天执行上一次的全量的增量备份'.encode('utf-8') + u'星期%s'.encode('utf-8') % (d.weekday() + 1)
        zl_full = Monday()
        zl_full.increment()
    elif d.weekday() >= 1 and d.weekday() < 6:
        print u'今天是星期%s'.encode('utf-8') % (d.weekday() + 1) + u'执行增量的增量备份'.encode('utf-8')
        zl = Tuesday_Saturday()
        zl.increment_run()
    else:
        print u'碰见鬼了,难道今天是星期8?????'.encode('utf-8')