https://my.oschina.net/u/4305437/blog/4630031
搭建参考文档：
==========================================================================================================================
- 一、了解MHA高可用集群部署
- 二、对三台主机(mysql1,mysql2,mysql3)安装mysql数据库
- 三、对mysql1，mysql2，mysql3配置主从同步
- 四、 配置无密码认证
- 五、对所有主机manager，mysql1、mysql2、mysql3安装cmake-2.8.6.tar.gz
- 六、安装MHA并配置MHA
- 七、模拟故障测试
- 八，将菪机的mysql1恢复为master
-
- 1.先将mysql1设置成master（mysql2）的从服务器，设置只读
- 2.关掉当前master（mysql2）的同步功能，否则从服务器会报错
- 3.手动修改manager上的app1.cnf配置
- 4. 检查无密码认证和 MySQL 主从状态是否正常，请参考之前的步骤，这里不再列出。
- 5.查看当前主库master
- 6.关闭MAH
- 7.在manager上手动关闭当前master（mysql2）
- 8.再次查看，master已经关闭
- 9.将手动切换脚本拷贝到/usr/local/bin/下，并进行配置修改
- 10. 在manager上手动设置新的master（mysql1）
- 11.在manager上查看master是否真的转换
- 九、常见报错
-
-
-
-
- 问题1：[warning] relay_log_purge=0 is not set on slave 20.0.0.22(20.0.0.22:3）
- 问题2：[warning] log-bin is not set on slave 20.0.0.23(20.0.0.23:3306)
- 问题3:mysqlbinlog: unknown variable ‘default-character-set=utf8‘
- 问题4：如果在执行过程中，有如下报错信息：Can't exec "mysqlbinlog": No such file or directory at /usr/lib64/perl5/vendor_perl/MHA/BinlogManager.pm line 99.
- 问题5：如果有如下报错信息：Bareword "FIXME_xxx" not allowed while "strict subs" in use at /usr/local/bin/master_ip_failover line 100.:
-
-
-
一、了解MHA高可用集群部署
1.传统的MySQL主从架构存在的问题
- 只有一台主服务器负责写入
- 存在单点故障
2.MHA概述
- MHA (MasterHigh Availability）E前在MySQL高可用方面是一个相对成熟的解决方案，它由日本 DeNA公司youshimaton（现就职于Facebook公司）开发的
- —套优秀的MySQL高可用环境下故障切换和主从复制的软件
- MySQL故障过程中，MHA能做到O-30秒内自动完成故障切换
- 并且在进行故障切换的过程中，MHA能在最大程度上保证数据的一致性，以达到真正意义上的高可用。
3.MHA的组成
- MHA Manager(管理节点)
- MHA Node(数据节点)
4.MHA特点
- 自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
- 使用半同步复制，可以大大降低数据丢失的风险
- 目前MHA支持一主多从架构，最少三台服务，即一主两从
5.MHA工作原理
该软件由两部分组成:MHA Manager（管理节点）和MHA Node（数据节点）。MHAManager可以单独部署在一台独立的机器上，管理多个master-slave集群;也可以部署在一台slave 节点上。MHA Node运行在每台MySQL服务器上，MHA_Manager会定时探测集群中的master 节点。当master 出现故障时，它可以自动将最新数据的slave提升为新的master，然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完全透明。
在MHA自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据的不丢失，但这并不总是可行的。例如，如果主服务器硬件故障或无法通过SSH访问，MHA 没法保存二进制日志，就会出现只进行故障转移但丢失了最新的数据的情况。使用MySQL5.5的半同步复制，可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来。如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性。
6.案例设计
目前MySQL已经成为市场上主流数据库之一，考虑到业务的重要性，MySQL 数据库单点问题已成为企业网站架构中大的隐患。随着技术的发展，MHA的出现就是解决MySQL单点的问题。另外随着企业数据量越来越庞大，数据库的压又成为企业的另一个瓶颈，MySQL多主多从架构的出现可以减轻MySQL本身的压力。这个实验主要阐述MHA的搭建和模拟MySQL 故障自动切换的过程。
| 主机 | 操作系统 | 主机名及地址 | 角色 |
|---|---|---|---|
| 服务器 | CentOS7.6(64位) | manager/20.0.0.11 | 管理节点，安装manager组件和node组件 |
| 服务器 | CentOS7.6(64位) | Mysql1/20.0.0.12 | Master节点，安装node组件 |
| 服务器 | CentOS7.6(64位) | Mysql2/20.0.0.18 | Slave 节点，安装node组件 |
| 服务器 | CentOS7.6(64位) | Mysql3/20.0.0.19 | Slave节点，安装node组件 |
二、对三台主机(mysql1,mysql2,mysql3)安装mysql数据库
三、对mysql1，mysql2，mysql3配置主从同步
1.配置mysql1
1.1设置主机名，便于识别
[root@localhost ~]# hostnamectl set-hostname mysql1
[root@mysql1 ~]# bash
1.2 做主机映射
[root@mysql1 ~]# vi /etc/hosts
20.0.0.12 mysql1
1.3 修改数据库文件/etc/my.cof配置
[root@mysql1 ~]# vi /etc/my.cnf
[mysqld]
……省略部分
server-id = 11
log-bin = master-bin
log-slave-updates = true
[root@mysql1 ~]# systemctl restart mysqld
[root@mysql1 ~]# ln -s /usr/local/mysql/bin/mysql /usr/sbin/
[root@mysql1 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
1.4 登入数据库授权
[root@mysql1 ~]# mysql -uroot -p
mysql> grant replication slave on *.* to 'myslave'@'20.0.0.%' identified by '123456';
mysql> grant all privileges on *.* to 'mha'@'20.0.0.%' identified by 'manager';
#######################下面这条授权最好也做一下，防止报错#####################
mysql>grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';
##########################################################################
mysql> flush privileges;
1.5 查看master状态
mysql> show master status;
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------------------+------------+---------------------+----------------------------+--------------------------+
| master-bin.000001 | 154 | | |2. 配置mysql1
2.1设置主机名，便于识别
[root@localhost ~]# hostnamectl set-hostname mysql2
[root@mysql2 ~]# bash
2.2 做主机映射
[root@mysql2 ~]# vi /etc/hosts
20.0.0.18 mysql2
2.3 修改数据库文件/etc/my.cof配置
[root@mysql2 ~]# vi /etc/my.cnf
[mysqld]
……省略部分
server-id = 22
log-bin = master-bin //这条必须有，因为备选master需要有binlog日志文件
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
[root@mysql2 ~]# mysql -uroot -p -e 'set global relay_log_purge=0'
[root@mysql2 ~]# systemctl restart mysqld
[root@mysql2 ~]# ln -s /usr/local/mysql/bin/mysql /usr/sbin/
[root@mysql2 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
2.4 登入数据库授权
[root@mysql2 ~]# mysql -uroot -p
mysql> grant replication slave on *.* to 'myslave'@'20.0.0.%' identified by '123456';
mysql> grant all privileges on *.* to 'mha'@'20.0.0.%' identified by 'manager';
#######################下面这条授权最好也做一下，防止报错#####################
mysql>grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
##########################################################################
mysql> flush privileges;
mysql> change master to master_host='20.0.0.12',
-> master_user='myslave',
-> master_password='123456',
-> master_port=3306,
-> master_log_file='master-bin.000001',
-> master_log_pos=154;
3. 配置mysql3
3.1设置主机名，便于识别
[root@localhost ~]# hostnamectl set-hostname mysql2
[root@mysql1 ~]# bash
3.2 做主机映射
[root@mysql1 ~]# vi /etc/hosts
20.0.0.19 mysql3
3.3 修改数据库文件/etc/my.cof配置
[root@mysql1 ~]# vi /etc/my.cnf
[mysqld]
……省略部分
server-id = 33
no_master=1 //no_master表示这个节点不能作为master
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
[root@mysql3 ~]# mysql -uroot -p -e 'set global relay_log_purge=0' //清除relay-log残存
[root@mysql3 ~]# systemctl restart mysqld
[root@mysql3 ~]# ln -s /usr/local/mysql/bin/mysql /usr/sbin/
[root@mysql3 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
3.4 登入数据库授权
[root@mysql1 ~]# mysql -uroot -p
mysql> grant replication slave on *.* to 'myslave'@'20.0.0.%' identified by '123456';
mysql> grant all privileges on *.* to 'mha'@'20.0.0.%' identified by 'manager';
#######################下面这条授权最好也做一下，防止报错#####################
mysql>grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
##########################################################################
mysql> flush privileges;
mysql> change master to master_host='20.0.0.12',
-> master_user='myslave',
-> master_port=3306,
-> master_password='123456',
-> master_log_file='master-bin.000001',
-> master_log_pos=154;
4.验证是否同步
4.1主服务器建库
mysql> create database 测试库;
Query OK, 1 row affected (0.01 sec)
mysql> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| 测试库 |
| mysql |
| performance_schema |
| sys |
| test |
+--------------------+
4.2两台从服务器验证
mysql> show databases; //同步成功
+--------------------+
| Database |
+--------------------+
| information_schema |
| 测试库 |
| mysql |
| performance_schema |
| sys |
| test |
+--------------------+
四、 配置无密码认证
1.在 manager 上配置到所有数据库节点的无密码认证
[root@localhost ~]# ssh-keygen -t rsa //一直回车就可以
[root@localhost ~]# ssh-copy-id 20.0.0.18
[root@localhost ~]# ssh-copy-id 20.0.0.12
[root@localhost ~]# ssh-copy-id 20.0.0.19
2.在 mysql1 上配置到所有数据库节点的无密码认证
[root@mysql1 ~]# ssh-keygen -t rsa //一直回车就可以
[root@mysql1 ~]# ssh-copy-id 20.0.0.18
[root@mysql1 ~]# ssh-copy-id 20.0.0.12
[root@mysql1 ~]# ssh-copy-id 20.0.0.19
3.在 mysql2 上配置到所有数据库节点的无密码认证
[root@mysql2 ~]# ssh-keygen -t rsa //一直回车就可以
[root@mysql2 ~]# ssh-copy-id 20.0.0.18
[root@mysql2 ~]# ssh-copy-id 20.0.0.12
[root@mysql2 ~]# ssh-copy-id 20.0.0.19
4.在 mysql3 上配置到所有数据库节点的无密码认证
[root@mysql3 ~]# ssh-keygen -t rsa //一直回车就可以
[root@mysql3 ~]# ssh-copy-id 20.0.0.18
[root@mysql3 ~]# ssh-copy-id 20.0.0.12
[root@mysql3 ~]# ssh-copy-id 20.0.0.19
五、对所有主机manager，mysql1、mysql2、mysql3安装cmake-2.8.6.tar.gz
[root@localhost ~]# yum -y install ncurses-devel gcc-c++ perl-Module-Install
[root@localhost ~]# tar zxvf cmake-2.8.6.tar.gz -C /opt
[root@localhost ~]# cd /opt/cmake-2.8.6
[root@Mysql1 cmake-2.8.6]# ./configure
[root@Mysql1 cmake-2.8.6]# gmake -j3 && gmake install
六、安装MHA并配置MHA
1. 所有服务器上(manager、mysql1、mysql2、mysql3)都安装 MHA 依赖的环境，首先安装 epel 源。
[root@localhost ~]# yum install epel-release --nogpgcheck
perl-DBD-MySQL
perl-Config-Tiny
perl-Log-Dispatch
perl-Parallel-ForkManager
perl-ExtUtils-CBuilder
perl-ExtUtils-MakeMaker
perl-Mail-Sender
perl-CPAN
2. MHA 软件包对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本，
在<注意：所有服务器manager、mysql1、mysql2、mysql3>上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件。因为 manager 依赖 node 组件，下面都是在 Mysql1 上操作演示安装 node 组件。
[root@localhost ~]# tar zxvf mha4mysql-node-0.57.tar.gz -C /opt
[root@localhost mha4mysql-node-0.57]# cd /opt/mha4mysql-node-0.57/
[root@localhost mha4mysql-node-0.57]# perl Makefile.PL
[root@localhost mha4mysql-node-0.57]# make && make install
[root@localhost mha4mysql-node-0.57]# ls /usr/local/bin
apply_diff_relay_logs filter_mysqlbinlog purge_relay_logs save_binary_logs
node 安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHA_Manager 的脚本触发，无需人为操作）主要如下：
| save_binary_logs | 保存和复制 master 的二进制日志 |
|---|---|
| apply_diff_relay_logs | 识别差异的中继日志事件并将其差异的事件应用于其他的 slave |
| filter_mysqlbinlog | 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具） |
| purge_relay_logs | 清除中继日志（不会阻塞 SQL 线程） |
3.在 MHA-manager上安装 manager 组件（！注意：一定要先安装node 组件才能安装manager 组件）
[root@localhost ~]# tar zxvf mha4mysql-manager-0.57.tar.gz -C /opt
[root@localhost ~]# cd /opt/mha4mysql-manager-0.57/
[root@localhost mha4mysql-manager-0.57]# perl Makefile.PL
[root@localhost mha4mysql-manager-0.57]# make && make install
[root@localhost mha4mysql-manager-0.57]# ls /usr/local/bin
masterha_check_repl masterha_check_status masterha_manager masterha_master_switch masterha_stop masterha_check_ssh
masterha_conf_host masterha_master_monitor masterha_secondary_check
manager 安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：
| 工具 | 用途 |
|---|---|
| masterha_check_ssh | 检查 MHA 的 SSH 配置状况 |
| masterha_check_repl | 检查 MySQL 复制状况 |
| masterha_manger | 启动 manager的脚本 |
| masterha_check_status | 检测当前 MHA 运行状态 |
| masterha_master_monitor | 检测 master 是否宕机 |
| masterha_master_switch | 控制故障转移（自动或者手动） |
| masterha_conf_host | 添加或删除配置的 server 信息 |
| masterha_stop | 关闭manager |
4.在 manager 节点上复制相关脚本到/usr/local/bin 目录
[root@localhost ~]# cp -ra /opt/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin/
[root@localhost ~]# ls /usr/local/bin/scripts/
master_ip_failover master_ip_online_change power_manager send_report
[root@localhost ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin/
复制“master_ip_failover”脚本到/usr/local/bin 目录，这里使用脚本管理 VIP，也是推荐的一种方式，生产环境不建议使用 Keepalived。
脚本具体作用如下所示：
| master_ip_failover | 自动切换时 VIP 管理的脚本 |
|---|---|
| master_ip_online_change | 在线切换时 vip 的管理 |
| power_manager | 故障发生后关闭主机的脚本 |
| send_report | 因故障切换后发送报警的脚本 |
5.配置自动切换时 VIP 管理的脚本
直接复制即可用，ip等参数自行修改
[root@localhost bin]# vi /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';
use Getopt::Long;
use MHA::DBHelper;
my (
$command, $ssh_user, $orig_master_host,
$orig_master_ip, $orig_master_port, $new_master_host,
$new_master_ip, $new_master_port, $new_master_user,
$new_master_password
);
##################################插入下面这部分内#################################
my $vip = '20.0.0.200';
my $brdc = '20.0.0.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#################################################################################
GetOptions(
'command=s' => $command,
'ssh_user=s' => $ssh_user,
'orig_master_host=s' => $orig_master_host,
'orig_master_ip=s' => $orig_master_ip,
'orig_master_port=i' => $orig_master_port,
'new_master_host=s' => $new_master_host,
'new_master_ip=s' => $new_master_ip,
'new_master_port=i' => $new_master_port,
'new_master_user=s' => $new_master_user,
'new_master_password=s' => $new_master_password,
);
exit &main();
sub main {
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@
";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
my $new_master_handler = new MHA::DBHelper();
$new_master_handler->connect( $new_master_ip, $new_master_port,
$new_master_user, $new_master_password, 1 );
$new_master_handler->disable_log_bin_local();
print "Set read_only=0 on the new master.
";
$new_master_handler->disable_read_only();
$new_master_handler->enable_log_bin_local();
$new_master_handler->disconnect();
## Update master ip on the catalog database, etc
# FIXME_xxx; //这一条切记加注释，删掉有时也会报错，注释掉就可以了
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
exit 0;
}
else {
&usage();
exit 1;
}
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port
";
}
6.创建 MHA 软件目录并拷贝配置文件app1.cnf
[root@localhost ~]# mkdir /etc/masterha //创建MHA软件存放目录
[root@localhost ~]# cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
[root@localhost ~]# mkdir -p /var/log/masterha/app1
[root@localhost ~]# vi /etc/masterha/app1.cnf
[server default]
manager_log=/var/log/masterha/app1/manager.log //指定manager的日志文件
manager_workdir=/var/log/masterha/app1 //指定manager的工作目录
master_binlog_dir=/usr/local/mysql/data //master存放binlog的位置，要与master的存放位置一致
master_ip_failover_script=/usr/local/bin/master_ip_failover //设置自动failover时候的切换脚本位置
master_ip_online_change_script=/usr/local/bin/master_ip_online_change //设置手动切换时的切换脚本位置
user=mha //监控用户
password=manager //监控用户密码
ping_interval=1 //设置监控主库，发送ping包的时间间隔，默认是3秒,尝试三次没有回应的时候自动 进行failover故障切换
remote_workdir=/tmp //设置远端mysq|在发生切换时binlog的保存位置
repl_password=123456 //设置复制用户（从服务器用户）的密码
repl_user=myslave //设置复制用户（从服务器用户
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 20.0.0.18 -s 20.0.0.19
shutdown_script="" //设置故障发生后关闭故障主机脚本(该脚本的主要作用是关闭主机防止发生脑裂)
ssh_user=root //使用ssh登录时的用户
report script=/usr/local/send_report //设置发生切换后发送的报警的脚本
[server1]
hostname=20.0.0.12
port=3306
[server2]
hostname=20.0.0.18
port=3306
candidate_master=1
check_repl_delay=0
[server3]
hostname=20.0.0.19
port=3306
##################################配置含义########################################
- candidate_master=1：设置为候选 master，如果设置该参数以后，发生主从切换以后 会将此从库提升为主库，即使这个主库不是集群中最新的 slave。
- check_repl_delay=0：默认情况下如果一个 slave 落后 master 100M 的 relay logs 的话， MHA 将不会选择该 slave 作为一个新的 master。因为对于这个 slave 的恢复需要花费 很长时间，通过设置 check_repl_delay=0,MHA 触发切换在选择一个新的 master 的时 候将会忽略复制延时，这个参数对于设置了 candidate_master=1 的主机非常有用，因 为这个候选主在切换的过程中一定是新的 master
7.检查MHA是否正常
7.1检查ssh情况，正常会输出successfully
[root@localhost perl5]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
Sat Sep 19 00:15:33 2020 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.
Sat Sep 19 00:15:33 2020 - [info] Reading application default configuration from /etc/masterha/app1.cnf..
……省略部分
Sat Sep 19 00:15:41 2020 - [info] All SSH connection tests passed successfully.
7.2检查群集状态，正常会输出Health is OK.
[root@localhost bin]# masterha_check_repl -conf=/etc/masterha/app1.cnf
Sat Sep 19 01:23:56 2020 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.
Sat Sep 19 01:23:56 2020 - [info] Reading application default configuration from /etc/masterha/app1.cnf..
Sat Sep 19 01:23:56 2020 - [info] Reading server configuration from /etc/masterha/app1.cnf..
Sat Sep 19 01:23:56 2020 - [info] MHA::MasterMonitor version 0.57.
Sat Sep 19 01:23:57 2020 - [info] GTID failover mode = 0
……省略部分
Sat Sep 19 01:24:36 2020 - [info] Checking replication health on 20.0.0.19..
Sat Sep 19 01:24:36 2020 - [info] ok.
Sat Sep 19 01:24:36 2020 - [info] Checking master_ip_failover_script status:
Sat Sep 19 01:24:36 2020 - [info] /usr/local/bin/master_ip_failover --command=status --ssh_user=root --orig_master_host=20.0.0.12 --orig_master_ip=20.0.0.12 --orig_master_port=3306
Sat Sep 19 01:24:36 2020 - [info] OK.
Sat Sep 19 01:24:36 2020 - [warning] shutdown_script is not defined.
Sat Sep 19 01:24:36 2020 - [info] Got exit code 0