zoukankan      html  css  js  c++  java
  • mysql 主从复制

    作者个人研发的在高并发场景下,提供的简单、稳定、可扩展的延迟消息队列框架,具有精准的定时任务和延迟队列处理功能。自开源半年多以来,已成功为十几家中小型企业提供了精准定时调度方案,经受住了生产环境的考验。为使更多童鞋受益,现给出开源框架地址:

    https://github.com/sunshinelyz/mykit-delay

    PS: 欢迎各位Star源码,也可以pr你牛逼哄哄的代码。      

    写在前面

    很多小伙伴对于MySQL主从复制底层的原理不是很了解,那今天,我们就结合MySQL主从复制的实战案例来说说MySQL主从复制的底层原理。如果文章对你有点帮助,请点个赞,给个在看和转发。也可以在文末留言或者加我微信【sun_shine_lyz】交流技术,一起学习,一起进步!

    注:文章已收录到:https://github.com/sunshinelyz/technology-binghe 。

    安装MySQL

    关于如何安装MySQL,小伙伴们可以参考《MySQL之——源码编译MySQL8.x+升级gcc+升级cmake(亲测完整版)》。这里,我就不再赘述了。

    MySQL官方文档

    MySQL 主从复制官方文档链接地址如下所示:

    http://dev.mysql.com/doc/refman/8.0/en/replication.html

    MySQL 主从复制方式

    MySQL5.6 开始主从复制有两种方式:基于日志(binlog)、基于 GTID(全局事务标示符)。这里,我们主要讲基于日志(binlog)的复制。关于GTID的主从复制,我们后面再详细讨论。

    MySQL主从复制原理

    MySQL主从复制原理,也称为A/B原理。

    (1) Master 将数据改变记录到二进制日志(binary log)中,也就是配置文件 log-bin 指定的文件, 这些记录叫做二进制日志事件(binary log events);

    (2) Slave 通过 I/O 线程读取 Master 中的 binary log events 并写入到它的中继日志(relay log);

    (3) Slave 重做中继日志中的事件,把中继日志中的事件信息一条一条的在本地执行一次,完 成数据在本地的存储,从而实现将改变反映到它自己的数据(数据重放)。

    主从配置注意事项

    (1)主从服务器操作系统版本和位数一致;

    (2) Master 和 Slave 数据库的版本要一致;

    (3) Master 和 Slave 数据库中的数据要一致;

    (4) Master 开启二进制日志,Master 和 Slave 的 server_id 在局域网内必须唯一;

    主从配置的简要步骤

    1、Master 上的配置

    (1) 安装数据库;

    (2) 修改数据库配置文件,指明 server_id,开启二进制日志(log-bin);

    (3) 启动数据库,查看当前是哪个日志,position 号是多少;

    (4) 登录数据库,授权数据复制用户(IP 地址为从机 IP 地址,如果是双向主从,这里的 还需要授权本机的 IP 地址,此时自己的 IP 地址就是从 IP 地址);

    (5) 备份数据库(记得加锁和解锁);

    (6) 传送备份数据到 Slave 上;

    (7) 启动数据库;

    以下步骤,为单向主从搭建成功,想搭建双向主从需要的步骤:

    (1) 登录数据库,指定 Master 的地址、用户、密码等信息(此步仅双向主从时需要);

    (2) 开启同步,查看状态;

    2、Slave 上的配置

    (1) 安装数据库;

    (2) 修改数据库配置文件,指明 server_id(如果是搭建双向主从的话,也要开启二进制 日志 log-bin);

    (3) 启动数据库,还原备份;

    (4) 查看当前是哪个日志,position 号是多少(单向主从此步不需要,双向主从需要);

    (5) 指定 Master 的地址、用户、密码等信息;

    (6) 开启同步,查看状态。

    单向主从环境搭建

    安装数据库

    参考《MySQL之——源码编译MySQL8.x+升级gcc+升级cmake(亲测完整版)》。

    配置Master的my.cnf

    [root@liuyazhuang131 ~]# vi /etc/my.cnf  
    # 在 [mysqld] 中增加以下配置项 
    # 设置 server_id,一般设置为 IP 
    server_id=131
    # 复制过滤:需要备份的数据库,输出 binlog
    #binlog-do-db=liuyazhuang
    # 复制过滤:不需要备份的数据库,不输出(mysql 库一般不同步) 
    binlog-ignore-db=mysql 
    # 开启二进制日志功能,可以随便取,最好有含义 
    log-bin=lyz-mysql-bin 
    ## 为每个 session 分配的内存,在事务过程中用来存储二进制日志的缓存 
    binlog_cache_size=1M 
    ## 主从复制的格式(mixed,statement,row,默认格式是 statement)
    binlog_format=mixed
    # 二进制日志自动删除/过期的天数。默认值为 0,表示不自动删除。 
    expire_logs_days=7
    # 跳过主从复制中遇到的所有错误或指定类型的错误,避免 slave 端复制中断。
    # 如:1062 错误是指一些主键重复,1032 错误是因为主从数据库数据不一致
    slave_skip_errors=1062

    复制过滤可以让你只复制服务器中的一部分数据,有两种复制过滤:

    (1) 在 Master 上过滤二进制日志中的事件;

    (2) 在 Slave 上过滤中继日志中的事件。如下:

    MySQL 对于二进制日志 (binlog)的复制类型

    (1) 基于语句的复制:在 Master 上执行的 SQL 语句,在 Slave 上执行同样的语句。MySQL 默 认采用基于语句的复制,效率比较高。一旦发现没法精确复制时,会自动选着基于行的复制。

    (2) 基于行的复制:把改变的内容复制到 Slave,而不是把命令在 Slave 上执行一遍。从MySQL5.0 开始支持。

    (3) 混合类型的复制:默认采用基于语句的复制,一旦发现基于语句的无法精确的复制时,就会采用基于行的复制。

    重启Master库

    启动/重启 Master 数据库服务,登录数据库,创建数据同步用户,并授予相应的权限

    [root@liuyazhuang131 ~]# service mysql restart 
    [root@liuyazhuang131 ~]# mysql -uroot -proot
    ##创建数据同步用户,并授予相应的权限 
    mysql> grant replication slave, replication client on *.* to 'repl'@'192.168.209.132' identified by '123456'; 
    Query OK, 0 rows affected (0.00 sec) ## 刷新授权表信息 
    mysql> flush privileges; 
    Query OK, 0 rows affected (0.00 sec) 
    ## 查看 position 号,记下 position 号(从机上需要用到这个 position 号和现在的日志文件) 
    mysql> show master status;
    +----------------------+----------+--------------+------------------+-------------------+
    | File                 | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
    +----------------------+----------+--------------+------------------+-------------------+
    | lyz-mysql-bin.000001 |     1312 |              | mysql            |                   |
    +----------------------+----------+--------------+------------------+-------------------+
    1 row in set (0.00 sec) 

    模拟业务数据库

    创建 lyz 库、表,并写入一定量的数据,用于模拟现有的业务系统数据库

    create database if not exists lyz default charset utf8 collate utf8_general_ci;
    use lyz; 
    DROP TABLE IF EXISTS `lyz_user`; CREATE TABLE `lyz_user` ( 
    `Id` int(11) NOT NULL AUTO_INCREMENT, 
    `userName` varchar(255) NOT NULL DEFAULT '' COMMENT '用户名', `pwd` varchar(255) NOT NULL DEFAULT '' COMMENT '密码',
     PRIMARY KEY (`Id`) 
    ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8 COMMENT='用户信息表'; 
    INSERT INTO `lyz_user` VALUES (1,'yixiaoqun','123456');

    实现初始数据一致

    为保证 Master 和 Slave 的数据一致,我们采用主备份,从还原来实现初始数据一致

    ## 先临时锁表
    mysql> flush tables with read lock; Query OK, rows affected (0.00 sec) 
    ## 这里我们实行全库备份,在实际中,我们可能只同步某一个库,那也可以只备份一个库
    [root@liuyazhuang131 mysql]# mysqldump -u root -proot lyz > /tmp/lyz.sql 
    [root@liuyazhuang131 mysql]# cd /tmp
    [root@liuyazhuang131 tmp]# ll | grep lyz.sql
    -rw-r--r--  root  root     2031 Apr 25 01:18 lyz.sql
    # 注意:实际生产环境中大数据量(超 2G 数据)的备份,建议不要使用 mysqldump 进行 比分,因为会非常慢。此时推荐使用 XtraBackup 进行备份。
    # 解锁表
    mysql> unlock tables; 
    Query OK, rows affected (0.00 sec)

    将 Master 上备份的数据远程传送到 Slave 上,以用于 Slave 配置时恢复数据

    [root@liuyazhuang131 tmp]# scp /tmp/lyz.sql root@192.168.209.132:/tmp/lyz.sql
    The authenticity of host '192.168.209.132 (192.168.209.132)' can't be established.
    RSA key fingerprint is da:70:7b:d5:0c:16:b3:1a:53:b7:3d:9f:20:01:26:3e.
    Are you sure you want to continue connecting (yes/no)? yes
    Warning: Permanently added '192.168.209.132' (RSA) to the list of known hosts.
    root@192.168.209.132's password: 
    lyz.sql          

    配置Slave库

    接下来处理 Slave(192.168.209.132),配置文件只需修改一项,其余配置用命令来操作

    [root@liuyazhuang132 ]# vi /etc/my.cnf
    # 在 [mysqld] 中增加以下配置项 
    # 设置 server_id,一般设置为 IP 
    server_id=132
    # 复制过滤:需要备份的数据库,输出 binlog #binlog-do-db=lyz
    # 复制过滤:不需要备份的数据库,不输出(mysql 库一般不同步)
     binlog-ignore-db=mysql 
    # 开启二进制日志,以备 Slave 作为其它 Slave 的 Master 时使用 
    log-bin=lyz-mysql-slave1-bin 
    ## 为每个 session 分配的内存,在事务过程中用来存储二进制日志的缓存 binlog_cache_size = 1M 
    # 主从复制的格式(mixed,statement,row,默认格式是 statement) 
    binlog_format=mixed 
    # 二进制日志自动删除/过期的天数。默认值为 0,表示不自动删除。 
    expire_logs_days=7 
    # 跳过主从复制中遇到的所有错误或指定类型的错误,避免 slave 端复制中断。 
    # 如:1062 错误是指一些主键重复,1032 错误是因为主从数据库数据不一致 
    slave_skip_errors=1062 
    ## relay_log 配置中继日志 
    relay_log=lyz-mysql-relay-bin 
    ## log_slave_updates 表示 slave 将复制事件写进自己的二进制日志 
    log_slave_updates=1
    ##防止改变数据(除了特殊的线程)
    read_only=1

    如果Slave为其它的Slave的Master时,必须设置bin_log,在这里,我开启了二进制日志,而且显式的命名(默认名称为hostname),但是如果hostname改变则会出现问题。

    relay_log配置中继日志,log_slave_updates表示slave将复制事件 写进自己的二进制日志.当设置log_slave_updates时,你可以让slave扮演其它slave的master.此时,slave把sql线程执行的事件写进自己的二进制日志(binary log)然后,它的slave可以获取这些事件并执行它。如下图所示(发送复制事件到其它的Slave):

    还原备份数据

    保存后重启MySQL服务,还原备份数据

    [root@liuyazhuang132 ~]# service mysql restart
    Shutting down MySQL. SUCCESS! 
    Starting MySQL.. SUCCESS! 

    Slave上创建相同库

    [root@liuyazhuang132 ~]# mysql -uroot -proot
     mysql> use lyz;
     Database changed

    导入数据

    [root@liuyazhuang132 ~]# mysql -uroot -proot lyz < /tmp/lyz.sql 
    [root@liuyazhuang132 ~]# mysql -uroot -proot
    mysql> use lyz;
    Reading table information for completion of table and column names
    You can turn off this feature to get a quicker startup with -A
    Database changed
    mysql> select * from lyz_user;
    +----+-----------+--------+
    | Id | userName  | pwd    |
    +----+-----------+--------+
    |  1 | yixiaoqun | 123456 |
    +----+-----------+--------+
    1 row in set (0.00 sec)

    Slave库添加参数

    登录Slave数据库,添加相关参数:Master的IP、端口、同步用户、密码、position号、读取哪个日志文件

    change master to master_host='192.168.209.131',master_user='repl',master_password='123456',master_port=3306,
    master_log_file='lyz-mysql-bin.000001',master_log_pos=1312,master_connect_retry=30;

    上面执行的命令的解释:

    • master_host='192.168.209.131' ##Master的IP地址
    • master_user='repl'           ##用于同步数据的用户(在Master中授权的用户)
    • master_password='123456'  ##同步数据用户的密码
    • master_port=3306           ##master数据库服务的端口
    • master_log_file='lyz-mysql-bin.000001' ##指定Slave从哪个日志文件开始读取复制文件(可在Master上使用show master status查看到日志文件名)
    • master_log_pos=429        ##从哪个POSITION号开始读
    • master_connect_retry=30    #当重新建立主从连接时,如果连接建立失败,间隔多久后重试,单位为秒,默认设置为60秒,同步延迟调优参数。

    查看主从同步状态

    show slave statusG;

    可看到Slave_IO_State为空,Slave_IO_Runngin和Slave_SQL_Running是No,表时Slave还是没有开始复制过程。

    开启主从同步

    mysql> start slave;

    再次查看同步状态

    #show slave statusG;

    主要看以下两个参数,这两个参数如果是Yes,就表示数据同步正常

    Slave_IO_Running:Yes
    Slave_SQL_Running:Yes

    可查看master和slave上线程的状态,在master上,可以看到slave的I/O线程创建的连接

    Master:mysql>show processlistG;

    1.row为处理slave的I/O线程的连接。

    2.row为处理MySQL客户连接线程。

    3.row为处理本地命令行的线程

    Slave:mysql>show processlistG;

    1.row为处理slave的I/O线程的连接。

    2.row为处理MySQL客户连接线程。

    3.row为处理本地命令行的线程

    主从数据复制同步测试

    Master:
    mysql> insert into lyz_user values(2,'test1','123456');
    Slave:
    mysql> start slave;

    经过以上配置,在192.168.209.131上对数据库/表进行增删改查,创建/删除数据库/表都会同步到192.168.209.132数据库上了。

    至此,整个配置过程结束。

    好了,今天就到这儿吧,我是冰河,我们下期见~~

    冰河原创PDF

    关注 冰河技术 微信公众号:

    回复 “并发编程” 领取《深入理解高并发编程(第1版)》PDF文档。

    回复 “并发源码” 领取《并发编程核心知识(源码分析篇 第1版)》PDF文档。

    回复 ”限流“ 领取《亿级流量下的分布式解决方案》PDF文档。

    回复 “设计模式” 领取《深入浅出Java23种设计模式》PDF文档。

    回复 “Java8新特性” 领取 《Java8新特性教程》PDF文档。

    回复 “分布式存储” 领取《跟冰河学习分布式存储技术》 PDF文档。

    回复 “Nginx” 领取《跟冰河学习Nginx技术》PDF文档。

    回复 “互联网工程” 领取《跟冰河学习互联网工程技术》PDF文档。

    重磅福利

    微信搜一搜【冰河技术】微信公众号,关注这个有深度的程序员,每天阅读超硬核技术干货,公众号内回复【PDF】有我准备的一线大厂面试资料和我原创的超硬核PDF技术文档,以及我为大家精心准备的多套简历模板(不断更新中),希望大家都能找到心仪的工作,学习是一条时而郁郁寡欢,时而开怀大笑的路,加油。如果你通过努力成功进入到了心仪的公司,一定不要懈怠放松,职场成长和新技术学习一样,不进则退。如果有幸我们江湖再见!

    另外,我开源的各个PDF,后续我都会持续更新和维护,感谢大家长期以来对冰河的支持!!

  • 相关阅读:
    ArrayList和LinkedList的底层代码实现思想
    ArrayList(顺序表)和LinkedList(链表)的区别联系,优劣取舍问题
    【AR】增强现实安卓编程
    【报错】"The constructor Notification(int, CharSequence, long) is deprecated
    【gradle报错】error: package org.apache.http does not exist
    【安卓面试题】多线程下载怎么实现?断点续传怎么实现?
    【安卓面试题】在一个Activity启动另一个Activity和在Service中启动一个Activity有什么区别
    java.lang.IllegalArgumentException: Service Intent must be explicit: Intent
    【Android Studio 小技巧】一键查看文件方法结构目录File Structure
    【安卓面试题】使用SQLiteOpenHelper的getReadableDatabase()获得的数据库能不能,做写的操作
  • 原文地址:https://www.cnblogs.com/yaoyangding/p/14596779.html
Copyright © 2011-2022 走看看