zoukankan      html  css  js  c++  java
  • 关于Mysql5.6半同步主从复制的开启方法【转】

    介绍

        先了解一下mysql的主从复制是什么回事,我们都知道,mysql主从复制是基于binlog的复制方式,而mysql默认的主从复制方式,其实是异步复制.

        主库实际上并不关心从库是否把数据拉完没有,也不关心从库有没有把数据写进硬盘入库,反正数据丢过去,让从库自己慢慢跑,而实际上这也并不影响主库任何使用的情况.

        细心的人就会发现,这种情况下,假如主库临时挂了,binlog还没传输完毕,即使是集群也不能保证说这挂了之后的数据一致性,因为你不能排除别人在主库是正常提交的,而从库没有数据的情况.

        然后在某个位面的时间上,就有人提出同步复制的概念,意思就是说,只要从库没写入,主库就不返回完成,这个时候即使主库挂了,这也只是一个未完成的事务,从库也不会记录,能保证数据一致性.

        看上去,数据一致性是解决了,但是呢,每个事务的延时就增大了,如果是大事务的话,就更惨,这得看网络带宽能不能顶得住,不然延时更低,性能更差.

        最后,在mysql5.5之后,半同步就提出来了,意思就是说,每个事务的复制,至少保证一个从库已经收到了binlog,主库才返回事务完成,但不需要理会从库是否写入硬盘.

        这样做虽然延时还是有,但是比起完全的同步方式还是好太多,对于数据一致性要求高的情况,牺牲性能来换取一定的价值,是在所难免的.

        光看文字难免有些虚,可以看看下面的图片来大致了解一下,wKiom1eN0FGDaHftAADNeqWw5TU365.png-wh_50

    大家留意上面的数字,

    第一部,客户端提交sql语句,

    第二部,提交给存储引擎解析并处理数据修改,

    第三部,事务在主库处理完毕,处于待完成状态,等待最终完成,

    第四部,同时提交给各从库,等待完成,

    第五部,从库返回状态给主库,标记已完成,半同步只需要一个从库返回就可以,其他会转成异步

    第六部,返回客户端,整个事务已完成.

    看上去还是比较不错,主从的数据一致性得到很大的提高,但是延时也不含糊,就是牺牲性能来提高一致性的问题了.

    不过我还是得负责任的讲句,在极端的情况下,还是可能会丢一些数据的,所以定期做主从数据校验还是有必要的,例如使用PT工具什么的,至于为什么,这个不仿让大家思考一下,而对于大事务来说,半同步也是比较无力的情况,性能损耗较大.

    安装使用

    下面来看看如何安装使用半同步,大部分mysql本身并没有预装半同步的组件,需要另外安装,但是一般mysql的包里面会自带so文件,所以只要手动加载一下就可以用了.

    先检查下有没有装

    1
    2
    3
    4
    5
    #查找是否有semisync字母,有就是装了,没有就是没装,默认是不安装的,所以请看下一步
    mysql> show plugins;
            .
            .
            .

    然后我们开始准备安装的事情:

    1
    2
    3
    4
    5
    6
    7
    8
    #查找mysql插件目录位置
    mysql> show variables like 'plugin_dir';
    +---------------+------------------------------------+
    | Variable_name | Value                              |
    +---------------+------------------------------------+
    | plugin_dir    | /usr/local/mysql/lib/mysql/plugin/ |
    +---------------+------------------------------------+
    1 row in set (0.00 sec)

    去看一下相关文件夹:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    #查看目录文件是否存在
    [root@pingtest1 ~]# ll /usr/local/mysql/lib/mysql/plugin/
    总用量 25328
    -rwxr-xr-x 1 root root    16916 3月   4 01:18 adt_null.so
    -rwxr-xr-x 1 root root   183009 3月   4 01:18 audit_log.so
    -rwxr-xr-x 1 root root    44095 3月   4 01:18 auth_pam_compat.so
    -rwxr-xr-x 1 root root    45929 3月   4 01:18 auth_pam.so
    -rwxr-xr-x 1 root root    27406 3月   4 01:18 auth.so
    -rwxr-xr-x 1 root root    13607 3月   4 01:18 auth_socket.so
    -rwxr-xr-x 1 root root    26229 3月   4 01:18 auth_test_plugin.so
    -rw-r--r-- 1 root root      227 3月   3 21:27 daemon_example.ini
    drwxr-xr-x 2 root root     4096 3月   4 01:23 debug
    -rwxr-xr-x 1 root root  4702357 3月   4 01:20 dialog.so
    -rwxr-xr-x 1 root root  2212305 3月   4 01:18 handlersocket.so
    -rwxr-xr-x 1 root root 14950125 3月   4 01:22 ha_tokudb.so
    -rwxr-xr-x 1 root root   834597 3月   4 01:18 innodb_engine.so
    -rwxr-xr-x 1 root root    39169 3月   4 01:18 libdaemon_example.so
    -rwxr-xr-x 1 root root    27048 3月   4 01:18 libfnv1a_udf.so
    -rwxr-xr-x 1 root root    27089 3月   4 01:18 libfnv_udf.so
    -rwxr-xr-x 1 root root   779519 3月   4 01:18 libmemcached.so
    -rwxr-xr-x 1 root root    28683 3月   4 01:18 libmurmur_udf.so
    -rwxr-xr-x 1 root root    17898 3月   4 01:18 mypluglib.so
    -rwxr-xr-x 1 root root    12224 3月   4 01:18 mysql_no_login.so
    -rwxr-xr-x 1 root root    18574 3月   4 01:18 qa_auth_client.so
    -rwxr-xr-x 1 root root    27059 3月   4 01:18 qa_auth_interface.so
    -rwxr-xr-x 1 root root    13877 3月   4 01:18 qa_auth_server.so
    -rwxr-xr-x 1 root root   395960 3月   4 01:18 query_response_time.so
    -rwxr-xr-x 1 root root    56417 3月   4 01:18 scalability_metrics.so
    -rwxr-xr-x 1 root root   537609 3月   4 01:18 semisync_master.so
    -rwxr-xr-x 1 root root   289069 3月   4 01:18 semisync_slave.so
    -rwxr-xr-x 1 root root   357058 3月   4 01:18 tokudb_backup.so
    -rwxr-xr-x 1 root root   188402 3月   4 01:18 validate_password.so

    看到下面两个,就是半同步的组件了,一个是主库组件,一个是从库组件,你可以两个都装上或者只装一个.

    1
    2
    semisync_master.so
    semisync_slave.so

    下面开始正式安装:

    1
    2
    3
    4
    5
    #在主库上执行
    mysql> install plugin rpl_semi_sync_master soname 'semisync_master.so';
    mysql> show plugins;
    #看到下面这个就证明成功了
    rpl_semi_sync_master | ACTIVE | REPLICATION | semisync_master.so | GPL

    从库当然也要做

    1
    2
    3
    4
    5
    #然后在从库执行
    mysql> install plugin rpl_semi_sync_slave soname 'semisync_slave.so';
    mysql> show plugins;
    #看到下面这个就证明成功了
    rpl_semi_sync_slave  | ACTIVE | REPLICATION | semisync_slave.so  | GPL

    安装完了,就开始准备启动了,

    主库很简单,只要设置一下半同步启动就可以了.

    1
    mysql> set global rpl_semi_sync_master_enabled = on;

    当然,你也可以写到配置文件,不过写到配置文件要重启才生效,而且还要重新加载组件,所以这就没意思了.

    然后到从库,slave要重启动IO线程来生效,否则还是异步的方式复制数据。

    1
    2
    3
    mysql> set global rpl_semi_sync_slave_enabled = on;
    mysql> stop slave IO_THREAD;
    mysql> start slave IO_THREAD;

    同样你也能写到配置文件,我就不多说了,反正这就启动完毕了.

    下面来验证一下是否成功,以下是主库的信息,因为从库很多信息是没有的.

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    mysql> show status like '%Rpl_semi_sync%';
    +--------------------------------------------+---------+
    | Variable_name                              | Value   |
    +--------------------------------------------+---------+
    | Rpl_semi_sync_master_clients               | 1       |
    | Rpl_semi_sync_master_net_avg_wait_time     | 746     |
    | Rpl_semi_sync_master_net_wait_time         | 3788497 |
    | Rpl_semi_sync_master_net_waits             | 5077    |
    | Rpl_semi_sync_master_no_times              | 0       |
    | Rpl_semi_sync_master_no_tx                 | 0       |
    | Rpl_semi_sync_master_status                | ON      |
    | Rpl_semi_sync_master_timefunc_failures     | 0       |
    | Rpl_semi_sync_master_tx_avg_wait_time      | 614     |
    | Rpl_semi_sync_master_tx_wait_time          | 2797020 |
    | Rpl_semi_sync_master_tx_waits              | 4552    |
    | Rpl_semi_sync_master_wait_pos_backtraverse | 0       |
    | Rpl_semi_sync_master_wait_sessions         | 0       |
    | Rpl_semi_sync_master_yes_tx                | 5077    |
    | Rpl_semi_sync_slave_status                 | OFF     |
    +--------------------------------------------+---------+
    15 rows in set (0.00 sec)

    解释几个重要的值。

    Rpl_semi_sync_master_status:    是否启用了半同步(有时候可能网络超时导致切换成异步)。

    Rpl_semi_sync_master_clients:    半同步模式下Slave一共有多少个。

    Rpl_semi_sync_master_no_tx:    往slave发送失败的事务数量(最好不要有)。

    Rpl_semi_sync_master_yes_tx:    往slave发送成功的事务数量。

    看完上面的解析,大概你也知道我这个状态是正常的了.其他延时类别的,大家得看实际情况.

    来看看我们能设置些什么关于半同步的参数

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    mysql> show variables like '%Rpl%';
    +------------------------------------+----------+
    | Variable_name                      | Value    |
    +------------------------------------+----------+
    | rpl_semi_sync_master_enabled       | ON       |
    | rpl_semi_sync_master_timeout       | 10000    |
    | rpl_semi_sync_master_trace_level   | 32       |
    | rpl_semi_sync_master_wait_no_slave | ON       |
    | rpl_semi_sync_slave_enabled        | OFF      |
    | rpl_semi_sync_slave_trace_level    | 32       |
    | rpl_stop_slave_timeout             | 31536000 |
    +------------------------------------+----------+
    7 rows in set (0.00 sec)

    也来看看解析:

    rpl_semi_sync_master_enabled:    显示是否已开启半同步机制

    rpl_semi_sync_master_timeout:    Master等待slave响应的时间,单位是毫秒,默认值是10秒,超过这个时间,slave无响应,将自动转换为异步复制,如果探测到从库恢复后,又从新进入半同步状态

    rpl_semi_sync_master_trace_level:    监控等级,一共4个等级(1,16,32,64)。

                    * 1:general 等级,如:记录时间函数失效

                    * 16:detail 等级,记录更加详细的信息
                    * 32:net wait等级,记录包含有关网络等待的更多信息 
                    * 64:function等级,记录包含有关function进入和退出的更多信息

    rpl_semi_sync_master_wait_no_slave:    是否允许master 每个事物提交后都要等待slave的receipt信号。默认为on ,每一个事务都会等待,如果slave当掉后,当slave追赶上master的日志时,可以自动的切换为半同步方式,如果为off,则slave追赶上后,也不会采用半同步的方式复制了,需要手工配置。

     

    毫无疑问,这些参数都能通过配置文件或直接set来更改,只要你觉得这个适合你的需求,例如一般我们会把响应时间设成1秒.

    最后,我们来看看同样的命令在从库会有些什么信息

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    mysql> show status like '%Rpl_semi_sync%';
    +--------------------------------------------+-------+
    | Variable_name                              | Value |
    +--------------------------------------------+-------+
    | Rpl_semi_sync_master_clients               | 0     |
    | Rpl_semi_sync_master_net_avg_wait_time     | 0     |
    | Rpl_semi_sync_master_net_wait_time         | 0     |
    | Rpl_semi_sync_master_net_waits             | 0     |
    | Rpl_semi_sync_master_no_times              | 0     |
    | Rpl_semi_sync_master_no_tx                 | 0     |
    | Rpl_semi_sync_master_status                | OFF   |
    | Rpl_semi_sync_master_timefunc_failures     | 0     |
    | Rpl_semi_sync_master_tx_avg_wait_time      | 0     |
    | Rpl_semi_sync_master_tx_wait_time          | 0     |
    | Rpl_semi_sync_master_tx_waits              | 0     |
    | Rpl_semi_sync_master_wait_pos_backtraverse | 0     |
    | Rpl_semi_sync_master_wait_sessions         | 0     |
    | Rpl_semi_sync_master_yes_tx                | 0     |
    | Rpl_semi_sync_slave_status                 | ON    |
    +--------------------------------------------+-------+
    15 rows in set (0.00 sec)

    也正如我刚才说的,很多信息基本上没有,只有最后一行是不一样的,也只是证明从库半同步正常连接中.

    再看看这个

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    mysql> show variables like '%Rpl%';
    +------------------------------------+----------+
    | Variable_name                      | Value    |
    +------------------------------------+----------+
    | rpl_semi_sync_master_enabled       | OFF      |
    | rpl_semi_sync_master_timeout       | 10000    |
    | rpl_semi_sync_master_trace_level   | 32       |
    | rpl_semi_sync_master_wait_no_slave | ON       |
    | rpl_semi_sync_slave_enabled        | ON       |
    | rpl_semi_sync_slave_trace_level    | 32       |
    | rpl_stop_slave_timeout             | 31536000 |
    +------------------------------------+----------+
    7 rows in set (0.00 sec)

    主要就最后两行:

    rpl_semi_sync_slave_enabled:    是否开启了从库半同步
    rpl_semi_sync_slave_trace_level:    监控等级,默认也是32

    rpl_stop_slave_timeout:    控制stop slave 的执行时间,在重放一个大的事务的时候,突然执行stop slave ,命令 stop slave会执行很久,这个时候可能产生死锁或阻塞,严重影响性能,可以通过这个参数控制stop slave 的执行时间,一般不需要修改.

    问题汇总

    5.7.3新加了一个半同步参数,至少有N个slave接收到日志,然后返回ack,这个半同步事务才能提交,默认是1。当这个值设置到和从库数量相等的话,则效果会等同于全同步复制。

    1
    2
    #例如我有3个从库,我现在要设置两个从库应答才能返回事务提交成功
    rpl_semi_sync_master_wait_for_slave_count = 2

    5.7新功能,在控制半同步模式下 主库在返回给会话事务成功之前提交事务的方式。旧模式是AFTER_COMMIT,新模式是AFTER_SYNC,默认值:AFTER_SYNC 。master 将每个事务写入binlog ,传递到slave,并且刷新到磁盘。master等待slave 反馈接收到事务并刷新到磁盘。一旦接到slave反馈,master在主库提交事务并且返回结果给会话。 在AFTER_SYNC模式下,所有的客户端在同一时刻查看已经提交的数据。假如发生主库crash,所有在主库上已经提交的事务已经同步到slave并记录到relay log。此时切换到从库,可以保障最小的数据损失。

    1
    2
    #显然新模式更好,不过5.7默认就是这个参数,可改可不改
    rpl_semi_sync_master_wait_point = AFTER_SYNC

    而当半同步复制设置N个slave应答,如果当前Slave小于N,取决于rpl_semi_sync_master_wait_no_slave的设置。

    1
    2
    3
    4
    #设成0会立刻变成异步复制。
    rpl_semi_sync_master_wait_no_slave = 0
    #设成1仍然等待应答,直到超时。
    rpl_semi_sync_master_wait_no_slave = 1

    超时时间rpl_semi_sync_master_timeout的值,不应该短过应用(例如JDBC)连接池或线程池的超时时间,这样应用可能出现一直等待或者是抛出异常的问题。

    1
    2
    #例如某些大数据量的操作,随时都超过5分钟,那么我们就要设大一点
    set global rpl_semi_sync_master_timeout = 300000

    转自

    关于Mysql5.6半同步主从复制的开启方法-ping_note-51CTO博客 http://blog.51cto.com/arthur376/1827808

  • 相关阅读:
    SpringMVC框架搭建
    java事务的概念
    SpringMVC框架
    JAVA多线程面试题
    MD5加密
    java对象和xml的转换
    eclipse环境配置
    关于枚举类的使用
    定时器的使用
    关于AS-OS
  • 原文地址:https://www.cnblogs.com/paul8339/p/8177683.html
Copyright © 2011-2022 走看看