myslq Atlas中间件与读写分离

Atlas 读写分离

Atlas简介

Atlas是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上，修改了大量bug，添加了很多功能特性。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上，修改了大量bug，添加了很多功能特性。

1.Atlas主要功能

1.读写分离
2.从库负载均衡
3.IP过滤
4.自动分表
5.DBA可平滑上下线DB
6.自动摘除宕机的DB

2.读写分离工具

#工具
1.Atlas
2.MySQL-Proxy

#Atlas相对于官方MySQL-Proxy的优势
1.将主流程中所有Lua代码用C重写，Lua仅用于管理接口
2.重写网络模型、线程模型
3.实现了真正意义上的连接池
4.优化了锁机制，性能提高数十倍

3.安装Atlas

#下载地址：https://github.com/Qihoo360/Atlas/releases

1.上传安装包
[root@db03 ~]# rz Atlas-sharding_1.0.1-el6.x86_64.rpm

2.安装
[root@db03 ~]# yum localinstall -y Atlas-sharding_1.0.1-el6.x86_64.rpm

4.编辑配置文件

1.相关目录及文件
[root@db03 ~]# ll /usr/local/mysql-proxy/
total 8
drwxr-xr-x 2 root root  125 Nov 11 18:22 bin
drwxr-xr-x 2 root root   22 Nov 11 18:22 conf
drwxr-xr-x 2 root root 4096 Nov 11 18:22 include
drwxr-xr-x 4 root root 4096 Nov 11 18:22 lib
drwxr-xr-x 2 root root    6 May 19  2015 libexec
drwxr-xr-x 2 root root   22 Nov 11 18:22 log
drwxr-xr-x 3 root root   17 Nov 11 18:22 share

2.编辑配置文件
[root@db03 ~]# vim /usr/local/mysql-proxy/conf/test.cnf

[mysql-proxy]

管理接口的用户名
admin-username = user

管理接口的密码
admin-password = pwd

atlas后端连接的MySQL主库的IP和端口，可设置多项，用逗号分隔
proxy-backend-addresses = 172.16.1.51:3306

Atlas后端连接的MySQL从库的IP和端口，@后面的数字代表权重，
用来作负载均衡，若省略则默认为1，可设置多项，用逗号分隔
proxy-read-only-backend-addresses = 172.16.1.52:3306,172.16.1.53:3306

用户名与其对应的加密过的MySQL密码，密码使用PREFIX/bin目录下的加密程序encrypt
加密，下行的user1和user2为示例，将其替换为你的MySQL的用户名和加密密码！
pwds = rep:3yb5jEku5h4=,mha:O2jBXONX098=

设置Atlas的运行方式，设为true时为守护进程方式，设为false时为前台方式，
一般开发调试时设为false，线上运行时设为true,true后面不能有空格。
daemon = true

设置Atlas的运行方式，设为true时Atlas会启动两个进程，一个为monitor，
一个为worker，monitor在worker意外退出后会自动将其重启，
设为false时只有worker，没有monitor，一般开发调试时设为false，
线上运行时设为true,true后面不能有空格。
keepalive = true

工作线程数，对Atlas的性能有很大影响，可根据情况适当设置
event-threads = 8

日志级别，分为message、warning、critical、error、debug五个级别
log-level = message

日志存放的路径
log-path = /usr/local/mysql-proxy/log

SQL日志的开关，可设置为OFF、ON、REALTIME，OFF代表不记录SQL日志，
ON代表记录SQL日志，REALTIME代表记录SQL日志且实时写入磁盘，默认为OFF
sql-log = ON

慢日志输出设置。当设置了该参数时，
则日志只输出执行时间超过sql-log-slow（单位：ms)的日志记录。
不设置该参数则输出全部日志。
#sql-log-slow = 10

实例名称，用于同一台机器上多个Atlas实例间的区分
instance = test

Atlas监听的工作接口IP和端口
proxy-address = 0.0.0.0:1234

Atlas监听的管理接口IP和端口
admin-address = 0.0.0.0:2345

分表设置，此例中person为库名，mt为表名，id为分表字段，
3为子表数量，可设置多项，以逗号分隔，若不分表则不需要设置该项
#tables = person.mt.id.3

默认字符集，设置该项后客户端不再需要执行SET NAMES语句
#charset = utf8

允许连接Atlas的客户端的IP，可以是精确IP，也可以是IP段，
以逗号分隔，若不设置该项则允许所有IP连接，否则只允许列表中的IP连接
client-ips = 127.0.0.1

Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP)，
若有LVS且设置了client-ips则此项必须设置，否则可以不设置
#lvs-ips = 192.168.1.1

5.启动Atlas

#1.启动
[root@db03 ~]# /usr/local/mysql-proxy/bin/mysql-proxyd test start
OK: MySQL-Proxy of test is started

#2.验证启动
[root@db03 ~]# ps -ef | grep mysql-proxy
[root@db03 ~]# netstat -lntp

6.Atlas的使用

#1.连接Atlas
[root@db03 ~]# mysql -uuser -ppwd -h127.0.0.1 -P2345

#2.操作命令
mysql> SELECT * FROM help;
+---------------------------------------+---------------------------------------------------------+
| command                               | description                                             |
+---------------------------------------+---------------------------------------------------------+
| SELECT * FROM help                    | 查看帮助                                   		     
| SELECT * FROM backends                | 查看后端数据库列表和状态			                 
| SET OFFLINE $backend_id               | DBA平滑下线后端数据库						  
| SET ONLINE $backend_id                | DBA平滑上线后端数据库   	                          
| ADD MASTER $backend                   | 添加主库 add master 172.16.1.54:3306;                  
| ADD SLAVE $backend                    | 添加从库 add slave 172.16.1.56:3306;	                
| ADD GMASTER $group_id $backend        | example: "add gmaster 1 127.0.0.1:3306", ...            
| ADD GSLAVE $group_id $backend         | example: "add gslave 1 127.0.0.1:3306", ...            
| REMOVE BACKEND $backend_id            | 摘除后端数据库 remove backend 6;                         
| REMOVE GBACKEND $group_id $backend_id | example: "remove gbackend 1 1", ...                    
| SELECT * FROM clients                 | 查看客户端列表  add client 172.16.1.53;                 
| ADD CLIENT $client                    | 添加客户端        					                    
| REMOVE CLIENT $client                 | 移除客户端    								           
| SELECT * FROM pwds                    | 查看用户列表                                          
| ADD PWD $pwd                          | 添加用户 add pwd lhd:123;				                 
| ADD ENPWD $pwd                        | 添加用户 add enpwd qiudao:3yb5jEku5h4=;		         
| REMOVE PWD $pwd                       | 移除用户					                             
| SAVE CONFIG                           | 永久保存到配置文件   		 	                         
| SELECT VERSION                        | 查看Atlas版本                            
+---------------------------------------+----------------------------------------------------
19 rows in set (0.00 sec)

三、Atlas集合MHA故障恢复

Atlas我们写死了主库和从库的配置，如果这个时候主库挂了，怎么办？

1.思路

#MHA切换主库后，Atlas需要做什么
1.找到挂掉的主库
2.把Atlas对应的节点移除
3.恢复挂掉的节点启动
4.添加重新恢复的节点到Atlas
5.Atlas永久保存到配置文件

2.编写脚本

[root@db03 ~]# cat /scripts/reconf_Atlas.sh
#!/bin/bash
#1.定义新的主库变量
new_master=`mysql -e "show slave statusG" | awk 'NR==3 {print $2}'`

#2.获取新的主库在Atlas中的从库信息
new_master_id=`mysql -uuser -ppwd -h127.0.0.1 -P2345 -e "select * from backends;" 2> /dev/null| grep $new_master | awk '{print $5}'`

#3.移除Atlas中新主库的从库信息
mysql -uuser -ppwd -h127.0.0.1 -P2345 -e "remove backend $new_master_id;save config" 2> /dev/null

#4.找到down掉的主机
down_ip=`grep "is down" /service/mha/manager | tail -1 | awk -F '[ (]' '{print $2}'`

#5.连接挂掉的机器执行恢复脚本
ssh $down_ip "sh /scripts/start_mha.sh"

#6.把新的从库信息
new_slave=`grep "is down" /service/mha/manager | tail -1 | awk -F '[()]' '{print $2}'`

#7.把新的从库加到Atlas,并永久保存配置
mysql -uuser -ppwd -h127.0.0.1 -P2345 -e "add slave $new_slave;save config" 2> /dev/null

[root@db01 ~]# cat /scripts/start_mha.sh 
#!/bin/bash
#1.mysql进程数赋值
mysqlpid=`ps -ef | grep [m]ysql | wc -l`

#2.判断MySQL是否假死，如果假死杀掉重启，如果关闭则启动
if [ $mysqlpid -eq 0 ];then
    systemctl start mysqld
else
    pkill mysqld
    systemctl start mysqld
fi

sleep 3

#3.获取配置主从语句
change=`ssh 172.16.1.53 "grep 'CHANGE MASTER TO' /service/mha/manager | tail -1 | sed 's#xxx#123#g'" | awk -F: '{print $4}'`

#4.执行主从语句并启动线程
mysql -e "$change; start slave" 2>&1

#5.远程执行启动mha脚本
ssh 172.16.1.53 "sh /scripts/recovery.sh"

[root@db03 ~]# cat /scripts/recovery.sh
#!/bin/bash
#1.获取主节点IP
master_ip=`mysql -e 'show slave statusG' | awk 'NR==3 {print $2}'`

#2.进入保存binlog目录
cd /data/mysql/binlog 

#3.启动实时获取binlog进程
mysqlbinlog -R --host=$master_ip --user=mha --password=mha --raw --stop-never mysql-bin.000001&> /dev/null &

#4.替换MHA配置文件
/usr/bin/cp /service/mha/app1.bak /service/mha/app1.cnf

#5.启动MHA
nohup masterha_manager --conf=/service/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /service/mha/app1/manager.log 2>&1 &