zoukankan      html  css  js  c++  java
  • 基于主从复制的Mysql双机热备+amoeba实现读写分离、均衡负载

    读写分离指的是客户只能在主服务器上写,只能在从服务器上读,当然了,这也是要看配置,你可以在主服务器配置读的功能,但是在从服务器上只能读不能写,因为从服务器是基于binlog对主服务器的复制,如果在从服务器上写的话,会造成主从不一致的结果。mysql实现读写分离,写的压力虽然没有减少,但是读的压力瞬间就减少了一半。

    Amoeba的中文意思是阿米巴、变型虫
    Amoeba是一个以MySQL为底层数据存储,并对应用提供MySQL协议接口的proxy代理服务器。它集中地响应应用的请求,依据用户事先设置的规则,将SQL请求发送到特定的数据库上执行。基于此可以实现负载均衡、读写分离、高可用性等需求。与MySQL官方的MySQL Proxy相比,作者强调的是amoeba配置的方便(基于XML的配置文件,用SQLJEP语法书写规则,比基于lua脚本的MySQL Proxy简单)。
    Amoeba相当于一个SQL请求的路由器, 目的是为负载均衡、读写分离、高可用性提供机制,而不是完全实现它们。用户需要结合使用MySQL的 Replication等机制来实现副本同步等功能。amoeba对底层数据库连接管理和路由实现也采用了可插拨的机制,第三方可以开发更高级的策略类来 替代作者的实现。这个程序总体上比较符合KISS原则的思想。

    1、环境介绍

    Master--IP:192.168.1.135(主服务器)
    Slave---IP:192.168.1.136(从服务器)
    Amoeba--IP:192.168.1.137(代理服务器)
    Client--IP:192.168.1.138(客户机)

    2、安装JDK

    #mkdir /Amoeba
    #tar –xvf jdk-7u40-linux-x64.tar.gz
    # vim /etc/profile
    JAVA_HOME=/Amoeba/jdk1.7.0_40
    export JAVA_HOME

    PATH=$JAVA_HOME/bin:$PATH
    export PATH

    CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:$CLASSPATH
    export CLASSPATH

    3、安装Amoeba

    #:mkdir /usr/local/amoeba
    #:unzip amoeba-mysql-1.3.1-BETA.zip -d /usr/local/amoeba
    #:chmod -R +x /usr/local/amoeba/bin/
    # java -version java version "1.7.0_40"Java(TM) SE Runtime Environment (build 1.7.0_40-b43)
    Java HotSpot(TM) 64-Bit Server VM (build 24.0-b56, mixed mode)

    4、主从授权,增加用户

    mysql-->grant all privileges on *.* to amoeba@'%' identified by 'amoeba123';
    mysql-->flush privileges;

     

    5、amoeba相关的配置

    <?xml version="1.0" encoding="gbk"?>

    <!DOCTYPE amoeba:configuration SYSTEM "amoeba.dtd">
    <amoeba:configuration xmlns:amoeba="">http://amoeba.meidusa.com/">

    <!--
    amoeba开放接口相关配置
    -->
    <server>
    <!-- proxy server绑定的端口 -->
    <property name="port">9006</property>

    <!-- proxy server绑定的IP -->

    <property name="ipAddress">192.168.1.137</property>

    <!-- proxy server net IO Read thread size -->
    <property name="readThreadPoolSize">20</property>

    <!-- proxy server client process thread size -->
    <property name="clientSideThreadPoolSize">30</property>

    <!-- mysql server data packet process thread size -->
    <property name="serverSideThreadPoolSize">30</property>

    <!-- socket Send and receive BufferSize(unit:K) -->
    <property name="netBufferSize">128</property>

    <!-- Enable/disable TCP_NODELAY (disable/enable Nagle's algorithm). -->
    <property name="tcpNoDelay">true</property>

    <!-- 对外验证的用户名 -->
    <property name="user">root</property>

    <!-- 对外验证的密码 -->

    <property name="password">aixocm</property>


    <!-- query timeout( default: 60 second , TimeUnit:second) -->
    <property name="queryTimeout">60</property>
    </server>

    <!--
    每个ConnectionManager都将作为一个线程启动。
    manager负责Connection IO读写/死亡检测
    -->
    <connectionManagerList>
    <connectionManager name="defaultManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
    <property name="subManagerClassName">com.meidusa.amoeba.net.AuthingableConnectionManager</property>

    <!--
    default value is avaliable Processors
    <property name="processors">5</property>
    -->
    </connectionManager>
    </connectionManagerList>

    <dbServerList>
    <!--
    一台mysqlServer 需要配置一个pool,
    如果多台 平等的mysql需要进行loadBalance,
    平台已经提供一个具有负载均衡能力的objectPool:com.meidusa.amoeba.mysql.server.MultipleServerPool
    简单的配置是属性加上 virtual="true",该Pool 不允许配置factoryConfig
    或者自己写一个ObjectPool。
    -->



    <!--
    master授权相关设置
    -->
    <dbServer name="server1">

    <!-- PoolableObjectFactory实现类 -->
    <factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
    <property name="manager">defaultManager</property>

    <!-- 真实mysql数据库端口 -->
    <property name="port">3306</property>

    <!-- 真实mysql数据库IP -->
    <property name="ipAddress">192.168.1.135</property>
    <property name="schema">test</property>

    <!-- 用于登陆mysql的用户名 -->
    <property name="user">amoeba</property>

    <!-- 用于登陆mysql的密码 -->
    <property name="password">amoeba</property>


    </factoryConfig>

    <!-- ObjectPool实现类 -->
    <poolConfig class="com.meidusa.amoeba.net.poolable.PoolableObjectPool">
    <property name="maxActive">200</property>
    <property name="maxIdle">200</property>
    <property name="minIdle">10</property>
    <property name="minEvictableIdleTimeMillis">600000</property>
    <property name="timeBetweenEvictionRunsMillis">600000</property>
    <property name="testOnBorrow">true</property>
    <property name="testWhileIdle">true</property>
    </poolConfig>
    </dbServer>




    <!--
    slave数据库授权相关设置
    -->
    <dbServer name="server2">

    <!-- PoolableObjectFactory实现类 -->
    <factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
    <property name="manager">defaultManager</property>

    <!-- 真实mysql数据库端口 -->
    <property name="port">3306</property>

    <!-- 真实mysql数据库IP -->
    <property name="ipAddress">192.168.1.136</property>

    <property name="schema">test</property>

    <!-- 用于登陆mysql的用户名 -->
    <property name="user">amoeba</property>

    <!-- 用于登陆mysql的密码 -->
    <property name="password">amoeba</property>


    </factoryConfig>

    <!-- ObjectPool实现类 -->
    <poolConfig class="com.meidusa.amoeba.net.poolable.PoolableObjectPool">
    <property name="maxActive">200</property>
    <property name="maxIdle">200</property>
    <property name="minIdle">10</property>
    <property name="minEvictableIdleTimeMillis">600000</property>
    <property name="timeBetweenEvictionRunsMillis">600000</property>
    <property name="testOnBorrow">true</property>
    <property name="testWhileIdle">true</property>
    </poolConfig>
    </dbServer>




    <!--
    master均衡负载
    -->
    <dbServer name="master" virtual="true">
    <poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
    <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
    <property name="loadbalance">1</property>

    <!-- 参与该pool负载均衡的poolName列表以逗号分割 -->
    <property name="poolNames">server1</property>
    </poolConfig>
    </dbServer>



    <!--
    slave均衡负载
    -->
    <dbServer name="slave" virtual="true">
    <poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
    <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
    <property name="loadbalance">1</property>

    <!-- 参与该pool负载均衡的poolName列表以逗号分割 -->
    <property name="poolNames">server1,server2</property>
    </poolConfig>
    </dbServer>



    <!--
    读写分离配置
    -->
    </dbServerList>

    <queryRouter class="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">
    <property name="ruleConfig">${amoeba.home}/conf/rule.xml</property>
    <property name="functionConfig">${amoeba.home}/conf/functionMap.xml</property>
    <property name="ruleFunctionConfig">${amoeba.home}/conf/ruleFunctionMap.xml</property>
    <property name="LRUMapSize">1500</property>

    <property name="defaultPool">master</property>
    <property name="writePool">master</property>
    <property name="readPool">slave</property>

    <property name="needParse">true</property>
    </queryRouter>
    </amoeba:configuration>

    6、启动Amoeba

    # cd /usr/local/amoeba/bin
    这种启动方便看nohup.log日志.防止提示溢出
    #:nohup bash -x amoeba &
    #:重启amoeba要先杀死amoeba进程

    #ps -ef|grep amoeba|awk '{print $2}'|xargs kill -9

    #echo >nohup.out

    #nohup bash -x amoeba &

    常见错误:1
    The stack size specified is too small, Specify at least 228k
    Error: Could not create the Java Virtual Machine.
    Error: A fatal exception has occurred. Program will exit.
    解决办法:
    # vim /usr/local/amoeba/bin/amoeba
    #DEFAULT_OPTS="-server -Xms256m -Xmx256m -Xss128k"  注释
    DEFAULT_OPTS="-server -Xms256m -Xmx256m -Xss256k"   增加

    7、测试是否读写分离

    1、在(master)主上的test库建立一个alvin的表
    Mysql->use test;
    Mysql->create table alvin(id int,name char(10));

    2、在(slave)从上查看test库是否同步了alvin表
    Mysql-> use test;
    Mysql->show tables;

    3、在主(master)操作.插入一条数据.
    mysql-->insert into alvin values(1,'master');
     

    4、在从(slave)操作,插入一条数据.
    mysql-->insert into alvin values(2,'slave');


    注意因为从同步主的数据。所以这里有2条数据,在slave上插入2条数据目的是为了和主服务器内容上存在差异,这样更好的显示轮询均衡负载的查看效果,

    5、在Amoeba机器上操作
    在192.168.1.138上面测试(能够连接到安装了amoeba的主机都可以充当客户机),这个密码就是配置文件里面对外的验证密码root 和密码,对外开放的密码,一定要街上端口号,端口号可以自己定义


    #mysql –uroot –paixocm -h192.168.1.137 -P9006
    (1) 先验证读。我们配置文件是用的是DR轮询,注意这个IP地址要写:amoeba的IP地址,不是master也不是slave ,是通过amoeba代理登陆。
    Mysql->use test;

    测试轮询成功。主和从各查询一次。
    (2) 验证写,正常来说。如果只有全部写到主里面,两边的数据才会以致。如果其中有一个
    不一致的话。那么说明写到从里面去了。因为主不会同步从的数据。都是单向数据传输。

    先关闭从服务器136的同步功能

    #stop slave;

    然后通过客户端138插入一条数据

    再到主服务器上来查询,可以看到刚刚插入的数据

    最后到从服务器上来查询,并没有看到插入的数据,也就是说数据只写入到了主服务器中,你可以开启从服务器的复制功能,start slave;再次查询你就可以看到从服务器同步的数据了,不信你试试!!



    常见配置:
    八:常用配置写法.
    (1)如果负载多个库,软件会根据你用户授权来决定对哪些库有权限.
    grant all privileges on *.* to amoeba@'%' identified by 'amoeba123'; 这里写的是all 那么就是对所有的库有权限(会自动负载所有的库).
    上面配置文件的库名test.根据这个语句来决定.如果是all.那么直接用写test来测试.方便一点.



    (2)一主一从的负载写法一:
    主只写.<property name="poolNames">server1</property>(主的均衡负载配置)
    从只读.<property name="poolNames">server2</property>(从的均衡负载配置)


    (3)一主一从的负载写法:
    主负写:<property name="poolNames">server1</property>
    主也负责读,从也负责读.比例1:1 第一读.从.第二次读住.循环 写的话,只能写主.<property name="poolNames">server1,server2</property>


    (4)一主多从的负载写法:
    比如.一台主.3台从.在最上面定义了.server1(master)  server2(slave1) server3(slave2) server4(slave3)
    1主只写:<property name="poolNames">server1</property>
    3从负载读 <property name="poolNames">server2,server3,server4</property>   
    权重:1:1    3台轮询各一次.持续循环

    (5)比如我想要.slave1 权重高一点.其它的.2台从.每次读一次.slave1读.2次.
    <property name="poolNames">server2,server2,server3,server4</property>  

    更多linux、网络、shell、数据库等相关技术想和博主交流的,致信邮箱,大家互相学习alec1312linux@163.com
  • 相关阅读:
    linux设备和驱动加载的先后顺序
    CCT之CAMERA TUNNING调试学习总结
    MTK Android software Tools工具的说明
    Android开发概要记录
    报表软件公司高价悬赏BUG,100块1个我真是醉了
    OV5640全景模式预览倒180度,拍照正常的问题
    一起学Python:TCP简介
    udp绑定信息
    应用:udp聊天器
    socket简介
  • 原文地址:https://www.cnblogs.com/alec1312/p/alec1.html
Copyright © 2011-2022 走看看