zoukankan      html  css  js  c++  java

  • 在应用层通过spring特性解决数据库读写分离

    如何配置mysql数据库的主从？

    单机配置mysql主从：http://my.oschina.net/god/blog/496

    常见的解决数据库读写分离有两种方案

    1、应用层

    http://neoremind.net/2011/06/spring实现数据库读写分离

    目前的一些解决方案需要在程序中手动指定数据源，比较麻烦，后边我会通过AOP思想来解决这个问题。

    2、中间件

    mysql-proxy：http://hi.baidu.com/geshuai2008/item/0ded5389c685645f850fab07

    Amoeba for MySQL：http://www.iteye.com/topic/188598和http://www.iteye.com/topic/1113437

    此处我们介绍一种在应用层的解决方案，通过spring动态数据源和AOP来解决数据库的读写分离。

    该方案目前已经在一个互联网项目中使用了，而且可以很好的工作。

    该方案目前支持

    一读多写；当写时默认读操作到写库、当写时强制读操作到读库。

    考虑未来支持

    读库负载均衡、读库故障转移等。

    使用场景

    不想引入中间件，想在应用层解决读写分离，可以考虑这个方案；

    建议数据访问层使用jdbc、ibatis，不建议hibernate。

    优势

    应用层解决，不引入额外中间件；

    在应用层支持『当写时默认读操作到写库』，这样如果我们采用这种方案，在写操作后读数据直接从写库拿，不会产生数据复制的延迟问题；

    应用层解决读写分离，理论支持任意数据库。

    缺点

    1、不支持@Transactional注解事务，此方案要求所有读方法必须是read-only=true，因此如果是@Transactional，这样就要求在每一个读方法头上加@Transactional 且readOnly属性=true，相当麻烦。 :oops: 

    2、必须按照配置约定进行配置，不够灵活。

    两种方案



    方案1：当只有读操作的时候，直接操作读库（从库）；

            当在写事务（即写主库）中读时，也是读主库（即参与到主库操作），这样的优势是可以防止写完后可能读不到刚才写的数据；

    此方案其实是使用事务传播行为为：SUPPORTS解决的。

    方案2：当只有读操作的时候，直接操作读库（从库）；

            当在写事务（即写主库）中读时，强制走从库，即先暂停写事务，开启读（读从库），然后恢复写事务。

    此方案其实是使用事务传播行为为：NOT_SUPPORTS解决的。

    核心组件

    cn.javass.common.datasource.ReadWriteDataSource：读写分离的动态数据源，类似于AbstractRoutingDataSource，具体参考javadoc；

    cn.javass.common.datasource.ReadWriteDataSourceDecision：读写库选择的决策者，具体参考javadoc；

    cn.javass.common.datasource.ReadWriteDataSourceProcessor：此类实现了两个职责（为了减少类的数量将两个功能合并到一起了）：读/写动态数据库选择处理器、通过AOP切面实现读/写选择，具体参考javadoc。

    具体配置

    1、数据源配置

    1.1、写库配置

    Java代码  
    1.     <bean id="writeDataSource" class="org.logicalcobwebs.proxool.ProxoolDataSource">   
    2.     <property name="alias" value="writeDataSource"/>   
    3.     <property name="driver" value="${write.connection.driver_class}" />   
    4.     <property name="driverUrl" value="${write.connection.url}" />   
    5.     <property name="user" value="${write.connection.username}" />   
    6.     <property name="password" value="${write.connection.password}" />   
    7.     <property name="maximumConnectionCount" value="${write.proxool.maximum.connection.count}"/>   
    8.     <property name="minimumConnectionCount" value="${write.proxool.minimum.connection.count}" />   
    9.     <property name="statistics" value="${write.proxool.statistics}" />   
    10.     <property name="simultaneousBuildThrottle" value="${write.proxool.simultaneous.build.throttle}"/>   
    11. </bean>  
      	<bean id="writeDataSource" class="org.logicalcobwebs.proxool.ProxoolDataSource">
		<property name="alias" value="writeDataSource"/>
		<property name="driver" value="${write.connection.driver_class}" />
		<property name="driverUrl" value="${write.connection.url}" />
		<property name="user" value="${write.connection.username}" />
		<property name="password" value="${write.connection.password}" />
		<property name="maximumConnectionCount" value="${write.proxool.maximum.connection.count}"/>
		<property name="minimumConnectionCount" value="${write.proxool.minimum.connection.count}" />
		<property name="statistics" value="${write.proxool.statistics}" />
		<property name="simultaneousBuildThrottle" value="${write.proxool.simultaneous.build.throttle}"/>
	</bean>

    1.2、读库配置

    Java代码  
    1. <bean id="readDataSource1" class="org.logicalcobwebs.proxool.ProxoolDataSource">   
    2.     <property name="alias" value="readDataSource"/>   
    3.     <property name="driver" value="${read.connection.driver_class}" />   
    4.     <property name="driverUrl" value="${read.connection.url}" />   
    5.     <property name="user" value="${read.connection.username}" />   
    6.     <property name="password" value="${read.connection.password}" />   
    7.     <property name="maximumConnectionCount" value="${read.proxool.maximum.connection.count}"/>   
    8.     <property name="minimumConnectionCount" value="${read.proxool.minimum.connection.count}" />   
    9.     <property name="statistics" value="${read.proxool.statistics}" />   
    10.     <property name="simultaneousBuildThrottle" value="${read.proxool.simultaneous.build.throttle}"/>   
    11. </bean>   
        <bean id="readDataSource1" class="org.logicalcobwebs.proxool.ProxoolDataSource">
        <property name="alias" value="readDataSource"/>
        <property name="driver" value="${read.connection.driver_class}" />
        <property name="driverUrl" value="${read.connection.url}" />
        <property name="user" value="${read.connection.username}" />
        <property name="password" value="${read.connection.password}" />
        <property name="maximumConnectionCount" value="${read.proxool.maximum.connection.count}"/>
        <property name="minimumConnectionCount" value="${read.proxool.minimum.connection.count}" />
        <property name="statistics" value="${read.proxool.statistics}" />
        <property name="simultaneousBuildThrottle" value="${read.proxool.simultaneous.build.throttle}"/>
    </bean> 

    1.3、读写动态库配置   

    通过writeDataSource指定写库，通过readDataSourceMap指定从库列表，从库列表默认通过顺序轮询来使用读库，具体参考javadoc；

    Java代码  
    1. <bean id="readWriteDataSource" class="cn.javass.common.datasource.ReadWriteDataSource">   
    2.     <property name="writeDataSource" ref="writeDataSource"/>   
    3.     <property name="readDataSourceMap">   
    4.        <map>   
    5.           <entry key="readDataSource1" value-ref="readDataSource1"/>   
    6.           <entry key="readDataSource2" value-ref="readDataSource1"/>   
    7.           <entry key="readDataSource3" value-ref="readDataSource1"/>   
    8.           <entry key="readDataSource4" value-ref="readDataSource1"/>   
    9.        </map>   
    10.     </property>   
    11. </bean>   
        <bean id="readWriteDataSource" class="cn.javass.common.datasource.ReadWriteDataSource">
        <property name="writeDataSource" ref="writeDataSource"/>
        <property name="readDataSourceMap">
           <map>
              <entry key="readDataSource1" value-ref="readDataSource1"/>
              <entry key="readDataSource2" value-ref="readDataSource1"/>
              <entry key="readDataSource3" value-ref="readDataSource1"/>
              <entry key="readDataSource4" value-ref="readDataSource1"/>
           </map>
        </property>
    </bean> 

    2、XML事务属性配置

    所以读方法必须是read-only（必须，以此来判断是否是读方法）。

    Java代码  
    1. <tx:advice id="txAdvice" transaction-manager="txManager">   
    2.     <tx:attributes>   
    3.         <tx:method name="save*" propagation="REQUIRED" />   
    4.         <tx:method name="add*" propagation="REQUIRED" />   
    5.         <tx:method name="create*" propagation="REQUIRED" />   
    6.         <tx:method name="insert*" propagation="REQUIRED" />   
    7.         <tx:method name="update*" propagation="REQUIRED" />   
    8.         <tx:method name="merge*" propagation="REQUIRED" />   
    9.         <tx:method name="del*" propagation="REQUIRED" />   
    10.         <tx:method name="remove*" propagation="REQUIRED" />   
    11.            
    12.         <tx:method name="put*" read-only="true"/>   
    13.         <tx:method name="query*" read-only="true"/>   
    14.         <tx:method name="use*" read-only="true"/>   
    15.         <tx:method name="get*" read-only="true" />   
    16.         <tx:method name="count*" read-only="true" />   
    17.         <tx:method name="find*" read-only="true" />   
    18.         <tx:method name="list*" read-only="true" />   
    19.            
    20.         <tx:method name="*" propagation="REQUIRED"/>   
    21.     </tx:attributes>   
    22. </tx:advice>   
        <tx:advice id="txAdvice" transaction-manager="txManager">
        <tx:attributes>
            <tx:method name="save*" propagation="REQUIRED" />
            <tx:method name="add*" propagation="REQUIRED" />
            <tx:method name="create*" propagation="REQUIRED" />
            <tx:method name="insert*" propagation="REQUIRED" />
            <tx:method name="update*" propagation="REQUIRED" />
            <tx:method name="merge*" propagation="REQUIRED" />
            <tx:method name="del*" propagation="REQUIRED" />
            <tx:method name="remove*" propagation="REQUIRED" />
            
            <tx:method name="put*" read-only="true"/>
            <tx:method name="query*" read-only="true"/>
            <tx:method name="use*" read-only="true"/>
            <tx:method name="get*" read-only="true" />
            <tx:method name="count*" read-only="true" />
            <tx:method name="find*" read-only="true" />
            <tx:method name="list*" read-only="true" />
            
            <tx:method name="*" propagation="REQUIRED"/>
        </tx:attributes>
    </tx:advice> 

    3、事务管理器

    事务管理器管理的是readWriteDataSource

    Java代码  
    1. <bean id="txManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">   
    2.         <property name="dataSource" ref="readWriteDataSource"/>   
    3.     </bean>   
    <bean id="txManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
        <property name="dataSource" ref="readWriteDataSource"/>
    </bean> 

    4、读/写动态数据库选择处理器

    根据之前的txAdvice配置的事务属性决定是读/写，具体参考javadoc；

    forceChoiceReadWhenWrite：用于确定在如果目前是写（即开启了事务），下一步如果是读，是直接参与到写库进行读，还是强制从读库读，具体参考javadoc；

    Java代码  
    1. <bean id="readWriteDataSourceTransactionProcessor" class="cn.javass.common.datasource.ReadWriteDataSourceProcessor">   
    2.    <property name="forceChoiceReadWhenWrite" value="false"/>   
    3. </bean>   
        <bean id="readWriteDataSourceTransactionProcessor" class="cn.javass.common.datasource.ReadWriteDataSourceProcessor">
       <property name="forceChoiceReadWhenWrite" value="false"/>
    </bean> 

    5、事务切面和读/写库选择切面

    Java代码  
    1. <aop:config expose-proxy="true">   
    2.     <!-- 只对业务逻辑层实施事务 -->   
    3.     <aop:pointcut id="txPointcut" expression="execution(* cn.javass..service..*.*(..))" />   
    4.     <aop:advisor advice-ref="txAdvice" pointcut-ref="txPointcut"/>   
    5.        
    6.     <!-- 通过AOP切面实现读/写库选择 -->   
    7.     <aop:aspect order="-2147483648" ref="readWriteDataSourceTransactionProcessor">   
    8.        <aop:around pointcut-ref="txPointcut" method="determineReadOrWriteDB"/>   
    9.     </aop:aspect>   
    10. </aop:config>   
        <aop:config expose-proxy="true">
        <!-- 只对业务逻辑层实施事务 -->
        <aop:pointcut id="txPointcut" expression="execution(* cn.javass..service..*.*(..))" />
        <aop:advisor advice-ref="txAdvice" pointcut-ref="txPointcut"/>
        
        <!-- 通过AOP切面实现读/写库选择 -->
        <aop:aspect order="-2147483648" ref="readWriteDataSourceTransactionProcessor">
           <aop:around pointcut-ref="txPointcut" method="determineReadOrWriteDB"/>
        </aop:aspect>
    </aop:config> 

    1、事务切面一般横切业务逻辑层；

    2、此处我们使用readWriteDataSourceTransactionProcessor的通过AOP切面实现读/写库选择功能，order=Integer.MIN_VALUE(即最高的优先级)，从而保证在操作事务之前已经决定了使用读/写库。

    6、测试用例

    只要配置好事务属性（通过read-only=true指定读方法）即可，其他选择读/写库的操作都交给readWriteDataSourceTransactionProcessor完成。

    可以参考附件的：

    cn.javass.readwrite.ReadWriteDBTestWithForceChoiceReadOnWriteFalse

    cn.javass.readwrite.ReadWriteDBTestWithNoForceChoiceReadOnWriteTrue

    可以下载附件的代码进行测试，具体选择主/从可以参考日志输出。

    暂不想支持@Transactional注解式事务。

    PS：欢迎拍砖指正。   

    • 大小: 19.7 KB
    • 大小: 15.3 KB
  • 相关阅读:
    大型网站应用之海量数据和高并发解决方案总结
    反转二叉树
    Spring bean循环依赖
    死磕Spring AOP (学习持续更新中。。)
    Context 初始化流程
    ConcurrentHashMap
    2-MySQL高级-事务-基本概念(1)
    1-MySQL高级-视图
    11-python基础—格式化的两种方式
    22-MySQL-Ubuntu-备份与恢复
  • 原文地址：https://www.cnblogs.com/firstdream/p/6640269.html
Copyright © 2011-2022 走看看