zoukankan      html  css  js  c++  java
  • j2ee分布式缓存同步实现方案dlcache

    现成的分布式K/V缓存已经有很多的实现,最主要的比如redis,memcached,couchbase。那为什么我们还要自己去实现呢,在我们解决了分布式系统下大量rpc调用导致的高延时后,我们发现很多服务需要大量的访问分布式缓存,由于分布式缓存通常部署在单独的服务器中,在lan中,通常单次网络也需要1ms,一个请求少的可能需要一两次缓存访问,复杂的服务比如委托、出入金、融资等会访问一二十次,即使程序已经优化,但仅访问分布式缓存花费的网络延时占据了整个响应时间的很大一部分比例,而这些需要广泛被访问的数据通常数据量本身并不大,因此我们将其优化为本地缓存,而使用本地缓存需要解决各应用服务器之间的同步问题,以及分布式系统下节点自动加入的问题。

    ehcache是一种最广泛被使用的本地缓存之一,虽然其支持集群,但在分布式环境下不足以灵活,使用ehcache作为分布式系统下缓存的相关不足之处可参考http://blog.sina.com.cn/s/blog_6151984a0101816j.html,另外新的节点加入后如何同步过去也是个问题,很有可能类似于Galera的SST机制。

    基于上述考虑,我们不得已自行实现一种解决上述问题的分布式系统下JVM缓存同步实现。

    使用手册
    0、总体的设计以及需求可以参见《基于rabbitmq的分布式jvm同步方案.pptx》中的详细说明,见http://pan.baidu.com/s/1bpmfHoF。
    系统依赖
    1、安装rabbitmq 3.5.x。
    2、基于jdk 1.7。
    3、基于spring 3.2.x。

    使用方法:

    1、引入jar包https://gitee.com/zhjh256/dlcache
    2、确保通过spring PropertyPlaceholderConfigurer注入以下三个属性
    localcache.isDist,true/false,默认true,可选
    localcache.publishExchanges,本节点将发布的消息所属的目标exchange列表,逗号分隔
    localcache.subscribeExchanges,本节点将订阅的消息所属的目标exchange列表,逗号分隔
    localcache.host,rabbitmq主机地址
    localcache.port,rabbitmq主机端口
    localcache.username,rabbitmq用户名
    localcache.password,rabbitmq密码

    Spring需要定义一个com.rabbitmq.client.ConnectionFactory实现,如下所示:
    <bean id="rabbitConnectionFactory" class="com.rabbitmq.client.ConnectionFactory">
    <property name="host" value="${rabbitmq.host}"></property>
    <property name="port" value="${rabbitmq.port}"></property>
    <property name="username" value="${rabbitmq.username}"></property>
    <property name="password" value="${rabbitmq.password}"></property>
    </bean>

    3、缓存名为要缓存的POJO的fully qualified name比如com.xxx.hitop.base.meta.pojo.Param,POJO必须实现CacheEntry接口

    4、对于受众范围不同的缓存,划分到不同的rabbitmq exchange,具体见5。

    5、缓存API说明
    5.1 缓存读写接口为LocalCacheService
    • CacheEntry getCacheEntry(String cacheName, String key):获取缓存条目
    • boolean saveCacheEntry(String cacheName, CacheEntry cacheEntry):新增或修改缓存条目
    • boolean removeCacheEntry(String cacheName, String key):删除缓存条目
    • Map<String, CacheEntry> getCache(String cacheName):获取整个缓存
    • boolean replaceCache(String cacheName,ConcurrentHashMap<String, CacheEntry> cache):替换整个缓存
    • boolean replaceCache(String cacheName,List<CacheEntry> caches):替换整个缓存

    5.2 缓存初始化接口AbstractLocalCacheInitializer,需实现List<CacheEntry> loadData()接口,因为设计时考虑的是展现层和服务层是分布式部署的,同时展现层不不能访问DB,所以在实现时为了保证RPC连接已经建立,实现了ApplicationListener接口。所以对于loadData()接口的实现,需要分两种情况:
    • 如果是展现层,则通过某种RPC协议调用服务层的接口来加载数据,对于恒生T2而言,则是调用服务层的T2服务加载数据即可。
    • 如果是服务层,直接实现DAO即可。

    5.3 展现层->服务层分布式体系下应用启动顺序
    先启动服务层,次启动展现层,否则会导致失败。

     更新:j2ee分布式缓存同步实现方案dlcache v1.0.1

  • 相关阅读:
    HTML转换PDF及SWF及图片
    LuceneNET全文检索封装
    网页中文/汉字验证码
    网站帮助系统
    利用享元模式来解决DOM元素过多导致的网页解析慢、卡死的问题
    redis high available solution/ redis 高可用方案
    跨IDC ycache原理和配置说明
    基于模块粒度和用户粒度的灰度发布方案原理&配置说明
    /usr/bin/env python no such file or directory: dos格式导致的!
    yagent使用说明
  • 原文地址:https://www.cnblogs.com/zhjh256/p/5656523.html
Copyright © 2011-2022 走看看