zoukankan      html  css  js  c++  java
  • Jedis使用管道优化批量输出插入的效率

    Jedis连接池:

    package com.daxin.jedis_datastructure;
    
    /** 
     * 
     * @author  daxin 
     * 
     * @email leodaxin@163com
     * 
     * @date 2017年9月4日 上午10:29:00
     * 
     */
    import redis.clients.jedis.Jedis;
    import redis.clients.jedis.JedisPool;
    import redis.clients.jedis.JedisPoolConfig;
    
    public class RedisUtils {
    
        // Redis服务器IP
        private static String ADDR = "node";
        // Redis的端口号
        private static int PORT = 6379;
        // 可用连接实例的最大数目,默认值为8;
        // 如果赋值为-1,则表示不限制;如果pool已经分配了maxActive个jedis实例,则此时pool的状态为exhausted(耗尽)。
        private static int MAX_ACTIVE = 16;
        // 控制一个pool最多有多少个状态为idle(空闲的)的jedis实例,默认值也是8。
        private static int MAX_IDLE = 6;
        // 等待可用连接的最大时间,单位毫秒,默认值为-1,表示永不超时。如果超过等待时间,则直接抛出JedisConnectionException;
        private static int MAX_WAIT = 10000;
    
        // 在borrow一个jedis实例时,是否提前进行validate操作;如果为true,则得到的jedis实例均是可用的;
        private static boolean TEST_ON_BORROW = true;
        private static JedisPool jedisPool = null;
        /**
         * 初始化Redis连接池
         */
        static {
            try {
                JedisPoolConfig config = new JedisPoolConfig();
                config.setMaxTotal(MAX_ACTIVE);
                config.setMaxIdle(MAX_IDLE);
                config.setMaxWaitMillis(MAX_WAIT);
                config.setTestOnBorrow(TEST_ON_BORROW);
                jedisPool = new JedisPool(config, ADDR, PORT);
            } catch (Exception e) {
                e.printStackTrace();
            }
        }
    
        /**
         * 获取Jedis实例
         * 
         * @return
         */
        public synchronized static Jedis getJedis() {
            try {
                if (jedisPool != null) {
                    Jedis resource = jedisPool.getResource();
                    return resource;
                } else {
                    return null;
                }
            } catch (Exception e) {
                e.printStackTrace();
                return null;
            }
        }
    }

    通道技术批量插入数据和普通插入效率对比:

    package com.daxin.jedis_datastructure;
    
    import java.util.List;
    import java.util.UUID;
    
    import org.junit.After;
    import org.junit.Before;
    import org.junit.Test;
    
    import redis.clients.jedis.Jedis;
    import redis.clients.jedis.Pipeline;
    import redis.clients.jedis.Response;
    
    /**
     * 
     * @author daxin
     * 
     * @email leodaxin@163com
     * 
     * @date 2017年9月13日 下午1:34:44
     * 
     *       2291 129072
     * 
     */
    public class JedisPip {
    
        Jedis jedis = null;
    
        @Before
        public void before() {
            jedis = RedisUtils.getJedis();
            jedis.flushDB();
        }
    
        @After
        public void after() {
            jedis.close();
        }
    
        @Test
        public void pipe_jedis() {
            Pipeline pip = jedis.pipelined();
    
            long start = System.currentTimeMillis();
            for (int i = 0; i < 100000; i++) {
                pip.set(UUID.randomUUID().toString(), UUID.randomUUID().toString());
            }
            pip.sync();// 同步获取所有的回应
    
            System.out.println(System.currentTimeMillis() - start);
            start = System.currentTimeMillis();
            for (int i = 0; i < 100000; i++) {
                jedis.set(UUID.randomUUID().toString(), UUID.randomUUID().toString());
            }
            System.out.println(System.currentTimeMillis() - start);
        }
    
    }

    输出时间分别是:

    2291
    129072

    可以看到使用通道技术插入有较高的效率。产生差距的原因:

    Redis 管道技术

    Redis是一种基于客户端-服务端模型以及请求/响应协议的TCP服务。这意味着通常情况下一个请求会遵循以下步骤:

    • 客户端向服务端发送一个查询请求,并监听Socket返回,通常是以阻塞模式,等待服务端响应。
    • 服务端处理命令,并将结果返回给客户端。

    Redis 管道技术可以在服务端未响应时,客户端可以继续向服务端发送请求,并最终一次性读取所有服务端的响应。

    管道技术的优势

    管道技术最显著的优势是提高了 redis 服务的性能。

    使用管道技术获取结果:

    @Test
        public void pipe_get() {
    
            Pipeline pip = jedis.pipelined();
            pip.multi();
            for (int i = 0; i < 100000; i++) {
                pip.set(i + "", UUID.randomUUID().toString());
            }
    
            Response<List<Object>> r = pip.exec();
            pip.multi();
            for (int i = 0; i < 100000; i++) {
                pip.get("" + i);
            }
    
            r = pip.exec();
            pip.sync();// 调用syn会关闭管道,所以在调用syn之后就不可以在使用管道了
            System.out.println(r.get().get(0));
            System.out.println(r.get().size());
    
        }
  • 相关阅读:
    模拟信号、数字信号,信号是如何被处理的?
    模拟信号、数字信号,信号是如何被处理的?
    语气词、拟声词、动作与哭、量词、标点、特殊的符号
    语气词、拟声词、动作与哭、量词、标点、特殊的符号
    联合概率(joint probability)、分布函数(distribution function)
    联合概率(joint probability)、分布函数(distribution function)
    考古与历史
    考古与历史
    从贝叶斯模型(Bayes)到生成模型(Generative models)(生成式分类器,generative classifier)
    stm32开发笔记一:使用固件库在RealView-MDK中新建工程(上)
  • 原文地址:https://www.cnblogs.com/leodaxin/p/7514760.html
Copyright © 2011-2022 走看看