zoukankan      html  css  js  c++  java
  • Redis之Pipeline使用注意事项

    一般情况下,使用redis去put/get都是先拿到一个jedis实例,然后操作,然后释放连接;这种模式是  
    请求-响应,请求-响应.
    
    这种模式,下一次请求必须得等第一次请求响应回来之后才可以,因为redis是单线程的,按部就班,一步一步来。
    而pipeline管道改变了这种请求模式,客户端可以一次发送多个命令,无须等待服务器的返回,
    请求,请求,请求,响应,响应,响应.
    这种模式这就大大减少了影响性能的关键因素-网络往返时间.
    
    重要说明: 使用管道发送命令时,服务器将被迫回复一个队列答复,占用很多内存。所以,如果你需要发送大量的命令,
    最好是把他们按照合理数量分批次的处理,例如10K的命令,读回复,然后再发送另一个10k的命令,等等。这样速度几
    乎是相同的,但是在回复这10k命令队列需要非常大量的内存用来组织返回数据内容。
    Jedis jedis = poolFactory.getjedisResourcePool().getResource();
    Pipeline pl = jedis.pipelined();
    Pipeline 的特点:
    1、Pipeline 实现的原理是队列,而队列的原理是时先进先出,这样就保证数据的顺序性
    
    
    下面就上面两种模式以及JDK的map三者做一个性能比较
    
    [java] view plain copy
    package redis;  
      
    import java.util.concurrent.BlockingQueue;  
    import java.util.concurrent.LinkedBlockingQueue;  
      
    import redis.clients.jedis.ShardedJedis;  
    import redis.clients.jedis.ShardedJedisPipeline;  
      
    /** 
     * @Type ShardRedisDemo.java 
     * @Desc 
     * @author chiwei 
     * @date 2016年6月13日 下午3:24:25 
     * @version 
     */  
    public class ShardRedisDemo {  
      
        public static void main(String[] args) throws InterruptedException {  
            ShardRedisClient src = new ShardRedisClient();  
            src.setServers("redis://172.23.26.135:7379");  
            src.init();  
            int count = 10000;  
            ShardedJedis sj = src.getResource();  
            long begin = System.currentTimeMillis();  
            for (int i = 0; i < count; i++) {  
                sj.set("a" + i, "v" + i);  
            }  
            sj.close();  
            System.out.println(System.currentTimeMillis() - begin);  
            sj = src.getResource();  
            ShardedJedisPipeline p = sj.pipelined();  
            begin = System.currentTimeMillis();  
            for (int i = 0; i < count; i++) {  
                p.set("ap" + i, "vp" + i);  
            }  
            p.sync();  
            sj.close();  
            System.out.println(System.currentTimeMillis() - begin);  
            BlockingQueue<String> logQueue = new LinkedBlockingQueue<String>();  
            begin = System.currentTimeMillis();  
            for (int i = 0; i < count; i++) {  
                logQueue.put("i=" + i);  
            }  
            System.out.println(System.currentTimeMillis() - begin);  
        }  
      
    }  
      
    /** 
     * Revision history 
     * ------------------------------------------------------------------------- 
     *  
     * Date Author Note 
     * ------------------------------------------------------------------------- 
     * 2016年6月13日 chiwei create 
     */  
    结果如下:
    [plain] view plain copy
    45027  
    116  
    11  
    大家看相对时间就行了,我测试时是经过VPN连的redis,由此结果可见pipeline的性能惊人的高。
    
    
    2、关于Pipeline 同步数据的问题
    A)、Pipeline 有与redis形同的操作,但是在数据落盘的时候需要在执行的方法后添加sync()方法,如果insert时有多条数据,
    在数据拼接完之后,在执行sync()方法,这样可以提高效率。
    B)、如果在hget()时没有sync()时会报,没有在hget()同步数据
    C)、如果在hset(),hdel(),hget()获取数据时都没有执行sync()方法,但是在最后执行了pl.close()方法,Pipeline 同样会执
    行sync()方法,详细的代码如下:
    Pipeline类下的close()方法中的clear(),有sync()方法,
    
    但是pipeline适合于什么样的场景使用呢?
    
    
    
    有些系统可能对可靠性要求很高,每次操作都需要立马知道这次操作是否成功,是否数据已经写进redis了,那这种场景就不适合。
    
    
    
    还有的系统,可能是批量的将数据写入redis,允许一定比例的写入失败,那么这种场景就可以使用了,比如10000条一
    下进入redis,可能失败了2条无所谓,后期有补偿机制就行了,比如短信群发这种场景,如果一下群发10000条,按照
    第一种模式去实现,那这个请求过来,要很久才能给客户端响应,这个延迟就太长了,如果客户端请求设置了超时时间
    5秒,那肯定就抛出异常了,而且本身群发短信要求实时性也没那么高,这时候用pipeline最好了。
  • 相关阅读:
    VirtualBox中的网络连接方式详解
    DRUID连接池的实用 配置详解
    redis之如何配置jedisPool参数
    怎么把myeclipse项目导入IDEA中
    最新Hadoop大数据开发学习路线图
    编程能力七段论(下)
    编程能力七段论(上)
    移动无线测试技能树
    WebView加载网页不显示图片解决办法
    编程能力七段论
  • 原文地址:https://www.cnblogs.com/xiaolei2017/p/8674933.html
Copyright © 2011-2022 走看看