zoukankan      html  css  js  c++  java
  • Java并发专题 带返回结果的批量任务执行

    转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059

    一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable

    Callable的call方法可以返回执行的结果;

    CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;

    优势:

    a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)

    b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;

    1、CompletionService : Executor + BlockingQueue 

    下面看个例子:

    [java]  view plain copy 在CODE上查看代码片 派生到我的代码片
     
    1. package com.zhy.concurrency.completionService;  
    2.   
    3. import java.util.Random;  
    4. import java.util.concurrent.BlockingQueue;  
    5. import java.util.concurrent.Callable;  
    6. import java.util.concurrent.CompletionService;  
    7. import java.util.concurrent.ExecutionException;  
    8. import java.util.concurrent.ExecutorCompletionService;  
    9. import java.util.concurrent.ExecutorService;  
    10. import java.util.concurrent.Executors;  
    11. import java.util.concurrent.Future;  
    12. import java.util.concurrent.LinkedBlockingDeque;  
    13.   
    14. /** 
    15.  * 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果 
    16.  *  
    17.  * @author zhy 
    18.  *  
    19.  */  
    20. public class CompletionServiceDemo  
    21. {  
    22.   
    23.     public static void main(String[] args) throws InterruptedException,  
    24.             ExecutionException  
    25.     {  
    26.         /** 
    27.          * 内部维护11个线程的线程池 
    28.          */  
    29.         ExecutorService exec = Executors.newFixedThreadPool(11);  
    30.         /** 
    31.          * 容量为10的阻塞队列 
    32.          */  
    33.         final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(  
    34.                 10);  
    35.         //实例化CompletionService  
    36.         final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(  
    37.                 exec, queue);  
    38.   
    39.         /** 
    40.          * 模拟瞬间产生10个任务,且每个任务执行时间不一致 
    41.          */  
    42.         for (int i = 0; i < 10; i++)  
    43.         {  
    44.             completionService.submit(new Callable<Integer>()  
    45.             {  
    46.                 @Override  
    47.                 public Integer call() throws Exception  
    48.                 {  
    49.                     int ran = new Random().nextInt(1000);  
    50.                     Thread.sleep(ran);  
    51.                     System.out.println(Thread.currentThread().getName()  
    52.                             + " 休息了 " + ran);  
    53.                     return ran;  
    54.                 }  
    55.             });  
    56.         }  
    57.           
    58.         /** 
    59.          * 立即输出结果 
    60.          */  
    61.         for (int i = 0; i < 10; i++)  
    62.         {  
    63.             try  
    64.             {     
    65.                 //谁最先执行完成,直接返回  
    66.                 Future<Integer> f = completionService.take();  
    67.                 System.out.println(f.get());  
    68.             } catch (InterruptedException e)  
    69.             {  
    70.                 e.printStackTrace();  
    71.             } catch (ExecutionException e)  
    72.             {  
    73.                 e.printStackTrace();  
    74.             }  
    75.         }  
    76.   
    77.         exec.shutdown();  
    78.   
    79.     }  
    80.   
    81. }  

    输出结果:

    [java]  view plain copy 在CODE上查看代码片 派生到我的代码片
     
    1. pool-1-thread-4 休息了 52  
    2. 52  
    3. pool-1-thread-1 休息了 59  
    4. 59  
    5. pool-1-thread-10 休息了 215  
    6. 215  
    7. pool-1-thread-9 休息了 352  
    8. 352  
    9. pool-1-thread-5 休息了 389  
    10. 389  
    11. pool-1-thread-3 休息了 589  
    12. 589  
    13. pool-1-thread-2 休息了 794  
    14. 794  
    15. pool-1-thread-7 休息了 805  
    16. 805  
    17. pool-1-thread-6 休息了 909  
    18. 909  
    19. pool-1-thread-8 休息了 987  
    20. 987  


    最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!

    2、ExecutorService.invokeAll

    ExecutorService的invokeAll方法也能批量执行任务,并批量返回结果,但是呢,有个我觉得很致命的缺点,必须等待所有的任务执行完成后统一返回,一方面内存持有的时间长;另一方面响应性也有一定的影响,毕竟大家都喜欢看看刷刷的执行结果输出,而不是苦苦的等待;

    下面看个例子:

    [java]  view plain copy 在CODE上查看代码片 派生到我的代码片
     
    1. package com.zhy.concurrency.executors;  
    2.   
    3. import java.util.ArrayList;  
    4. import java.util.List;  
    5. import java.util.Random;  
    6. import java.util.concurrent.Callable;  
    7. import java.util.concurrent.ExecutionException;  
    8. import java.util.concurrent.ExecutorService;  
    9. import java.util.concurrent.Executors;  
    10. import java.util.concurrent.Future;  
    11.   
    12. public class TestInvokeAll  
    13. {  
    14.   
    15.     public static void main(String[] args) throws InterruptedException,  
    16.             ExecutionException  
    17.     {  
    18.         ExecutorService exec = Executors.newFixedThreadPool(10);  
    19.   
    20.         List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();  
    21.         Callable<Integer> task = null;  
    22.         for (int i = 0; i < 10; i++)  
    23.         {  
    24.             task = new Callable<Integer>()  
    25.             {  
    26.                 @Override  
    27.                 public Integer call() throws Exception  
    28.                 {  
    29.                     int ran = new Random().nextInt(1000);  
    30.                     Thread.sleep(ran);  
    31.                     System.out.println(Thread.currentThread().getName()+" 休息了 " + ran );  
    32.                     return ran;  
    33.                 }  
    34.             };  
    35.   
    36.             tasks.add(task);  
    37.         }  
    38.           
    39.         long s = System.currentTimeMillis();  
    40.           
    41.           
    42.         List<Future<Integer>> results = exec.invokeAll(tasks);  
    43.           
    44.         System.out.println("执行任务消耗了 :" + (System.currentTimeMillis() - s) +"毫秒");  
    45.           
    46.         for (int i = 0; i < results.size(); i++)  
    47.         {  
    48.             try  
    49.             {  
    50.                 System.out.println(results.get(i).get());  
    51.             } catch (Exception e)  
    52.             {  
    53.                 e.printStackTrace();  
    54.             }  
    55.         }  
    56.   
    57.           
    58.         exec.shutdown();  
    59.   
    60.     }  
    61.   
    62. }  


    执行结果:

    [java]  view plain copy 在CODE上查看代码片 派生到我的代码片
     
    1. pool-1-thread-10 休息了 1  
    2. pool-1-thread-5 休息了 59  
    3. pool-1-thread-6 休息了 128  
    4. pool-1-thread-1 休息了 146  
    5. pool-1-thread-3 休息了 158  
    6. pool-1-thread-7 休息了 387  
    7. pool-1-thread-9 休息了 486  
    8. pool-1-thread-8 休息了 606  
    9. pool-1-thread-4 休息了 707  
    10. pool-1-thread-2 休息了 817  
    11. 执行任务消耗了 :819毫秒  
    12. 146  
    13. 817  
    14. 158  
    15. 707  
    16. 59  
    17. 128  
    18. 387  
    19. 606  
    20. 486  
    21. 1  


    我特意在任务提交完成打印了一个时间,然后invokeAll执行完成后打印了下时间,可以看出invokeAll返回是等待所有线程执行完毕的。这点来说,我觉得可用性不如CompletionService。

    嗯,对于批量执行任务,且携带返回结果的案例就到这里~如果有疑问或者代码中存在错误请指出~

  • 相关阅读:
    [转载]解决zabbix在configure时候遇到的问题(Ubuntu)
    [转载]ubuntu的版本
    [转载]Nginx如何处理一个请求
    微信小程序—文件系统
    javascript 中 x offsetX clientX screenX pageX的区别
    Bootstrap 框架、插件
    HTML自定义滚动条(仿网易邮箱滚动条)转载
    Vue 组件(上)转载
    vue $mount 和 el的区别
    $on在构造器外部添加事件$once执行一次的事件$off关闭事件
  • 原文地址:https://www.cnblogs.com/clds/p/5082041.html
Copyright © 2011-2022 走看看