Java并发专题 带返回结果的批量任务执行 CompletionService ExecutorService.invokeAll(转)

转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059

一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable

Callable的call方法可以返回执行的结果;

CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;

优势:

a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)

b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;

1、CompletionService : Executor + BlockingQueue

下面看个例子:

[java] view plaincopy

  1. package com.zhy.concurrency.completionService;
  2. import java.util.Random;
  3. import java.util.concurrent.BlockingQueue;
  4. import java.util.concurrent.Callable;
  5. import java.util.concurrent.CompletionService;
  6. import java.util.concurrent.ExecutionException;
  7. import java.util.concurrent.ExecutorCompletionService;
  8. import java.util.concurrent.ExecutorService;
  9. import java.util.concurrent.Executors;
  10. import java.util.concurrent.Future;
  11. import java.util.concurrent.LinkedBlockingDeque;
  12. /**
  13. * 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果
  14. *
  15. * @author zhy
  16. *
  17. */
  18. public class CompletionServiceDemo
  19. {
  20. public static void main(String[] args) throws InterruptedException,
  21. ExecutionException
  22. {
  23. /**
  24. * 内部维护11个线程的线程池
  25. */
  26. ExecutorService exec = Executors.newFixedThreadPool(11);
  27. /**
  28. * 容量为10的阻塞队列
  29. */
  30. final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(
  31. 10);
  32. //实例化CompletionService
  33. final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(
  34. exec, queue);
  35. /**
  36. * 模拟瞬间产生10个任务,且每个任务执行时间不一致
  37. */
  38. for (int i = 0; i < 10; i++)
  39. {
  40. completionService.submit(new Callable<Integer>()
  41. {
  42. @Override
  43. public Integer call() throws Exception
  44. {
  45. int ran = new Random().nextInt(1000);
  46. Thread.sleep(ran);
  47. System.out.println(Thread.currentThread().getName()
  48. + " 休息了 " + ran);
  49. return ran;
  50. }
  51. });
  52. }
  53. /**
  54. * 立即输出结果
  55. */
  56. for (int i = 0; i < 10; i++)
  57. {
  58. try
  59. {
  60. //谁最先执行完成,直接返回
  61. Future<Integer> f = completionService.take();
  62. System.out.println(f.get());
  63. } catch (InterruptedException e)
  64. {
  65. e.printStackTrace();
  66. } catch (ExecutionException e)
  67. {
  68. e.printStackTrace();
  69. }
  70. }
  71. exec.shutdown();
  72. }
  73. }

输出结果:

[java] view plaincopy

  1. pool-1-thread-4 休息了 52
  2. 52
  3. pool-1-thread-1 休息了 59
  4. 59
  5. pool-1-thread-10 休息了 215
  6. 215
  7. pool-1-thread-9 休息了 352
  8. 352
  9. pool-1-thread-5 休息了 389
  10. 389
  11. pool-1-thread-3 休息了 589
  12. 589
  13. pool-1-thread-2 休息了 794
  14. 794
  15. pool-1-thread-7 休息了 805
  16. 805
  17. pool-1-thread-6 休息了 909
  18. 909
  19. pool-1-thread-8 休息了 987
  20. 987

最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!

2、ExecutorService.invokeAll

ExecutorService的invokeAll方法也能批量执行任务,并批量返回结果,但是呢,有个我觉得很致命的缺点,必须等待所有的任务执行完成后统一返回,一方面内存持有的时间长;另一方面响应性也有一定的影响,毕竟大家都喜欢看看刷刷的执行结果输出,而不是苦苦的等待;

下面看个例子:

[java] view plaincopy

  1. package com.zhy.concurrency.executors;
  2. import java.util.ArrayList;
  3. import java.util.List;
  4. import java.util.Random;
  5. import java.util.concurrent.Callable;
  6. import java.util.concurrent.ExecutionException;
  7. import java.util.concurrent.ExecutorService;
  8. import java.util.concurrent.Executors;
  9. import java.util.concurrent.Future;
  10. public class TestInvokeAll
  11. {
  12. public static void main(String[] args) throws InterruptedException,
  13. ExecutionException
  14. {
  15. ExecutorService exec = Executors.newFixedThreadPool(10);
  16. List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();
  17. Callable<Integer> task = null;
  18. for (int i = 0; i < 10; i++)
  19. {
  20. task = new Callable<Integer>()
  21. {
  22. @Override
  23. public Integer call() throws Exception
  24. {
  25. int ran = new Random().nextInt(1000);
  26. Thread.sleep(ran);
  27. System.out.println(Thread.currentThread().getName()+" 休息了 " + ran );
  28. return ran;
  29. }
  30. };
  31. tasks.add(task);
  32. }
  33. long s = System.currentTimeMillis();
  34. List<Future<Integer>> results = exec.invokeAll(tasks);
  35. System.out.println("执行任务消耗了 :" + (System.currentTimeMillis() - s) +"毫秒");
  36. for (int i = 0; i < results.size(); i++)
  37. {
  38. try
  39. {
  40. System.out.println(results.get(i).get());
  41. } catch (Exception e)
  42. {
  43. e.printStackTrace();
  44. }
  45. }
  46. exec.shutdown();
  47. }
  48. }

执行结果:

[java] view plaincopy

  1. pool-1-thread-10 休息了 1
  2. pool-1-thread-5 休息了 59
  3. pool-1-thread-6 休息了 128
  4. pool-1-thread-1 休息了 146
  5. pool-1-thread-3 休息了 158
  6. pool-1-thread-7 休息了 387
  7. pool-1-thread-9 休息了 486
  8. pool-1-thread-8 休息了 606
  9. pool-1-thread-4 休息了 707
  10. pool-1-thread-2 休息了 817
  11. 执行任务消耗了 :819毫秒
  12. 146
  13. 817
  14. 158
  15. 707
  16. 59
  17. 128
  18. 387
  19. 606
  20. 486
  21. 1

我特意在任务提交完成打印了一个时间,然后invokeAll执行完成后打印了下时间,可以看出invokeAll返回是等待所有线程执行完毕的。这点来说,我觉得可用性不如CompletionService。

嗯,对于批量执行任务,且携带返回结果的案例就到这里~如果有疑问或者代码中存在错误请指出~

http://blog.csdn.net/lmj623565791/article/details/27250059

时间: 2024-10-09 19:53:45

Java并发专题 带返回结果的批量任务执行 CompletionService ExecutorService.invokeAll(转)的相关文章

Java并发专题 带返回结果的批量任务运行 CompletionService ExecutorService.invokeAll

转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059 普通情况下,我们使用Runnable作为主要的任务表示形式,可是Runnable是一种有非常大局限的抽象,run方法中仅仅能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,还有一方面须要控制同步,效率非常大的限制),总之不能返回运行的结果:比方同一时候1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我认为最好的方式就是提供回

Java并发专题 带返回结果的批量任务执行

转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果:比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处

Java 并发专题 :FutureTask 实现预加载数据 在线看电子书、浏览器浏览网页等

继续并发专题~ FutureTask 有点类似Runnable,都可以通过Thread来启动,不过FutureTask可以返回执行完毕的数据,并且FutureTask的get方法支持阻塞. 由于:FutureTask可以返回执行完毕的数据,并且FutureTask的get方法支持阻塞这两个特性,我们可以用来预先加载一些可能用到资源,然后要用的时候,调用get方法获取(如果资源加载完,直接返回:否则继续等待其加载完成). 下面通过两个例子来介绍下: 1.使用FutureTask来预加载稍后要用的的

Java 并发专题 : Executor详细介绍 打造基于Executor的Web服务器

适配器模式,将一个类的接口转换成客户希望的另外一个接口.Adapter模式使得原本由于接口不兼容而不能一起工作的那些类可以一起工作. 应用场景:系统的数据和行为都正确,但接口不符时,我们应该考虑用适配器,目的是使控制范围之外的一个原有对象与某个接口匹配.适配器模式主要应用于希望复用一些现存的类,但是接口又与复用环境要求不一致的情况. 代码实现: //Adapter.h #include "stdafx.h" #include <iostream> class Adaptee

Java 并发专题 :闭锁 CountDownLatch 之一家人一起吃个饭

最近一直整并发这块东西,顺便写点Java并发的例子,给大家做个分享,也强化下自己记忆. 每天起早贪黑的上班,父母每天也要上班,话说今天定了个饭店,一家人一起吃个饭,通知大家下班去饭店集合.假设:3个人在不同的地方上班,必须等到3个人到场才能吃饭,用程序如何实现呢? 作为一名资深屌丝程序猿,开始写代码实现: package com.zhy.concurrency.latch; public class Test1 { /** * 模拟爸爸去饭店 */ public static void fath

Java 并发专题 : CyclicBarrier 打造一个安全的门禁系统

继续并发专题~ 这次介绍CyclicBarrier:看一眼API的凝视: /** * A synchronization aid that allows a set of threads to all wait for * each other to reach a common barrier point. CyclicBarriers are * useful in programs involving a fixed sized party of threads that * must o

【Java并发专题之二】Java线程基础

使用线程更好的提高资源利用率,但也会带来上下文切换的消耗,频繁的内核态和用户态的切换消耗,如果代码设计不好,可能弊大于利. 一.线程 进程是分配资源的最小单位,线程是程序执行的最小单位:线程是依附于进程的,一个进程可以生成多个线程,这些线程拥有共享的进程资源: 二.线程生命周期(相关API)1.5个阶段6种状态 5个阶段:新建(New).就绪(Runnable).运行(Running).阻塞(Blocked)和死亡(Dead). 6种状态: public enum State { /** * T

Java 并发专题 : Timer的缺陷 用ScheduledExecutorService替代

继续并发,上篇博客对于ScheduledThreadPoolExecutor没有进行介绍,说过会和Timer一直单独写一篇Blog. 1.Timer管理延时任务的缺陷 a.以前在项目中也经常使用定时器,比如每隔一段时间清理项目中的一些垃圾文件,每个一段时间进行数据清洗:然而Timer是存在一些缺陷的,因为Timer在执行定时任务时只会创建一个线程,所以如果存在多个任务,且任务时间过长,超过了两个任务的间隔时间,会发生一些缺陷:下面看例子: Timer的源码: [java] view plainc

java 多线程-lambda带返回值

public class hh { public static void main(String[]args) { ilike like=(a,b)->{ System.out.println("ad"+(a+b)); return a+b; }; like.lambda(100, 200); //一行代码省略格式 ilike like2=(a,b)->a+b;//return 也省略掉 like2.lambda(200, 200); ilike like3=(a,b)-&