zoukankan      html  css  js  c++  java
  • Java线程池

    早上看到一篇线程池总结很好的文章,尽管里面代码与jdk8的已有差异,不过主要流程还是可以参考的。Java线程池是设计的很不错的,像tomcat,spring的线程池也都是基于它的。转载一下:

    下图是 java 线程池几个相关类的继承结构:

    先简单说说这个继承结构,Executor 位于最顶层,也是最简单的,就一个 execute(Runnable runnable) 接口方法定义。

    ExecutorService 也是接口,在 Executor 接口的基础上添加了很多的接口方法,所以一般来说我们会使用这个接口

    然后再下来一层是 AbstractExecutorService,从名字我们就知道,这是抽象类,这里实现了非常有用的一些方法供子类直接使用,之后我们再细说。

    然后才到我们的重点部分 ThreadPoolExecutor 类,这个类提供了关于线程池所需的非常丰富的功能。

    另外,我们还涉及到下图中的这些类:

    同在并发包中的 Executors 类,类名中带字母 s,我们猜到这个是工具类,里面的方法都是静态方法,如以下我们最常用的用于生成 ThreadPoolExecutor 的实例的一些方法:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    public static ExecutorService newCachedThreadPool() {
    return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
    60L, TimeUnit.SECONDS,
    new SynchronousQueue<Runnable>());
    }
    public static ExecutorService newFixedThreadPool(int nThreads) {
    return new ThreadPoolExecutor(nThreads, nThreads,
    0L, TimeUnit.MILLISECONDS,
    new LinkedBlockingQueue<Runnable>());
    }

    另外,由于线程池支持获取线程执行的结果,所以,引入了 Future 接口,RunnableFuture 继承自此接口,然后我们最需要关心的就是它的实现类 FutureTask。到这里,记住这个概念,在线程池的使用过程中,我们是往线程池提交任务(task),使用过线程池的都知道,我们提交的每个任务是实现了 Runnable 接口的,其实就是先将 Runnable 的任务包装成 FutureTask,然后再提交到线程池。这样,读者才能比较容易记住 FutureTask 这个类名:它首先是一个任务(Task),然后具有 Future 接口的语义,即可以在将来(Future)得到执行的结果。

    ThreadPoolExecutor

    ThreadPoolExecutor 是 JDK 中的线程池实现,这个类实现了一个线程池需要的各个方法,它实现了任务提交、线程管理、监控等等方法。

    我们可以基于它来进行业务上的扩展,以实现我们需要的其他功能,比如实现定时任务的类 ScheduledThreadPoolExecutor 就继承自 ThreadPoolExecutor。当然,这不是本文关注的重点,下面,还是赶紧进行源码分析吧。

    首先,我们来看看线程池实现中的几个概念和处理流程。

    我们先回顾下提交任务的几个方法:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    public Future<?> submit(Runnable task) {
    if (task == null) throw new NullPointerException();
    RunnableFuture<Void> ftask = newTaskFor(task, null);
    execute(ftask);
    return ftask;
    }
    public <T> Future<T> submit(Runnable task, T result) {
    if (task == null) throw new NullPointerException();
    RunnableFuture<T> ftask = newTaskFor(task, result);
    execute(ftask);
    return ftask;
    }
    public <T> Future<T> submit(Callable<T> task) {
    if (task == null) throw new NullPointerException();
    RunnableFuture<T> ftask = newTaskFor(task);
    execute(ftask);
    return ftask;
    }

    一个最基本的概念是,submit 方法中,参数是 Runnable 类型(也有Callable 类型),这个参数不是用于 new Thread(runnable).start() 中的,此处的这个参数不是用于启动线程的,这里指的是任务,任务要做的事情是 run() 方法里面定义的或 Callable 中的 call() 方法里面定义的。

    初学者往往会搞混这个,因为 Runnable 总是在各个地方出现,经常把一个 Runnable 包到另一个 Runnable 中。请把它想象成有个 Task 接口,这个接口里面有一个 run() 方法(我想作者只是不想因为这个再定义一个完全可以用 Runnable 来代替的接口,Callable 的出现,完全是因为 Runnable 不能满足需要)。

    我们回过神来继续往下看,我画了一个简单的示意图来描述线程池中的一些主要的构件:

    pool-1

    当然,上图没有考虑队列是否有界,提交任务时队列满了怎么办?什么情况下会创建新的线程?提交任务时线程池满了怎么办?空闲线程怎么关掉?这些问题下面我们会一一解决。

    我们经常会使用 Executors 这个工具类来快速构造一个线程池,对于初学者而言,这种工具类是很有用的,开发者不需要关注太多的细节,只要知道自己需要一个线程池,仅仅提供必需的参数就可以了,其他参数都采用作者提供的默认值。

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    public static ExecutorService newFixedThreadPool(int nThreads) {
    return new ThreadPoolExecutor(nThreads, nThreads,
    0L, TimeUnit.MILLISECONDS,
    new LinkedBlockingQueue<Runnable>());
    }
    public static ExecutorService newCachedThreadPool() {
    return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
    60L, TimeUnit.SECONDS,
    new SynchronousQueue<Runnable>());
    }

    这里先不说有什么区别,它们最终都会导向这个构造方法:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    public ThreadPoolExecutor(int corePoolSize,
    int maximumPoolSize,
    long keepAliveTime,
    TimeUnit unit,
    BlockingQueue<Runnable> workQueue,
    ThreadFactory threadFactory,
    RejectedExecutionHandler handler) {
    if (corePoolSize < 0 ||
    maximumPoolSize <= 0 ||
    maximumPoolSize < corePoolSize ||
    keepAliveTime < 0)
    throw new IllegalArgumentException();
    // 这几个参数都是必须要有的
    if (workQueue == null || threadFactory == null || handler == null)
    throw new NullPointerException();
     
    this.corePoolSize = corePoolSize;
    this.maximumPoolSize = maximumPoolSize;
    this.workQueue = workQueue;
    this.keepAliveTime = unit.toNanos(keepAliveTime);
    this.threadFactory = threadFactory;
    this.handler = handler;
    }

    基本上,上面的构造方法中列出了我们最需要关心的几个属性了,下面逐个介绍下构造方法中出现的这几个属性:

    • corePoolSize

      核心线程数,不要抠字眼,反正先记着有这么个属性就可以了。

    • maximumPoolSize

      ​最大线程数,线程池允许创建的最大线程数。

    • workQueue

      任务队列,BlockingQueue 接口的某个实现(常使用 ArrayBlockingQueue 和 LinkedBlockingQueue)。

    • keepAliveTime

      空闲线程的保活时间,如果某线程的空闲时间超过这个值都没有任务给它做,那么可以被关闭了。注意这个值并不会对所有线程起作用,如果线程池中的线程数少于等于核心线程数 corePoolSize,那么这些线程不会因为空闲太长时间而被关闭,当然,也可以通过调用 allowCoreThreadTimeOut(true)使核心线程数内的线程也可以被回收。

    • threadFactory

      用于生成线程,一般我们可以用默认的就可以了。通常,我们可以通过它将我们的线程的名字设置得比较可读一些,如 Message-Thread-1, Message-Thread-2 类似这样。

    • handler:

      当线程池已经满了,但是又有新的任务提交的时候,该采取什么策略由这个来指定。有几种方式可供选择,像抛出异常、直接拒绝然后返回等,也可以自己实现相应的接口实现自己的逻辑,这个之后再说。

    除了上面几个属性外,我们再看看其他重要的属性。

    Doug Lea 采用一个 32 位的整数来存放线程池的状态和当前池中的线程数,其中高 3 位用于存放线程池状态,低 29 位表示线程数(即使只有 29 位,也已经不小了,大概 500 多万)。我们知道,java 语言在整数编码上是统一的,都是采用补码的形式,下面是简单的移位操作和布尔操作,都是挺简单的。

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
     
    private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));
     
    // 这里 COUNT_BITS 设置为 29(32-3),意味着前三位用于存放线程状态,后29位用于存放线程数
    // 很多初学者很喜欢在自己的代码中写很多 29 这种数字,或者某个特殊的字符串,然后分布在各个地方,这是非常糟糕的
    private static final int COUNT_BITS = Integer.SIZE - 3;
     
    // 000 11111111111111111111111111111
    // 这里得到的是 29 个 1,也就是说线程池的最大线程数是 2^29-1=536860911
    // 以我们现在计算机的实际情况,这个数量还是够用的
    private static final int CAPACITY = (1 << COUNT_BITS) - 1;
     
    // 我们说了,线程池的状态存放在高 3 位中
    // 运算结果为 111跟29个0:111 00000000000000000000000000000
    private static final int RUNNING = -1 << COUNT_BITS;
    // 000 00000000000000000000000000000
    private static final int SHUTDOWN = 0 << COUNT_BITS;
    // 001 00000000000000000000000000000
    private static final int STOP = 1 << COUNT_BITS;
    // 010 00000000000000000000000000000
    private static final int TIDYING = 2 << COUNT_BITS;
    // 011 00000000000000000000000000000
    private static final int TERMINATED = 3 << COUNT_BITS;
     
    // 将整数 c 的低 29 位修改为 0,就得到了线程池的状态
    private static int runStateOf(int c) { return c & ~CAPACITY; }
    // 将整数 c 的高 3 为修改为 0,就得到了线程池中的线程数
    private static int workerCountOf(int c) { return c & CAPACITY; }
     
    private static int ctlOf(int rs, int wc) { return rs | wc; }
     
    /*
    * Bit field accessors that don't require unpacking ctl.
    * These depend on the bit layout and on workerCount being never negative.
    */
     
    private static boolean runStateLessThan(int c, int s) {
    return c < s;
    }
     
    private static boolean runStateAtLeast(int c, int s) {
    return c >= s;
    }
     
    private static boolean isRunning(int c) {
    return c < SHUTDOWN;
    }

    上面就是对一个整数的简单的位操作,几个操作方法将会在后面的源码中一直出现,所以读者最好把方法名字和其代表的功能记住,看源码的时候也就不需要来来回回翻了。

    在这里,介绍下线程池中的各个状态和状态变化的转换过程:

    • RUNNING:这个没什么好说的,这是最正常的状态:接受新的任务,处理等待队列中的任务
    • SHUTDOWN:不接受新的任务提交,但是会继续处理等待队列中的任务
    • STOP:不接受新的任务提交,不再处理等待队列中的任务,中断正在执行任务的线程
    • TIDYING:所有的任务都销毁了,workCount 为 0。线程池的状态在转换为 TIDYING 状态时,会执行钩子方法 terminated()
    • TERMINATED:terminated() 方法结束后,线程池的状态就会变成这个

    RUNNING 定义为 -1,SHUTDOWN 定义为 0,其他的都比 0 大,所以等于 0 的时候不能提交任务,大于 0 的话,连正在执行的任务也需要中断。

    看了这几种状态的介绍,读者大体也可以猜到十之八九的状态转换了,各个状态的转换过程有以下几种:

    • RUNNING -> SHUTDOWN:当调用了 shutdown() 后,会发生这个状态转换,这也是最重要的
    • (RUNNING or SHUTDOWN) -> STOP:当调用 shutdownNow() 后,会发生这个状态转换,这下要清楚 shutDown() 和 shutDownNow() 的区别了
    • SHUTDOWN -> TIDYING:当任务队列和线程池都清空后,会由 SHUTDOWN 转换为 TIDYING
    • STOP -> TIDYING:当任务队列清空后,发生这个转换
    • TIDYING -> TERMINATED:这个前面说了,当 terminated() 方法结束后

    上面的几个记住核心的就可以了,尤其第一个和第二个。

    另外,我们还要看看一个内部类 Worker,因为 Doug Lea 把线程池中的线程包装成了一个个 Worker,翻译成工人,就是线程池中做任务的线程。所以到这里,我们知道任务是 Runnable(内部叫 task 或 command),线程是 Worker

    Worker 这里又用到了抽象类 AbstractQueuedSynchronizer。题外话,AQS 在并发中真的是到处出现,而且非常容易使用,写少量的代码就能实现自己需要的同步方式(对 AQS 源码感兴趣的读者请参看我之前写的几篇文章)。

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    private final class Worker
    extends AbstractQueuedSynchronizer
    implements Runnable
    {
    private static final long serialVersionUID = 6138294804551838833L;
     
    // 这个是真正的线程,任务靠你啦
    final Thread thread;
     
    // 前面说了,这里的 Runnable 是任务。为什么叫 firstTask?因为在创建线程的时候,如果同时指定了
    // 这个线程起来以后需要执行的第一个任务,那么第一个任务就是存放在这里的(线程可不止执行这一个任务)
    // 当然了,也可以为 null,这样线程起来了,自己到任务队列(BlockingQueue)中取任务(getTask 方法)就行了
    Runnable firstTask;
     
    // 用于存放此线程完全的任务数,注意了,这里用了 volatile,保证可见性
    volatile long completedTasks;
     
    // Worker 只有这一个构造方法,传入 firstTask,也可以传 null
    Worker(Runnable firstTask) {
    setState(-1); // inhibit interrupts until runWorker
    this.firstTask = firstTask;
    // 调用 ThreadFactory 来创建一个新的线程
    this.thread = getThreadFactory().newThread(this);
    }
     
    // 这里调用了外部类的 runWorker 方法
    public void run() {
    runWorker(this);
    }
     
    ...// 其他几个方法没什么好看的,就是用 AQS 操作,来获取这个线程的执行权,用了独占锁
    }

    前面虽然啰嗦,但是简单。有了上面的这些基础后,我们终于可以看看 ThreadPoolExecutor 的 execute 方法了,前面源码分析的时候也说了,各种方法都最终依赖于 execute 方法:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    public void execute(Runnable command) {
    if (command == null)
    throw new NullPointerException();
     
    // 前面说的那个表示 “线程池状态” 和 “线程数” 的整数
    int c = ctl.get();
     
    // 如果当前线程数少于核心线程数,那么直接添加一个 worker 来执行任务,
    // 创建一个新的线程,并把当前任务 command 作为这个线程的第一个任务(firstTask)
    if (workerCountOf(c) < corePoolSize) {
    // 添加任务成功,那么就结束了。提交任务嘛,线程池已经接受了这个任务,这个方法也就可以返回了
    // 至于执行的结果,到时候会包装到 FutureTask 中。
    // 返回 false 代表线程池不允许提交任务
    if (addWorker(command, true))
    return;
    c = ctl.get();
    }
    // 到这里说明,要么当前线程数大于等于核心线程数,要么刚刚 addWorker 失败了
     
    // 如果线程池处于 RUNNING 状态,把这个任务添加到任务队列 workQueue 中
    if (isRunning(c) && workQueue.offer(command)) {
    /* 这里面说的是,如果任务进入了 workQueue,我们是否需要开启新的线程
    * 因为线程数在 [0, corePoolSize) 是无条件开启新的线程
    * 如果线程数已经大于等于 corePoolSize,那么将任务添加到队列中,然后进到这里
    */
    int recheck = ctl.get();
    // 如果线程池已不处于 RUNNING 状态,那么移除已经入队的这个任务,并且执行拒绝策略
    if (! isRunning(recheck) && remove(command))
    reject(command);
    // 如果线程池还是 RUNNING 的,并且线程数为 0,那么开启新的线程
    // 到这里,我们知道了,这块代码的真正意图是:担心任务提交到队列中了,但是线程都关闭了
    else if (workerCountOf(recheck) == 0)
    addWorker(null, false);
    }
    // 如果 workQueue 队列满了,那么进入到这个分支
    // 以 maximumPoolSize 为界创建新的 worker,
    // 如果失败,说明当前线程数已经达到 maximumPoolSize,执行拒绝策略
    else if (!addWorker(command, false))
    reject(command);
    }

    对创建线程的错误理解:如果线程数少于 corePoolSize,创建一个线程,如果线程数在 [corePoolSize, maximumPoolSize] 之间那么可以创建线程或复用空闲线程,keepAliveTime 对这个区间的线程有效。

    从上面的几个分支,我们就可以看出,上面的这段话是错误的。

    上面这些一时半会也不可能全部消化搞定,我们先继续往下吧,到时候再回头看几遍。

    这个方法非常重要 addWorker(Runnable firstTask, boolean core) 方法,我们看看它是怎么创建新的线程的:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
    48
    49
    50
    51
    52
    53
    54
    55
    56
    57
    58
    59
    60
    61
    62
    63
    64
    65
    66
    67
    68
    69
    70
    71
    72
    73
    74
    75
    76
    77
    78
    79
    80
    81
    82
    83
    84
    85
    86
    87
    88
    89
    90
    91
    92
    93
    94
    95
    96
    97
    98
    99
    100
    101
    102
    103
    104
    // 第一个参数是准备提交给这个线程执行的任务,之前说了,可以为 null
    // 第二个参数为 true 代表使用核心线程数 corePoolSize 作为创建线程的界线,也就说创建这个线程的时候,
    // 如果线程池中的线程总数已经达到 corePoolSize,那么不能响应这次创建线程的请求
    // 如果是 false,代表使用最大线程数 maximumPoolSize 作为界线
    private boolean addWorker(Runnable firstTask, boolean core) {
    retry:
    for (;;) {
    int c = ctl.get();
    int rs = runStateOf(c);
     
    // 这个非常不好理解
    // 如果线程池已关闭,并满足以下条件之一,那么不创建新的 worker:
    // 1. 线程池状态大于 SHUTDOWN,其实也就是 STOP, TIDYING, 或 TERMINATED
    // 2. firstTask != null
    // 3. workQueue.isEmpty()
    // 简单分析下:
    // 还是状态控制的问题,当线程池处于 SHUTDOWN 的时候,不允许提交任务,但是已有的任务继续执行
    // 当状态大于 SHUTDOWN 时,不允许提交任务,且中断正在执行的任务
    // 多说一句:如果线程池处于 SHUTDOWN,但是 firstTask 为 null,且 workQueue 非空,那么是允许创建 worker 的
    if (rs >= SHUTDOWN &&
    ! (rs == SHUTDOWN &&
    firstTask == null &&
    ! workQueue.isEmpty()))
    return false;
     
    for (;;) {
    int wc = workerCountOf(c);
    if (wc >= CAPACITY ||
    wc >= (core ? corePoolSize : maximumPoolSize))
    return false;
    // 如果成功,那么就是所有创建线程前的条件校验都满足了,准备创建线程执行任务了
    // 这里失败的话,说明有其他线程也在尝试往线程池中创建线程
    if (compareAndIncrementWorkerCount(c))
    break retry;
    // 由于有并发,重新再读取一下 ctl
    c = ctl.get();
    // 正常如果是 CAS 失败的话,进到下一个里层的for循环就可以了
    // 可是如果是因为其他线程的操作,导致线程池的状态发生了变更,如有其他线程关闭了这个线程池
    // 那么需要回到外层的for循环
    if (runStateOf(c) != rs)
    continue retry;
    // else CAS failed due to workerCount change; retry inner loop
    }
    }
     
    /*
    * 到这里,我们认为在当前这个时刻,可以开始创建线程来执行任务了,
    * 因为该校验的都校验了,至于以后会发生什么,那是以后的事,至少当前是满足条件的
    */
     
    // worker 是否已经启动
    boolean workerStarted = false;
    // 是否已将这个 worker 添加到 workers 这个 HashSet 中
    boolean workerAdded = false;
    Worker w = null;
    try {
    final ReentrantLock mainLock = this.mainLock;
    // 把 firstTask 传给 worker 的构造方法
    w = new Worker(firstTask);
    // 取 worker 中的线程对象,之前说了,Worker的构造方法会调用 ThreadFactory 来创建一个新的线程
    final Thread t = w.thread;
    if (t != null) {
    // 这个是整个类的全局锁,持有这个锁才能让下面的操作“顺理成章”,
    // 因为关闭一个线程池需要这个锁,至少我持有锁的期间,线程池不会被关闭
    mainLock.lock();
    try {
     
    int c = ctl.get();
    int rs = runStateOf(c);
     
    // 小于 SHUTTDOWN 那就是 RUNNING,这个自不必说,是最正常的情况
    // 如果等于 SHUTDOWN,前面说了,不接受新的任务,但是会继续执行等待队列中的任务
    if (rs < SHUTDOWN ||
    (rs == SHUTDOWN && firstTask == null)) {
    // worker 里面的 thread 可不能是已经启动的
    if (t.isAlive())
    throw new IllegalThreadStateException();
    // 加到 workers 这个 HashSet 中
    workers.add(w);
    int s = workers.size();
    // largestPoolSize 用于记录 workers 中的个数的最大值
    // 因为 workers 是不断增加减少的,通过这个值可以知道线程池的大小曾经达到的最大值
    if (s > largestPoolSize)
    largestPoolSize = s;
    workerAdded = true;
    }
    } finally {
    mainLock.unlock();
    }
    // 添加成功的话,启动这个线程
    if (workerAdded) {
    // 启动线程
    t.start();
    workerStarted = true;
    }
    }
    } finally {
    // 如果线程没有启动,需要做一些清理工作,如前面 workCount 加了 1,将其减掉
    if (! workerStarted)
    addWorkerFailed(w);
    }
    // 返回线程是否启动成功
    return workerStarted;
    }

    简单看下 addWorkFailed 的处理:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    // workers 中删除掉相应的 worker
    // workCount 减 1
    private void addWorkerFailed(Worker w) {
    final ReentrantLock mainLock = this.mainLock;
    mainLock.lock();
    try {
    if (w != null)
    workers.remove(w);
    decrementWorkerCount();
    // rechecks for termination, in case the existence of this worker was holding up termination
    tryTerminate();
    } finally {
    mainLock.unlock();
    }
    }

    回过头来,继续往下走。我们知道,worker 中的线程 start 后,其 run 方法会调用 runWorker 方法:

    1
    2
    3
    4
    // Worker 类的 run() 方法
    public void run() {
    runWorker(this);
    }

    继续往下看 runWorker 方法:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
    48
    49
    50
    51
    52
    53
    54
    55
    56
    57
    58
    // 此方法由 worker 线程启动后调用,这里用一个 while 循环来不断地从等待队列中获取任务并执行
    // 前面说了,worker 在初始化的时候,可以指定 firstTask,那么第一个任务也就可以不需要从队列中获取
    final void runWorker(Worker w) {
    //
    Thread wt = Thread.currentThread();
    // 该线程的第一个任务(如果有的话)
    Runnable task = w.firstTask;
    w.firstTask = null;
    w.unlock(); // allow interrupts
    boolean completedAbruptly = true;
    try {
    // 循环调用 getTask 获取任务
    while (task != null || (task = getTask()) != null) {
    w.lock();
    // 如果线程池状态大于等于 STOP,那么意味着该线程也要中断
    if ((runStateAtLeast(ctl.get(), STOP) ||
    (Thread.interrupted() &&
    runStateAtLeast(ctl.get(), STOP))) &&
    !wt.isInterrupted())
    wt.interrupt();
    try {
    // 这是一个钩子方法,留给需要的子类实现
    beforeExecute(wt, task);
    Throwable thrown = null;
    try {
    // 到这里终于可以执行任务了
    task.run();
    } catch (RuntimeException x) {
    thrown = x; throw x;
    } catch (Error x) {
    thrown = x; throw x;
    } catch (Throwable x) {
    // 这里不允许抛出 Throwable,所以转换为 Error
    thrown = x; throw new Error(x);
    } finally {
    // 也是一个钩子方法,将 task 和异常作为参数,留给需要的子类实现
    afterExecute(task, thrown);
    }
    } finally {
    // 置空 task,准备 getTask 获取下一个任务
    task = null;
    // 累加完成的任务数
    w.completedTasks++;
    // 释放掉 worker 的独占锁
    w.unlock();
    }
    }
    completedAbruptly = false;
    } finally {
    // 如果到这里,需要执行线程关闭:
    // 1. 说明 getTask 返回 null,也就是说,这个 worker 的使命结束了,执行关闭
    // 2. 任务执行过程中发生了异常
    // 第一种情况,已经在代码处理了将 workCount 减 1,这个在 getTask 方法分析中会说
    // 第二种情况,workCount 没有进行处理,所以需要在 processWorkerExit 中处理
    // 限于篇幅,我不准备分析这个方法了,感兴趣的读者请自行分析源码
    processWorkerExit(w, completedAbruptly);
    }
    }

    我们看看 getTask() 是怎么获取任务的,这个方法写得真的很好,每一行都很简单,组合起来却所有的情况都想好了:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
    48
    49
    50
    51
    52
    53
    54
    55
    56
    57
    58
    59
    60
    61
    62
    63
    // 此方法有三种可能:
    // 1. 阻塞直到获取到任务返回。我们知道,默认 corePoolSize 之内的线程是不会被回收的,
    // 它们会一直等待任务
    // 2. 超时退出。keepAliveTime 起作用的时候,也就是如果这么多时间内都没有任务,那么应该执行关闭
    // 3. 如果发生了以下条件,此方法必须返回 null:
    // - 池中有大于 maximumPoolSize 个 workers 存在(通过调用 setMaximumPoolSize 进行设置)
    // - 线程池处于 SHUTDOWN,而且 workQueue 是空的,前面说了,这种不再接受新的任务
    // - 线程池处于 STOP,不仅不接受新的线程,连 workQueue 中的线程也不再执行
    private Runnable getTask() {
    boolean timedOut = false; // Did the last poll() time out?
     
    retry:
    for (;;) {
    int c = ctl.get();
    int rs = runStateOf(c);
    // 两种可能
    // 1. rs == SHUTDOWN && workQueue.isEmpty()
    // 2. rs >= STOP
    if (rs >= SHUTDOWN && (rs >= STOP || workQueue.isEmpty())) {
    // CAS 操作,减少工作线程数
    decrementWorkerCount();
    return null;
    }
     
    boolean timed; // Are workers subject to culling?
    for (;;) {
    int wc = workerCountOf(c);
    // 允许核心线程数内的线程回收,或当前线程数超过了核心线程数,那么有可能发生超时关闭
    timed = allowCoreThreadTimeOut || wc > corePoolSize;
     
    // 这里 break,是为了不往下执行后一个 if (compareAndDecrementWorkerCount(c))
    // 两个 if 一起看:如果当前线程数 wc > maximumPoolSize,或者超时,都返回 null
    // 那这里的问题来了,wc > maximumPoolSize 的情况,为什么要返回 null?
    // 换句话说,返回 null 意味着关闭线程。
    // 那是因为有可能开发者调用了 setMaximumPoolSize 将线程池的 maximumPoolSize 调小了
    if (wc <= maximumPoolSize && ! (timedOut && timed))
    break;
    if (compareAndDecrementWorkerCount(c))
    return null;
    c = ctl.get(); // Re-read ctl
    // compareAndDecrementWorkerCount(c) 失败,线程池中的线程数发生了改变
    if (runStateOf(c) != rs)
    continue retry;
    // else CAS failed due to workerCount change; retry inner loop
    }
    // wc <= maximumPoolSize 同时没有超时
    try {
    // 到 workQueue 中获取任务
    Runnable r = timed ?
    workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) :
    workQueue.take();
    if (r != null)
    return r;
    timedOut = true;
    } catch (InterruptedException retry) {
    // 如果此 worker 发生了中断,采取的方案是重试
    // 解释下为什么会发生中断,这个读者要去看 setMaximumPoolSize 方法,
    // 如果开发者将 maximumPoolSize 调小了,导致其小于当前的 workers 数量,
    // 那么意味着超出的部分线程要被关闭。重新进入 for 循环,自然会有部分线程会返回 null
    timedOut = false;
    }
    }
    }

    到这里,基本上也说完了整个流程,读者这个时候应该回到 execute(Runnable command) 方法,看看各个分支,我把代码贴过来一下:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    public void execute(Runnable command) {
    if (command == null)
    throw new NullPointerException();
     
    // 前面说的那个表示 “线程池状态” 和 “线程数” 的整数
    int c = ctl.get();
     
    // 如果当前线程数少于核心线程数,那么直接添加一个 worker 来执行任务,
    // 创建一个新的线程,并把当前任务 command 作为这个线程的第一个任务(firstTask)
    if (workerCountOf(c) < corePoolSize) {
    // 添加任务成功,那么就结束了。提交任务嘛,线程池已经接受了这个任务,这个方法也就可以返回了
    // 至于执行的结果,到时候会包装到 FutureTask 中。
    // 返回 false 代表线程池不允许提交任务
    if (addWorker(command, true))
    return;
    c = ctl.get();
    }
    // 到这里说明,要么当前线程数大于等于核心线程数,要么刚刚 addWorker 失败了
     
    // 如果线程池处于 RUNNING 状态,把这个任务添加到任务队列 workQueue 中
    if (isRunning(c) && workQueue.offer(command)) {
    /* 这里面说的是,如果任务进入了 workQueue,我们是否需要开启新的线程
    * 因为线程数在 [0, corePoolSize) 是无条件开启新的线程
    * 如果线程数已经大于等于 corePoolSize,那么将任务添加到队列中,然后进到这里
    */
    int recheck = ctl.get();
    // 如果线程池已不处于 RUNNING 状态,那么移除已经入队的这个任务,并且执行拒绝策略
    if (! isRunning(recheck) && remove(command))
    reject(command);
    // 如果线程池还是 RUNNING 的,并且线程数为 0,那么开启新的线程
    // 到这里,我们知道了,这块代码的真正意图是:担心任务提交到队列中了,但是线程都关闭了
    else if (workerCountOf(recheck) == 0)
    addWorker(null, false);
    }
    // 如果 workQueue 队列满了,那么进入到这个分支
    // 以 maximumPoolSize 为界创建新的 worker,
    // 如果失败,说明当前线程数已经达到 maximumPoolSize,执行拒绝策略
    else if (!addWorker(command, false))
    reject(command);
    }

    上面各个分支中,有两种情况会调用 reject(command) 来处理任务,因为按照正常的流程,线程池此时不能接受这个任务,所以需要执行我们的拒绝策略。接下来,我们说一说 ThreadPoolExecutor 中的拒绝策略。

    1
    2
    3
    4
    final void reject(Runnable command) {
    // 执行拒绝策略
    handler.rejectedExecution(command, this);
    }

    此处的 handler 我们需要在构造线程池的时候就传入这个参数,它是 RejectedExecutionHandler 的实例。

    RejectedExecutionHandler 在 ThreadPoolExecutor 中有四个已经定义好的实现类可供我们直接使用,当然,我们也可以实现自己的策略,不过一般也没有必要。

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    // 只要线程池没有被关闭,那么由提交任务的线程自己来执行这个任务。
    public static class CallerRunsPolicy implements RejectedExecutionHandler {
    public CallerRunsPolicy() { }
    public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
    if (!e.isShutdown()) {
    r.run();
    }
    }
    }
     
    // 不管怎样,直接抛出 RejectedExecutionException 异常
    // 这个是默认的策略,如果我们构造线程池的时候不传相应的 handler 的话,那就会指定使用这个
    public static class AbortPolicy implements RejectedExecutionHandler {
    public AbortPolicy() { }
    public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
    throw new RejectedExecutionException("Task " + r.toString() +
    " rejected from " +
    e.toString());
    }
    }
     
    // 不做任何处理,直接忽略掉这个任务
    public static class DiscardPolicy implements RejectedExecutionHandler {
    public DiscardPolicy() { }
    public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
    }
    }
     
    // 这个相对霸道一点,如果线程池没有被关闭的话,
    // 把队列队头的任务(也就是等待了最长时间的)直接扔掉,然后提交这个任务到等待队列中
    public static class DiscardOldestPolicy implements RejectedExecutionHandler {
    public DiscardOldestPolicy() { }
    public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
    if (!e.isShutdown()) {
    e.getQueue().poll();
    e.execute(r);
    }
    }
    }

    到这里,ThreadPoolExecutor 的源码算是分析结束了。单纯从源码的难易程度来说,ThreadPoolExecutor 的源码还算是比较简单的,只是需要我们静下心来好好看看罢了。

    Executors

    这节其实也不是分析 Executors 这个类,因为它仅仅是工具类,它的所有方法都是 static 的。

    • 生成一个固定大小的线程池:
    1
    2
    3
    4
    5
    public static ExecutorService newFixedThreadPool(int nThreads) {
    return new ThreadPoolExecutor(nThreads, nThreads,
    0L, TimeUnit.MILLISECONDS,
    new LinkedBlockingQueue<Runnable>());
    }

    最大线程数设置为与核心线程数相等,此时 keepAliveTime 设置为 0(因为这里它是没用的,即使不为 0 也不会执行 corePoolSize 内的线程),任务队列采用 LinkedBlockingQueue,无界队列。

    过程分析:刚开始,每提交一个任务都创建一个 worker,当 worker 的数量达到 nThreads 后,不再创建新的线程,而是把任务提交到 LinkedBlockingQueue 中,而且之后线程数始终为 nThreads。

    • 生成只有一个线程的固定线程池,这个更简单,和上面的一样,只要设置线程数为 1 就可以了:
    1
    2
    3
    4
    5
    6
    public static ExecutorService newSingleThreadExecutor() {
    return new FinalizableDelegatedExecutorService
    (new ThreadPoolExecutor(1, 1,
    0L, TimeUnit.MILLISECONDS,
    new LinkedBlockingQueue<Runnable>()));
    }
    • 生成一个需要的时候就创建新的线程,同时可以复用之前创建的线程(如果这个线程当前没有任务)的线程池:
    1
    2
    3
    4
    5
    public static ExecutorService newCachedThreadPool() {
    return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
    60L, TimeUnit.SECONDS,
    new SynchronousQueue<Runnable>());
    }

    核心线程数为 0,最大线程数为 Integer.MAX_VALUE,keepAliveTime 为 60 秒,任务队列采用 SynchronousQueue。

    这种线程池对于任务可以比较快速地完成的情况有比较好的性能。如果线程空闲了 60 秒都没有任务,那么将关闭此线程并从线程池中移除。所以如果线程池空闲了很长时间也不会有问题,因为随着所有的线程都会被关闭,整个线程池不会占用任何的系统资源。

    过程分析:我把 execute 方法的主体黏贴过来,让大家看得明白些。鉴于 corePoolSize 是 0,那么提交任务的时候,直接将任务提交到队列中,由于采用了 SynchronousQueue,所以如果是第一个任务提交的时候,offer 方法肯定会返回 false,因为此时没有任何 worker 对这个任务进行接收,那么将进入到最后一个分支来创建第一个 worker。之后再提交任务的话,取决于是否有空闲下来的线程对任务进行接收,如果有,会进入到第二个 if 语句块中,否则就是和第一个任务一样,进到最后的 else if 分支。

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    int c = ctl.get();
    // corePoolSize 为 0,所以不会进到这个 if 分支
    if (workerCountOf(c) < corePoolSize) {
    if (addWorker(command, true))
    return;
    c = ctl.get();
    }
    // offer 如果有空闲线程刚好可以接收此任务,那么返回 true,否则返回 false
    if (isRunning(c) && workQueue.offer(command)) {
    int recheck = ctl.get();
    if (! isRunning(recheck) && remove(command))
    reject(command);
    else if (workerCountOf(recheck) == 0)
    addWorker(null, false);
    }
    else if (!addWorker(command, false))
    reject(command);

    SynchronousQueue 是一个比较特殊的 BlockingQueue,其本身不储存任何元素,它有一个虚拟队列(或虚拟栈),不管读操作还是写操作,如果当前队列中存储的是与当前操作相同模式的线程,那么当前操作也进入队列中等待;如果是相反模式,则配对成功,从当前队列中取队头节点。具体的信息,可以看我的另一篇关于 BlockingQueue 的文章。

    总结

    我一向不喜欢写总结,因为我把所有需要表达的都写在正文中了,写小篇幅的总结并不能真正将话说清楚,本文的总结部分为面试而写,希望能帮到面试者或者没有足够的时间看完全文的读者。

    1. java 线程池有哪些关键属性?

      corePoolSize,maximumPoolSize,workQueue,keepAliveTime,rejectedExecutionHandler

      corePoolSize 到 maximumPoolSize 之间的线程会被回收,当然 corePoolSize 的线程也可以通过设置而得到回收(allowCoreThreadTimeOut(true))。

      workQueue 用于存放任务,添加任务的时候,如果当前线程数超过了 corePoolSize,那么往该队列中插入任务,线程池中的线程会负责到队列中拉取任务。

      keepAliveTime 用于设置空闲时间,如果线程数超出了 corePoolSize,并且有些线程的空闲时间超过了这个值,会执行关闭这些线程的操作

      rejectedExecutionHandler 用于处理当线程池不能执行此任务时的情况,默认有抛出 RejectedExecutionException 异常忽略任务使用提交任务的线程来执行此任务将队列中等待最久的任务删除,然后提交此任务这四种策略,默认为抛出异常。

    2. 说说线程池中的线程创建时机?

      1. 如果当前线程数少于 corePoolSize,那么提交任务的时候创建一个新的线程,并由这个线程执行这个任务;
      2. 如果当前线程数已经达到 corePoolSize,那么将提交的任务添加到队列中,等待线程池中的线程去队列中取任务;
      3. 如果队列已满,那么创建新的线程来执行任务,需要保证池中的线程数不会超过 maximumPoolSize,如果此时线程数超过了 maximumPoolSize,那么执行拒绝策略。
    3. Executors.newFixedThreadPool(…) 和 Executors.newCachedThreadPool() 构造出来的线程池有什么差别?

      细说太长,往上滑一点点,在 Executors 的小节进行了详尽的描述。

    4. 任务执行过程中发生异常怎么处理?

      如果某个任务执行出现异常,那么执行任务的线程会被关闭,而不是继续接收其他任务。然后会启动一个新的线程来代替它。

    5. 什么时候会执行拒绝策略?

      1. workers 的数量达到了 corePoolSize,任务入队成功,以此同时线程池被关闭了,而且关闭线程池并没有将这个任务出队,那么执行拒绝策略。这里说的是非常边界的问题,入队和关闭线程池并发执行,读者仔细看看 execute 方法是怎么进到第一个 reject(command) 里面的。
      2. workers 的数量大于等于 corePoolSize,准备入队,可是队列满了,任务入队失败,那么准备开启新的线程,可是线程数已经达到 maximumPoolSize,那么执行拒绝策略。

      https://hongjiev.github.io/2017/09/05/java-thread-pool/?hmsr=toutiao.io

  • 相关阅读:
    Eureka相关相关接口和代码位置
    Zookeeper(4)---ZK集群部署和选举
    Zookeeper(3)---java客户端的使用
    Zookeeper(2)---节点属性、监听和权限
    玩转百度地图API(地图,坐标,标记,添加控件,2D图,混合图,智能搜索,地址解析器,信息窗口)
    HTML+CSS系列:CSS选择器(标签、ID、类、通配符、后代、子元素、并集、伪类)
    Git系列:常用命令
    Linux系列:快捷键、目录结构、用户目录
    mybatis-plus系统化学习之更新-AR-主键-service
    mybatis-plus系统化学习之查询专题
  • 原文地址:https://www.cnblogs.com/doit8791/p/7508243.html
Copyright © 2011-2022 走看看