当前位置:   article > 正文

Java线程池-ThreadPoolExecutor源码解析(基于Java8)

core-thread(pooled)
img_aae003d0660e9d0006714e1807fcf395.png
ExecutorService接口的两个主要的具体实现

它们都是某种线程池,可以控制线程创建,释放,并通过某种策略尝试复用线程去执行任务的一个管理框架
在Java8中,按照线程池的创建方法来看


img_34b45b5cbf4666fd2e2d5b275e1c9279.png

有五种线程池,创建方法如下

  1. ExecutorService singleThreadPool = Executors.newSingleThreadExecutor();
  2. ExecutorService fixedThreadPool = Executors.newFixedThreadPool(5);
  3. ExecutorService cachedThreadPool = Executors.newCachedThreadPool();
  4. ScheduledExecutorService singleThreadScheduledPool = Executors.newSingleThreadScheduledExecutor();
  5. ScheduledExecutorService scheduledPool = Executors.newScheduledThreadPool(5);

进一步查看源码发现,这些方法最终都调用了ThreadPoolExecutor和ScheduledExecutorService的构造函数
而ScheduledExecutorService继承自ThreadPoolExecutor,因此最终所有线程池的构造函数都调用了Java5后推出的ThreadPoolExecutor的如下构造函数

img_7c16e7207fe915e6349a17308d0520c3.png

Java默认提供的线程池

Java中的线程池是运用场景最多的并发框架,几乎所有需要异步或并发执行任务的程序都可以使用线程池


img_915b630f2a54969d94393025110ea21e.png

img_3f4d18921fd6c99feda810ca1ba705a7.png

在开发中,合理地使用线程池能够带来3个好处

  • 降低资源消耗 通过重复利用已创建的线程,降低创建和销毁线程造成的系统资源消耗
  • 提高响应速度 当任务到达时,任务可以不需要等到线程创建就能立即执行
  • 提高线程的可管理性 线程是稀缺资源,如果过多地创建,不仅会消耗系统资源,还会降低系统的稳定性,导致使用线程池可以进行统一分配、调优和监控。

我们只需要将待执行的方法放入 run 方法中,将 Runnable 接口的实现类交给线程池的
execute 方法,作为他的一个参数,比如:

  1. Executor e=Executors.newSingleThreadExecutor();
  2. e.execute(new Runnable(){ //匿名内部类 public void run(){
  3. //需要执行的任务
  4. }
  5. });

1 线程池的实现原理

当向线程池提交一个任务之后,线程池是如何处理这个任务的呢?


img_d8312e43260b7c36ad97dffdf08d946b.png
处理流程图

img_51a914457375c7b4e83b45363b8adf6b.png
ThreadPoolExecutor执行execute()方法

ThreadPoolExecutor执行execute()分4种情况

  • 若当前运行的线程少于corePoolSize,则创建新线程来执行任务(执行这一步需要获取全局锁)
  • 若运行的线程多于或等于corePoolSize,则将任务加入BlockingQueue
  • 若无法将任务加入BlockingQueue,则创建新的线程来处理任务(执行这一步需要获取全局锁)
  • 若创建新线程将使当前运行的线程超出maximumPoolSize,任务将被拒绝,并调用RejectedExecutionHandler.rejectedExecution()

采取上述思路,是为了在执行execute()时,尽可能避免获取全局锁
在ThreadPoolExecutor完成预热之后(当前运行的线程数大于等于corePoolSize),几乎所有的execute()方法调用都是执行步骤2,而步骤2不需要获取全局锁

源码分析

上面的流程分析让我们很直观地了解了线程池的工作原理,让我们再通过源码来看看是如何实现的,线程池执行任务的方法如下

  1. /**
  2. * Executes the given task sometime in the future. The task
  3. * may execute in a new thread or in an existing pooled thread.
  4. *
  5. * If the task cannot be submitted for execution, either because this
  6. * executor has been shutdown or because its capacity has been reached,
  7. * the task is handled by the current {@code RejectedExecutionHandler}.
  8. *
  9. * @param command the task to execute
  10. * @throws RejectedExecutionException at discretion of
  11. * {@code RejectedExecutionHandler}, if the task
  12. * cannot be accepted for execution
  13. * @throws NullPointerException if {@code command} is null
  14. */
  15. public void execute(Runnable command) {
  16. if (command == null)
  17. throw new NullPointerException();
  18. /*
  19. * Proceed in 3 steps:
  20. *
  21. * 1. If fewer than corePoolSize threads are running, try to
  22. * start a new thread with the given command as its first
  23. * task. The call to addWorker atomically checks runState and
  24. * workerCount, and so prevents false alarms that would add
  25. * threads when it shouldn't, by returning false.
  26. *
  27. * 2. If a task can be successfully queued, then we still need
  28. * to double-check whether we should have added a thread
  29. * (because existing ones died since last checking) or that
  30. * the pool shut down since entry into this method. So we
  31. * recheck state and if necessary roll back the enqueuing if
  32. * stopped, or start a new thread if there are none.
  33. *
  34. * 3. If we cannot queue task, then we try to add a new
  35. * thread. If it fails, we know we are shut down or saturated
  36. * and so reject the task.
  37. */
  38. int c = ctl.get();
  39. // 如果线程数小于基本线程数,则创建线程并执行当前任务
  40. if (workerCountOf(c) < corePoolSize) {
  41. if (addWorker(command, true))
  42. return;
  43. c = ctl.get();
  44. }
  45. // 如线程数大于等于基本线程数或线程创建失败,则将当前任务放到工作队列中。
  46. if (isRunning(c) && workQueue.offer(command)) {
  47. int recheck = ctl.get();
  48. if (! isRunning(recheck) && remove(command))
  49. reject(command);
  50. else if (workerCountOf(recheck) == 0)
  51. addWorker(null, false);
  52. }
  53. else if (!addWorker(command, false))
  54. // 抛出RejectedExecutionException异常
  55. reject(command);
  56. }
img_be6530a5032787c4afb8565041f1a7e4.png
  1. /**
  2. * 检查是否可以根据当前池状态和给定的边界(核心或最大)
  3. * 添加新工作线程。如果是这样,工作线程数量会相应调整,如果可能的话,一个新的工作线程创建并启动
  4. * 将firstTask作为其运行的第一项任务。
  5. * 如果池已停止此方法返回false
  6. * 如果线程工厂在被访问时未能创建线程,也返回false
  7. * 如果线程创建失败,或者是由于线程工厂返回null,或者由于异常(通常是在调用Thread.start()后的OOM)),我们干净地回滚。
  8. *
  9. * @param core if true use corePoolSize as bound, else
  10. * maximumPoolSize. (A boolean indicator is used here rather than a
  11. * value to ensure reads of fresh values after checking other pool
  12. * state).
  13. * @return true if successful
  14. */
  15. private boolean addWorker(Runnable firstTask, boolean core) {
  16. retry:
  17. for (;;) {
  18. int c = ctl.get();
  19. int rs = runStateOf(c);
  20. /**
  21. * Check if queue empty only if necessary.
  22. *
  23. * 如果线程池已关闭,并满足以下条件之一,那么不创建新的 worker:
  24. * 1. 线程池状态大于 SHUTDOWN,也就是 STOP, TIDYING, 或 TERMINATED
  25. * 2. firstTask != null
  26. * 3. workQueue.isEmpty()
  27. * 简单分析下:
  28. * 状态控制的问题,当线程池处于 SHUTDOWN ,不允许提交任务,但是已有任务继续执行
  29. * 当状态大于 SHUTDOWN ,不允许提交任务,且中断正在执行任务
  30. * 多说一句:若线程池处于 SHUTDOWN,但 firstTask 为 null,且 workQueue 非空,是允许创建 worker 的
  31. *
  32. */
  33. if (rs >= SHUTDOWN &&
  34. ! (rs == SHUTDOWN &&
  35. firstTask == null &&
  36. ! workQueue.isEmpty()))
  37. return false;
  38. for (;;) {
  39. int wc = workerCountOf(c);
  40. if (wc >= CAPACITY ||
  41. wc >= (core ? corePoolSize : maximumPoolSize))
  42. return false;
  43. // 如果成功,那么就是所有创建线程前的条件校验都满足了,准备创建线程执行任务
  44. // 这里失败的话,说明有其他线程也在尝试往线程池中创建线程
  45. if (compareAndIncrementWorkerCount(c))
  46. break retry;
  47. // 由于有并发,重新再读取一下 ctl
  48. c = ctl.get(); // Re-read ctl
  49. // 正常如果是 CAS 失败的话,进到下一个里层的for循环就可以了
  50. // 可如果是因为其他线程的操作,导致线程池的状态发生了变更,如有其他线程关闭了这个线程池
  51. // 那么需要回到外层的for循环
  52. if (runStateOf(c) != rs)
  53. continue retry;
  54. // else CAS failed due to workerCount change; retry inner loop
  55. }
  56. }
  57. /* *
  58. * 到这里,我们认为在当前这个时刻,可以开始创建线程来执行任务
  59. */
  60. // worker 是否已经启动
  61. boolean workerStarted = false;
  62. // 是否已将这个 worker 添加到 workers 这个 HashSet 中
  63. boolean workerAdded = false;
  64. Worker w = null;
  65. try {
  66. // 把 firstTask 传给 worker 的构造方法
  67. w = new Worker(firstTask);
  68. // 取 worker 中的线程对象,Worker的构造方法会调用 ThreadFactory 来创建一个新的线程
  69. final Thread t = w.thread;
  70. if (t != null) {
  71. //先加锁
  72. final ReentrantLock mainLock = this.mainLock;
  73. // 这个是整个类的全局锁,持有这个锁才能让下面的操作“顺理成章”,
  74. // 因为关闭一个线程池需要这个锁,至少我持有锁的期间,线程池不会被关闭
  75. mainLock.lock();
  76. try {
  77. // Recheck while holding lock.
  78. // Back out on ThreadFactory failure or if
  79. // shut down before lock acquired.
  80. int rs = runStateOf(ctl.get());
  81. // 小于 SHUTTDOWN 即 RUNNING
  82. // 如果等于 SHUTDOWN,不接受新的任务,但是会继续执行等待队列中的任务
  83. if (rs < SHUTDOWN ||
  84. (rs == SHUTDOWN && firstTask == null)) {
  85. // worker 里面的 thread 不能是已启动的
  86. if (t.isAlive()) // precheck that t is startable
  87. throw new IllegalThreadStateException();
  88. // 加到 workers 这个 HashSet 中
  89. workers.add(w);
  90. int s = workers.size();
  91. if (s > largestPoolSize)
  92. largestPoolSize = s;
  93. workerAdded = true;
  94. }
  95. } finally {
  96. mainLock.unlock();
  97. }
  98. // 若添加成功
  99. if (workerAdded) {
  100. // 启动线程
  101. t.start();
  102. workerStarted = true;
  103. }
  104. }
  105. } finally {
  106. // 若线程没有启动,做一些清理工作,若前面 workCount 加了 1,将其减掉
  107. if (! workerStarted)
  108. addWorkerFailed(w);
  109. }
  110. // 返回线程是否启动成功
  111. return workerStarted;
  112. }

看下 addWorkFailed

img_00556428cfadeaa84c68c0ebac4153f2.png
workers 中删除掉相应的 worker,workCount 减 1 private void addWor

img_d337f0a575c273dece9f25e7dc858f8e.png
记录 workers 中的个数的最大值,因为 workers 是不断增加减少的,通过这个值可以知道线程池的大小曾经达到的最大值

img_8e0af8451147e2073f7bcb55a297aa6a.png

worker 中的线程 start 后,其 run 方法会调用 runWorker

img_3df5a9d5de80da4b2cda683dd07aad09.png

继续往下看 runWorker

  1. // worker 线程启动后调用,while 循环(即自旋!)不断从等待队列获取任务并执行
  2. // worker 初始化时,可指定 firstTask,那么第一个任务也就可以不需要从队列中获取
  3. final void runWorker(Worker w) {
  4. Thread wt = Thread.currentThread();
  5. // 该线程的第一个任务(若有)
  6. Runnable task = w.firstTask;
  7. w.firstTask = null;
  8. // 允许中断
  9. w.unlock();
  10. boolean completedAbruptly = true;
  11. try {
  12. // 循环调用 getTask 获取任务
  13. while (task != null || (task = getTask()) != null) {
  14. w.lock();
  15. // 若线程池状态大于等于 STOP,那么意味着该线程也要中断
  16. /**
  17. * 若线程池STOP,请确保线程 已被中断
  18. * 如果没有,请确保线程未被中断
  19. * 这需要在第二种情况下进行重新检查,以便在关中断时处理shutdownNow竞争
  20. */
  21. if ((runStateAtLeast(ctl.get(), STOP) ||
  22. (Thread.interrupted() &&
  23. runStateAtLeast(ctl.get(), STOP))) &&
  24. !wt.isInterrupted())
  25. wt.interrupt();
  26. try {
  27. // 这是一个钩子方法,留给需要的子类实现
  28. beforeExecute(wt, task);
  29. Throwable thrown = null;
  30. try {
  31. // 到这里终于可以执行任务了
  32. task.run();
  33. } catch (RuntimeException x) {
  34. thrown = x; throw x;
  35. } catch (Error x) {
  36. thrown = x; throw x;
  37. } catch (Throwable x) {
  38. // 这里不允许抛出 Throwable,所以转换为 Error
  39. thrown = x; throw new Error(x);
  40. } finally {
  41. // 也是一个钩子方法,将 task 和异常作为参数,留给需要的子类实现
  42. afterExecute(task, thrown);
  43. }
  44. } finally {
  45. // 置空 task,准备 getTask 下一个任务
  46. task = null;
  47. // 累加完成的任务数
  48. w.completedTasks++;
  49. // 释放掉 worker 的独占锁
  50. w.unlock();
  51. }
  52. }
  53. completedAbruptly = false;
  54. } finally {
  55. // 到这里,需要执行线程关闭
  56. // 1. 说明 getTask 返回 null,也就是说,这个 worker 的使命结束了,执行关闭
  57. // 2. 任务执行过程中发生了异常
  58. // 第一种情况,已经在代码处理了将 workCount 减 1,这个在 getTask 方法分析中说
  59. // 第二种情况,workCount 没有进行处理,所以需要在 processWorkerExit 中处理
  60. processWorkerExit(w, completedAbruptly);
  61. }
  62. }

看看 getTask()

img_e0bee52f7c1a32beeaa35b7191f5e55d.png

  1. // 此方法有三种可能
  2. // 1. 阻塞直到获取到任务返回。默认 corePoolSize 之内的线程是不会被回收的,它们会一直等待任务
  3. // 2. 超时退出。keepAliveTime 起作用的时候,也就是如果这么多时间内都没有任务,那么应该执行关闭
  4. // 3. 如果发生了以下条件,须返回 null
  5. // 池中有大于 maximumPoolSize 个 workers 存在(通过调用 setMaximumPoolSize 进行设置)
  6. // 线程池处于 SHUTDOWN,而且 workQueue 是空的,前面说了,这种不再接受新的任务
  7. // 线程池处于 STOP,不仅不接受新的线程,连 workQueue 中的线程也不再执行
  8. private Runnable getTask() {
  9. boolean timedOut = false; // Did the last poll() time out?
  10. for (;;) {
  11. // 允许核心线程数内的线程回收,或当前线程数超过了核心线程数,那么有可能发生超时关闭
  12. // 这里 break,是为了不往下执行后一个 if (compareAndDecrementWorkerCount(c))
  13. // 两个 if 一起看:如果当前线程数 wc > maximumPoolSize,或者超时,都返回 null
  14. // 那这里的问题来了,wc > maximumPoolSize 的情况,为什么要返回 null
  15. // 换句话说,返回 null 意味着关闭线程。
  16. // 那是因为有可能开发者调用了 setMaximumPoolSize 将线程池的 maximumPoolSize 调小了
  17. // 如果此 worker 发生了中断,采取的方案是重试
  18. // 解释下为什么会发生中断,这个读者要去看 setMaximumPoolSize 方法,
  19. // 如果开发者将 maximumPoolSize 调小了,导致其小于当前的 workers 数量,
  20. // 那么意味着超出的部分线程要被关闭。重新进入 for 循环,自然会有部分线程会返回 null
  21. int c = ctl.get();
  22. int rs = runStateOf(c);
  23. // Check if queue empty only if necessary.
  24. if (rs >= SHUTDOWN && (rs >= STOP || workQueue.isEmpty())) {
  25. // CAS 操作,减少工作线程数
  26. decrementWorkerCount();
  27. return null;
  28. }
  29. int wc = workerCountOf(c);
  30. // Are workers subject to culling?
  31. boolean timed = allowCoreThreadTimeOut || wc > corePoolSize;
  32. if ((wc > maximumPoolSize || (timed && timedOut))
  33. && (wc > 1 || workQueue.isEmpty())) {
  34. if (compareAndDecrementWorkerCount(c))
  35. return null;
  36. continue;
  37. }
  38. try {
  39. Runnable r = timed ?
  40. workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) :
  41. workQueue.take();
  42. if (r != null)
  43. return r;
  44. timedOut = true;
  45. } catch (InterruptedException retry) {
  46. // 如果此 worker 发生了中断,采取的方案是重试
  47. // 解释下为什么会发生中断,这个读者要去看 setMaximumPoolSize 方法,
  48. // 如果开发者将 maximumPoolSize 调小了,导致其小于当前的 workers 数量,
  49. // 那么意味着超出的部分线程要被关闭。重新进入 for 循环,自然会有部分线程会返回 null
  50. timedOut = false;
  51. }
  52. }
  53. }

到这里,基本上也说完了整个流程,回到 execute(Runnable command) 方法,看看各个分支,我把代码贴过来一下:

  1. /**
  2. * Executes the given task sometime in the future. The task
  3. * may execute in a new thread or in an existing pooled thread.
  4. *
  5. * If the task cannot be submitted for execution, either because this
  6. * executor has been shutdown or because its capacity has been reached,
  7. * the task is handled by the current {@code RejectedExecutionHandler}.
  8. *
  9. * @param command the task to execute
  10. * @throws RejectedExecutionException at discretion of
  11. * {@code RejectedExecutionHandler}, if the task
  12. * cannot be accepted for execution
  13. * @throws NullPointerException if {@code command} is null
  14. */
  15. public void execute(Runnable command) {
  16. if (command == null)
  17. throw new NullPointerException();
  18. /*
  19. * Proceed in 3 steps:
  20. *
  21. * 1. If fewer than corePoolSize threads are running, try to
  22. * start a new thread with the given command as its first
  23. * task. The call to addWorker atomically checks runState and
  24. * workerCount, and so prevents false alarms that would add
  25. * threads when it shouldn't, by returning false.
  26. *
  27. * 2. If a task can be successfully queued, then we still need
  28. * to double-check whether we should have added a thread
  29. * (because existing ones died since last checking) or that
  30. * the pool shut down since entry into this method. So we
  31. * recheck state and if necessary roll back the enqueuing if
  32. * stopped, or start a new thread if there are none.
  33. *
  34. * 3. If we cannot queue task, then we try to add a new
  35. * thread. If it fails, we know we are shut down or saturated
  36. * and so reject the task.
  37. */
  38. //表示 “线程池状态” 和 “线程数” 的整数
  39. int c = ctl.get();
  40. // 如果当前线程数少于核心线程数,直接添加一个 worker 执行任务,
  41. // 创建一个新的线程,并把当前任务 command 作为这个线程的第一个任务(firstTask)
  42. if (workerCountOf(c) < corePoolSize) {
  43. // 添加任务成功,即结束
  44. // 执行的结果,会包装到 FutureTask
  45. // 返回 false 代表线程池不允许提交任务
  46. if (addWorker(command, true))
  47. return;
  48. c = ctl.get();
  49. }
  50. // 到这说明,要么当前线程数大于等于核心线程数,要么刚刚 addWorker 失败
  51. // 如果线程池处于 RUNNING ,把这个任务添加到任务队列 workQueue 中
  52. if (isRunning(c) && workQueue.offer(command)) {
  53. /* 若任务进入 workQueue,我们是否需要开启新的线程
  54. * 线程数在 [0, corePoolSize) 是无条件开启新线程的
  55. * 若线程数已经大于等于 corePoolSize,则将任务添加到队列中,然后进到这里
  56. */
  57. int recheck = ctl.get();
  58. // 若线程池不处于 RUNNING ,则移除已经入队的这个任务,并且执行拒绝策略
  59. if (! isRunning(recheck) && remove(command))
  60. reject(command);
  61. // 若线程池还是 RUNNING ,且线程数为 0,则开启新的线程
  62. // 这块代码的真正意图:担心任务提交到队列中了,但是线程都关闭了
  63. else if (workerCountOf(recheck) == 0)
  64. addWorker(null, false);
  65. }
  66. // 若 workQueue 满,到该分支
  67. // 以 maximumPoolSize 为界创建新 worker,
  68. // 若失败,说明当前线程数已经达到 maximumPoolSize,执行拒绝策略
  69. else if (!addWorker(command, false))
  70. reject(command);
  71. }

工作线程:线程池创建线程时,会将线程封装成工作线程Worker,Worker在执行完任务后,还会循环获取工作队列里的任务来执行.我们可以从Worker类的run()方法里看到这点

  1. public void run() {
  2. try {
  3. Runnable task = firstTask;
  4. firstTask = null;
  5. while (task != null || (task = getTask()) != null) {
  6. runTask(task);
  7. task = null;
  8. }
  9. } finally {
  10. workerDone(this);
  11. }
  12. }
  13. boolean workerStarted = false;
  14. boolean workerAdded = false;
  15. Worker w = null;
  16. try {
  17. w = new Worker(firstTask);
  18. final Thread t = w.thread;
  19. if (t != null) {
  20. //先加锁
  21. final ReentrantLock mainLock = this.mainLock;
  22. mainLock.lock();
  23. try {
  24. // Recheck while holding lock.
  25. // Back out on ThreadFactory failure or if
  26. // shut down before lock acquired.
  27. int rs = runStateOf(ctl.get());
  28. if (rs < SHUTDOWN ||
  29. (rs == SHUTDOWN && firstTask == null)) {
  30. if (t.isAlive()) // precheck that t is startable
  31. throw new IllegalThreadStateException();
  32. workers.add(w);
  33. int s = workers.size();
  34. if (s > largestPoolSize)
  35. largestPoolSize = s;
  36. workerAdded = true;
  37. }
  38. } finally {
  39. mainLock.unlock();
  40. }
  41. if (workerAdded) {
  42. t.start();
  43. workerStarted = true;
  44. }
  45. }
  46. } finally {
  47. if (! workerStarted)
  48. addWorkerFailed(w);
  49. }
  50. return workerStarted;
  51. }
img_92406821092adf2ee733af83af53633a.png
ThreadPoolExecutor中线程执行任务

线程池中的线程执行任务分两种情况

  • 在execute()方法中创建一个线程时,会让这个线程执行当前任务
  • 这个线程执行完上图中 1 的任务后,会反复从BlockingQueue获取任务来执行

2 线程池的使用

2.1 线程池的创建

我们可以通过ThreadPoolExecutor来创建一个线程池
创建一个线程池时需要的参数

  • corePoolSize(核心线程数量)
    线程池中应该保持的主要线程的数量.即使线程处于空闲状态,除非设置了allowCoreThreadTimeOut这个参数,当提交一个任务到线程池时,若线程数量<corePoolSize,线程池会创建一个新线程放入works(一个HashSet)中执行任务,即使其他空闲的基本线程能够执行新任务也还是会创建新线程,等到需要执行的任务数大于线程池基本大小时就不再创建,会尝试放入等待队列workQueue(一个BlockingQueue),如果调用了线程池的prestartAllCoreThreads(),线程池会提前创建并启动所有核心线程

  • workQueue
    存储待执行任务的阻塞队列,这些任务必须是Runnable的对象(如果是Callable对象,会在submit内部转换为Runnable对象)

  • runnableTaskQueue(任务队列):用于保存等待执行的任务的阻塞队列.可以选择以下几个阻塞队列.

    • LinkedBlockingQueue:一个基于链表结构的阻塞队列,此队列按FIFO排序元素,吞吐量通常要高于ArrayBlockingQueue.静态工厂方法Executors.newFixedThreadPool()使用了这个队列
    • SynchronousQueue:一个不存储元素的阻塞队列.每个插入操作必须等到另一个线程调用移除操作,否则插入操作一直处于阻塞状态,吞吐量通常要高于Linked-BlockingQueue,静态工厂方法Executors.newCachedThreadPool使用了这个队列
  • maximumPoolSize(线程池最大线程数)
    线程池允许创建的最大线程数
    若队列满,并且已创建的线程数小于最大线程数,则线程池会再创建新的线程放入works中执行任务,CashedThreadPool的关键,固定线程数的线程池无效
    若使用了无界任务队列,这个参数就没什么效果

  • ThreadFactory:用于设置创建线程的工厂,可以通过线程工厂给每个创建出来的线程设置更有意义的名字.使用开源框架guava提供ThreadFactoryBuilder可以快速给线程池里的线程设置有意义的名字,代码如下

new ThreadFactoryBuilder().setNameFormat("XX-task-%d").build();
  • RejectedExecutionHandler(饱和策略):当队列和线程池都满,说明线程池处于饱和,必须采取一种策略处理提交的新任务.策略默认AbortPolicy,表无法处理新任务时抛出异常.在JDK 1.5中Java线程池框架提供了以下4种策略
    • AbortPolicy:丢弃任务,抛出 RejectedExecutionException
    • CallerRunsPolicy:只用调用者所在线程来运行任务,有反馈机制,使任务提交的速度变慢)。
    • DiscardOldestPolicy
      若没有发生shutdown,尝试丢弃队列里最近的一个任务,并执行当前任务, 丢弃任务缓存队列中最老的任务,并且尝试重新提交新的任务
    • DiscardPolicy:不处理,丢弃掉, 拒绝执行,不抛异常
      当然,也可以根据应用场景需要来实现RejectedExecutionHandler接口自定义策略.如记录日志或持久化存储不能处理的任务
  1. /**
  2. * Invokes the rejected execution handler for the given command.
  3. * Package-protected for use by ScheduledThreadPoolExecutor.
  4. */
  5. final void reject(Runnable command) {
  6. // 执行拒绝策略
  7. handler.rejectedExecution(command, this);
  8. }

handler 构造线程池时候就传的参数,RejectedExecutionHandler的实例
RejectedExecutionHandlerThreadPoolExecutor 中有四个实现类可供我们直接使用,当然,也可以实现自己的策略,一般也没必要。

  1. //只要线程池没有被关闭,由提交任务的线程自己来执行这个任务
  2. public static class CallerRunsPolicy implements RejectedExecutionHandler {
  3. public CallerRunsPolicy() { }
  4. /**
  5. * Executes task r in the caller's thread, unless the executor
  6. * has been shut down, in which case the task is discarded.
  7. *
  8. * @param r the runnable task requested to be executed
  9. * @param e the executor attempting to execute this task
  10. */
  11. public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  12. if (!e.isShutdown()) {
  13. r.run();
  14. }
  15. }
  16. }
  17. // 不管怎样,直接抛出 RejectedExecutionException 异常
  18. // 默认的策略,如果我们构造线程池的时候不传相应的 handler ,则指定使用这个
  19. public static class AbortPolicy implements RejectedExecutionHandler {
  20. public AbortPolicy() { }
  21. /**
  22. * Always throws RejectedExecutionException.
  23. *
  24. * @param r the runnable task requested to be executed
  25. * @param e the executor attempting to execute this task
  26. * @throws RejectedExecutionException always
  27. */
  28. public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  29. throw new RejectedExecutionException("Task " + r.toString() +
  30. " rejected from " +
  31. e.toString());
  32. }
  33. }
  34. // 不做任何处理,直接忽略掉这个任务
  35. public static class DiscardPolicy implements RejectedExecutionHandler {
  36. /**
  37. * Creates a {@code DiscardPolicy}.
  38. */
  39. public DiscardPolicy() { }
  40. /**
  41. * Does nothing, which has the effect of discarding task r.
  42. *
  43. * @param r the runnable task requested to be executed
  44. * @param e the executor attempting to execute this task
  45. */
  46. public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  47. }
  48. }
  49. // 若线程池未被关闭
  50. // 把队列队头的任务(也就是等待了最长时间的)直接扔掉,然后提交这个任务到等待队列中
  51. public static class DiscardOldestPolicy implements RejectedExecutionHandler {
  52. public DiscardOldestPolicy() { }
  53. /**
  54. * Obtains and ignores the next task that the executor
  55. * would otherwise execute, if one is immediately available,
  56. * and then retries execution of task r, unless the executor
  57. * is shut down, in which case task r is instead discarded.
  58. *
  59. * @param r the runnable task requested to be executed
  60. * @param e the executor attempting to execute this task
  61. */
  62. public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  63. if (!e.isShutdown()) {
  64. e.getQueue().poll();
  65. e.execute(r);
  66. }
  67. }
  68. }
  • keepAliveTime(线程活动保持时间)
    线程没有任务执行时最多保持多久时间终止
    线程池的工作线程空闲后,保持存活的时间。
    所以,如果任务很多,并且每个任务执行的时间比较短,可以调大时间,提高线程的利用率

  • TimeUnit(线程活动保持时间的单位):指示第三个参数的时间单位;可选的单位有天(DAYS)、小时(HOURS)、分钟(MINUTES)、毫秒(MILLISECONDS)、微秒(MICROSECONDS,千分之一毫秒)和纳秒(NANOSECONDS,千分之一微秒)

再来看这五种线程池

  • 单线程池:newSingleThreadExecutor()方法创建,五个参数分别是ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue())。含义是池中保持一个线程,最多也只有一个线程,也就是说这个线程池是顺序执行任务的,多余的任务就在队列中排队。
  • 固定线程池:newFixedThreadPool(nThreads)方法创建


    img_0ebcfa2309607d68572bcf12947854e6.png

    池中保持nThreads个线程,最多也只有nThreads个线程,多余的任务也在队列中排队。


    img_f8a670df6e7571a345526bad43151173.png
    ThreadPoolExecutor的构造器-1

    img_bf26870af9829ece08fad63dd45e5696.png
    ThreadPoolExecutor的构造器-2

线程数固定且线程不超时

  • 缓存线程池:newCachedThreadPool()创建,五个参数分别是ThreadPoolExecutor(0, Integer.MAX_VALUE, 60L, TimeUnit.SECONDS, new SynchronousQueue())。
    含义是池中不保持固定数量的线程,随需创建,最多可以创建Integer.MAX_VALUE个线程(说一句,这个数量已经大大超过目前任何操作系统允许的线程数了),空闲的线程最多保持60秒,多余的任务在SynchronousQueue(所有阻塞、并发队列在后续文章中具体介绍)中等待。

为什么单线程池和固定线程池使用的任务阻塞队列是LinkedBlockingQueue(),而缓存线程池使用的是SynchronousQueue()呢?
因为单线程池和固定线程池中,线程数量是有限的,因此提交的任务需要在LinkedBlockingQueue队列中等待空余的线程;而缓存线程池中,线程数量几乎无限(上限为Integer.MAX_VALUE),因此提交的任务只需要在SynchronousQueue队列中同步移交给空余线程即可。

  • 单线程调度线程池:newSingleThreadScheduledExecutor()创建,五个参数分别是 (1, Integer.MAX_VALUE, 0, NANOSECONDS, new DelayedWorkQueue())。含义是池中保持1个线程,多余的任务在DelayedWorkQueue中等待。
  • 固定调度线程池:newScheduledThreadPool(n)创建,五个参数分别是 (n, Integer.MAX_VALUE, 0, NANOSECONDS, new DelayedWorkQueue())。含义是池中保持n个线程,多余的任务在DelayedWorkQueue中等待。

有一项技术可以缓解执行时间较长任务造成的影响,即限定任务等待资源的时间,而不要无限的等待

先看第一个例子,测试单线程池、固定线程池和缓存线程池(注意增加和取消注释):

  1. public class ThreadPoolExam {
  2. public static void main(String[] args) {
  3. //first test for singleThreadPool
  4. ExecutorService pool = Executors.newSingleThreadExecutor();
  5. //second test for fixedThreadPool
  6. // ExecutorService pool = Executors.newFixedThreadPool(2);
  7. //third test for cachedThreadPool
  8. // ExecutorService pool = Executors.newCachedThreadPool();
  9. for (int i = 0; i < 5; i++) {
  10. pool.execute(new TaskInPool(i));
  11. }
  12. pool.shutdown();
  13. }
  14. }
  15. class TaskInPool implements Runnable {
  16. private final int id;
  17. TaskInPool(int id) {
  18. this.id = id;
  19. }
  20. @Override
  21. public void run() {
  22. try {
  23. for (int i = 0; i < 5; i++) {
  24. System.out.println("TaskInPool-["+id+"] is running phase-"+i);
  25. TimeUnit.SECONDS.sleep(1);
  26. }
  27. System.out.println("TaskInPool-["+id+"] is over");
  28. } catch (InterruptedException e) {
  29. e.printStackTrace();
  30. }
  31. }
  32. }

2.2 向线程池提交任务

可以使用两个方法向线程池提交任务

2.2.1 execute()

用于提交不需要返回值的任务,所以无法判断任务是否被线程池执行成功.通过以下代码可知execute()方法输入的任务是一个Runnable类的实例.

  1. threadsPool.execute(new Runnable() {
  2. @Override
  3. public void run() {
  4. // TODO Auto-generated method stub
  5. }
  6. });

从运行结果可以看出,单线程池中的线程是顺序执行的。固定线程池(参数为2)中,永远最多只有两个线程并发执行。缓存线程池中,所有线程都并发执行。
第二个例子,测试单线程调度线程池和固定调度线程池。

  1. public class ScheduledThreadPoolExam {
  2. public static void main(String[] args) {
  3. //first test for singleThreadScheduledPool
  4. ScheduledExecutorService scheduledPool = Executors.newSingleThreadScheduledExecutor();
  5. //second test for scheduledThreadPool
  6. // ScheduledExecutorService scheduledPool = Executors.newScheduledThreadPool(2);
  7. for (int i = 0; i < 5; i++) {
  8. scheduledPool.schedule(new TaskInScheduledPool(i), 0, TimeUnit.SECONDS);
  9. }
  10. scheduledPool.shutdown();
  11. }
  12. }
  13. class TaskInScheduledPool implements Runnable {
  14. private final int id;
  15. TaskInScheduledPool(int id) {
  16. this.id = id;
  17. }
  18. @Override
  19. public void run() {
  20. try {
  21. for (int i = 0; i < 5; i++) {
  22. System.out.println("TaskInScheduledPool-["+id+"] is running phase-"+i);
  23. TimeUnit.SECONDS.sleep(1);
  24. }
  25. System.out.println("TaskInScheduledPool-["+id+"] is over");
  26. } catch (InterruptedException e) {
  27. e.printStackTrace();
  28. }
  29. }
  30. }

从运行结果可以看出,单线程调度线程池和单线程池类似,而固定调度线程池和固定线程池类似。
总结:

  • 如果没有特殊要求,使用缓存线程池总是合适的;
  • 如果只能运行一个线程,就使用单线程池。
  • 如果要运行调度任务,则按需使用调度线程池或单线程调度线程池
  • 如果有其他特殊要求,则可以直接使用ThreadPoolExecutor类的构造函数来创建线程池,并自己给定那五个参数。

2.2.2 submit()

用于提交需要返回值的任务.线程池会返回一个future类型对象,通过此对象可以判断任务是否执行成功
并可通过get()获取返回值,get()会阻塞当前线程直到任务完成,而使用get(long timeout,TimeUnit unit)方法则会阻塞当前线程一段时间后立即返回,这时候可能任务没有执行完.

  1. Future<Object> future = executor.submit(harReturnValuetask);
  2. try {
  3. Object s = future.get();
  4. } catch (InterruptedException e) {
  5. // 处理中断异常
  6. } catch (ExecutionException e) {
  7. // 处理无法执行任务异常
  8. } finally {
  9. // 关闭线程池
  10. executor.shutdown();
  11. }

2.3 关闭线程池

可通过调用线程池的shutdownshutdownNow方法来关闭线程池.
它们的原理是遍历线程池中的工作线程,然后逐个调用线程的interrupt方法来中断线程,所以无法响应中断的任务可能永远无法终止.
但是它们存在一定的区别

  • shutdownNow首先将线程池的状态设置成STOP,然后尝试停止所有的正在执行或暂停任务的线程,并返回等待执行任务的列表
  • shutdown只是将线程池的状态设置成SHUTDOWN状态,然后中断所有没有正在执行任务的线程.

只要调用了这两个关闭方法中的任意一个,isShutdown方法就会返回true.
当所有的任务都已关闭后,才表示线程池关闭成功,这时调用isTerminaed方法会返回true.
至于应该调用哪一种方法,应该由提交到线程池的任务的特性决定,通常调用shutdown方法来关闭线程池,若任务不一定要执行完,则可以调用shutdownNow方法.

2.4 合理配置

要想合理地配置线程池,就必须首先分析任务特性,可从以下几个角度来分析

  • 任务的性质:CPU密集型任务、IO密集型任务和混合型任务
  • 任务的优先级:高、中和低
  • 任务的执行时间:长、中和短
  • 任务的依赖性:是否依赖其他系统资源,如数据库连接。

性质不同的任务可以用不同规模的线程池分开处理.

  • CPU密集型任务应配置尽可能小的线程,如配置N(CPU)+1个线程的线程池
  • 由于I/O密集型任务线程并不是一直在执行任务,则应配置尽可能多的线程,如2*N(CPU)
  • 混合型的任务,如果可以拆分,将其拆分成一个CPU密集型任务和一个IO密集型任务,只要这两个任务执行的时间相差不是太大,那么分解后执行的吞吐量将高于串行执行的吞吐量.如果这两个任务执行时间相差太大,则没必要进行分解.

可以通过Runtime.getRuntime().availableProcessors()方法获得当前设备的CPU个数.

优先级不同的任务可以使用PriorityBlockingQueue处理.它可以让优先级高
的任务先执行.

注意 如果一直有优先级高的任务提交到队列里,那么优先级低的任务可能永远不能执行

执行时间不同的任务可以交给不同规模的线程池来处理,或者可以使用优先级队列,让执行时间短的任务先执行.

依赖数据库连接池的任务,因为线程提交SQL后需要等待数据库返回结果,等待的时间越长,则CPU空闲时间就越长,那么线程数应该设置得越大,这样才能更好地利用CPU.

建议使用有界队列 有界队列能增加系统的稳定性和预警能力,可以根据需要设大一点,比如几千.
假如系统里后台任务线程池的队列和线程池全满了,不断抛出抛弃任务的异常,通过排查发现是数据库出现了问题,导致执行SQL变得非常缓慢,因为后台任务线程池里的任务全是需要向数据库查询和插入数据的,所以导致线程池里的工作线程全部阻塞,任务积压在线程池里.
如果我们设置成无界队列,那么线程池的队列就会越来越多,有可能会撑满内存,导致整个系统不可用,而不只是后台任务出现问题.

2.5 线程池的监控

如果在系统中大量使用线程池,则有必要对线程池进行监控,方便在出现问题时,可以根据线程池的使用状况快速定位问题.可通过线程池提供的参数进行监控,在监控线程池的时候可以使用以下属性:

  • taskCount:线程池需要执行的任务数量
  • completedTaskCount:线程池在运行过程中已完成的任务数量,小于或等于taskCount。
  • largestPoolSize:线程池里曾经创建过的最大线程数量.通过这个数据可以知道线程池是否曾经满过.如该数值等于线程池的最大大小,则表示线程池曾经满过.
  • getPoolSize:线程池的线程数量.如果线程池不销毁的话,线程池里的线程不会自动销毁,所以这个大小只增不减.
  • getActiveCount:获取活动的线程数.

通过扩展线程池进行监控.可以通过继承线程池来自定义线程池,重写线程池的
beforeExecute、afterExecute和terminated方法,也可以在任务执行前、执行后和线程池关闭前执行一些代码来进行监控.例如,监控任务的平均执行时间、最大执行时间和最小执行时间等.
这几个方法在线程池里是空方法.

protected void beforeExecute(Thread t, Runnable r) { }

2.6 线程池的状态

1.当线程池创建后,初始为 running 状态
2.调用 shutdown 方法后,处 shutdown 状态,此时不再接受新的任务,等待已有的任务执行完毕
3.调用 shutdownnow 方法后,进入 stop 状态,不再接受新的任务,并且会尝试终止正在执行的任务。
4.当处于 shotdown 或 stop 状态,并且所有工作线程已经销毁,任务缓存队列已清空,线程池被设为 terminated 状态。

总结

总结

java 线程池有哪些关键属性?

  • corePoolSize 到 maximumPoolSize 之间的线程会被回收,当然 corePoolSize 的线程也可以通过设置而得到回收(allowCoreThreadTimeOut(true))。
  • workQueue 用于存放任务,添加任务的时候,如果当前线程数超过了 corePoolSize,那么往该队列中插入任务,线程池中的线程会负责到队列中拉取任务。
  • keepAliveTime 用于设置空闲时间,如果线程数超出了 corePoolSize,并且有些线程的空闲时间超过了这个值,会执行关闭这些线程的操作
  • rejectedExecutionHandler 用于处理当线程池不能执行此任务时的情况,默认有抛出 RejectedExecutionException 异常、忽略任务、使用提交任务的线程来执行此任务和将队列中等待最久的任务删除,然后提交此任务这四种策略,默认为抛出异常。

线程池中的线程创建时机?

  • 如果当前线程数少于 corePoolSize,那么提交任务的时候创建一个新的线程,并由这个线程执行这个任务;
  • 如果当前线程数已经达到 corePoolSize,那么将提交的任务添加到队列中,等待线程池中的线程去队列中取任务;
  • 如果队列已满,那么创建新的线程来执行任务,需要保证池中的线程数不会超过 maximumPoolSize,如果此时线程数超过了 maximumPoolSize,那么执行拒绝策略。

任务执行过程中发生异常怎么处理?

如果某个任务执行出现异常,那么执行任务的线程会被关闭,而不是继续接收其他任务。然后会启动一个新的线程来代替它。

什么时候会执行拒绝策略?

  • workers 的数量达到了 corePoolSize,任务入队成功,以此同时线程池被关闭了,而且关闭线程池并没有将这个任务出队,那么执行拒绝策略。这里说的是非常边界的问题,入队和关闭线程池并发执行,读者仔细看看 execute 方法是怎么进到第一个 reject(command) 里面的。
  • workers 的数量大于等于 corePoolSize,准备入队,可是队列满了,任务入队失败,那么准备开启新的线程,可是线程数已经达到 maximumPoolSize,那么执行拒绝策略。
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/1008831
推荐阅读
相关标签
  

闽ICP备14008679号