对Java线程池ThreadPoolExecutor的理解分析_1.能否不用线程池?

目录

一、线程池的介绍

（一）基本功能和优点

（二）基本使用介绍

（三）简单的业务应用举例

二、线程池核心设计与实现

（一）整体概述理解

（二）部分详细介绍

线程池运行机制：总体设计

线程池运行机制：生命周期管理

线程池运行机制：任务执行机制

线程池运行机制：Worker线程管理

Worker线程

三、常用的四种线程池推荐

（一）CachedThreadPool

（二）FixedThreadPool

（三）ScheduledThreadPool

（四）SingleThreadExecutor

四、合理的配置线程池建议

建议一：线程池大小

建议二：队列容量

建议三：拒绝策略

建议四：线程池参数调优

建议五：监控和调优

五、扩展：线程池在业务中的实践

（一）实际问题及方案思考

线程池配置不合理引发故障

问题思考一：能否不用线程池?

问题思考二：追求参数设置合理性？

问题思考三：线程池参数动态化？

（二）动态化线程池

整体设计

功能架构

参数动态化

线程池监控

实践总结

参考文献链接

---

干货分享，感谢您的阅读！

一、线程池的介绍

（一）基本功能和优点

Java线程池是Java中用于管理和重用线程的机制。它可以有效地管理线程的创建、调度和销毁，以提高应用程序的性能和资源利用率。

线程池的主要目的是避免频繁创建和销毁线程的开销，并控制并发线程的数量，防止资源过度占用和系统过载。通过使用线程池，可以将任务提交给线程池执行，而不是直接创建新线程来执行每个任务。线程池会维护一组预先创建的线程，并在有任务时将任务分配给其中的线程进行执行。

Java提供了java.util.concurrent.Executors类来创建线程池。常见的线程池实现是ThreadPoolExecutor类，它允许配置线程池的大小、任务队列、线程工厂和拒绝策略等参数。

线程池的优点包括：

1. 重用线程：线程池可以重复利用已经创建的线程，避免了线程创建和销毁的开销。
2. 管理线程数：线程池可以限制并发线程的数量，防止资源过度占用和系统过载。
3. 提高响应速度：线程池可以减少任务开始执行的延迟时间，提高系统的响应速度。
4. 提供线程管理和监控机制：线程池提供了对线程的管理和监控功能，可以更好地控制和调优线程的执行。

（二）基本使用介绍

Java线程池的常见使用场景包括处理多线程任务、并发执行大量独立的任务、优化资源使用等。

在使用线程池时，以下是一些建议的最佳实践方式：

1. 使用Executors工厂类创建线程池：Executors类提供了一些便捷的工厂方法，可以方便地创建常见类型的线程池。例如，可以使用Executors.newFixedThreadPool()创建一个固定大小的线程池，或者使用Executors.newCachedThreadPool()创建一个根据需求自动调整大小的线程池。这样可以简化线程池的创建和配置过程。
2. 选择合适的线程池参数：核心线程数、最大线程数、任务队列大小和线程空闲时间等参数应根据应用程序的需求和资源限制进行配置。合理的参数设置可以提高线程池的性能和资源利用率。
3. 使用合适的任务队列：线程池的任务队列用于存储等待执行的任务。选择合适的任务队列类型很重要。常见的任务队列类型包括无界队列（如PriorityBlockingQueue）和有界队列（如LinkedBlockingQueue）。无界队列可以存储大量的任务，但可能导致内存溢出；有界队列可以限制队列的大小，但可能会导致任务被拒绝。根据实际需求选择合适的任务队列类型。
4. 实现适当的拒绝策略：当线程池无法接受新任务时，需要定义适当的拒绝策略。常见的拒绝策略包括抛出异常、丢弃任务或丢弃最旧的任务。选择合适的拒绝策略可以根据业务需求来决定如何处理无法处理的任务。
5. 及时关闭线程池：在应用程序不再需要线程池时，应及时关闭它，以释放资源。可以使用shutdown()方法来平缓地关闭线程池，或使用shutdownNow()方法立即关闭线程池。
6. 监控和调优线程池：定期监控线程池的状态、活动线程数、任务队列长度等指标，以便及时发现潜在的问题，并根据需要调整线程池的参数和配置，以获得最佳的性能和资源利用。

这些是一些常见的建议和最佳实践，可以帮助我们正确地使用线程池并优化应用程序的并发性能。根据具体的应用场景和需求，可能还会有其他特定的建议。在实际使用中，建议根据情况进行适当的调整和优化。

如果需要更高级的配置和更多的灵活性，或者对线程池的行为和执行细节有特定的要求，那么直接使用ThreadPoolExecutor类可能是更合适的选择。ThreadPoolExecutor提供了更多的参数和配置选项，可以满足更复杂的需求。

以下是一些情况下可能需要直接使用ThreadPoolExecutor的示例：

1. 自定义拒绝策略：Executors提供的工厂方法在创建线程池时使用了默认的拒绝策略。如果需要自定义拒绝策略，例如记录日志、记录指标或执行特定的处理逻辑，那么直接使用ThreadPoolExecutor可以实现更灵活的拒绝策略。
2. 配置更高级的线程池参数：ThreadPoolExecutor提供了更多的参数选项，例如线程池的预启动、线程工厂、线程池的钩子方法等。如果需要对这些参数进行更精细的控制和配置，那么直接使用ThreadPoolExecutor会更有优势。
3. 需要动态调整线程池的行为：ThreadPoolExecutor提供了一些方法，例如setCorePoolSize()和setMaximumPoolSize()，可以在运行时动态地调整线程池的大小。如果应用程序需要根据运行时需求动态调整线程池的行为，那么直接使用ThreadPoolExecutor会更便于实现这些动态调整。

综上所述，对于一般的使用情况，使用Executors工厂类创建线程池是简单和推荐的方式。但对于特定的需求和更高级的配置，直接使用ThreadPoolExecutor类可以提供更大的灵活性和控制能力。根据具体的情况和需求，选择适合的方式使用线程池。

（三）简单的业务应用举例

假设我们有一个电商平台，用户可以提交订单，并且每个订单的处理需要一定的时间。在订单提交后，我们希望通过线程池并发地处理这些订单，以提高处理效率。

在这个场景中，我们可以使用线程池来处理订单，具体步骤如下：

1. 创建线程池：我们可以使用Executors工厂类来创建一个合适的线程池，例如ThreadPoolExecutor或FixedThreadPool。
2. 提交任务：当用户提交订单时，我们将订单处理的任务提交给线程池执行。可以创建一个Runnable或Callable对象，其中包含订单处理的逻辑代码。
3. 线程池执行任务：线程池会根据配置的核心线程数和最大线程数，创建适量的线程来执行任务。如果线程池中的线程数已经达到核心线程数，并且任务队列未满，新的任务会被放入队列中等待执行。如果任务队列也已满，当前线程数未超过最大线程数则创建并启动一个线程来执行新提交的任务。如果超过最大线程数根据线程池的拒绝策略来处理任务。
4. 订单处理完成：当线程池中的线程执行完订单处理任务后，会释放线程并返回线程池中，可以接受新的任务。

通过使用线程池，我们可以控制并发处理订单的线程数量，并且可以根据系统的负载情况进行动态调整。这可以提高订单处理的效率和性能，并且有效地利用系统的资源。

需要注意的是，实际的业务应用中，还可能需要考虑更多的因素，例如订单处理的顺序性、任务优先级、错误处理等。在实际场景中，需要根据具体需求和业务逻辑进行适当的调整和扩展。

下面是一个简单的示例代码：

package org.zyf.javabasic.thread.base;
 
import lombok.Data;
 
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
 
/**
 * @author yanfengzhang
 * @description
 * @date 2021/5/1  17:47
 */
public class OrderProcessor {
    // 创建线程池
    private ExecutorService executor;
    
    public OrderProcessor() {
        // 创建一个固定大小的线程池，核心线程数为5
        executor = Executors.newFixedThreadPool(5);
    }
    
    public void processOrder(Order order) {
        // 提交订单处理任务给线程池
        executor.execute(() -> {
            // 执行订单处理的逻辑
            // ...
            System.out.println("Processing order: " + order.getId());
            // ...
        });
    }
    
    public void shutdown() {
        // 关闭线程池
        executor.shutdown();
    }
 
    @Data
    static class Order{
        private int id;
 
        Order(int id) {
            this.id = id;
        }
    }
    
    public static void main(String[] args) {
        OrderProcessor orderProcessor = new OrderProcessor();
        // 模拟提交订单
        for (int i = 1; i <= 10; i++) {
            Order order = new Order(i);
            orderProcessor.processOrder(order);
        }
        
        // 关闭线程池
        orderProcessor.shutdown();
    }
}

上述示例代码中，OrderProcessor类是用来处理订单的业务类。在构造函数中，我们创建了一个固定大小为5的线程池。processOrder()方法用于提交订单处理任务给线程池，其中使用了Lambda表达式来定义任务的逻辑。在这个例子中，我们只是简单地打印订单的ID来表示订单处理的逻辑。

在main()方法中，我们模拟了10个订单的提交，通过调用processOrder()方法将订单提交给线程池处理。最后，在适当的时候，我们调用shutdown()方法来关闭线程池。

现在增加一个使用ThreadPoolExecutor处理任务的代码示例。

package org.zyf.javabasic.thread.base;
 
import lombok.Data;
 
import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit;
 
/**
 * @author yanfengzhang
 * @description
 * @date 2021/5/1  17:56
 */
public class TaskProcessor {
    private ThreadPoolExecutor executor;
 
    public TaskProcessor() {
        // 创建ThreadPoolExecutor实例，进行自定义配置
        // 核心线程数
        int corePoolSize = 5;
        // 最大线程数
        int maxPoolSize = 10;
        // 非核心线程的空闲超时时间
        long keepAliveTime = 60;
        // 任务队列容量
        int queueCapacity = 100;
 
        executor = new ThreadPoolExecutor(corePoolSize, maxPoolSize, keepAliveTime, TimeUnit.SECONDS,
                new ArrayBlockingQueue<>(queueCapacity)
        );
        // 设置拒绝策略
        executor.setRejectedExecutionHandler(new ThreadPoolExecutor.AbortPolicy());
    }
 
    public void processTask(Task task) {
        // 提交任务给线程池
        executor.execute(() -> {
            // 执行任务的逻辑
            // ...
            System.out.println("Processing task: " + task.getId());
            // ...
        });
    }
 
    @Data
    static class Task {
        private int id;
 
        Task(int id) {
            this.id = id;
        }
    }
 
    public void shutdown() {
        // 关闭线程池
        executor.shutdown();
    }
 
    public static void main(String[] args) {
        TaskProcessor taskProcessor = new TaskProcessor();
        // 模拟提交任务
        for (int i = 1; i <= 10; i++) {
            Task task = new Task(i);
            taskProcessor.processTask(task);
        }
        // 关闭线程池
        taskProcessor.shutdown();
    }
}

在上述示例代码中，TaskProcessor类使用ThreadPoolExecutor来处理任务。在构造函数中，我们通过传递参数来配置线程池的核心线程数、最大线程数、非核心线程的空闲超时时间和任务队列的容量。processTask()方法用于提交任务给线程池，其中使用了Lambda表达式来定义任务的逻辑。在这个示例中，我们只是简单地打印任务的ID来表示任务的处理逻辑。在main()方法中，我们模拟了10个任务的提交，通过调用processTask()方法将任务提交给线程池处理。最后，在适当的时候，我们调用shutdown()方法来关闭线程池。

二、线程池核心设计与实现

（一）整体概述理解

线程池是多线程编程中常用的一种设计模式，用于管理和复用线程，以提高程序的性能和资源利用率。下面是线程池的核心设计和实现介绍：

核心组件

• 线程池管理器（ThreadPoolExecutor）：线程池的主要控制类，负责创建、管理和调度线程池中的线程。
• 任务队列（BlockingQueue）：用于存储待执行的任务。当线程池中的线程都在执行任务时，新的任务将被放入队列中等待执行。
• 工作线程（Worker Thread）：线程池中的线程，用于执行任务。

核心参数

• 核心线程数（corePoolSize）：线程池中保持活动的最小线程数。当有新任务提交时，线程池会至少创建和保持这么多数量的线程。
• 最大线程数（maximumPoolSize）：线程池中允许存在的最大线程数。当任务队列已满且活动线程数小于最大线程数时，线程池会创建新的线程来处理任务。
• 空闲线程存活时间（keepAliveTime）：当线程池中的线程数量超过核心线程数，并且这些线程处于空闲状态时，它们的最长存活时间。超过这个时间，空闲线程将被终止销毁，直到线程池中的线程数量等于核心线程数为止。
• 任务队列（workQueue）：用于存储待执行任务的队列。线程池中的线程从队列中获取任务进行执行。

执行流程

• 当有任务提交到线程池时，线程池根据一定的规则选择合适的线程来执行任务：
• 如果线程池中的线程数小于核心线程数，创建新的线程来执行任务。
• 如果线程池中的线程数达到核心线程数，将任务放入任务队列中等待执行。
• 如果任务队列已满且线程池中的线程数小于最大线程数，创建新的线程来执行任务。
• 如果任务队列已满且线程池中的线程数达到最大线程数，根据拒绝策略来处理任务。

拒绝策略

当任务队列已满且线程池中的线程数达到最大线程数时，新的任务无法被执行，此时需要采用一定的策略来处理这些被拒绝的任务。常见的拒绝策略包括：

• AbortPolicy（默认）：直接抛出RejectedExecutionException异常。
• CallerRunsPolicy：由提交任务的线程自己执行该任务。也就是说，如果线程池无法接受新任务，而有任务被提交，那么提交任务的线程将自己执行该任务。
• DiscardPolicy：默默地丢弃无法处理的任务，不抛出任何异常。
• DiscardOldestPolicy：丢弃最早被放入任务队列的任务，然后尝试再次提交新任务。

线程池状态

• RUNNING：线程池处于正常运行状态。
• SHUTDOWN：不再接受新任务，但会继续执行已经提交的任务。
• STOP：不再接受新任务，不会执行已经提交的任务，并且会中断正在执行的任务。
• TIDYING：所有任务都已终止，线程数量为0，线程池即将进入终结状态。
• TERMINATED：线程池已经终止，不再处理任何任务。

以上是线程池的核心设计和实现介绍。使用线程池可以简化线程的管理和调度，提高多线程程序的性能和资源利用率。根据具体的业务需求，可以调整线程池的参数和拒绝策略来适应不同的场景。

（二）部分详细介绍

本部分直接通过来展示Java线程池实现原理及其在美团业务中的实践 - 美团技术团队整理

线程池运行机制：总体设计

Java中的线程池核心实现类是ThreadPoolExecutor，基于JDK 1.8的源码来分析Java线程池的核心设计与实现。首先分析ThreadPoolExecutor的UML类图，了解ThreadPoolExecutor的继承关系。

ThreadPoolExecutor实现的顶层接口是Executor，顶层接口Executor提供了一种思想：将任务提交和任务执行进行解耦。用户无需关注如何创建线程，如何调度线程来执行任务，用户只需提供Runnable对象，将任务的运行逻辑提交到执行器(Executor)中，由Executor框架完成线程的调配和任务的执行部分。ExecutorService接口增加了一些能力：

• 扩充执行任务的能力，补充可以为一个或一批异步任务生成Future的方法；
• 提供了管控线程池的方法，比如停止线程池的运行。

AbstractExecutorService则是上层的抽象类，将执行任务的流程串联了起来，保证下层的实现只需关注一个执行任务的方法即可。

最下层的实现类ThreadPoolExecutor实现最复杂的运行部分，ThreadPoolExecutor将会一方面维护自身的生命周期，另一方面同时管理线程和任务，使两者良好的结合从而执行并行任务。

ThreadPoolExecutor是如何运行，如何同时维护线程和执行任务的呢？其运行机制如下图所示：

线程池在内部实际上构建了一个生产者消费者模型，将线程和任务两者解耦，并不直接关联，从而良好的缓冲任务，复用线程。

线程池的运行主要分成两部分：任务管理、线程管理。

任务管理部分充当生产者的角色，当任务提交后，线程池会判断该任务后续的流转：（1）直接申请线程执行该任务；（2）缓冲到队列中等待线程执行；（3）拒绝该任务。

线程管理部分是消费者，它们被统一维护在线程池内，根据任务请求进行线程的分配，当线程执行完任务后则会继续获取新的任务去执行，最终当线程获取不到任务的时候，线程就会被回收。

线程池运行机制：生命周期管理

线程池运行的状态，并不是用户显式设置的，而是伴随着线程池的运行，由内部来维护。线程池内部使用一个变量维护两个值：运行状态(runState)和线程数量 (workerCount)。具体实现中，线程池将运行状态(runState)、线程数量 (workerCount)两个关键参数的维护放在了一起，如代码所示：

private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));

ctl这个AtomicInteger类型，是对线程池的运行状态和线程池中有效线程的数量进行控制的一个字段， 它同时包含两部分的信息：线程池的运行状态 (runState) 和线程池内有效线程的数量 (workerCount)，高3位保存runState，低29位保存workerCount，两个变量之间互不干扰。用一个变量去存储两个值，可避免在做相关决策时，出现不一致的情况，不必为了维护两者的一致，而占用锁资源。

通过阅读线程池源代码也可以发现，经常出现要同时判断线程池运行状态和线程数量的情况。线程池也提供了若干方法去供用户获得线程池当前的运行状态、线程个数。这里都使用的是位运算的方式，相比于基本运算，速度也会快很多。

关于内部封装的获取生命周期状态、获取线程池线程数量的计算方法如以下代码所示：

private static int runStateOf(int c) { 
    //计算当前运行状态
    return c & ~CAPACITY; 
} 
private static int workerCountOf(int c) { 
    //计算当前线程数量
    return c & CAPACITY;
}  
private static int ctlOf(int rs, int wc) { 
    //通过状态和线程数生成ctl
    return rs | wc; 
}   

其生命周期转换如下入所示：

图中ThreadPoolExecutor的运行状态有5种，介绍如下：

线程池运行机制：任务执行机制

任务调度

任务调度是线程池的主要入口，当用户提交了一个任务，接下来这个任务将如何执行都是由这个阶段决定的。了解这部分就相当于了解了线程池的核心运行机制。

首先，所有任务的调度都是由execute方法完成的，这部分完成的工作是：检查现在线程池的运行状态、运行线程数、运行策略，决定接下来执行的流程，是直接申请线程执行，或是缓冲到队列中执行，亦或是直接拒绝该任务。其执行过程如下：

1. 首先检测线程池运行状态，如果不是RUNNING，则直接拒绝，线程池要保证在RUNNING的状态下执行任务。
2. 如果workerCount < corePoolSize，则创建并启动一个线程来执行新提交的任务。
3. 如果workerCount >= corePoolSize，且线程池内的阻塞队列未满，则将任务添加到该阻塞队列中。
4. 如果workerCount >= corePoolSize && workerCount < maximumPoolSize，且线程池内的阻塞队列已满，则创建并启动一个线程来执行新提交的任务。
5. 如果workerCount >= maximumPoolSize，并且线程池内的阻塞队列已满, 则根据拒绝策略来处理该任务, 默认的处理方式是直接抛异常。

其执行流程如下图所示：

任务缓冲

任务缓冲模块是线程池能够管理任务的核心部分。线程池的本质是对任务和线程的管理，而做到这一点最关键的思想就是将任务和线程两者解耦，不让两者直接关联，才可以做后续的分配工作。线程池中是以生产者消费者模式，通过一个阻塞队列来实现的。阻塞队列缓存任务，工作线程从阻塞队列中获取任务。

阻塞队列(BlockingQueue)是一个支持两个附加操作的队列。这两个附加的操作是：在队列为空时，获取元素的线程会等待队列变为非空。当队列满时，存储元素的线程会等待队列可用。阻塞队列常用于生产者和消费者的场景，生产者是往队列里添加元素的线程，消费者是从队列里拿元素的线程。阻塞队列就是生产者存放元素的容器，而消费者也只从容器里拿元素。

下图中展示了线程1往阻塞队列中添加元素，而线程2从阻塞队列中移除元素：

使用不同的队列可以实现不一样的任务存取策略。阻塞队列成员如下：

任务申请

由上文的任务分配部分可知，任务的执行有两种可能：

• 一种是任务直接由新创建的线程执行。
• 一种是线程从任务队列中获取任务然后执行，执行完任务的空闲线程会再次去从队列中申请任务再去执行。

第一种情况仅出现在线程初始创建的时候，第二种是线程获取任务绝大多数的情况。

线程需要从任务缓存模块中不断地取任务执行，帮助线程从阻塞队列中获取任务，实现线程管理模块和任务管理模块之间的通信。这部分策略由getTask方法实现，其执行流程如下图所示：

getTask这部分进行了多次判断，为的是控制线程的数量，使其符合线程池的状态。如果线程池现在不应该持有那么多线程，则会返回null值。工作线程Worker会不断接收新任务去执行，而当工作线程Worker接收不到任务的时候，就会开始被回收。

任务拒绝

任务拒绝模块是线程池的保护部分，线程池有一个最大的容量，当线程池的任务缓存队列已满，并且线程池中的线程数目达到maximumPoolSize时，就需要拒绝掉该任务，采取任务拒绝策略，保护线程池。

拒绝策略是一个接口，其设计如下：

public interface RejectedExecutionHandler {
    void rejectedExecution(Runnable r, ThreadPoolExecutor executor);
}

用户可以通过实现这个接口去定制拒绝策略，也可以选择JDK提供的四种拒绝策略，其特点如下：

线程池运行机制：Worker线程管理

Worker线程

线程池为了掌握线程的状态并维护线程的生命周期，设计了线程池内的工作线程Worker。我们来看一下它的部分代码：

private final class Worker extends AbstractQueuedSynchronizer implements Runnable{
    final Thread thread;//Worker持有的线程
    Runnable firstTask;//初始化的任务，可以为null
}

Worker工作线程实现了Runnable接口，并持有一个线程thread，一个初始化任务firstTask。

• thread是在调用构造方法时通过ThreadFactory来创建的线程，可以用来执行任务；
• firstTask用它来保存传入的第一个任务，这个任务可以有也可以为null。如果这个值是非空的，那么线程就会在启动初期立即执行这个任务，也就对应核心线程创建时的情况；如果这个值是null，那么就是需要创建一个线程去执行任务列表（workQueue）中的任务，也就是非核心线程的创建。

Worker执行任务的模型如下图所示：

线程池需要管理线程的生命周期，需要在线程长时间不运行的时候进行回收。线程池使用一张Hash表去持有线程的引用，这样可以通过添加引用、移除引用这样的操作来控制线程的生命周期。这个时候重要的就是如何判断线程是否在运行。

​Worker是通过继承AQS，使用AQS来实现独占锁这个功能。没有使用可重入锁ReentrantLock，而是使用AQS，为的就是实现不可重入的特性去反应线程现在的执行状态。

1. lock方法一旦获取了独占锁，表示当前线程正在执行任务中。
2. 如果正在执行任务，则不应该中断线程。
3. 如果该线程现在不是独占锁的状态，也就是空闲的状态，说明它没有在处理任务，这时可以对该线程进行中断。
4. 线程池在执行shutdown方法或tryTerminate方法时会调用interruptIdleWorkers方法来中断空闲的线程，interruptIdleWorkers方法会使用tryLock方法来判断线程池中的线程是否是空闲状态；如果线程是空闲状态则可以安全回收。

在线程回收过程中就使用到了这种特性，回收过程如下图所示：

Worker线程增加

增加线程是通过线程池中的addWorker方法，该方法的功能就是增加一个线程，该方法不考虑线程池是在哪个阶段增加的该线程，这个分配线程的策略是在上个步骤完成的，该步骤仅仅完成增加线程，并使它运行，最后返回是否成功这个结果。addWorker方法有两个参数：firstTask、core。

• firstTask参数用于指定新增的线程执行的第一个任务，该参数可以为空；
• core参数为true表示在新增线程时会判断当前活动线程数是否少于corePoolSize，false表示新增线程前需要判断当前活动线程数是否少于maximumPoolSize

其执行流程如下图所示：

Worker线程回收

线程池中线程的销毁依赖JVM自动的回收，线程池做的工作是根据当前线程池的状态维护一定数量的线程引用，防止这部分线程被JVM回收，当线程池决定哪些线程需要回收时，只需要将其引用消除即可。Worker被创建出来后，就会不断地进行轮询，然后获取任务去执行，核心线程可以无限等待获取任务，非核心线程要限时获取任务。当Worker无法获取到任务，也就是获取的任务为空时，循环会结束，Worker会主动消除自身在线程池内的引用。

try {
  while (task != null || (task = getTask()) != null) {
    //执行任务
  }
} finally {
  processWorkerExit(w, completedAbruptly);//获取不到任务时，主动回收自己
}

线程回收的工作是在processWorkerExit方法完成的。

事实上，在这个方法中，将线程引用移出线程池就已经结束了线程销毁的部分。但由于引起线程销毁的可能性有很多，线程池还要判断是什么引发了这次销毁，是否要改变线程池的现阶段状态，是否要根据新状态，重新分配线程。

Worker线程执行任务

在Worker类中的run方法调用了runWorker方法来执行任务，runWorker方法的执行过程如下：

1. while循环不断地通过getTask()方法获取任务。
2. getTask()方法从阻塞队列中取任务。
3. 如果线程池正在停止，那么要保证当前线程是中断状态，否则要保证当前线程不是中断状态。
4. 执行任务。 如果getTask结果为null则跳出循环，执行processWorkerExit()方法，销毁线程。

执行流程如下图所示

三、常用的四种线程池推荐

（一）CachedThreadPool

CachedThreadPool的特点是根据需要动态创建和回收线程，适用于需要处理大量短期任务的场景。下面是关于CachedThreadPool的介绍：

1. 动态线程数：CachedThreadPool会根据任务的数量动态地创建线程。如果有新的任务提交到线程池，而当前没有可用的空闲线程，则会创建一个新的线程来执行任务。如果线程池中的线程在60秒内都没有被使用，则这些线程将被终止并从线程池中移除。
2. 无界队列：CachedThreadPool使用一个无界的任务队列（SynchronousQueue），该队列没有固定的容量限制。它将任务直接交给线程去执行，如果没有可用的线程，则会创建新的线程。这意味着，当任务提交速度超过线程执行速度时，任务会在队列中等待执行。由于任务队列没有容量限制，因此如果任务提交速度一直超过线程执行速度，可能会导致队列无限增长，最终耗尽系统资源。
3. 适用场景：CachedThreadPool适用于具有大量短期任务的场景，其中任务的执行时间较短且数量不确定。由于线程数会根据任务的数量进行动态调整，可以有效地利用系统资源。然而，当任务数量过大时，可能会导致系统负荷过重，因此在使用CachedThreadPool时需要谨慎评估任务的数量和执行时间。

下面是使用CachedThreadPool的示例代码：

package org.zyf.javabasic.thread.base;
 
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
 
/**
 * @author yanfengzhang
 * @description
 * @date 2021/5/1  19:33
 */
public class CachedThreadPoolExample {
    public static void main(String[] args) {
        // 创建CachedThreadPool
        ExecutorService executor = Executors.newCachedThreadPool();
 
        // 提交任务
        for (int i = 0; i < 10; i++) {
            final int taskId = i;
            executor.execute(() -> {
                System.out.println("Executing task: " + taskId + " on thread: " + Thread.currentThread().getName());
            });
        }
 
        // 关闭线程池
        executor.shutdown();
    }
}
 

在上述示例中，我们使用Executors.newCachedThreadPool()创建了一个CachedThreadPool实例。然后，我们提交了10个任务给线程池执行，每个任务打印自己的ID和执行线程的名称。最后，我们调用executor.shutdown()来关闭线程池。

（二）FixedThreadPool

FixedThreadPool的特点是固定线程数量，适用于需要控制线程数量的场景。下面是关于FixedThreadPool的介绍：

1. 固定线程数：FixedThreadPool会创建指定数量的线程，并将其保存在线程池中。这些线程在整个生命周期内都是活动的，不会被回收。如果有新的任务提交到线程池，而当前没有可用的空闲线程，则任务将在任务队列中等待，直到有线程可用来执行它。
2. 有界队列：FixedThreadPool使用一个有界的任务队列（LinkedBlockingQueue）来存储待执行的任务。任务队列的容量是固定的，当队列已满时，新的任务将被阻塞直到队列中有空闲位置。
3. 适用场景：FixedThreadPool适用于需要控制线程数量的场景。由于线程数是固定的，可以避免线程数量过多导致系统资源耗尽。它适合于执行长期的任务，因为线程数固定，不会频繁地创建和销毁线程，从而减少了线程创建的开销。

下面是使用FixedThreadPool的示例代码：

package org.zyf.javabasic.thread.base;
 
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
 
/**
 * @author yanfengzhang
 * @description
 * @date 2021/5/1  19:38
 */
public class FixedThreadPoolExample {
    public static void main(String[] args) {
        // 创建FixedThreadPool，指定线程数为3
        ExecutorService executor = Executors.newFixedThreadPool(3);
 
        // 提交任务
        for (int i = 0; i < 10; i++) {
            final int taskId = i;
            executor.execute(() -> {
                System.out.println("Executing task: " + taskId + " on thread: " + Thread.currentThread().getName());
            });
        }
 
        // 关闭线程池
        executor.shutdown();
    }
}

在上述示例中，我们使用Executors.newFixedThreadPool(3)创建了一个包含3个线程的FixedThreadPool实例。然后，我们提交了10个任务给线程池执行，每个任务打印自己的ID和执行线程的名称。最后，我们调用executor.shutdown()来关闭线程池。

（三）ScheduledThreadPool

ScheduledThreadPool的特点是可以在指定的延迟时间后或按固定的时间间隔执行任务，适用于需要定时执行任务的场景。下面是关于ScheduledThreadPool的介绍：

1. 调度任务：ScheduledThreadPool可以按照指定的延迟时间或固定的时间间隔来调度任务的执行。它通过内部的ScheduledExecutorService来实现任务的调度。
2. 固定线程数：ScheduledThreadPool会创建指定数量的线程，并将其保存在线程池中。这些线程在整个生命周期内都是活动的，不会被回收。当任务需要被执行时，线程池会选择一个可用的线程来执行任务。
3. 适用场景：ScheduledThreadPool适用于需要定时执行任务的场景。例如，定时任务、定时数据同步、定时报表生成等。它提供了灵活的任务调度功能，可以按照需求设置任务的延迟时间或固定的时间间隔来触发任务的执行。

下面是使用ScheduledThreadPool的示例代码：

package org.zyf.javabasic.thread.base;
 
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;
 
/**
 * @author yanfengzhang
 * @description
 * @date 2021/5/1  19:41
 */
public class ScheduledThreadPoolExample {
    public static void main(String[] args) {
        // 创建ScheduledThreadPool
        ScheduledExecutorService executor = Executors.newScheduledThreadPool(2);
 
        // 延迟执行任务
        executor.schedule(() -> {
            System.out.println("Task 1 executed after 2 seconds.");
        }, 2, TimeUnit.SECONDS);
 
        // 固定时间间隔执行任务
        executor.scheduleAtFixedRate(() -> {
            System.out.println("Task 2 executed every 3 seconds.");
        }, 0, 3, TimeUnit.SECONDS);
 
        // 关闭线程池
        executor.shutdown();
    }
}

在上述示例中，我们使用Executors.newScheduledThreadPool(2)创建了一个包含2个线程的ScheduledThreadPool实例。然后，我们使用schedule()方法延迟执行一个任务，该任务会在2秒后执行。另外，我们使用scheduleAtFixedRate()方法按照固定的时间间隔（3秒）来执行另一个任务。最后，我们调用executor.shutdown()来关闭线程池。

（四）SingleThreadExecutor

SingleThreadExecutor的特点是只有一个工作线程，适用于需要保证任务按照顺序执行的场景。下面是关于SingleThreadExecutor的介绍：

1. 单线程执行：SingleThreadExecutor会创建一个单独的工作线程，并将所有任务都提交给该线程顺序执行。如果该线程由于异常终止而结束，线程池会创建一个新的线程来替代它，保证任务的顺序执行。
2. 有界队列：SingleThreadExecutor使用一个有界的任务队列（LinkedBlockingQueue）来存储待执行的任务。当任务队列已满时，新的任务将被阻塞直到队列中有空闲位置。
3. 适用场景：SingleThreadExecutor适用于需要保证任务按照顺序执行的场景。它适合于执行需要串行处理的任务，例如日志记录、顺序操作的数据库访问等。由于只有一个线程，可以确保任务之间的顺序性，避免并发引起的竞态条件问题。

下面是使用SingleThreadExecutor的示例代码：

package org.zyf.javabasic.thread.base;
 
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
 
/**
 * @author yanfengzhang
 * @description
 * @date 2021/5/1  19:44
 */
public class SingleThreadExecutorExample {
    public static void main(String[] args) {
        // 创建SingleThreadExecutor
        ExecutorService executor = Executors.newSingleThreadExecutor();
 
        // 提交任务
        for (int i = 0; i < 5; i++) {
            final int taskId = i;
            executor.execute(() -> {
                System.out.println("Executing task: " + taskId + " on thread: " + Thread.currentThread().getName());
            });
        }
 
        // 关闭线程池
        executor.shutdown();
    }
}

在上述示例中，我们使用Executors.newSingleThreadExecutor()创建了一个SingleThreadExecutor实例。然后，我们提交了5个任务给线程池执行，每个任务打印自己的ID和执行线程的名称。最后，我们调用executor.shutdown()来关闭线程池。

四、合理的配置线程池建议

以下是一些合理配置线程池的建议：

建议一：线程池大小

1. 对于CPU密集型任务：线程池的大小可以设置为处理器核心数+1，这样可以充分利用CPU资源。
2. 对于I/O密集型任务：线程池的大小可以根据实际情况进行调整，通常可以设置为2倍或更多的处理器核心数，以充分利用阻塞等待的时间。

建议二：队列容量

1. 有界队列：如果任务提交速度大于线程执行速度，可以使用有界队列来缓冲等待执行的任务。根据任务的特性和系统资源，合理设置队列的容量，避免队列过大导致内存占用过高。
2. 无界队列：如果希望避免任务被拒绝，可以使用无界队列。但需要注意，如果任务提交速度一直超过线程执行速度，可能会导致队列无限增长，最终耗尽系统资源。

建议三：拒绝策略

• 当线程池已满并且任务队列已满时，需要定义合适的拒绝策略来处理无法接受的新任务。常见的拒绝策略包括抛出异常、丢弃任务、丢弃最旧的任务等。选择适当的拒绝策略取决于业务需求和对任务丢失的容忍度。

建议四：线程池参数调优

• 根据实际情况，可以调整一些参数来优化线程池的性能。例如，可以调整线程的超时时间、核心线程的存活时间、线程池的前后端任务比例等，以适应不同类型的任务和负载。

建议五：监控和调优

• 监控线程池的状态和性能指标，例如线程池中线程的数量、任务队列的大小、任务执行的速度等。根据监控结果进行调优，优化线程池的性能和资源利用率。

总之，合理配置线程池需要根据具体的业务需求、任务特性和系统资源来选择适当的参数和策略。关注线程池的大小、队列容量、拒绝策略以及监控和调优是配置线程池的关键点。

五、扩展：线程池在业务中的实践

本部分通过Java线程池实现原理及其在美团业务中的实践 - 美团技术团队整理

（一）实际问题及方案思考

线程池使用面临的核心的问题在于：线程池的参数并不好配置。

• 一方面线程池的运行机制不是很好理解，配置合理需要强依赖开发人员的个人经验和知识；
• 另一方面，线程池执行的情况和任务类型相关性较大，IO密集型和CPU密集型的任务运行起来的情况差异非常大，这导致业界并没有一些成熟的经验策略帮助开发人员参考。

线程池配置不合理引发故障

Case1：2018年XX页面展示接口大量调用降级：

事故描述：XX页面展示接口产生大量调用降级，数量级在几十到上百。

事故原因：该服务展示接口内部逻辑使用线程池做并行计算，由于没有预估好调用的流量，导致最大核心数设置偏小，大量抛出RejectedExecutionException，触发接口降级条件，示意图如下：

Case2：2018年XX业务服务不可用S2级故障

事故描述：XX业务提供的服务执行时间过长，作为上游服务整体超时，大量下游服务调用失败。

事故原因：该服务处理请求内部逻辑使用线程池做资源隔离，由于队列设置过长，最大线程数设置失效，导致请求数量增加时，大量任务堆积在队列中，任务执行时间过长，最终导致下游服务的大量调用超时失败。示意图如下：

问题思考一：能否不用线程池?

回到最初的问题，业务使用线程池是为了获取并发性，对于获取并发性，是否可以有什么其他的方案呢替代？我们尝试进行了一些其他方案的调研：

综合考虑，这些新的方案都能在某种情况下提升并行任务的性能，然而本次重点解决的问题是如何更简易、更安全地获得的并发性。另外，Actor模型的应用实际上甚少，只在Scala中使用广泛，协程框架在Java中维护的也不成熟。这三者现阶段都不是足够的易用，也并不能解决业务上现阶段的问题。

问题思考二：追求参数设置合理性？

有没有一种计算公式，能够让开发同学很简易地计算出某种场景中的线程池应该是什么参数呢？带着这样的疑问，我们调研了业界的一些线程池参数配置方案：

调研了以上业界方案后，我们并没有得出通用的线程池计算方式。并发任务的执行情况和任务类型相关，IO密集型和CPU密集型的任务运行起来的情况差异非常大，但这种占比是较难合理预估的，这导致很难有一个简单有效的通用公式帮我们直接计算出结果。

问题思考三：线程池参数动态化？

尽管经过谨慎的评估，仍然不能够保证一次计算出来合适的参数，那么我们是否可以将修改线程池参数的成本降下来，这样至少可以发生故障的时候可以快速调整从而缩短故障恢复的时间呢？基于这个思考，我们是否可以将线程池的参数从代码中迁移到分布式配置中心上，实现线程池参数可动态配置和即时生效，线程池参数动态化前后的参数修改流程对比如下：

（二）动态化线程池

整体设计

动态化线程池的核心设计包括以下三个方面：

简化线程池配置

线程池构造参数有8个，最核心的是3个：corePoolSize、maximumPoolSize，workQueue，它们最大程度地决定了线程池的任务分配和线程分配策略。

考虑到在实际应用中我们获取并发性的场景主要是两种：

• （1）并行执行子任务，提高响应速度。这种情况下，应该使用同步队列，没有什么任务应该被缓存下来，而是应该立即执行。
• （2）并行执行大批次任务，提升吞吐量。这种情况下，应该使用有界队列，使用队列去缓冲大批量的任务，队列容量必须声明，防止任务无限制堆积。

所以线程池只需要提供这三个关键参数的配置，并且提供两种队列的选择，就可以满足绝大多数的业务需求，Less is More。

参数可动态修改

为了解决参数不好配，修改参数成本高等问题。在Java线程池留有高扩展性的基础上，封装线程池，允许线程池监听同步外部的消息，根据消息进行修改配置。将线程池的配置放置在平台侧，允许开发同学简单的查看、修改线程池配置。

增加线程池监控

对某事物缺乏状态的观测，就对其改进无从下手。在线程池执行任务的生命周期添加监控能力，帮助开发同学了解线程池状态。

功能架构

动态化线程池提供如下功能：

• 动态调参：支持线程池参数动态调整、界面化操作；包括修改线程池核心大小、最大核心大小、队列长度等；参数修改后及时生效。
• 任务监控：支持应用粒度、线程池粒度、任务粒度的Transaction监控；可以看到线程池的任务执行情况、最大任务执行时间、平均任务执行时间、95/99线等。 
• 负载告警：线程池队列任务积压到一定值的时候会通过大象（美团内部通讯工具）告知应用开发负责人；当线程池负载数达到一定阈值的时候会通过大象告知应用开发负责人。
•  操作监控：创建/修改和删除线程池都会通知到应用的开发负责人。 
• 操作日志：可以查看线程池参数的修改记录，谁在什么时候修改了线程池参数、修改前的参数值是什么。
•  权限校验：只有应用开发负责人才能够修改应用的线程池参数。

参数动态化

JDK原生线程池ThreadPoolExecutor提供了如下几个public的setter方法，如下图所示：

JDK允许线程池使用方通过ThreadPoolExecutor的实例来动态设置线程池的核心策略，以setCorePoolSize为方法例，在运行期线程池使用方调用此方法设置corePoolSize之后，线程池会直接覆盖原来的corePoolSize值，并且基于当前值和原始值的比较结果采取不同的处理策略。对于当前值小于当前工作线程数的情况，说明有多余的worker线程，此时会向当前idle的worker线程发起中断请求以实现回收，多余的worker在下次idel的时候也会被回收；对于当前值大于原始值且当前队列中有待执行任务，则线程池会创建新的worker线程来执行队列任务，setCorePoolSize具体流程如下：

线程池内部会处理好当前状态做到平滑修改，其他几个方法限于篇幅，这里不一一介绍。重点是基于这几个public方法，我们只需要维护ThreadPoolExecutor的实例，并且在需要修改的时候拿到实例修改其参数即可。基于以上的思路，我们实现了线程池参数的动态化、线程池参数在管理平台可配置可修改，其效果图如下图所示：

用户可以在管理平台上通过线程池的名字找到指定的线程池，然后对其参数进行修改，保存后会实时生效。目前支持的动态参数包括核心数、最大值、队列长度等。除此之外，在界面中，我们还能看到用户可以配置是否开启告警、队列等待任务告警阈值、活跃度告警等等。

线程池监控

除了参数动态化之外，为了更好地使用线程池，我们需要对线程池的运行状况有感知，比如当前线程池的负载是怎么样的？分配的资源够不够用？任务的执行情况是怎么样的？是长任务还是短任务？基于对这些问题的思考，动态化线程池提供了多个维度的监控和告警能力，包括：线程池活跃度、任务的执行Transaction（频率、耗时）、Reject异常、线程池内部统计信息等等，既能帮助用户从多个维度分析线程池的使用情况，又能在出现问题第一时间通知到用户，从而避免故障或加速故障恢复。

负载监控和告警

线程池负载关注的核心问题是：基于当前线程池参数分配的资源够不够。对于这个问题，我们可以从事前和事中两个角度来看。事前，线程池定义了“活跃度”这个概念，来让用户在发生Reject异常之前能够感知线程池负载问题，线程池活跃度计算公式为：

线程池活跃度 = activeCount/maximumPoolSize。

这个公式代表当活跃线程数趋向于maximumPoolSize的时候，代表线程负载趋高。事中，也可以从两方面来看线程池的过载判定条件，一个是发生了Reject异常，一个是队列中有等待任务（支持定制阈值）。以上两种情况发生了都会触发告警，告警信息会通过大象推送服务所关联的负责人。

任务级精细化监控

在传统的线程池应用场景中，线程池中的任务执行情况对于用户来说是透明的。比如在一个具体的业务场景中，业务开发申请了一个线程池同时用于执行两种任务，一个是发消息任务、一个是发短信任务，这两类任务实际执行的频率和时长对于用户来说没有一个直观的感受，很可能这两类任务不适合共享一个线程池，但是由于用户无法感知，因此也无从优化。动态化线程池内部实现了任务级别的埋点，且允许为不同的业务任务指定具有业务含义的名称，线程池内部基于这个名称做Transaction打点，基于这个功能，用户可以看到线程池内部任务级别的执行情况，且区分业务，任务监控示意图如下图所示：

运行时状态实时查看

用户基于JDK原生线程池ThreadPoolExecutor提供的几个public的getter方法，可以读取到当前线程池的运行状态以及参数，如下图所示：

动态化线程池基于这几个接口封装了运行时状态实时查看的功能，用户基于这个功能可以了解线程池的实时状态，比如当前有多少个工作线程，执行了多少个任务，队列中等待的任务数等等。效果如下图所示：

实践总结

面对业务中使用线程池遇到的实际问题，我们曾回到支持并发性问题本身来思考有没有取代线程池的方案，也曾尝试着去追求线程池参数设置的合理性，但面对业界方案具体落地的复杂性、可维护性以及真实运行环境的不确定性，我们在前两个方向上可谓“举步维艰”。最终，我们回到线程池参数动态化方向上探索，得出一个且可以解决业务问题的方案，虽然本质上还是没有逃离使用线程池的范畴，但是在成本和收益之间，算是取得了一个很好的平衡。成本在于实现动态化以及监控成本不高，收益在于：在不颠覆原有线程池使用方式的基础之上，从降低线程池参数修改的成本以及多维度监控这两个方面降低了故障发生的概率。希望本文提供的动态化线程池思路能对大家有帮助。

参考文献链接

1. 深入理解Java线程池：ThreadPoolExecutor | Idea Buffer
2. Java线程池实现原理及其在美团业务中的实践 - 美团技术团队
3. Java并发编程实战（Java Concurrency in Practice）：这本书由Brian Goetz等人撰写，是学习Java并发编程的经典参考书之一。它包含了丰富的关于线程池的内容，介绍了线程池的原理、使用和调优等方面的知识。
4. Java多线程编程核心技术（Java多线程编程核心技术）：这本书由李春著，是学习Java多线程编程的经典教材。其中涵盖了线程池的基本概念、实现原理和使用方法，并提供了大量的示例代码和实践经验。
5. Java并发编程实战网页版（Java Concurrency in Practice - Website）：该网页版是Java并发编程实战一书的在线版本，包含了书中的大部分内容。您可以在这里阅读和学习关于线程池的知识：Java并发编程实战网页版
6. Java官方文档（Java Official Documentation）：Java官方文档提供了关于线程池和并发编程的详细解释和示例代码。您可以参考java.util.concurrent包下的相关类和接口，如Executor、ExecutorService、ThreadPoolExecutor等。
7. Java线程池的工作原理及其在高并发场景中的应用：这篇文章详细介绍了Java线程池的工作原理、线程池的组成部分以及线程池在高并发场景中的应用。您可以在这里阅读：Java线程池的工作原理及其在高并发场景中的应用
8. Java线程池原理剖析：这篇文章解释了Java线程池的原理和内部机制，包括线程池的创建、任务提交、线程调度、任务执行以及线程池关闭等过程。您可以在这里阅读：Java线程池原理剖析
9. 深入理解Java线程池：这篇文章介绍了Java线程池的核心概念、常见的线程池类型，以及线程池的参数配置和调优策略。您可以在这里阅读：深入理解Java线程池