经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » 程序设计 » 编程经验 » 查看文章
面试官:如果不允许线程池丢弃任务,应该选择哪个拒绝策略?
来源:cnblogs  作者:JavaGuide  时间:2024/5/31 9:23:37  对本文有异议

线程池的拒绝策略有哪些?

如果当前同时运行的线程数量达到最大线程数量并且队列也已经被放满了任务时,ThreadPoolExecutor 定义一些策略:

  • ThreadPoolExecutor.AbortPolicy:抛出 RejectedExecutionException来拒绝新任务的处理。
  • ThreadPoolExecutor.CallerRunsPolicy:调用执行自己的线程运行任务,也就是直接在调用execute方法的线程中运行(run)被拒绝的任务,如果执行程序已关闭,则会丢弃该任务。因此这种策略会降低对于新任务提交速度,影响程序的整体性能。如果你的应用程序可以承受此延迟并且你要求任何一个任务请求都要被执行的话,你可以选择这个策略。
  • ThreadPoolExecutor.DiscardPolicy:不处理新任务,直接丢弃掉。
  • ThreadPoolExecutor.DiscardOldestPolicy:此策略将丢弃最早的未处理的任务请求。

举个例子:Spring 通过 ThreadPoolTaskExecutor 或者我们直接通过 ThreadPoolExecutor 的构造函数创建线程池的时候,当我们不指定 RejectedExecutionHandler 拒绝策略来配置线程池的时候,默认使用的是 AbortPolicy。在这种拒绝策略下,如果队列满了,ThreadPoolExecutor 将抛出 RejectedExecutionException 异常来拒绝新来的任务 ,这代表你将丢失对这个任务的处理。如果不想丢弃任务的话,可以使用CallerRunsPolicyCallerRunsPolicy 和其他的几个策略不同,它既不会抛弃任务,也不会抛出异常,而是将任务回退给调用者,使用调用者的线程来执行任务。

  1. public static class CallerRunsPolicy implements RejectedExecutionHandler {
  2. public CallerRunsPolicy() { }
  3. public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  4. if (!e.isShutdown()) {
  5. // 直接主线程执行,而不是线程池中的线程执行
  6. r.run();
  7. }
  8. }
  9. }

如果不允许丢弃任务任务,应该选择哪个拒绝策略?

根据上面对线程池拒绝策略的介绍,相信大家很容易能够得出答案是:CallerRunsPolicy

这里我们再来结合CallerRunsPolicy 的源码来看看:

  1. public static class CallerRunsPolicy implements RejectedExecutionHandler {
  2. public CallerRunsPolicy() { }
  3. public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  4. //只要当前程序没有关闭,就用执行execute方法的线程执行该任务
  5. if (!e.isShutdown()) {
  6. r.run();
  7. }
  8. }
  9. }

从源码可以看出,只要当前程序不关闭就会使用执行execute方法的线程执行该任务。

CallerRunsPolicy 拒绝策略有什么风险?如何解决?

我们上面也提到了:如果想要保证任何一个任务请求都要被执行的话,那选择 CallerRunsPolicy 拒绝策略更合适一些。

不过,如果走到CallerRunsPolicy的任务是个非常耗时的任务,且处理提交任务的线程是主线程,可能会导致主线程阻塞,影响程序的正常运行。

这里简单举一个例子,该线程池限定了最大线程数为 2,阻塞队列大小为 1(这意味着第 4 个任务就会走到拒绝策略),ThreadUtil为 Hutool 提供的工具类:

  1. public class ThreadPoolTest {
  2. private static final Logger log = LoggerFactory.getLogger(ThreadPoolTest.class);
  3. public static void main(String[] args) {
  4. // 创建一个线程池,核心线程数为1,最大线程数为2
  5. // 当线程数大于核心线程数时,多余的空闲线程存活的最长时间为60秒,
  6. // 任务队列为容量为1的ArrayBlockingQueue,饱和策略为CallerRunsPolicy。
  7. ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(1,
  8. 2,
  9. 60,
  10. TimeUnit.SECONDS,
  11. new ArrayBlockingQueue<>(1),
  12. new ThreadPoolExecutor.CallerRunsPolicy());
  13. // 提交第一个任务,由核心线程执行
  14. threadPoolExecutor.execute(() -> {
  15. log.info("核心线程执行第一个任务");
  16. ThreadUtil.sleep(1, TimeUnit.MINUTES);
  17. });
  18. // 提交第二个任务,由于核心线程被占用,任务将进入队列等待
  19. threadPoolExecutor.execute(() -> {
  20. log.info("非核心线程处理入队的第二个任务");
  21. ThreadUtil.sleep(1, TimeUnit.MINUTES);
  22. });
  23. // 提交第三个任务,由于核心线程被占用且队列已满,创建非核心线程处理
  24. threadPoolExecutor.execute(() -> {
  25. log.info("非核心线程处理第三个任务");
  26. ThreadUtil.sleep(1, TimeUnit.MINUTES);
  27. });
  28. // 提交第四个任务,由于核心线程和非核心线程都被占用,队列也满了,根据CallerRunsPolicy策略,任务将由提交任务的线程(即主线程)来执行
  29. threadPoolExecutor.execute(() -> {
  30. log.info("主线程处理第四个任务");
  31. ThreadUtil.sleep(2, TimeUnit.MINUTES);
  32. });
  33. // 提交第五个任务,主线程被第四个任务卡住,该任务必须等到主线程执行完才能提交
  34. threadPoolExecutor.execute(() -> {
  35. log.info("核心线程执行第五个任务");
  36. });
  37. // 关闭线程池
  38. threadPoolExecutor.shutdown();
  39. }
  40. }

输出:

  1. 18:19:48.203 INFO [pool-1-thread-1] c.j.concurrent.ThreadPoolTest - 核心线程执行第一个任务
  2. 18:19:48.203 INFO [pool-1-thread-2] c.j.concurrent.ThreadPoolTest - 非核心线程处理第三个任务
  3. 18:19:48.203 INFO [main] c.j.concurrent.ThreadPoolTest - 主线程处理第四个任务
  4. 18:20:48.212 INFO [pool-1-thread-2] c.j.concurrent.ThreadPoolTest - 非核心线程处理入队的第二个任务
  5. 18:21:48.219 INFO [pool-1-thread-2] c.j.concurrent.ThreadPoolTest - 核心线程执行第五个任务

从输出结果可以看出,因为CallerRunsPolicy这个拒绝策略,导致耗时的任务用了主线程执行,导致线程池阻塞,进而导致后续任务无法及时执行,严重的情况下很可能导致 OOM。

我们从问题的本质入手,调用者采用CallerRunsPolicy是希望所有的任务都能够被执行,暂时无法处理的任务又被保存在阻塞队列BlockingQueue中。这样的话,在内存允许的情况下,我们可以增加阻塞队列BlockingQueue的大小并调整堆内存以容纳更多的任务,确保任务能够被准确执行。

为了充分利用 CPU,我们还可以调整线程池的maximumPoolSize (最大线程数)参数,这样可以提高任务处理速度,避免累计在 BlockingQueue的任务过多导致内存用完。

调整阻塞队列大小和最大线程数

如果服务器资源以达到可利用的极限,这就意味我们要在设计策略上改变线程池的调度了,我们都知道,导致主线程卡死的本质就是因为我们不希望任何一个任务被丢弃。换个思路,有没有办法既能保证任务不被丢弃且在服务器有余力时及时处理呢?

这里提供的一种任务持久化的思路,这里所谓的任务持久化,包括但不限于:

  1. 设计一张任务表间任务存储到 MySQL 数据库中。
  2. Redis 缓存任务。
  3. 将任务提交到消息队列中。

这里以方案一为例,简单介绍一下实现逻辑:

  1. 实现RejectedExecutionHandler接口自定义拒绝策略,自定义拒绝策略负责将线程池暂时无法处理(此时阻塞队列已满)的任务入库(保存到 MySQL 中)。注意:线程池暂时无法处理的任务会先被放在阻塞队列中,阻塞队列满了才会触发拒绝策略。
  2. 继承BlockingQueue实现一个混合式阻塞队列,该队列包含 JDK 自带的ArrayBlockingQueue。另外,该混合式阻塞队列需要修改取任务处理的逻辑,也就是重写take()方法,取任务时优先从数据库中读取最早的任务,数据库中无任务时再从 ArrayBlockingQueue中去取任务。

将一部分任务保存到MySQL中

整个实现逻辑还是比较简单的,核心在于自定义拒绝策略和阻塞队列。如此一来,一旦我们的线程池中线程以达到满载时,我们就可以通过拒绝策略将最新任务持久化到 MySQL 数据库中,等到线程池有了有余力处理所有任务时,让其优先处理数据库中的任务以避免"饥饿"问题。

当然,对于这个问题,我们也可以参考其他主流框架的做法,以 Netty 为例,它的拒绝策略则是直接创建一个线程池以外的线程处理这些任务,为了保证任务的实时处理,这种做法可能需要良好的硬件设备且临时创建的线程无法做到准确的监控:

  1. private static final class NewThreadRunsPolicy implements RejectedExecutionHandler {
  2. NewThreadRunsPolicy() {
  3. super();
  4. }
  5. public void rejectedExecution(Runnable r, ThreadPoolExecutor executor) {
  6. try {
  7. //创建一个临时线程处理任务
  8. final Thread t = new Thread(r, "Temporary task executor");
  9. t.start();
  10. } catch (Throwable e) {
  11. throw new RejectedExecutionException(
  12. "Failed to start a new thread", e);
  13. }
  14. }
  15. }

ActiveMQ 则是尝试在指定的时效内尽可能的争取将任务入队,以保证最大交付:

  1. new RejectedExecutionHandler() {
  2. @Override
  3. public void rejectedExecution(final Runnable r, final ThreadPoolExecutor executor) {
  4. try {
  5. //限时阻塞等待,实现尽可能交付
  6. executor.getQueue().offer(r, 60, TimeUnit.SECONDS);
  7. } catch (InterruptedException e) {
  8. throw new RejectedExecutionException("Interrupted waiting for BrokerService.worker");
  9. }
  10. throw new RejectedExecutionException("Timed Out while attempting to enqueue Task.");
  11. }
  12. });

原文链接:https://www.cnblogs.com/javaguide/p/18222455

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号