动态线程池Dinamic-Tp 系列一
创始人
2025-05-31 00:05:49
0

这世界上没有优秀的理念,只有脚踏实地的结果 。 

 继上篇【ThreadPoolExecutor】自定义线程池详解(一篇透彻)之后,我们 这次主要讲一下线程池怎么动态调整参数。

本文主要讲Dinamic-Tp开源框架的基础知识。

前言

DynamicTp项目地址:

官网:https://dynamictp.cn/

gitee地址:https://gitee.com/dromara/dynamic-tp

github地址:https://github.com/dromara/dynamic-tp

诞生原因

使用线程池 ThreadPoolExecutor 过程中你是否有以下痛点呢?

  1. 代码中创建了一个 ThreadPoolExecutor,但是不知道那几个核心参数设置多少比较合适

  2. 凭经验设置参数值,上线后发现需要调整,改代码重新发布服务,非常麻烦

  3. 线程池相对开发人员来说是个黑盒,运行情况不能及时感知到,直到出现问题

那么使用dynammic-tp框架就可以解决以上问题。

功能概括

功能特性 

  • 代码零侵入:我们改变了线程池以往的使用姿势,所有配置均放在配置中心,服务启动时会从配置中心拉取配置生成线程池对象放到 Spring 容器中,使用时直接从 Spring 容器中获取,对业务代码零侵入

  • 通知告警:提供多种报警维度(配置变更通知、活性报警、容量阈值报警、拒绝触发报警、任务执行或等待超时报警),已支持企业微信、钉钉、飞书、邮件报警,同时提供 SPI 接口可自定义扩展实现

  • 运行监控:定时采集线程池指标数据,支持通过 MicroMeter、JsonLog 日志输出、Endpoint 三种方式,可通过 SPI 接口自定义扩展实现

  • 任务增强:提供任务包装功能,实现 TaskWrapper 接口即可,如 MdcTaskWrapper、TtlTaskWrapper、SwTraceTaskWrapper,可以支持线程池上下文信息传递

  • 多配置中心支持:基于主流配置中心实现线程池参数动态调整,实时生效,已支持 Nacos、Apollo、Zookeeper、Consul、Etcd、Polaris,同时也提供 SPI 接口可自定义扩展实现

  • 中间件线程池管理:集成管理常用第三方组件的线程池,已集成 Tomcat、Jetty、Undertow、Dubbo、RocketMq、Hystrix、Grpc、Motan、Okhttp3、Brpc、Tars、SofaRpc、RabbitMq 等组件的线程池管理(调参、监控报警)

  • 轻量简单:基于 SpringBoot 实现,引入 starter,接入只需简单 4 步就可完成,顺利 3 分钟搞定

  • 多模式:参考 Tomcat 线程池提供了 IO 密集型场景使用的 EagerDtpExecutor 线程池

  • 兼容性:JUC 普通线程池和 Spring 中的 ThreadPoolTaskExecutor 也可以被框架监控,@Bean 定义时加 @DynamicTp 注解即可

  • 可靠性:框架提供的线程池实现 Spring 生命周期方法,可以在 Spring 容器关闭前尽可能多的处理队列中的任务

  • 高可扩展:框架核心功能都提供 SPI 接口供用户自定义个性化实现(配置中心、配置文件解析、通知告警、监控数据采集、任务包装等等)

  • 线上大规模应用:参考美团线程池实践open in new window,美团内部已经有该理论成熟的应用经验

技术架构 

框架功能大体可以分为以下几个模块

  1. 配置变更监听模块

  2. 线程池管理模块

  3. 监控模块

  4. 通知告警模块

  5. 三方组件线程池管理模块

代码结构 

以多 Module 的方式组织代码,提升代码的可维护性,方便扩展

使用步骤

  1. 引入相应配置中心的依赖,具体见下述 maven 依赖

  2. 配置中心配置线程池实例,配置文件见下述

  3. 启动类加 @EnableDynamicTp 注解

  4. 使用 @Resource 或 @Autowired 进行依赖注入,或通过 DtpRegistry.getDtpExecutor("name") 获取

  5. 通过以上 4 步就可以使用了,是不是感觉超级简单呀

代码使用 

1.线程池定义

建议直接配置在配置中心,但是如果想后期再添加到配置中心,可以先用 @Bean 编码式声明(方便 Spring 依赖注入)

@Configuration
public class DtpConfig {  /*** 通过 {@link @DynamicTp} 注解定义普通 juc 线程池,会享受到该框架监控功能,注解名称优先级高于方法名** @return 线程池实例*/@DynamicTp("commonExecutor")@Beanpublic ThreadPoolExecutor commonExecutor() {return (ThreadPoolExecutor) Executors.newFixedThreadPool(1);}/*** 通过 {@link ThreadPoolCreator} 快速创建一些简单配置的动态线程池* tips: 建议直接在配置中心配置就行,不用 @Bean 声明** @return 线程池实例*/@Beanpublic DtpExecutor dtpExecutor1() {return ThreadPoolCreator.createDynamicFast("dtpExecutor1");}/*** 通过 {@link ThreadPoolBuilder} 设置详细参数创建动态线程池(推荐方式),* ioIntensive,参考 tomcat 线程池设计,实现了处理 io 密集型任务的线程池,具体参数可以看代码注释** tips: 建议直接在配置中心配置就行,不用@Bean声明* @return 线程池实例*/@Beanpublic DtpExecutor ioIntensiveExecutor() {return ThreadPoolBuilder.newBuilder().threadPoolName("ioIntensiveExecutor").corePoolSize(20).maximumPoolSize(50).queueCapacity(2048).ioIntensive(true).buildDynamic();}/*** tips: 建议直接在配置中心配置就行,不用 @Bean 声明* @return 线程池实例*/@Beanpublic ThreadPoolExecutor dtpExecutor2() {return ThreadPoolBuilder.newBuilder().threadPoolName("dtpExecutor2").corePoolSize(10).maximumPoolSize(15).keepAliveTime(50).timeUnit(TimeUnit.MILLISECONDS).workQueue(QueueTypeEnum.SYNCHRONOUS_QUEUE.getName(), null, false).waitForTasksToCompleteOnShutdown(true).awaitTerminationSeconds(5).buildDynamic();}
}

2.代码引用

从 DtpRegistry 中根据线程池名称获取,或者通过依赖注入方式(推荐,更优雅)

  • 依赖注入方式使用,优先推荐依赖注入方式,不能使用依赖注入的场景可以使用方式2

    @Resource
    private ThreadPoolExecutor dtpExecutor1;public void exec() {dtpExecutor1.execute(() -> System.out.println("test"));
    }
    
  • 从 DtpRegistry 注册器获取(接口场景可用)

    public static void main(String[] args) {DtpExecutor dtpExecutor = DtpRegistry.getDtpExecutor("dtpExecutor1");dtpExecutor.execute(() -> System.out.println("test"));
    }
    
  • 更详细使用实例请参考 源码中example 工程

任务包装

提供了一些任务包装器,可以实现特定的功能

  1. MdcTaskWrapper 支持 MDC 上下文传递,名称:mdc

  2. TtlTaskWrapper 支持 ThreadLocal 上下文传递,名称:ttl

  3. SwTraceTaskWrapper 支持 skywalking TID 传递,名称:swTrace

  4. NamedRunnable 支持给任务添加名称

  5. 可以继承 TaskWrapper 接口自定义任务包装器

使用步骤

  1. MdcTaskWrapper、TtlTaskWrapper、NamedRunnable 在 core 包中,不需要引入其他依赖

  2. SwTraceTaskWrapper 是 extension 模块提供的扩展,需要引入依赖

         cn.dynamictpdynamic-tp-extension-skywalking1.1.0
    
  3. 线程池配置文件加如下配置项

    spring:dynamic:tp:executors:                                         # 动态线程池配置,省略其他项,具体看上述配置文件- threadPoolName: dtpExecutor1taskWrapperNames: ["ttl", "mdc", "swTrace"]    # 任务包装器名称,继承 TaskWrapper 接口

相关内容

热门资讯

linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
C++ 机房预约系统(六):学... 8、 学生模块 8.1 学生子菜单、登录和注销 实现步骤: 在Student.cpp的...
JAVA多线程知识整理 Java多线程基础 线程的创建和启动 继承Thread类来创建并启动 自定义Thread类的子类&#...
【洛谷 P1090】[NOIP... [NOIP2004 提高组] 合并果子 / [USACO06NOV] Fence Repair G ...
国民技术LPUART介绍 低功耗通用异步接收器(LPUART) 简介 低功耗通用异步收发器...
城乡供水一体化平台-助力乡村振... 城乡供水一体化管理系统建设方案 城乡供水一体化管理系统是运用云计算、大数据等信息化手段࿰...
程序的循环结构和random库...   第三个参数就是步长     引入文件时记得指明字符格式,否则读入不了 ...
中国版ChatGPT在哪些方面... 目录 一、中国巨大的市场需求 二、中国企业加速创新 三、中国的人工智能发展 四、企业愿景的推进 五、...
报名开启 | 共赴一场 Flu... 2023 年 1 月 25 日,Flutter Forward 大会在肯尼亚首都内罗毕...
汇编00-MASM 和 Vis... Qt源码解析 索引 汇编逆向--- MASM 和 Visual Studio入门 前提知识ÿ...
【简陋Web应用3】实现人脸比... 文章目录🍉 前情提要🌷 效果演示🥝 实现过程1. u...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
windows安装JDK步骤 一、 下载JDK安装包 下载地址:https://www.oracle.com/jav...
分治法实现合并排序(归并排序)... 🎊【数据结构与算法】专题正在持续更新中,各种数据结构的创建原理与运用✨...
在linux上安装配置node... 目录前言1,关于nodejs2,配置环境变量3,总结 前言...
Linux学习之端口、网络协议... 端口:设备与外界通讯交流的出口 网络协议:   网络协议是指计算机通信网...
Linux内核进程管理并发同步... 并发同步并发 是指在某一时间段内能够处理多个任务的能力,而 并行 是指同一时间能够处理...
opencv学习-HOG LO... 目录1. HOG(Histogram of Oriented Gradients,方向梯度直方图)1...
EEG微状态的功能意义 导读大脑的瞬时全局功能状态反映在其电场结构上。聚类分析方法一致地提取了四种头表面脑电场结构ÿ...
【Unity 手写PBR】Bu... 写在前面 前期积累: GAMES101作业7提高-实现微表面模型你需要了解的知识 【技...