时间轮:XXL-JOB 高效、精准定时任务调度实现思路分析

news2025/1/30 18:24:18

大家好,我是此林。

定时任务是我们项目中经常会遇到的一个场景。那么如果让我们手动来实现一个定时任务框架,我们会怎么做呢?

1. 基础实现:简单的线程池+时间轮询

最直接的方式是创建一个定时任务线程池,用户每提交一个定时任务,就分配一个线程去执行。每个线程使用 Thread.sleep() 或者 while (true) 不断轮询,检查当前时间是否达到了任务的触发时间。

这种方式的问题:
  • 一个线程只能执行一个任务,如果定时任务很多,线程池的线程很快就会被占满,导致新的任务无法执行。比如机器是 4 核 CPU,最多可能支持 10 个线程同时执行任务。超过这个数量的任务只能阻塞等待,影响可用性。

  • 一般定时任务都是要永久执行,不可能就执行一次或几次就丢弃了。在这种方案下,一台机器只能执行那几个任务,因为那几个任务一直在占用线程池,其他任务无法执行。

2. 优化方案:任务列表+线程池

为了解决上面的问题,我们可以改进方案,使用 检查任务-派发任务 模式:

  • 创建一个任务列表,用来存放所有待执行的任务。

  • 使用一个独立的线程,不断扫描任务列表,找到即将到达触发时间的任务。

  • 将快到触发时间的任务提交给线程池,线程池里的线程只负责执行任务,而不需要一直轮询等待。

  • 任务执行完后,线程自动释放回到线程池,提高并发能力。

这种方式的优点:
  • 线程池里的线程专注执行任务,不需要每个线程都去检测触发时间,提高了 CPU 的利用率。

  • 可以同时执行多个任务,避免任务阻塞导致的执行延迟。

  • 任务调度逻辑集中管理,便于扩展和优化。

存在的问题:任务过期

但这种方式也有一个问题:当任务列表里有几百、几千个任务时,扫描任务的线程可能处理不过来,导致一些任务在被扫描到时已经过期了。

那你可能会说,可以增加时间啊,比如提前两秒就提交入线程池。但这样会导致触发时间精度下降,比如某个任务严格要求每3秒执行一次,提前两秒去执行显然是不行的。

3. 进一步优化:任务预读+时间轮

为了解决任务过期问题,我们接下来引入 任务预读时间轮 的概念。

这里就援引一张网络上的时间轮图片。

时间轮的核心思想

可以把时间轮想象成 时钟表

  • 时间轮 = 一个圆形数组(环形结构)
  • 每个刻度 = 一秒钟(时间槽位,slot)
  • 当前指针 = 记录当前时间进度
  • 任务 = 被分配到不同的槽位,等指针走到对应的槽位时执行

当时间轮的指针随着时间推进时,就会触发当前槽位内的任务执行。

同样的,我们开启一个独立的线程,不断扫描任务列表,通过任务的触发时间,计算每个任务在时间轮上的槽位。如下图,为 XXL-JOB 源码。

JobScheduleHelper.java  
Thread scheduleThread 部分源码

  1. 通过任务触发时间计算在 时间轮 上的槽位
  2. 把任务添加入 时间轮 相应的槽位(一个槽位上可以同时存在多个任务,用一个列表维护)
  3. 更新任务的下一次触发时间。

上述线程的把任务添加到时间轮的操作称之为:预读

同时,还有一个独立线程 ringThread,可以理解为时间轮上的 指针 。它通过 while 循环不断获取当前的秒数(java.util.Calendar)。

int nowSecond = Calendar.getInstance().get(Calendar.SECOND);

通过对当前秒数(nowSecond)对60秒取模,去时间轮里相应的槽位得到相应的任务列表,提交给线程池执行任务(JobTriggerPoolHelper)。

如上操作,检查任务的线程(scheduleThread) 无需等到任务即将到达触发时间时,再向线程池提交任务,只需要预读任务加入到时间轮即可。派发任务的工作由 指针(ringThread)完成即可。从而实现了防止了任务的过期,保证了精准触发。

4. XXL-JOB任务调度源码

JobScheduleHelper.java

 XXL-JOB 的时间轮没有使用环形结构,而是一个ConcurrentHashMap。后续是对60取模来实现类似的循环功能。

scheduleThread

由于调度中心将来可能会集群部署,所以这里使用 select...for update 的悲观锁,保证在同一时刻只能有一个调度中心在调度任务,防止任务重复调度。

XXL-JOB的MySQL表有个任务表,这里默认一次最多读前6000个任务到内存任务列表中(preReadCount = 6000,PRE_READ_MS = 5000,即5秒)。

所以这里读取的任务列表是未来5秒内将要触发的任务(最多前6000个,防止OOM或线程池来不及处理)

 遍历任务列表,对60取模,计算出槽位,将任务放入时间轮的对位槽位。

问:如果一个任务每300秒执行一次呢?是不是应该还有个记录圈数字段呢?

答:由于预读操作是未来5秒内将要触发的任务,所以不需要额外记录圈数,这个地方也是XXL-JOB和一般时间轮稍微不一样的点。

 

ringThread

这里的任务触发会把任务添加到线程池里,线程池并行地通过自研RPC的方式通知执行器执行。

(分布式环境下调度中心和执行器分别部署)

JobTriggerPoolHelper.java

这里有两个线程池,fastTriggerPoolslowTriggerPool。

线程池选择逻辑

  • 默认情况下,任务会分配给 fastTriggerPool,即高频率触发的线程池。
  • 如果某个任务在过去一分钟内超时超过 10 次(即 jobTimeoutCount 超过 10),那么该任务会被分配到 slowTriggerPool,即低频率触发的线程池。这是为了 限制高频超时任务对资源的占用,避免它们占用过多线程池资源,影响正常任务的调度。

源码见下图。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2286546.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

人工智能如何驱动SEO关键词优化策略的转型与效果提升

内容概要 随着数字化时代的到来,人工智能(AI)技术对各行各业的影响日益显著,在搜索引擎优化(SEO)领域尤为如此。AI的应用不仅改变了关键词研究的方法,而且提升了内容生成和搜索优化的效率&…

【NLP251】NLP RNN 系列网络

NLP251 系列主要记录从NLP基础网络结构到知识图谱的学习 1.原理及网络结构 1.1RNN 在Yoshua Bengio论文中( http://proceedings.mlr.press/v28/pascanu13.pdf )证明了梯度求导的一部分环节是一个指数模型…

【越学学糊涂的Linux系统】Linux指令篇(二)

一、pwd指令: 00x0:打印该用户当前目录下所属的文件路径 看指令框可以看出我用的是一个叫sw的用户,我们的路径就是在一个home目录下的sw目录下的class113文件路径。 也可以说是指出当前所处的工作目录 补充:🎆​​​​​​​Wi…

【AI论文】Omni-RGPT:通过标记令牌统一图像和视频的区域级理解

摘要:我们提出了Omni-RGPT,这是一个多模态大型语言模型,旨在促进图像和视频的区域级理解。为了在时空维度上实现一致的区域表示,我们引入了Token Mark,这是一组在视觉特征空间中突出目标区域的标记。这些标记通过使用区…

Java面试题2025-并发编程基础(多线程、锁、阻塞队列)

并发编程 一、线程的基础概念 一、基础概念 1.1 进程与线程A 什么是进程? 进程是指运行中的程序。 比如我们使用钉钉,浏览器,需要启动这个程序,操作系统会给这个程序分配一定的资源(占用内存资源)。 …

Three城市引擎地图插件Geo-3d

一、简介 基于Three开发,为Three 3D场景提供GIS能力和城市底座渲染能力。支持Web墨卡托、WGS84、GCJ02等坐标系,支持坐标转换,支持影像、地形、geojson建筑、道路,植被等渲染。支持自定义主题。 二、效果 三、代码 //插件初始化…

MySQL的复制

一、概述 1.复制解决的问题是让一台服务器的数据与其他服务器保持同步,即主库的数据可以同步到多台备库上,备库也可以配置成另外一台服务器的主库。这种操作一般不会增加主库的开销,主要是启用二进制日志带来的开销。 2.两种复制方式&#xf…

【后端开发】字节跳动青训营Cloudwego脚手架

Cloudwego脚手架使用 cwgo脚手架 cwgo脚手架 安装的命令: GOPROXYhttps://goproxy.cn/,direct go install github.com/cloudwego/cwgolatest依赖thriftgo的安装: go install github.com/cloudwego/thriftgolatest编辑echo.thrift文件用于生成项目&…

ArcGIS10.2 许可License点击始终启动无响应的解决办法及正常启动的前提

1、问题描述 在ArcGIS License Administrator中,手动点击“启动”无响应;且在计算机管理-服务中,无ArcGIS License 或者License的启动、停止、禁止等均为灰色,无法操作。 2、解决方法 ①通过cmd对service.txt进行手动服务的启动…

Cyber Security 101-Build Your Cyber Security Career-Security Principles(安全原则)

了解安全三元组以及常见的安全模型和原则。 任务1:介绍 安全已成为一个流行词;每家公司都想声称其产品或服务是安全的。但事实真的如此吗? 在我们开始讨论不同的安全原则之前,了解我们正在保护资产的对手至关重要。您是否试图阻止蹒跚学步…

NLP模型大对比:Transformer > RNN > n-gram

结论 Transformer 大于 RNN 大于 传统的n-gram n-gram VS Transformer 我们可以用一个 图书馆查询 的类比来解释它们的差异: 一、核心差异对比 维度n-gram 模型Transformer工作方式固定窗口的"近视观察员"全局关联的"侦探"依赖距离只能看前…

【Rust自学】14.5. cargo工作空间(Workspace)

喜欢的话别忘了点赞、收藏加关注哦,对接下来的教程有兴趣的可以关注专栏。谢谢喵!(・ω・) 14.4.1. 为什么需要cargo workspace 假如说我们构建了一个二进制crate,里面既有library又有库。随着项目规模不断增长&#…

[权限提升] Windows 提权 — 系统内核溢出漏洞提权

关注这个框架的其他相关笔记:[内网安全] 内网渗透 - 学习手册-CSDN博客 0x01:系统内核溢出漏洞提权介绍 注意:提权很容易让电脑蓝屏,所以如果是测试的话,提权前最好做好系统备份。 溢出漏洞就像是往杯子里装水 —— 如…

手机端语音转文字的实用选择

今天推荐两款配合使用的软件:MultiTTS 和 T2S,它们可以在安卓设备上实现文字转语音功能。 第一款:MultiTTS(安卓) MultiTTS 是一款离线文本转语音工具,完全免费,提供多种语音风格,…

四.3 Redis 五大数据类型/结构的详细说明/详细使用( hash 哈希表数据类型详解和使用)

四.3 Redis 五大数据类型/结构的详细说明/详细使用( hash 哈希表数据类型详解和使用) 文章目录 四.3 Redis 五大数据类型/结构的详细说明/详细使用( hash 哈希表数据类型详解和使用)2.hash 哈希表常用指令(详细讲解说明)2.1 hset …

无心剑七绝《经纬岁华》

七绝经纬岁华 经天伟业梦初耕 纬地深沉志纵横 岁去年来添锦绣 华章曼妙筑新城 2025年1月29日 平水韵八庚平韵 无心剑七绝《经纬岁华》以“经纬岁华”为藏头,歌颂了泸州职业技术学院(川南经纬学堂)百余年的光辉历程。诗中“经天伟业梦初耕&…

大数据治理实战:架构、方法与最佳实践

📝个人主页🌹:一ge科研小菜鸡-CSDN博客 🌹🌹期待您的关注 🌹🌹 1. 引言 大数据治理是确保数据质量、合规性和安全性的重要手段,尤其在数据驱动决策和人工智能应用日益普及的背景下&…

区块链在能源行业的创新

技术创新 1. 智能合约与自动化交易 智能合约是区块链技术的核心组件之一,它允许在没有中介的情况下自动执行合同条款。在能源行业,这可以用于自动化电力交易、支付流程以及管理复杂的供应链。例如,当太阳能板产生的电量达到预设值时&#x…

C基础寒假练习(1)

一、求二维数组只中元并输出行标和列标(以二行三列为例)元素的最大值&#xff0c; #include <stdio.h>int main() {// 初始化二维数组int array[2][3] {{1, 2, 3},{4, 5, 6}};// 定义变量来存储最大值及其位置int max_value array[0][0];int max_row 0;int max_col 0…

SQLServer 不允许保存更改(主键)

在我们进行数据库表格编辑的时候,往往会出现同一个名字,就比如我们的账号一样,我们在注册自己QQ的时候,我们通常注册过的账号,别人就不能注册了,这是为了保证严密性 所以我们需要点击表格>右键>设计 点击某一列>右键>设计主键 当我们Ctrls 保存的时候回弹出下…