XXL-JOB核心源码解读及时间轮原理剖析

news2024/12/24 3:28:40

你好,今天我想和你分享一下XXL-JOB的核心实现。如果你是XXL-JOB的用户,那么你肯定思考过它的实现原理;如果你还未接触过这个产品,那么可以通过本文了解一下。

XXL-JOB的架构图(2.0版本)如下:

它是如何工作的呢?从使用方的角度来看,首先执行器要向服务端注册。那么这里你可能就有疑问了,执行器向服务端注册?怎么注册的?多久注册一次?采用什么通信协议?

注册完了之后,服务端才能知道有哪些执行器,并触发任务调度。那么服务端是如何记录每个任务的触发时机,并完成精准调度的呢?XXL-JOB采用的是Quartz调度框架,本文我打算用时间轮方案来替换。

最后,执行器接收到调度请求,是怎么执行任务的呢?

带着这些问题,我们开启XXL-JOB的探索之旅。我先来说说XXL-JOB项目模块,项目模块很简单,有2个:

  • xxl-job-core:这个模块是给执行器依赖的;

  • xxl-job-admin:对应架构图中的调度中心;

本文内容较干,请搭配源码食用。源码版本是:2.0.2

1、Job服务自动注册

第一个核心技术点,服务注册。

服务注册要从xxl-job-core模块的XxlJobSpringExecutor类说起,这是一个 Spring 的 Bean,它是这么定义的:

 @Bean(initMethod = "start", destroyMethod = "destroy")
 public XxlJobSpringExecutor xxlJobExecutor() {
     XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor();
     xxlJobSpringExecutor.setAdminAddresses(adminAddresses);
     // 其他的一些注册信息
     return xxlJobSpringExecutor;
 }

进行代码追踪,最终会是下面的调用链路:

 xxl-job-core模块
 spring bean: XxlJobSpringExecutor # start()
 -> XxlJobExecutor # start() -> initRpcProvider()
 ​
 xxl-rpc-core.jar
 -> XxlRpcProviderFactory # start() 
 -> ServiceRegistry # start()
 -> ExecutorServiceRegistry # start()
 -> ExecutorRegistryThread # start()

ExecutorRegistryThread就是服务注册的核心实现了,start()方法核心代码如下:

 public void start(String appName, String address) {
     registryThread = new Thread(new Runnable() {
         @Override
         public void run() {
             // registry
             while (!toStop) {
                 // do registry
                 adminBiz.registry(registryParam);
                 TimeUnit.SECONDS.sleep(JobConstants.HEARTBEAT_INTERVAL);// 30s
             }
             // registry remove
             adminBiz.registryRemove(registryParam);
         }
     });
     registryThread.setDaemon(true);
     registryThread.start();
 }

可以看到执行器每 30s 执行注册一次,我们继续往下看。

2、自动注册通信技术实现

通过上面ExecutorRegistryThread # start()方法核心代码,可以看到,注册是通过adminBiz.registry(registryParam)代码实现的,调用链路总结如下:

 xxl-job-core模块
 ​
 AdminBiz # registry()
 -> AdminBizClient # registry()
 -> XxlJobRemotingUtil # postBody()
 -> POST api/registry (jdk HttpURLConnection)

最终还是通过 HTTP 协议的 POST 请求,注册数据格式如下:

 {
   "registryGroup": "EXECUTOR",
   "registryKey": "example-job-executor",
   "registryValue": "10.0.0.10:9999"
 }

看到这里,我们回到文章开头问题部分。

执行器向服务端注册?怎么注册的?多久注册一次?采用什么通信协议?

答案已经很明显了。

3、任务调度实现

我们接着来看第二个核心技术点,任务调度。

XXL-JOB采用的是Quartz调度框架,这里我打算向你介绍一下时间轮的实现方案,核心源码如下:

 @Component
 public class JobScheduleHandler {
 ​
     private Thread scheduler;
     private Thread ringConsumer;
     private final Map<Integer, List<Integer>> ring;
     
     @PostConstruct
     public void start() {
         scheduler = new Thread(new JobScheduler(), "job-scheduler");
         scheduler.setDaemon(true);
         scheduler.start();
 ​
         ringConsumer = new Thread(new RingConsumer(), "job-ring-handler");
         ringConsumer.setDaemon(true);
         ringConsumer.start();
     }
     
     class JobScheduler implements Runnable {
         @Override
         public void run() {
             sleep(5000 - System.currentTimeMillis() % 1000);
             while (!schedulerStop) {
                 try {
                     lock.lock();
                     // pre read to ring
                 } catch (Exception e) {
                     log.error("JobScheduler error", e);
                 } finally {
                     lock.unlock();
                 }
                 sleep(1000);
             }
         }
     }
     
     class RingConsumer implements Runnable {
         @Override
         public void run() {
             sleep(1000 - System.currentTimeMillis() % 1000);
             while (!ringConsumerStop) {
                 try {
                     int nowSecond = Calendar.getInstance().get(Calendar.SECOND);
                     List<Integer> jobIds = ring.remove(nowSecond % 60);
                     // 触发任务调度
                 } catch (Exception e) {
                     log.error("ring consumer error", e);
                 }
                 sleep(1000 - System.currentTimeMillis() % 1000);
             }
         }
     }
 }

上述通过两个线程池来实现,job-scheduler为预读线程,job-ring-handler为时间轮线程。那么时间轮是怎么实现任务的精准调度的呢?

时间轮的实现原理

我们常见的时钟根据秒针转动的类型,可以分为嘀嗒式秒针和流动式秒针。

我以嘀嗒式秒针时钟为例,可以把时钟环看作一个数组,秒针 1~60 秒停留的位置作为数组下标,60s 为数组下标 0。假设现在有 3 个待执行的任务,分别如下:

 jobid: 101  0秒时刻开始执行,2s/次
 jobid: 102  0秒时刻开始执行,3s/次
 jobid: 103  3秒时刻开始执行,4s/次

对应 0 秒时刻的数组模型如下图所示:

这里我把 0 时刻拆成了三个阶段,分别是:

  • 执行前:读取该时刻有哪些任务待执行,拿到任务 id;

  • 执行中:通过任务 id 查询任务的运行策略,执行任务;

  • 执行后:更新任务的下次执行时间;

然后时间指针往前推动一个时刻,到了 1 秒时刻。此时刻时间轮中的任务并未发生变化。

到了第 2 秒时刻,预读线程将 jobid 103 加入时间轮,并执行该数组下标下的任务:

这样到了第 3 秒时刻,任务的数组下标又会被更新。

那么这种以秒为刻度的时间轮有没有误差呢?

任务调度的精准度是取决于时间轮的刻度的。举个例子,我们把 0 秒时刻的这 1s 拆成 1000ms。

假设任务都是在第 500ms 完成该时刻秒内所有任务的调度的,501ms 有一个新的任务被预读线程加载进来了,那么轮到下次调度,就要等到第 1 秒时刻的第 500ms,误差相差了一个刻度即 1s。如果以 0.5 秒为一个刻度,那么误差就变小了,是 500ms。

所以说,刻度越小,误差越小。不过这也要根据业务的实际情况来决定,毕竟要想减少误差,就要耗费更多的 CPU 资源。

了解完任务调度的实现原理,那调度器与执行器间的服务通信是如何实现的呢?

4、任务调度通信技术实现

xxl-job-admin模块,梳理调用链路如下:

 xxl-job-admin模块
 ​
 JobTriggerPoolHelper # trigger()
 -> ThreadPoolExecutor # execute() (分快慢线程池)
 -> XxlJobTrigger # trigger() -> processTrigger() -> runExecutor()
 -> XxlJobDynamicScheduler # getExecutorBiz()    
 -> ExecutorBiz # run() (动态代理实现, 这里调用的 run 会作为参数) [1]
 -> XxlRpcReferenceBean. new InvocationHandler() # invoke()
 ​
 xxl-rpc-core.jar
 -> NettyHttpClient # asyncSend()
 (POST...请求参数 XxlRpcRequest 设置 methodName 为[1]处的调用方法即 "run")

最终是通过 HTTP 协议进行通信的,核心通信代码如下:

 public void send(XxlRpcRequest xxlRpcRequest) throws Exception {
     byte[] requestBytes = serializer.serialize(xxlRpcRequest);
     DefaultFullHttpRequest request = new DefaultFullHttpRequest(HttpVersion.HTTP_1_1, HttpMethod.POST, new URI(address).getRawPath(), Unpooled.wrappedBuffer(requestBytes));
     request.headers().set(HttpHeaderNames.HOST, host);
     request.headers().set(HttpHeaderNames.CONNECTION, HttpHeaderValues.KEEP_ALIVE);
     request.headers().set(HttpHeaderNames.CONTENT_LENGTH, request.content().readableBytes());
     this.channel.writeAndFlush(request).sync();
 }

调度器将执行请求发送到执行器后,接着就是执行器的工作了。

5、执行器接收任务接口实现

执行器的工作,梳理调用链路如下:

 xxl-job-core模块
 spring bean: XxlJobSpringExecutor # start()
 -> XxlJobExecutor # start() -> initRpcProvider()
 ​
 xxl-rpc-core.jar
 -> XxlRpcProviderFactory # start() 
 -> Server # start()
 -> NettyHttpServer # start()
 ​
 netty 接口实现
 NettyHttpServerHandler # channelRead0() -> process() (线程池执行)
 -> XxlRpcProviderFactory # invokeService()
 (根据请求参数 XxlRpcRequest 里的 methodName 反射调用)
 -> ExecutorBizImpl # run()

我们也可以通过 HTTP 请求查看接口实现:

 GET http://localhost:17711/services

结果如下:

 <ui>
     <li>com.xxl.job.core.biz.ExecutorBiz: com.xxl.job.core.biz.impl.ExecutorBizImpl@d579177</li>
 </ui>

执行器接收任务,总结来说用的是下面的接口:

 POST http://localhost:17711

要注意的是,这里如果通过 Postman 来调用是调不通的,因为序列化方式和 HTTP 协议是不一样的。

接下来就是执行器接收到任务逻辑,代码链路如下:

 xxl-job-core模块
 spring bean: XxlJobSpringExecutor # start()
 -> XxlJobExecutor # start() -> initRpcProvider()
 -> new ExecutorBizImpl()
 -> JobThread # pushTriggerQueue()
 ​
 spring bean: XxlJobExecutor # registJobThread() 启动 jobThead
 -> JobThread # run()

到这里,我们就把核心流程梳理了一遍。

小结

通过上文的梳理,如果想要从 0 搭建一个分布式任务调度系统,想必你已胸有成竹了。本文所描述的时间轮方案,也是敝司基于XXL-JOB的重构方案,后来也应用在了消息中间件的延迟消息实现中。

欢迎交流,公众号【杨同学technotes】

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/64368.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

易基因|ChIP-seq等实验揭示CHD6转录激活前列腺癌通路的关键功能 | 肿瘤耐药研究

易基因&#xff5c;ChIP-seq等实验揭示CHD6转录激活前列腺癌通路的关键功能 | 肿瘤耐药研究 大家好&#xff0c;这里是专注表观组学十余年&#xff0c;领跑多组学科研服务的易基因。 2022年11月21日&#xff0c;北京大学基础医学院赵东宇研究员、美国休斯敦卫理公会研究所Min…

详解 Redis 中 big keys 发现和解决

在使用 Redis 时&#xff0c;可能会出现请求响应慢、网络卡顿、数据丢失的情况。排查问题的时候&#xff0c;发现是 big keys 的问题。 什么是 big keys 在 Redis 中&#xff0c;一个字符串类型最大可以达到 512MB,其他非字符串类型的集合类型&#xff08;list、set、hash、z…

网络常见面试题

1.简述OSI七层模型主要功能 OSI---开放&#xff08;协议公有&#xff09;系统互联参考模型 解决数据传输不兼容性 IS0---国际标准化组织---定义->OSI 7层&#xff08;基本功&#xff09;&#xff1a; 应用层&#xff1a;人机交互的接口&#xff0c;接收应用程序的数据…

【AI】Python 实现粒子群算法

粒子群算法 1. 题目介绍 粒子群算法&#xff0c;其全称为粒子群优化算法 (Particle Swarm Optimization, PSO) 。它是通过模拟鸟群觅食行为而发展起来的一种基于群体协作的搜索算法。粒子群算法属于启发式算法也叫智能优化算法&#xff0c;其基本思想在于通过群体中个体之间的…

零入门容器云网络-6:基于veth pair、namespace以及路由技术,实现跨主机命名空间之间的通信测试案例

已发表的技术专栏&#xff08;订阅即可观看所有专栏&#xff09; 0  grpc-go、protobuf、multus-cni 技术专栏 总入口 1  grpc-go 源码剖析与实战  文章目录 2  Protobuf介绍与实战 图文专栏  文章目录 3  multus-cni   文章目录(k8s多网络实现方案) 4  gr…

ROS系列:第六章 机器人建模

文章目录六、机器人系统仿真1.概述仿真优势:仿真缺陷:2. URDF集成Rviz基本流程1.创建功能包&#xff0c;导入依赖2.编写 URDF 文件3.在 launch 文件中集成 URDF 与 Rviz4.在 Rviz 中显示机器人模型5.优化 rviz 启动3. URDF语法详解3.1 URDF语法详解01_robotrobot1.属性2.子标签…

Promethus实操部署ARM架构 麒麟系统

由于有个地市局的等保测评要求安装监控软件&#xff0c;实操安装普罗米修斯和Zabbix&#xff0c;原本想安装Zabbix在本地安装非常顺利&#xff0c;但是服务器是华为鹏鲲的、ARM架构&#xff0c;Zabbix的有些东西找不到ARM的&#xff0c;所以两个都尝试了下。本篇讲解下Promethu…

协同过滤推荐算法

协同过滤&#xff1a;利用集体智慧&#xff0c;借鉴相关人群的观点进行推荐。 过去兴趣相似的用户在未来的兴趣也会相似&#xff1b;相似的用户会产生相似的历史行为数据。 根据历史行为&#xff0c;产生相似用户&#xff0c;分析出推荐结果。 用一句大白话说&#xff0c;其实也…

Android请求应用权限

文章目录前言参考一、请求应用权限基本原则二、请求权限的流程&#xff08;官网摘抄&#xff09;三、请求权限编码1.允许系统管理权限请求代码2.自行管理权限请求代码总结前言 学习Android为什么需要动态申请危险权限 学会Android应用危险权限申请的方式 参考 Android官方文档…

8 种 Python 定时任务的解决方案

在日常工作中&#xff0c;我们常常会用到需要周期性执行的任务&#xff0c;一种方式是采用 Linux 系统自带的 crond 结合命令行实现&#xff0c;另外一种方式是直接使用Python。 最近我整理了一下 Python 定时任务的实现方式&#xff0c;内容较长&#xff0c;建议收藏后学习&a…

uni-app云开发(我直接访问后端)

uniCloud 是 DCloud 联合阿里云、腾讯云&#xff0c;为开发者提供的基于 serverless 模式和 js 编程的云开发平台。 熟悉的js的程序员&#xff0c;轻松搞定前后台整体业务。实现了前端完成前后端工作的可能 用法&#xff1a; 第一步新建uniCloud项目 点击文件 ——>新建—…

Hue编译安装使用

简介 由于大数据框架很多&#xff0c;为了解决某个问题&#xff0c;一般来说会用到多个框架&#xff0c;但是每个框架又都有自己的web UI监控界面&#xff0c;对应着不同的端口号。比如HDFS(9870)、YARN(8088)、MapReduce(19888)等。这个时候有一个统一的web UI界面去管理各个大…

高斯混合模型下的变分推断

大概从下面几个部分学习&#xff1a; 1.EM算法 人人都懂EM算法 - 知乎 (zhihu.com) 18分钟理解EM算法 - 知乎 (zhihu.com) 变分贝叶斯深度学习综述 - 知乎 (zhihu.com) 【未看完】 EM算法存在的意义是什么&#xff1f; - 知乎 (zhihu.com)【八种境界】 EM 算法具备收敛性…

java计算机毕业设计ssm体育赛事管理系统App2qrcr(附源码、数据库)

java计算机毕业设计ssm体育赛事管理系统App2qrcr&#xff08;附源码、数据库&#xff09; 项目运行 环境配置&#xff1a; Jdk1.8 Tomcat8.5 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#x…

[附源码]Python计算机毕业设计Django酒店物联网平台系统

项目运行 环境配置&#xff1a; Pychram社区版 python3.7.7 Mysql5.7 HBuilderXlist pipNavicat11Djangonodejs。 项目技术&#xff1a; django python Vue 等等组成&#xff0c;B/S模式 pychram管理等等。 环境需要 1.运行环境&#xff1a;最好是python3.7.7&#xff0c;我…

小目标检测文章阅读

无人机上目标检测的特点&#xff1a; 1、图像特点 在多数情况下&#xff0c;无人机的拍摄视野很大&#xff0c;包含丰富的视觉内容&#xff0c;虽然它提供了更全面的场景信息。 缺点&#xff1a; 1&#xff09;但是待检测的目标对象通常在图像中占比较小&#xff0c;且没有足…

法国巴黎索邦大学博士后—实验物理学

【国外博士后招聘-法国博士后】法国巴黎索邦大学博士后—实验物理学 索邦大学&#xff08;法文&#xff1a;Sorbonne Universit&#xff1b;英文&#xff1a;Sorbonne University&#xff09;简称“索邦”&#xff08;Sorbonne&#xff09;&#xff0c;是一所位于法国巴黎拉丁区…

多线程环境下的单例模式

✨✨hello&#xff0c;愿意点进来的小伙伴们&#xff0c;你们好呐&#xff01; &#x1f43b;&#x1f43b;系列专栏&#xff1a;【JavaEE初阶】 &#x1f432;&#x1f432;本篇内容&#xff1a;基于多线程的单例模式 &#x1f42f;&#x1f42f;作者简介:一名现大二的三非编程…

Linux虚拟化网络之路由配置

一、Linux路由配置 如果要在不同网段直接通讯&#xff0c;需要添加路由&#xff0c;Linux添加路由命令如下&#xff1a; route [add|del] [-net|-host] target [netmask Nm] [gw Gw] [[dev] If] add : 添加一条路由规则&#xff1b;del : 删除一条路由规则&#xff1b;-net …

Win11如何开启移动中心页面的操作方法教学

Win11如何开启移动中心页面的操作方法教学分享。有用户不知道怎么去打开移动中心&#xff0c;开启这个页面我们可以去进行屏幕亮度调整、声音调整、笔记本电池状态、外接显示器/投影仪、以及幻灯片显示模式等功能集中到一个面板上进行管理设置。如何开启这个页面&#xff0c;来…