【青训营】分布式定时任务简述

news2024/9/21 22:44:09

这是我参与「第五届青训营 」伴学笔记创作活动的第 13 天

分布式定时任务简述

定义

定时任务是指系统为了自动完成特定任务,实时、延时、周期性完成任务调度的过程。分布式定时任务是把分散的、可靠性差的定时任务纳入统一平台,并且实现集群管理调度和分布式部署的一种定时任务管理方式

按照触发时机分类,有:

  • 定时任务:特定时间触发,比如今天15:06执行
  • 延时任务:延时触发,比如10s后执行
  • 周期任务:固定周期时间,或者固定频率周期调度触发,比如每天12点或者每隔5s执行

按照执行方式分类

  • 单机任务:随机触发一台机器执行任务,适合计算量小、并发度低的任务
  • 广播任务:将一个命令广播到所有机器上执行,比如一起清理日志
  • Map任务:一个任务可以拆分为多个子任务,每一个子任务负责一部分计算。适用于计算量大,单机无法满足的任务
  • MapReduce任务:在Map任务的基础上,还可以对所有的子任务的结果做汇总计算,适用于计算量大,并且需要对子任务结果做汇总的任务

分布式定时任务vs单机定时任务

关系:都可以实现自动化的实时、延时、周期性完成任务调度的过程

差异:

  • 分布式可以支撑更大的业务体量
  • 分布式定时任务的性能、稳定性更高

分布式定时任务vs大数据处理引擎

关系:

  • 都可以对海量数据做处理
  • 性能、稳定性都很高

差异

  • 定时不是大数据处理引擎要解决的核心问题

核心架构

分布式定时任务核心要解决触发、调度、执行三个问题

  • 触发器:Trigger,解析任务,生成触发事件
  • 调度器:Scheduler,分配任务,管理任务生命周期
  • 执行器:Executor,获取执行任务单元,执行任务逻辑

除此之外,还有一个控制台Admin,提供任务管理和干预功能

数据流:

image.png

image.png

第一层:控制台

分布式定时任务的实体约束关系图

image.png

  • 任务:Job,任务元数据
  • 任务实例:JobInstance,任务实例,一个Job执行一次产生一个实例
  • 任务结果:JobResult,任务运行出来的结果
  • 任务历史:JobHistory,用户可以修改任务信息

任务元数据是用户对任务属性的定义,包括任务类型、调度时机、执行行为等,其状态转换如下

image.png
任务实例是一个确定的Job的依次运行的实例,第一个属性是Job_id,表示这是哪个任务的实例,第二个是触发时间,第三个是运行的状态和结果,第四个是运行的过程信息

第二层:触发器

触发器的核心职责是给定一系列任务,解析它们的触发规则,在规定的时间点触发任务的调度

设计触发器的时候:

  • 需要支持大量任务,因为定时任务往往伴随着高并发
  • 需要支持秒级的调度,因为定时任务对时间敏感
  • 周期任务需要多次执行
  • 需要保证秒级扫描的高性能,并且避免资源浪费

方案1:定时扫描+延时消息

image.png

扫描器从数据库中扫描出最近需要执行的定时任务(比如十分钟内 ),然后将信息传递到processor,但是此时某些任务并不一定要立即执行,因此可以将任务发送到延时消息队列MQ中,并且实时向DB更新状态。如果时间到则调度器开始调度并执行,腾讯和字节使用该方案

方案2:时间轮
时间轮是一种高效利用线程资源进行批量化调度的模型,时间轮是一个存储环形队列,底层采用数组实现,数组中每个元素可以存放一个定时任务列表,这种方式是Quartz所采用的方式

image.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/341875.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

OpenCV-PyQT项目实战(6)项目案例02滚动条应用

欢迎关注『OpenCV-PyQT项目实战 Youcans』系列,持续更新中 OpenCV-PyQT项目实战(1)安装与环境配置 OpenCV-PyQT项目实战(2)QtDesigner 和 PyUIC 快速入门 OpenCV-PyQT项目实战(3)信号与槽机制 …

JumpServer开源堡垒机v3.0版本设计重点解读

编者注:在1月17日的JumpServer开源堡垒机v3.0预发布恳谈会直播中,JumpServer创始人广宏伟与大家分享了JumpServer v3.0版本的设计思路与功能亮点。在v3.0版本正式发布之前,JumpServer开源项目组基于此次直播内容为大家整理总结了JumpServer v…

C++11可变模板参数

C11可变模板参数一、简介二、语法三、可变模版参数函数3.1、递归函数方式展开参数包3.2、逗号表达式展开参数包一、简介 C11的新特性–可变模版参数(variadic templates)是C11新增的最强大的特性之一,它对参数进行了高度泛化,它能…

STM32单片机红外遥控

红外遥控接口电路STM32单片机红外遥控程序源代码#include "sys.h"#define LED_RED PBout(12) //红色发光二极管控制管脚初始化PB12#define LED_GREEN PBout(13) //绿色发光二极管控制管脚初始化PB13#define LED_YELLOW PBout(14) //黄色发光二极管控制管脚初始化PB14…

反射,枚举,lambda表达式

目录 1、反射 1.1 基本概念 1.2 反射相关的类 1.3 创建 Class 对象 1.4 反射的使用 1.4.1 通过反射创建对象: 1.4.2 获取私有的构造方法 1.4.3 获取私有的成员变量 1.4.4 获取私有的方法 1.5 总结 2、枚举 2.1 认识枚举 2.2 使用枚举 2.3 枚举与反射…

第4章 流程控制-if-else,Switch,For循环(循环守卫,循环步长,倒叙打印),While循环,多重循环...

第 4 章 流程控制-if-else,Switch,For循环(循环守卫,循环步长,倒叙打印),While循环,多重循环 4.1 分支控制 if-else 让程序有选择的的执行,分支控制有三种:单分支、双分支、多分支 4.1.1 单分支 1)基本语法…

Leetcode-每日一题1234. 替换子串得到平衡字符串(滑动窗口 + 哈希表)

题目链接:https://leetcode.cn/problems/replace-the-substring-for-balanced-string/description/ 思路 题目意思 这题意思是一个只含有[Q, W, E, R] 四个字符的字符串s且长度一定是 4的倍数, 需要你通过替换子串,使他变成一个「平衡字符…

【C++设计模式】学习笔记(6):Bridge 桥模式

目录 简介动机(Motivation)模式定义结构(Structure)要点总结笔记结语简介 Hello! 非常感谢您阅读海轰的文章,倘若文中有错误的地方,欢迎您指出~ ଘ(੭ˊᵕˋ)੭ 昵称:海轰 标签:程序猿|C++选手|学生 简介:因C语言结识编程,随后转入计算机专业,获得过国家奖学金…

【C++设计模式】学习笔记(2):模式分类与模版方法 Template Method

目录 简介模式分类GOF-23 模式分类从封装变化角度对模式分类重构获得模式 Refactoring to Patterns重构关键技法“组件协作”模式Template Method 模式动机(Motivation)结构化软件设计流程面向对象软件设计流程早绑定与晚绑定模式的定义结构(Structure)要点总结结语简介 He…

Unity(一)--通过简单例子了解属性、脚本等基础操作

目录新建工程保存视图创建游戏对象调整场景视图角度添加物理运动组件更换材质更改颜色添加脚本点击向上跳跃变色旋转UGUI的使用修改文字内容新建工程 ps:最好不使用中文文件路径及名称,可能会报错。 保存视图 进工程后,此时只有空文件夹,可…

《痞子衡嵌入式半月刊》 第 71 期

痞子衡嵌入式半月刊: 第 71 期 这里分享嵌入式领域有用有趣的项目/工具以及一些热点新闻,农历年分二十四节气,希望在每个交节之日准时发布一期。 本期刊是开源项目(GitHub: JayHeng/pzh-mcu-bi-weekly),欢迎提交 issue&#xff0c…

新手做跨境电商,选对平台很重要

据数据统计,我国跨境电商早在2013年,发展态势就十分迅猛,交易规模达到2.7万亿元;而到2015年,仅仅两年时间,交易规模就突破到5万亿元;再过两年,2017年跨境电商交易规模增长到7.6万亿元…

okcc呼叫中心怎样搭建?

随着企业对服务逐渐重视,开始意识到呼叫中心作为客户服务水平和沟通效率的基本平台,并且有越来越多的企业开始利用呼叫中心外呼方式销售自己的产品。在此背景下,很多企业,无论规模大小,都有建立自己呼叫中心的想法。 …

docker的资源控制管理——Cgroups

引言:docker 使用cgrqup控制资源,K8S 里面也有limit(使用上限)docker通过cgroup来控制容器使用的资源配额,包括CPU、内存、磁盘三大方面,基本覆盖了常见的资源配额和使用量控制。Cgroup 是 Control group 的…

Jboss EAP 7.4.8配置jacoco 端口无法开启 启动报错

项目场景: servers: Jboss EAP 7.4.8 JDK: JDK17 jacoco: 测试jacoco-0.7.9 jacoco-0.8.5 jacoco-0.8.8 问题描述 问题1: Jboss 启动 VM arguments追加, 如下启动参数: -javaagent:F:\CoverageReport\jacoco-0.7.9\lib\jacocoagent.jarincludes*,o…

别具一格,原创唯美浪漫情人节表白专辑,(复制就可用)(html5,css3,svg)表白爱心代码(1)

别具一格,原创唯美浪漫情人节表白专辑, (复制就可用)(html5,css3,svg)表白爱心代码(1) 一、 前言 回眸之间,丰盈了岁月,涟漪了思绪,轻轻落笔,不写伤痕,不写仇怨,只写岁月…

反光板导航SLAM(三)反光柱导航开发与实验

在上一章中简单了解了VEnus算法对于反光柱导航的基本思路。其主要分为了高反点提取、高反点聚类查找中心、高反点与已知反光柱位姿匹配以及调用ceres库进行位姿优化等步骤。然后在这个算法的基础上,再进行一定的开发达到一个比较稳定且可视化的版本。 使用&#xff…

json对象和formData相互转换

前言 大家都知道,前端在和后台进行交互联调时,肯定避免不了要传递参数,一般情况下,params 在 get 请求中使用,而 post 请求下,我们有两种常见的传参方式: JSON 对象格式和 formData 格式&#x…

《MySQL学习》 索引 下 覆盖索引,MRR,联合索引

一. 覆盖索引 有一张表T1,它的建表语句如下 mysql> create table T1 ( ID int primary key, k int NOT NULL DEFAULT 0, s varchar(16) NOT NULL DEFAULT , index k(k)) engineInnoDB;insert into T1 values(100,1, aa),(200,2,bb),(300,3,cc),(500,5,ee),(60…

为什么子进程要继承处理器亲缘性?

请先考虑一个典型的程序为什么需要启动一个子进程。(当然资源管理器不算一个典型的程序) 这是因为手头的任务被分解为子任务,无论出于何种原因,这些子任务都被放入子流程中。例如,在实现多次遍历型编译器/链接器时,其中每次遍历都…