CyberScheduler调度引擎

news2024/11/15 17:25:43

CyberScheduler 架构设计

1. 多租户架构,支持 SaaS 化部署和私有化部署

2. 多源异构数据(多种集群、数据库)、多计算引擎、多类型任务的统一编排调度

3. 灵活资源管理能力,支持不同类型任务的资源管理和资源隔离,优于开源产品

4. 高可用、高扩展性、性能领先,具有大规模企业级服务能力

5. 架构具有可演进性,针对任务规模输出最优部署架构

6. 支持跨网域、多数据中心调度,支持多云、混合云调度

  • 调度集群由任务转实例、实例派发、基线监控、超时监控、资源管理、资源监控、工作流调度、实例回调、基线警告、实例归档(在大规模的任务实例在长期使用中通过归档可以减少数据查询的影响)、资源调度、故障转移;

  • 任务执行、任务提交(非本地执行,通过提交引擎执行)、数据质量运行、数据指标运行、临时查询运行(针对 sql 的运行)组成执行集群。

  • 支持引擎多样

优势:

高可用容灾

多节点分布式,一个资源组可以有多个 worker,设置多个资源组在不同类型的任务进行中可以进行隔离,开发提交任务不会影响生产。

高性能调度

支持分钟级周期、千万级规模调度。支持某大型国央企、某连锁新零售客户、某大型出海电商等客户线上稳定调度。

可视化开发运维

多环境隔离

支持各种场景的灵活隔离部署

可演进部署架构

特性:

  • 任务调度:做到分布式、高可用、多集群模式,达到千万级,支持水平扩展;

  • 资源管控:资源组监控和告警、节点监控和告警;

  • 资源调度:能够基于资源组进行资源调度,支持公共资源组和自定义资源组基于资源组调度,支持自定义资源组;

  • 资源调度:支持租户隔离、资源组隔离、项目的简单模式、标准模式、自定义模式;DEV、SIT、 UAT、PRD 环境隔离;

  • 多集群:灵活支持多种集群如 AWS EMR、AWS EMR Serverless、 Hadoop、K8s;

  • 异构数据源:灵活支持多种数据源:关系型数据库 12 种、大数据存储 15 种、半结构存储 6 种、NOSQL2 种(mongo、es)、消息队列 1 种(kafka);

  • 可视化工作流:DAG 画布创作,支持(血缘解析)输入输出添加依赖、支持跨工作流添加依赖;支持跨周期依赖;

  • 任务发布审批:支持审批流且支持自定义,并支持审批的开启和禁用;

  • 任务发布:停止、 重跑、冻结/解冻,置成功、测试、补数据(指定任务及其下游);运维大屏、基线监控、规则监控;

  • 任务告警:全方位任务实例信息监视、基线监控、多种对象监控、多种告警方式。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1688704.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

docker 挂载运行镜像

文章目录 前言docker 挂载运行镜像1. 作用2. 命令3. 测试 前言 如果您觉得有用的话,记得给博主点个赞,评论,收藏一键三连啊,写作不易啊^ _ ^。   而且听说点赞的人每天的运气都不会太差,实在白嫖的话,那欢…

1077: 平衡二叉树的判定

解法: 平衡二叉树是一种特殊的二叉树,它满足以下两个条件: 左子树和右子树的高度差不超过1(即,左右子树高度差的绝对值不超过1)。左子树和右子树都是平衡二叉树。 后序遍历过程中每次判断左右子树高度差…

收入极高的副业兼职,单价179元的养生爆款卖出3000份

做养生赛道切忌不要只靠接广告变现,换个思路以产品为核心,走低粉高变现才是变现效率最高的。 周周近财:让网络小白少花冤枉钱,赚取第一桶金 今天,我们要分析的这位养生博主,仅凭一款售价为179元的温通膏&a…

STM32 MAP文件结合固件文件分析

文章目录 加载域的结束地址并不是固件的结束地址?ROM中执行域的描述RAM中执行域的描述问题分析 中断向量表在固件中的存储位置代码段在固件中的位置只读数据Regin$$Table RW Data段其中的内部机理 总结 MAP 文件分析可以参考之前的文章 程序代码在未运行时在存储器…

漫谈企业信息化安全 - 勒索软件攻击

一、引言 首先,网络攻击是一个非常广泛的话题,网络攻击从一般分类上包含了恶意软件攻击、钓鱼攻击、拒绝服务攻击(DoS/DDoS)、中间人攻击、SQL注入、跨站脚本、0-Day攻击、供应链攻击、密码攻击等等,勒索软件攻击只是…

EfficientSAM分割对象后求其中图像中的高

1 分割对象 EfficientSAM https://github.com/yformer/EfficientSAM 2 计算在图像中最高点即y值最小点 import os import cv2def read_images(folder_path):image_files [f for f in os.listdir(folder_path) iff.endswith(".jpg") or f.endswith(".png&quo…

OSPF状态机及网络接口类型

、OSPF 状态机 Down一旦接收到hello 包进人下一个状态机 Init 初始化接收到的hello 包中,若存在本地的 RID,进入下一状态 2way 双向通讯--邻居关系建立的标志 条件匹配:点到点网络直接进入下一个状态机 MA 网络将进行 DR/BDR 选举(40S) 非 DR…

安卓数据存储(键值对、数据库、存储卡、应用组件Application、共享数据)

键值对 此小节介绍Android的键值对存储方式的使用方法,其中包括:如何将数据保存到共享参数,如何从共享参数读取数据,如何使用共享参数实现登陆页面的记住密码功能,如何使用Jetpack集成的数据仓库。 共享参数的用法 …

Linux笔记之命令行JSON处理器jq

Linux笔记之命令行JSON处理器jq code review! 文章目录 Linux笔记之命令行JSON处理器jq1.安装2.jq 基本用法3.例程3.1. 示例JSON文件3.2. 读取特定字段3.3. 管道过滤器(Pipe Filters)3.4. 映射过滤器(Map Filters)3.5. 条件过滤…

python使用jsonpath来查找key并赋值

目录 一、引言 二、JsonPath简介 三、Python中的JsonPath库 四、使用JsonPath查找JSON Key 五、使用JsonPath赋值JSON Key 六、高级用法 七、结论 一、引言 在数据驱动的现代应用中,JSON(JavaScript Object Notation)已成为一种广泛使…

使用echarts配置中国地图

使用echarts配置中国地图 首先要下载地图的geoJSON数据,有两个方式下载,一种是去echarts的github资源文件里面,一种是去阿里云的datav网站。 1.1 echarts文档下载中国地图json数据 1.2 阿里云datav 新建项目,新建index.html,下…

HeyGen AI是什么?怎样使用HeyGen AI?

在数字时代,视频内容为王。无论是在社交媒体还是网站上,视频都以其独特的方式吸引着人们的眼球。然而,制作出专业水准的视频往往需要大量的时间和技术知识。HeyGen AI正是为了解决这一难题而诞生的。 HeyGen AI简介 HeyGen AI是一个创新的视…

做抖音小店需要清楚的5个核心点!

大家好,我是喷火龙。 不管你是在做抖音小店,还是在做其他的电商平台,如果已经做了一段时间了,但还是没有拿到什么结果,我所指的结果不是什么大结果,而是连温饱都解决不了,甚至说还在亏钱。 有…

ICLR 2024现场精彩回顾 机器学习大牛们的“踩高跷秀”嗨翻全场

会议之眼 快讯 2024年5月7-11日,第12届ICLR(International Conference on Learning Representations)即国际学习表征会议已经在奥地利维也纳展览中心圆满结束!国际学习表征会议(ICLR)作为机器学习领域的顶级会议之一,…

Threejs路径规划_基于A*算法案例V2

路径规划算法中有两种算法使用最普遍,第一个是Dijkstr算法,第二个是A*算法,两个算法各有千秋,Dijkstra算法可以保证最优解,但是复杂度较高,尤其当点数量较多时,A*算法是一种启发式搜索算法&…

Offline RL : Beyond Reward: Offline Preference-guided Policy Optimization

ICML 2023 paper code preference based offline RL,基于HIM,不依靠额外学习奖励函数 Intro 本研究聚焦于离线偏好引导的强化学习(Offline Preference-based Reinforcement Learning, PbRL),这是传统强化学习&#x…

设计模式13——桥接模式

写文章的初心主要是用来帮助自己快速的回忆这个模式该怎么用,主要是下面的UML图可以起到大作用,在你学习过一遍以后可能会遗忘,忘记了不要紧,只要看一眼UML图就能想起来了。同时也请大家多多指教。 桥接模式(Bridge&a…

Hsql每日一题 | day02

前言 就一直向前走吧,沿途的花终将绽放~ 题目:主播同时在线人数问题 如下为某直播平台主播开播及关播时间,根据该数据计算出平台最高峰同时在线的主播人数。 id stt edt 1001,2021-06-14 12:12:12,2021-06-14 18:1…

makefile 编写规则

1.概念 1.1 什么是makefile Makefile 是一种文本文件,用于描述软件项目的构建规则和依赖关系,通常用于自动化软件构建过程。它包含了一系列规则和指令,告诉构建系统如何编译和链接源代码文件以生成最终的可执行文件、库文件或者其他目标文件…

【杂七杂八】Huawei Gt runner手表系统降级

文章目录 Step1:下载安装修改版华为运动与健康Step2:在APP里进行配置Step3:更新固件(时间会很长) 目前在使用用鸿蒙4 111版本的手表系统,但是感觉睡眠检测和运动心率检测一言难尽,于是想到是否能回退到以前的版本&…