数睿通2.0数据血缘、标准、质量功能更新发布

news2024/11/28 1:34:09

文章目录

  • 引言
  • 数据血缘
  • 数据标准
  • 数据质量
  • 结语

引言

这段时间工作繁忙,琐事较多,加上二阳的冲击,导致数睿通 2.0 的更新进度缓慢,深表歉意,还望大家可以理解。本次更新主要包含数据治理模块的血缘标准质量三大功能,能够帮助我们更加直观的查看和管理平台的数据信息,同时也是数据治理的重要组成部分,下面让我们一起来看一下这几个模块的完成情况吧。

数据血缘

数据血缘可以帮助我们追溯数据流向,让我们知道数据从哪来,到哪去,这样遇到问题可以直指源头,快速处理解决,但是数据血缘的构建并不是件容易的事情,只是通过 sql 构建血缘会遇到各种各样的问题,比如复杂 sql 的解析,字段和表的实际归属等,所以本次更新只针对数据接入部分做了自动血缘构建,对于数据生产部分的 sql 任务,后续计划通过用户介入的方式协助构建血缘,只通过解析 sql 来自动构建目前来看是不现实的。

由于本人前端水平有限,找来找去并没有找到合适的组件去回显血缘关系图,所以暂时通过接入 Neo4j 的官方客户端界面作展示,最终展示效果打算做成像 atlas 那样,可以通过点击血缘的数据节点去追溯查看节点以及关联节点的信息。本次实现的效果图如下所示:
血缘关系图

数据标准

该平台的数据标准主要用来定义标准字段和标准码表,帮助维护和管理数据标准信息,标准字段可以通过关联具体的元数据字段,获取标准检测报告,以便于我们查看数据情况,及时对不符合标准的数据做出调整,保证数据的标准化运营。

用户可以自定义数据标准目录,新增标准字段和标准码表,如下:
标准目录
创建完标准字段和标准码表之后,在元数据模块关联具体字段可以查看标准检测结果:
标准检测
检测结果

数据质量

数据质量主要用于检测数据的质量情况。根据质量规则进行规则配置,生成质量任务,定时检测,生成质量报告,以便于用户对数据质量的好坏有个清晰直观的认知,针对质量报告对平台的数据做出适时的清洗和调整,保证数据的整体可用性。

质量规则通常是内置的,定义好的,同时如果有特定的业务需求,可以自行添加相关的检测处理逻辑进行扩展,该平台的内置规则包含以下 10 种:

  • 唯一性校验(检验字段是否唯一)
  • 手机号格式检验
  • 身份证号格式检验
  • 邮件格式检验
  • 是否为日期格式
  • 是否为数字格式
  • 长度检验(检验字段是否符合设定长度)
  • 非空检验(检测是否存在空值)
  • 关联一致性检验(检测与关联的字段取值是否一致)
  • 及时性(检测更新时长是否超过设定时间)

本次更新完成了数据质量模块的质量规则展示以及规则配置两个功能,质量任务尚处于开发阶段,当前整体功能展示如下:
质量规则
规则配置
新增配置
修改配置

结语

这就是数睿通 2.0 本次更新的主要内容了,相应的代码量还是挺多的,数据血缘部分单独抽了一个模块出来,主要用做与 Neo4j 数据库的交互,对于不了解 Neo4j 图数据库的朋友是有较高的学习参考价值的,数据标准和数据质量主要偏向于中台本身的业务,其中如何关联元数据查询,生成动态 sql 获取标准报告等,理清了相关代码逻辑,可以帮助我们更好的理解中台相关的概念,结合自身业务,发挥平台应有的价值。

想要获取系统目前最新源码,部署指南等资料的朋友可以关注公众号 螺旋编程极客 加入我的知识星球,星球内可以获取到数睿通 2.0 的最新源码资料等,新功能发布之后也会第一时间分享,期待你的加入。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/590577.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

阿里云的云安全审计可以用于哪些安全事件与合规审核?

阿里云的云安全审计可以用于哪些安全事件与合规审核? [本文由阿里云代理商[聚搜云www.4526.cn]撰写] 随着互联网的高速发展,各种互联网应用和服务也在不断涌现。但在运营过程中,安全事件和合规审核问题也不断出现。如何及时、准确地识别并解决…

[Nacos] Nacos Server之间的操作 (十一)

文章目录 1.ServiceManager#init()1.1 定时发送任务1.2 定时更新状态任务1.3 定时清除空service任务 1.ServiceManager#init() PostConstructpublic void init() {// 启动了一个定时任务:每60s当前Server会向其它Nacos Server发送一次本机注册表// 本机注册表是以各…

水声声波频率如何划分?水声功率放大器可将频率放大到20MHz吗?

水声声波频率如何划分?水声功率放大器可将频率放大到20MHz吗? 现如今我们可以在地球任意地区实现通信,是因为电磁波的作用。但是我们都知道海洋占了全球十分之七面积,电磁波在水下衰减速度太快,无法做到远距离传输&am…

linux内核内存管理slab

一、概述 linux内存管理核心是伙伴系统,slab,slub,slob是基于伙伴系统之上提供api,用于内核内存分配释放管理,适用于小内存(小于1页)分配与释放,当然大于1页…

Ext JS嵌套分组表格的实现

这里的嵌套分组表格指的是这样一种表格 表格的每一行可以展开下一层的Grid展开的嵌套表格是一个分组的表格显示的效果如下图: 这种显示的方式可以显示 3个层级的数据,比如这里的国家 、 将军等级、将军信息。 如果最外层再使用分组的表格, 则可以显示 4个层级的信息, 这种…

Ethercat学习-从站FOE固件更新(QT上位机)

文章目录 简介1、源码简介1、ec_FOEread2、ec_FOEwrite3、ec_FOEdefinehook 2、程序思路3、修改实现1、ecx_FOEwrite_gxf2、ecx_FOEread_gxf 4、其他5、结果6、源码连接 简介 FOE协议与下位机程序实现过程之前文章有提到,这里不做介绍了。这里主要介绍1、QT上位机通…

Java开发 - 让你少走弯路的Redis的主从复制

前言 大家举举手,让我看看还有多少人不会配置Redis的主从,主主这些的。故事发生在前段时间,小伙伴看到了博主的MySQL主从,就问博主有没有Redis的主从配置教程,本以为网上到处都是教程的博主打开网页一搜,好…

SpringCloud:分布式缓存之Redis主从

1.搭建主从架构 单节点Redis的并发能力是有上限的,要进一步提高Redis的并发能力,就需要搭建主从集群,实现读写分离。 2.主从数据同步原理 2.1.全量同步 主从第一次建立连接时,会执行全量同步,将master节点的所有数据…

VSCode+Git+TortoiseGit+Gitee

目录 一、VSCode 1、VSCode(visual studio code)下载安装 2、VSCode使用技巧和经验 2.1、设置字体: 2.2、快捷方式 2.3、安装插件 二、Git下载安装 三、TortoiseGit 1、TortoiseGit 简介 2、下载安装Git及Tortoisegit 3、Tortoisegit拉取gitee仓库到本地 4、Git拉取…

Linux 终端安装并使用tmux管理远程会话 tmux使用教程

文章目录 1 Tmux简介1.1 会话与窗口1.2 tmux功能 2 tmux安装2.1 源码安装2.2 命令行安装 3 基本用法(命令行)3.1 创建窗口3.2 分离会话 切换会话3.3 连接会话3.4 关闭会话并杀死进行对会话进行重命名 4 Tmux 的快捷键5 窗口操作与窗格操作参考 1 Tmux简介…

Ctfshow基础二刷(1)

前言: 前两天的信安给我整emo了,头一回打正经比赛,结果发现基础太差,代码审计烂得一踏糊涂。 寻思寻思,从头整一遍基础。又买了安恒出的新书。争取7号去吉林打省队选拔不给导儿丢脸吧呜呜 文件包含 web78: 这题一…

前端gojs中禁用指定节点的选中效果

代码思路 适用于禁用某些节点的选中状态,选中节点时判断该节点要不要禁用 点击节点的时候,判断节点要不要禁用选中效果 如果禁用,就在选中时,把选中节点重置为最近一次非禁用的节点 diagram.select:选中节点 diagram.…

INCA使用记录(一):INCA新建工程及观测标定

目录 1、概述 2、INCA实用方法 2.1、新建工程-添加A2L 2.2、添加工作空间 2.3、添加实验选项 ​2.4、添加硬件配置 2.5、添加工程elf 2.6、初始化工程 2.7、测量与观测参数 2.8、更换A2L之后如何更新工程 1、概述 INCA作为汽车行业常用的一种XCP处理工具,对…

javascript基础十一:JavaScript中执行上下文和执行栈是什么?

一、执行上下文 简单的来说,执行上下文是对Javascript代码执行环境的一种抽象概念,只要有Javascript代码运行,那么它就一定是运行在执行上下文中 执行上下文的类型分为三种: 全局执行上下文:只有一个,浏…

基于MPC的自适应巡航控制(Matlab代码实现)

💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…

Kyligence x 明道云|低代码平台助力中小企业实现存量背景下的创新增长

国内大部分制造企业在经历疫情后,终于迎来了市场端的消费需求的恢复和增长,但如何在激烈的竞争中以更少投入,获得更高回报,在市场上获得一席生存之地,成为了悬在众多企业头上的达摩克利斯之剑。在市场野蛮生长阶段时&a…

使用PYQT5和VTK实现一个六轴跟随的电路板转动动画效果

实现过程: 关于六轴: 线下有一个带有六轴姿态传感器的硬件设备,将采集到的三轴加速度和角速度的值每隔1秒通过串口发送给电脑,电脑上位机使用的是pyqt5,在python中调用serial模块进行串口数据的接收,接收…

专业是要选软工还是人工智能?

大家好,我是帅地。 在帅地的训练营里,也有不少 26 届的学员,不过大一即将过去,部分学校是到了大一后面或者大二才开始细分专业方向的,包括一些想要转专业的同学,也需要选择一个细分的方向,而且…

10:mysql----存储引擎--进阶篇

目录 1:MySQL体系结构 2:存储引擎简介 3:存储引擎特点 4:存储引擎选择 1:MySQL体系结构 连接层 : 最上层是一些客户端和链接服务,主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。 服务层 :…

抽象轻松JavaScript

想象一样,现在有一个苹果,两个苹果,一箱苹果在你面前 看,上面的三种苹果,(我写的是苹果就是苹果) 语境1 例如你现在要搬运苹果! 那么现在上面有苹果,一个,两…