马哈鱼SQLFLow数据血缘分析器增量分析血缘任务

news2025/1/11 13:55:27

马哈鱼数据血缘分析器是一个分析数据血缘关系的平台,支持对大量复杂的数据快速准确的分析,支持分批增量分析血缘。

本文主要介绍如何利用马哈鱼增量分析任务。

使用步骤

  • 登录sqlflow-api(SQLFLow接口文档),http://127.0.0.1:8081/gspLive_backend/doc.html?lang=en
  • 搜索submitPersistJob接口
  • 第一次提交JOB
    在这里插入图片描述
    在这里插入图片描述
    需要改动的参数说明:

dbvendor:数据库类型,如:dbvhive,dbvmysql

userId:用户id,on premise version默认是gudu|0123456789

incremental:是否为增量JOB,true/false

firstSubmit:是否为第一次提交,true/false

jobName:job名称,需要保证唯一

sqlfiles:要分析的文件,多个文件可以压缩成zip

  • 后续增量提交JOB
    在这里插入图片描述

    其他参数和第一次提交一样,只需要设置要增量的job名称,修改firstSubmit为false,以及sqlfiles为增量的文件

测试效果

1,第一次分析

SQL:

CREATE TABLE table1(
	id int,
	name string);
    
insert into table1
(
	id,
  	name
)
select t.id,t.name from table2 t;

结果:
在这里插入图片描述

得到 table2 -> table1 的table level data lineage

2,第二次增量分析

SQL:

insert into table2
(
	id,
  	name
)
select t.table3_id,t.table3_name from table3 t;

结果:
在这里插入图片描述

得到增量分析后的结构:table3 -> table2 -> table1 的table level data lineage

3,第二次增量分析

SQL:

insert into table0
(
	table0_id,
  	table0_name
)
select t.id,t.name from table1 t;

结果:

在这里插入图片描述

得到增量分析后的结构:table3 -> table2 -> table1 -> table0 的table level data lineage

以上就是对马哈鱼SQLFLow增量分析血缘任务的操作步骤,后续马哈鱼会将此功能集成到UI中。关于马哈鱼的等多功能,请参考下面链接:

参考

马哈鱼数据血缘关系分析工具中文网站: https://www.sqlflow.cn

马哈鱼数据血缘关系分析工具英文网站: https://docs.gudusoft.com

马哈鱼数据血缘关系分析工具在线使用: https://sqlflow.gudusoft.com

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/82770.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

外汇天眼:本周监管状态已更新,以下平台请远离!

监管信息早知道!外汇天眼将每周定期公布监管牌照状态发生变化的交易商,以供投资者参考,规避投资风险。 以下是监管牌照发生变动的交易商平台,注意警惕! VS FX威胜 VS FX威胜,其宣称持有的美国NFA普通金融牌…

深入理解DOM

一、DOM 基本概念 DOM全称 Document Object Model,即文档对象模型,它允许脚本(js)控制Web页面、窗口和文档。 DOM 标准被分为 3 个不同的部分: 1、核心 DOM - 针对任何结构化文档的标准模型 2、XML DOM - 针对 XML 文档的标准模型 3、HT…

预制菜持续火热,食品制造企业如何利用APS自动排程实现生产管理标准化?

在今年预售榜单中,预制菜表现夺人眼球,在天猫“双11”活动的预售第一阶段强势出圈。在众多预售产品中,酸菜鱼已经成为消费者加购的爆品,成为雄霸“双11”预制菜预售榜单之首。 酸菜鱼是川菜的经典菜品,但现在已经突破地…

react源码中的fiber架构

先看一下FiberNode在源码中的样子 FiberNode // packages/react-reconciler/src/ReactFiber.old.js function FiberNode(tag: WorkTag, pendingProps: mixed, key: null | string, mode: TypeOfMode, ) {// Instancethis.tag tag;this.key key;this.elementType null;t…

Redis框架(六):大众点评项目 缓存更新策略 实现双写

大众点评项目 众点评项目 缓存更新策略 实现双写需求:缓存更新策略业务实现特殊情况展示SpringCloud章节复习已经过去,新的章节Redis开始了,这个章节中将会回顾Redis实战项目 大众点评 主要依照以下几个原则 基础实战的Demo和Coding上传到我…

GIS空间分析之密度分析

密度分析结果可以显示出点要素或线要素较为集中的地方。例如,每个城镇都可能有一个点值,这个点值表示该镇的人口总数,但是您想更多地了解人口随地区的分布情况。由于每个城镇内并非所有人都住在聚居点上,通过计算密度,…

网络安全学习路线,入门到入坟,史上最全网络安全学习路线整理

很多小伙伴在网上搜索网络安全时,会出来网络安全工程师这样一个职位,它的范围很广,只要是与网络安全挂钩的技术人员都算网络安全工程师,一些小伙伴就有疑问了,网络安全现在真的很火吗? 那么寒哥就带大家看…

美港探案:不理想的理想Q3,能否守得云开见月明?

12月9日,港股盘后理想汽车发布了2022年第三季度业绩报告。探员就迫不及待的去理想的官网上看了这份Q3业绩报告,整体数据很不理想,但是也都在探员的预料之内,但是探员对于理想依然是充满了热爱,在电动三傻中对理想也是情…

优美的曲线-turtlesim

从开环到闭环的旅程-CoCube 优美的曲线-译 2022年所公开博客案例所有项目,都在2020年之前完成,并且全部经过3轮以上测试。 当完美实现闭环之后,画曲线那就可以随心所欲啦。 想画什么,就能画什么。 核心代码: float …

DubboSPI使用以及使用方式源码解读

DubboSPI流程图 为什么Dubbo要自己实现SPI java spi 会一次性实例化扩展点所有实现,机制并不能根据获取自己想要的类 获取一个类的实现对象 javaSPI 具有局限性: 1、没法给实现类起别名 2、没法实现包装类。类似AOP的原理 3、没法实现自动注入 4、没法…

[附源码]Python计算机毕业设计SSM基于大数据的汽车流量监控(程序+LW)

项目运行 环境配置: Jdk1.8 Tomcat7.0 Mysql HBuilderX(Webstorm也行) Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。 项目技术: SSM mybatis Maven Vue 等等组成,B/S模式 M…

ESP32 ESP-IDF + LVGL + SquareLine Studio 设计 UI 界面

陈拓 2022/12/10-2022/12/12 1. 概述 关于SquareLine Studio,乐鑫官方的ESP技术文章有介绍:在 ESP 开发板上开发 UI 不再复杂 - 知乎如果您尝试过在没有图形库的情况下开发 UI,那么您一定知道这有多困难。幸运的是,由乐鑫芯片驱动…

线性代数---第六章---二次型

1二次型方的系数为主对角线上的元素 我起码要会如何根据二次型写矩阵A 2规范形是系数为1,-1,0的标准型 3二次型的正惯性指数和负惯性指数 4任一个n阶实对称阵,必然既相似又合同于对角阵 5用配方法化二次型为标准阵 6 正交变换得到的对角阵上…

【产品分析】从用户体验五要素分析——微信读书

本文从用户体验五要素:表现层面、框架层 、战略层、范围层、结构层,对微信读书进行了分析。 前言 互联网发展的速度也加速了知识更新的速度,也许今天你还手握焦点技能,明天就可能被遗忘在角落。一应俱全的网课、铺天盖地的资讯加…

Autosar PWM配置及使用

文章目录前言PWMPwmChannelPwmAssignedHwUnitPwmChannelIdPwmCoherentUpdatePwmDutycycleDefaultPwmIdleStatePwmNotificationPwmChannelClassPwmPeriodDefaultPwmPolarityPwmReferenceChannelPwmSafetySignalPwmShiftValuePWM输出偏移的使用PwmConfigurationOfOptApiServicesP…

Coreform Cubit (csimsoft Trelis)

Coreform Cubit (csimsoft Trelis) Coreform Cubit(csimsoft Trelis)是Coreform公司开发的最强大、最高效的工程工具之一。通常,公司都会启动自己的Mash项目。对于CFD分析,他们有FEA。这个软件可以开始你的工作,添加你自己的印第安形状&#…

2023年湖北建设厅七大员建筑八大员考试什么时候报名?甘建二

2023年湖北建设厅七大员建筑八大员考试什么时候报名? 建设厅七大员和建筑八大员有什么关系呢?有区别吗? 甘建二老师告诉你,建设厅七大员和建筑八大员没有区别,只是叫法不一样而已,都是一个东西。 七大员和…

Kunbernetes——二进制单节点部署

常见的k8s部署方式 1.Mini kube Minikube是一个工具,可以在本地快速运行一个单节点微型K8s,仅用于学习预览K8s的一些特性使用 部署地址: https://kubernetes.io/docs/setup/minikube 2.Kubeadmin Kubeadmin也是一个工具,提供kubeadm init和…

基于python的opencv中SGBM立体匹配算法实现

文章目录前言一、SGBM和SGM的区别?1.预处理2.代价计算3.动态规划4.后处理二、SGBM的python-opencv的实现SGBM 参数选择参考文章前言 SGBM的核心是SGM算法,自OpenCV2.4.6开始就已经被开源,非常的方便,并被广泛使用。 一、SGBM和SGM…

几何角度理解相机成像过程

本笔记从几何角度来理解相机的成像过程,我们生活在三维世界中,相机所捕捉到的画面是2D的,3D空间中的点是如何投影到2D平面的过程是本笔记关注的。 预设场景 本笔记讨论的东西基于以下场景: 在一个房间内放了一台相机,…