实验4.数据全量、增量、比较更新

news2024/9/20 14:42:38

【实验目的】

1.利用Kettle的“表输入”,“表输入出”,”JavaScript代码”组件,实现数据全量更新。
2.熟练掌握“JavaScript代码”,“表输入”,“表输入出”组件的使用,实现数据全量更新。

【实验原理】

通过“表输入”对MySQL表格的数据读入,然后通过“JavaScript代码”更新抽取数据的时间,再通过“表输入出”保存表格到MySQL数据库。

【实验环境】

操作系统:Windows10 
Kettle版本:7.1.0.0
jdk版本:1.8.0及以上版本

【实验步骤】

一、建立转换

双击spoon.bat打开kettle。(1)点击新建按钮,在下拉菜单中点击选择"转换"即可创建;(2)然后点击"保存"重命名该转换文件,保存在某个指定的路径;(3)选择输入步骤、输出步骤和跳。

二、数据导入数据库的准备工作

1.数据库mysql

导入数据表:‘课程信息表’,

建立转换,需要组件如图所示:

2.“Excel的输入”的配置

Step1:双击‘Excel输入’组件,配置‘文件’选项卡,设置输入数据的输入流和路径


Step2:配置‘工作表’选项卡,设置输入数据的起始行和起始列


Step3:配置‘字段’选项卡,获取字段名称,并设置字段的数据类型(重点,以防报错)

3.“表输出”的配置

Step1:连接数据库

创建数据库代码

create database testbase;
use testbase;
CREATE TABLE courses1 (
    编号 DOUBLE,
    课程名称 VARCHAR(255), 
    课程大类 VARCHAR(255), 
    学分 DOUBLE,
    讲师 VARCHAR(255), 
    开课时间 DATETIME,
    课时数 INT,  
    ETL_TIMESTAMP DATETIME
);

Step2:选择数据库和表名

 Step3:确定

 

Step4:获取字段

4.运行结果

三、各组件的配置

1.“表输入”的配置:

Step1:双击‘表输入’组件,新建数据库的连接并进行测试,


Step2:连接成功后,获取表的字段名称


2.“JavaScript代码”的配置:

双击“HTTP client”组件,编写Script1的代码,并获取其相应字段名称和类型。


3.“表输出”的配置:

双击‘表输出’组件,选择目标表的名称,并使用SQL语句进行创建:

还要进行目标表courses2的创建

create database testbase;
use testbase;
CREATE TABLE courses2 (
    编号 DOUBLE,
    课程名称 VARCHAR(255), 
    课程大类 VARCHAR(255), 
    学分 DOUBLE,
    讲师 VARCHAR(255), 
    开课时间 DATETIME,
    课时数 INT,  
    ETL_TIMESTAMP DATETIME
);


4.“表输出2”的配置:

双击‘表输出2’组件,选择目标表的名称,并使用SQL语句进行创建:

进行目标表courses3的创建

create database testbase;
use testbase;
CREATE TABLE courses3 (
    编号 DOUBLE,
    课程名称 VARCHAR(255), 
    课程大类 VARCHAR(255), 
    学分 DOUBLE,
    讲师 VARCHAR(255), 
    开课时间 DATETIME,
    课时数 INT,  
    ETL_TIMESTAMP DATETIME
);

四、执行转换

点击按钮,执行转换,结果如下:

五、实验结果:

输入文件‘课程信息表.xlsx’:

table output

table output2 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1238558.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

软件第三方测评报告可作哪些用途?

软件第三方测评报告是指由独立、中立的第三方机构对软件进行全面、客观、科学的评估和分析后所做的报告。该报告基于系统而严密的评测流程,通过多项指标和标准,对软件的性能、功能、易用性、安全性等方面进行评价,为用户提供一个权威、可靠的…

D. Absolute Beauty - 思维

题面 分析 补题。配上题解的图,理解了很长时间,思维还需要提高。 对于每一对 a i a_i ai​和 b i b_i bi​,可以看作一个线段的左右端点,这是关键的一步,那么他们的绝对值就是线段的长度,对于线段相对位…

PaddleOCR 运行退出0xC0000409,不显示错误信息

在一台老的电脑上去运行PaddleOCR 时,发现程序输出ppocr DEBUG: Namespace后,返回错误码0xC0000409执行到ocr就闪退,不提示。 原因:PaddleOCR 吞了输出。 解决方案 需要改下Pycharm的运行选项,勾选重定向也就是在输出…

Influence Matters 成立印度尼西亚办公室,构建北亚及东南亚服务中心

2023 年 11 月 22 日——过去八年,Influence Matters致力于通过高效的公关传播服务,为跨境B2B 科技企业耕耘中国市场提供业务支持。我们已与近百家企业、组织和政府合作,以远超预期的公关传播方案和执行力,为客户与其目标决策者和…

Windows配置Anaconda环境

1、下载Anaconda 2、安装Anaconda 2.1、系统环境变量 注: 将Anaconda添加到系统环境变量中,此处建议选中,可以省去好多麻烦 2.2、手动配置环境变量 系统—高级系统设置—环境变量—Path—新建;将下面的路径添加到环境变量中…

游戏开发引擎Cocos Creator和Unity如何对接广告-AdSet聚合广告平台

在游戏开发方面,游戏引擎的选择对开发过程和最终的产品质量有着重大的影响,Unity和Cocos是目前全球两大商用、通用交互内容开发工具,这两款引擎受到广泛关注,本文将从多个维度对两者进行比较,为开发者提供正确的选择建…

现代计算与光学的跨界机遇——

时至今日,互补氧化金属半导体(CMOS)技术的飞速发展促进了集成电路的空前成功。 晶体管的创新与时俱进 正如戈登-E-摩尔(Gordon E. Moors)在1965年预测的那样,每隔18-24个月,计算芯片上的晶体管数…

如何查找批量企业的联系方式?

​我们都知道,企业的联系方式在企业的年报中就能找到,但是年报上的电话真的是你要找的吗? 很多企业年报上留的是第三方代记账公司,或者是其他没用的号码,这对于做B端业务的企业来说是不够精准的。 市面上有很多做企业…

③【List】Redis常用数据类型: List [使用手册]

个人简介:Java领域新星创作者;阿里云技术博主、星级博主、专家博主;正在Java学习的路上摸爬滚打,记录学习的过程~ 个人主页:.29.的博客 学习社区:进去逛一逛~ Redis List ③Redis List 操作命令汇总1. lpus…

员工微信私下收红包,企业如何加强监管

随着智能手机的普及和社交软件的兴起,越来越多的企业和员工开始使用微信等社交应用程序进行日常工作交流和业务协作。然而,与此同时,一些行业的员工在微信上私下收取红包的问题也日益严重,这不仅违反了公司的规定,也损…

口袋参谋:只用一招,提前规避差评!请看具体操作步骤

​如何提前规避差评?至少99%的商家都不知道该怎么做,剩下的1%还是我刚教会的。 宝贝的评价直接影响宝贝转化,特别是新品链接。 10个好评也挽回不了一个差评对产品的致命打击,差评就像一个重磅炸弹,威力足够能让你的转…

普乐蛙VR航天航空巡展项目来到了第七站——绵阳科博会

Hi~ 你有一份邀约请查收 11月22日—26日绵阳科博会 普乐蛙展位号:B馆科技体验区(1) 邀你体验趣味VR科普,探索科技新发展 第十一届中国(绵阳)科技城国际科技博览会 绵阳科博会自2013年创办以来,已连续成功举办十届,已有近7000家单位…

第四十篇,杂记(四)

增量式PID控制输出的是控制量增量,并无积分作用,因此该方法适用于执行机构带积分部件的对象,如步进电机等;在PID增量算法中,执行元件本身是机械或物理的积分储存单元;对输入加一个前置滤波器,使…

ADManager Plus:全能Active Directory管理的得力助手

一、简介 ADManager Plus是一款功能强大的Active Directory(AD)管理工具,为企业提供了全面、高效的AD管理解决方案。它不仅简化了AD管理的复杂性,还提高了管理员的工作效率。作为一款综合性的工具,ADManager Plus涵盖…

js读取json文件

1. 原生的两种方法 1.1 XMLHttpRequest const xhr new XMLHttpRequest(); xhr.overrideMimeType("application/json"); xhr.open(GET, data.json, true); xhr.onreadystatechange function () {if (xhr.readyState 4 && xhr.status 200) {const data …

如何判断客户对你是不是真的满意

我们平时生活中打个滴滴、叫个外卖,都会让做星级评价,就算去银行办业务,也会让按个按钮,对窗口的服务做个评价…… 再问一个问题:客户满意了,您的生意就一定好吗? 一、满意度:质量监…

CmakeLists编译的动态库.so移动到其他位置后,提示找不到该库的依赖库解决办法

主要问题: 最近在搞海康SDK调用相机,发现在linux下一直调用不起来相机,总是提示error code:29,注册失败,重新编译优惠存在找不到依赖库的问题。 1.异常 CmakeLists编译的动态库.so移动到其他位置后&#…

运行代码时不同软件的参数写法

目录 pycharm终端 pycharm 如下图所示,不同参数间不需要什么间隔什么东西 终端 如下图所示,不同参数间需要用一个符号来间隔

jmeter中调用python代码

1、安装pyinstaller pip install -i https://pypi.tuna.tsinghua.edu.cn/simple pyinstaller 2、将py脚本打包 pyinstaller -F venv/get_image/OCR_jmeter_api.py 3、jmeter中添加OS Process Sampler并调用dist下的程序 4、执行jmeter

Docker Swarm总结(1/2)

目录 1、swarm 理论基础 1.1 简介 1.2 节点架构 1.3 服务架构 1.4 服务部署模式 2、swarm 集群搭建 2.1 需求 ​2.2 克隆主机 2.3 启动5个docker宿主机 2.4 查看 swarm 激活状态 2.5 关闭防火墙 2.6 swarm 初始化 2.7 添加 worker 节点 2.8 添加 manager 节点 3、…