大数据周会-本周学习内容总结04

news2024/12/26 9:29:56

目录

1、mysql数据同步到es

1.1、通过logstash同步数据

1.2、canal数据同步

1.3、通过logstash将本地文件导入es

2、git


1、mysql数据同步到es

1.1、通过logstash同步数据

elastic官方文档:如何使用Logstash和JDBC确保 Elasticsearch与关系型数据库保持同步,

https://www.elastic.co/cn/blog/how-to-keep-elasticsearch-synchronized-with-a-relational-database-using-logstash

 

1.2、canal数据同步

Canal作用:主要用途是基于MySQL数据库增量日志解析,提供增量数据订阅和消费。

效果:

 

单条sql语句:

多条sql语句:

Canal调研文档:

  1. 如何使用canal将MySQL数据同步到表格存储_表格存储-阿里云帮助中心
    1. 简介:对于中小规模的数据库或者个人开发者,您可以使用canal将MySQL数据同步到表格存储。canal部署简单,易于运维,适用于中小规模MySQL数据同步。
    2. 前提条件
      1. 已开启MySQL binlog功能,并且配置binlog-format为ROW模式。
      2. 已创建目标Tablestore表。
  2. GitHub - alibaba/canal: 阿里巴巴 MySQL binlog 增量订阅&消费组件
    1. Alibaba canal官方文档
  3. Canal Kafka RocketMQ QuickStart · alibaba/canal Wiki · GitHub
    1. 小demo,Canal Kafka RocketMQ QuickStart

1.3、通过logstash将本地文件导入es

ELK:logstash,通过配置logstash.conf文件的方式将xxx.csv数据导入es。

Logstash是一个开源的服务器端数据处理管道,可以同时从多个数据源获取数据,并对其进行转换,然后将其发送到你最喜欢的“存储”。

 

2、git

安装:Git-2.13.0-64-bit.exe、TortoiseGit-2.4.0.2-64bit.msi。

学习内容:

  1. git安装、TortoiseGit安装
  2. 使用git管理文件版本
    1. 创建版本库:使用git方式、使用TortoiseGit方式
    2. 添加文件
    3. 修改文件:提交修改、查看修改历史、差异对比、还原修改
    4. 删除文件

 

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/390287.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

5. unity之组件

1. 组件Component 物体可以挂载不同的组件以实现不同的功能,需要什么功能就添加什么组件。当我们选中一个物体后,就可以在右侧的属性窗口中添加组件,如下图所示: 2. AudioSource组件 使用这个组件可以为模型添加音乐或者声效效…

32- PyTorch基础 (PyTorch系列) (深度学习)

知识要点 PyTorch可以说是现阶段主流的深度学习框架 . 1 PyTorch入门 1.1 PyTorch概述 Torch是什么?一个火炬!其实跟Tensorflow中Tensor是一个意思,可以当做是能在GPU中计算的矩阵.,也可以当做是ndarray的GPU版! PyT…

Aspose.Words for JasperReports Crack

Aspose.Words for JasperReports Crack 添加了在文档中指定字符间距的功能。 添加了文档样式选项,允许您指定是否自动重新定义样式。 显著改进了图表渲染: 渲染径向渐变笔刷时添加了相对坐标支持。 增加了对呈现趋势线和趋势线R平方的支持。 增加了对渲染…

zabbix自定义模版Templates和监控项items

注:此处使用的客户端和服务端版本均为 ubuntu 2204 自定义模板和监控项实现过程 在Zabbix 被监控主机上编写自定义监控项的取值的脚本,并加执行权限在Zabbix 被监控主机上的配置文件中添加自定义监控项,指定 key 和 对 key 赋值的脚本及参数在Zabbix Server 上使用…

docker环境安装tomcat

一 安装tomcat 1. 查找tomcat镜像 docker search tomcat 2. 安装指定版本的tomcat镜像 docker pull tomcat:9.0 二 启动tomcat镜像 docker run -d -p 8080:8080 --name tomcat tomcat:9.0 三 访问tomcat页面 http://ip:8080 第一访问会出现下面的情况 四 解决上述问题 进入…

C语言-基础了解-12-C数组

C数组 一、C数组 C 语言支持数组数据结构,它可以存储一个固定大小的相同类型元素的顺序集合。数组是用来存储一系列数据,但它往往被认为是一系列相同类型的变量。 数组的声明并不是声明一个个单独的变量,比如 runoob0、runoob1、…、runoo…

SpringBoot_第五章(Web和原理分析)

目录 1:静态资源 1.1:静态资源访问 1.2:静态资源源码解析-到WebMvcAutoConfiguration 2:Rest请求绑定(设置put和delete) 2.1:代码实例 2.2:源码分析到-WebMvcAutoConfiguratio…

穿越时空:当ChatGPT遇见stable-diffusion,你不敢相信的创意艺术之旅!

前言 欢迎来到一场创意的旅程,这里将聚焦于 ChatGPT 和 stable-diffusion 这两个令人激动的技术。在这篇文章中,我们将会探索这两种技术如何结合使用,为艺术创作带来全新的可能性。我们将探讨如何利用 ChatGPT 生成富有想象力的创意&#xf…

Mac Book pro(M1)使用总结

1、拿到电脑激活的时候,一定要记住账号密码及安全问题的答案。 2、显示隐藏文件夹: 3、显示.git或者gitignore等隐藏后缀的文件: 打开终端 defaults write com.apple.finder AppleShowAllFiles TRUE重启Finder在终端输入 killall Finder …

如何在虚拟机中安装ikuai软路由系统

首先访问ikuai官网下载固件固件下载-爱快 iKuai-商业场景网络解决方案提供商 (ikuai8.com) 根据需求下载 然后创建一个虚拟机,点击下一步 选择更下载的ISO映像文件,点击下一步 点击下一步 设置一下名称和储存位置,点击下一步 根据需求设置&a…

k8s集群调度

1、调度约束Kubernetes 是通过 List-Watch 的机制进行每个组件的协作,保持数据同步的,每个组件之间的设计实现了解耦。1.1 List-Watch 用户通过kubectl命令提交请求交给apiserver创建pod,然后apiserver将pod信息存放到etcd中,之后…

并发编程——ReentrantLock

如果有兴趣了解更多相关内容,欢迎来我的个人网站看看:耶瞳空间 一:基本介绍 从Java 5开始,引入了一个高级的处理并发的java.util.concurrent包,它提供了大量更高级的并发功能,能大大简化多线程程序的编写…

shell基础(5)算数计算:运算语法、自增自减

文章目录1. shell算数运算的特点2. 运算符一览3. 运算语法3.1 整形运算3.2. 小数运算 ing4. 自增自减4.1. a与a4.2. 自加1. shell算数运算的特点 Shell 和其它编程语言不同,Shell 不能直接进行算数运算,必须使用数学计算命令。Shell只支持整数运算&#…

C++017-C++冒泡排序与插入排序

文章目录C017-C冒泡排序与插入排序冒泡排序与插入排序目标冒泡排序排序规则冒泡排序优化插入排序题目描述在线练习:总结C017-C冒泡排序与插入排序 在线练习: http://noi.openjudge.cn/ https://www.luogu.com.cn/ 冒泡排序与插入排序 参考:…

详解基于 Celestia、Eclipse 构建的首个Layer3 链 Nautilus Chain

以流支付为主要概念的Zebec生态,正在推动流支付这种新兴的支付方式向更远的方向发展,该生态最初以Zebec Protocol的形态发展,并从初期的Solana进一步拓展至BNB Chian以及Near上。与此同时,Zebec生态也在积极的寻求从协议形态向公链…

【PyTorch】教程:torch.nn.Hardsigmoid

torch.nn.Hardsigmoid 原型 CLASS torch.nn.Hardsigmoid(inplaceFalse) 参数 inplace (bool) – 默认为 False 定义 Hardsigmoid(x){0if x≤−3,1if x≥3,x/61/2otherwise\text{Hardsigmoid}(x) \begin{cases} 0 & \text{if~} x \le -3, \\ 1 & \text{if~} x \ge 3…

PHP<=7.4.21 Development Server源码泄露漏洞

PHP<7.4.21 Development Server源码泄露漏洞php启动内置web服务器漏洞利用原理因为特殊的原因CTF荒废了一段时间&#xff0c;近期总算再次捡了起来&#xff0c;算是从头开始了吧。近期比赛刚好遇到了这个漏洞&#xff0c;看国内似乎还没有过多的论述&#xff0c;先总结一波。…

【自然语言处理】【大模型】大语言模型BLOOM推理工具测试

相关博客 【自然语言处理】【大模型】大语言模型BLOOM推理工具测试 【自然语言处理】【大模型】GLM-130B&#xff1a;一个开源双语预训练语言模型 【自然语言处理】【大模型】用于大型Transformer的8-bit矩阵乘法介绍 【自然语言处理】【大模型】BLOOM&#xff1a;一个176B参数…

RocksDB 架构

文章目录1、RocksDB 摘要1.1、RocksDB 特点1.2、基本接口1.3、编译2、LSM - Tree2.1、Memtable2.2、WAL2.3、SST2.4、BlockCache3、读写流程3.1、读取流程3.2、写入流程4、LSM-Tree 放大问题4.1、放大问题4.2、compactionRocksDB 是 Facebook 针对高性能磁盘开发开源的嵌入式持…

如何防止用户打开浏览器开发者工具?

大家好&#xff0c;我是前端西瓜哥。作为一名前端开发&#xff0c;在浏览一些网页时&#xff0c;有时会在意一些交互效果的实现&#xff0c;会打开开发者工具查看源码实现。 但有些网站做了防窥探处理&#xff0c;打开开发者工具后&#xff0c;会无法再正常进行网页的操作。 …