MySQL常用运维操作(一):快速复制一张表

news2025/1/7 3:54:25

假设有如下表结构:

-- 创建表db1.t
create database db1;
use db1;
create table t(id int primary key,a int, b int, index(a))engine=innodb;

-- 向表t写入1000行数据
delimiter ;;
 create procedure idata()
 begin
   declare i int;
   set i=1;
   while(i<=1000)do
      insert into t values(i,i,i);
      set i=i+1;
   end while;
 end;;
delimiter ;
call idata();

-- 创建表db2.t,与db1.t相同表结构
create database db2;
create table db2.t like db1.t

假设要把db1.t里面a>900的数据行导出来, 插入到db2.t中。

mysqldump方法


使用mysqldump命令将数据导出成一组INSERT语句。 你可以使用下面的命令,把结果输出到临时文件。

mysqldump -h$host -P$port -u$user --add-locks --no-create-info --single-transaction  --set-gtid-purged=OFF db1 t --where="a>900"--result-file=/client_tmp/t.sql

命令参数含义如下:

  1. –single-transaction的作用是, 在导出数据的时候不需要对表db1.t加表锁, 而是使用STARTTRANSACTION WITH CONSISTENTSNAPSHOT的方法。

  2. –add-locks设置为0, 表示在输出的文件结果里, 不增加" LOCKTABLES t WRITE;"。

  3. –no-create-info的意思是, 不需要导出表结构。

  4. –set-gtid-purged=off表示的是, 不输出跟GTID相关的信息。

  5. –result-file指定了输出文件的路径, 其中client表示生成的文件是在客户端机器上的。

通过这条mysqldump命令生成的t.sql文件中就包含了如图所示的INSERT语句。

注:如果你希望生成的文件中一条INSERT语句只插入一行数据的话, 可以在执行mysqldump命令时, 加上参数–skip-extended-insert。

然后,通过如下命令,把这些insert语句放到db2库里去执行。

mysql -h127.0.0.1 -P13000 -uroot db2 -e "source /client_tmp/t.sql"

需要说明的是, source并不是一条SQL语句, 而是一个客户端命令。 mysql客户端执行这个命令的流程是这样的:

  1. 打开文件, 默认以分号为结尾读取一条条的SQL语句。

  2. 将SQL语句发送到服务端执行。

换句话说,服务端执行的并不是这个“source t.sql”语句,而是insert语句。所以,不论是在慢查询日志(slow log),还是在binlog,记录的都是这些真正要被执行的insert语句。

导出CSV文件


把查询结果导出到服务端本地目录,MySQL语法命令:

select * from db1.t where a>900 into outfile '/server_tmp/t.csv';

使用该语句时应注意以下几点:

1)这条语句会将结果保存在服务端。如果你执行命令的客户端和MySQL服务端不在同一个机器上, 客户端机器的临时目录下是不会生成t.csv文件的。

2)into outfile指定了文件的生成位置(/server_tmp/) , 这个位置必须受参数secure_file_priv的限制。 参数secure_file_priv的可选值和作用分别是:

  1. 如果设置为empty, 表示不限制文件生成的位置, 这是不安全的设置。

  2. 如果设置为一个表示路径的字符串, 就要求生成的文件只能放在这个指定的目录, 或者它的子目录。

  3. 如果设置为NULL, 就表示禁止在这个MySQL实例上执行select …into outfile 操作。

3)如果设置为NULL, 就表示禁止在这个MySQL实例上执行select …into outfile 操作。

4)这条命令生成的文本文件中, 原则上一个数据行对应文本文件的一行。 但是, 如果字段中包含换行符, 在生成的文本中也会有换行符。 不过类似换行符、 制表符这类符号, 前面都会跟上“\”这个转义符, 这样就可以跟字段之间、 数据行之间的分隔符区分开。

得到.csv导出文件后, 你就可以用下面的load data命令将数据导入到目标表db2.t中。

load data infile '/server_tmp/t.csv' into table db2.t;

注:该语句是在服务器所在实例上执行。

该语句执行流程如下:

1)打开文件/server_tmp/t.csv, 以制表符(\t)作为字段间的分隔符, 以换行符(\n) 作为记录之间的分隔符, 进行数据读取。

2)启动事务。

3)判断每一行的字段数与表db2.t是否相同。

  1. 若不相同,则直接报错,事务回滚。

  2. 若相同,则构造一行,调用InnoDB引擎接口,写入到表中。

4)重复步骤3, 直到/server_tmp/t.csv整个文件读入完成, 提交事务。

问1:如果binlog_format=statement, 这个load语句记录到binlog里以后,怎么在备库重放呢?

答:由于/server_tmp/t.csv文件只保存在主库所在的主机上, 如果只是把这条语句原文写到binlog中,在备库执行的时候, 备库的本地机器上没有这个文件, 就会导致主备同步停止。

当binlog_format=statement,load data命令在备库上重放,具体流程:

1)主库执行完成后, 将/server_tmp/t.csv文件的内容直接写到binlog文件中。

2)往binlog文件中写入语句load data local infile ‘/tmp/SQL_LOAD_MB-1-0’ INTO TABLE`db2`.`t`。

3)把这个binlog日志传到备库。

4)备库的apply线程在执行这个事务日志时:

  1. 先将binlog中t.csv文件的内容读出来, 写入到本地临时目录/tmp/SQL_LOAD_MB-1-0中。

  2. 再执行load data语句, 往备库的db2.t表中插入跟主库相同的数据。

执行流程图:

注:这里备库执行的load data语句里面, 多了一个“local”。 它的意思是“将执行这条命令的客户端所在机器的本地文件/tmp/SQL_LOAD_MB-1-0的内容, 加载到目标表db2.t中”。

load data命令有两种用法:

  1. 不加“local”, 是读取服务端的文件, 这个文件必须在secure_file_priv指定的目录或子目录下。(主库重放)

  2. 加上“local”, 读取的是客户端的文件, 只要mysql客户端有访问这个文件的权限即可。 这时候, MySQL客户端会先把本地文件传给服务端, 然后执行上述的load data流程。(备库重放)

问2:select …into outfile方法不会生成表结构文件,如何生成表结构文件?

答:mysqldump提供了一个–tab参数, 可以同时导出表结构定义文件和csv数据文件。 这条命令的使用方法如下:

mysqldump -h$host -P$port -u$user ---single-transaction  --set-gtid-purged=OFF db1 t --where="a>900" --tab=$secure_file_priv

这条命令会在$secure_file_priv定义的目录下, 创建一个t.sql文件保存建表语句, 同时创建一个t.txt文件保存CSV数据。

物理拷贝


mysqldump方法和导出CSV文件的方法, 都是逻辑导数据的方法, 也就是将数据从表db1.t中读出来, 生成文本, 然后再写入目标表db2.t中。

思考:能不能直接把db1.t表的.frm文件和.idb文件直接拷贝到db2目录下(物理拷贝)?

答:不能。因为, 一个InnoDB表, 除了包含这两个物理文件外, 还需要在数据字典中注册。 直接拷贝这两个文件的话, 因为数据字典中没有db2.t这个表, 系统是不会识别和接受它们的。

MySQL 5.6版本引入了可传输表空间(transportable tablespace)的方法, 可以通过导出+导入表空间的方式, 实现物理拷贝表的功能。

假设目标在db1库下,复制一个跟表t相同的表r,具体执行步骤如下:

  1. 执行create table r like t, 创建一个相同表结构的空表。

  2. 执行alter table r discard tablespace, 这时候r.ibd文件会被删除。

  3. 执行flush table t for export, 这时候db1目录下会生成一个t.cfg文件。

  4. 在db1目录下执行cp t.cfg r.cfg; cp t.ibd r.ibd;这两个命令(这里需要注意的是, 拷贝得到的两个文件, MySQL进程要有读写权限)。

  5. 执行unlock tables, 这时候t.cfg文件会被删除。

  6. 执行alter table r import tablespace, 将这个r.ibd文件作为表r的新的表空间, 由于这个文件的数据内容和t.ibd是相同的, 所以表r中就有了和表t相同的数据。

该流程执行过程:

关于拷贝表的这个流程,有以下几个注意点:

  1. 在第3步执行完flsuh table命令之后, db1.t整个表处于只读状态, 直到执行unlock tables命令后才释放读锁。

  2. 在执行import tablespace的时候, 为了让文件里的表空间id和数据字典中的一致, 会修改r.ibd的表空间id。 而这个表空间id存在于每一个数据页中。 因此, 如果是一个很大的文件(比如TB级别) , 每个数据页都需要修改, 所以你会看到这个import语句的执行是需要一些时间的。 当然, 如果是相比于逻辑导入的方法, import语句的耗时是非常短的。

小结:思考题


上述三种复制表方法优缺点对比:

1)物理拷贝的方式速度最快, 尤其对于大表拷贝来说是最快的方法。 如果出现误删表的情况,用备份恢复出误删之前的临时库, 然后再把临时库中的表拷贝到生产库上, 是恢复数据最快的方法。 但是, 这种方法的使用也有一定的局限性:

  1. 必须是全表拷贝, 不能只拷贝部分数据。

  2. 需要到服务器上拷贝数据, 在用户无法登录数据库主机的场景下无法使用。

  3. 由于是通过拷贝物理文件实现的, 源表和目标表都是使用InnoDB引擎时才能使用。

2)用mysqldump生成包含INSERT语句文件的方法, 可以在where参数增加过滤条件, 来实现只导出部分数据。 这个方式的不足之一是, 不能使用join这种比较复杂的where条件写法。

3)用select …into outfile的方法是最灵活的, 支持所有的SQL写法。 但, 这个方法的缺点之一就是, 每次只能导出一张表的数据, 而且表结构也需要另外的语句单独备份。

思考:前面介绍binlog_format=statement的时候, binlog记录的load data命令是带local的。 既然这条命令是发送到备库去执行的, 那么备库执行的时候也是本地执行, 为什么需要这个local呢? 如果写到binlog中的命令不带local, 又会出现什么问题呢?

场景1:为了确保备库应用binlog正常。因为备库可能配置了secure_file_priv=null,所以如果不用local的话,可能会导入失败,造成主备同步延迟。

场景2:是使用mysqlbinlog工具解析binlog文件,并应用到目标库。使用下面命令 :把日志直接解析出来发给目标库执行。增加local,就能让这个方法支持非本地的$host。

mysqlbinlog $binlog_file | mysql -h$host -P$port -u$user -p$pwd

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2258646.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

怎么确定目标主机,整个网络过程

怎么确定目标主机&#xff0c;整个网络过程 简单来说&#xff0c; 就是归结于计算机间怎么进行通信&#xff0c; &#xff08;原始方法&#xff09; 简单点直接加网线&#xff0c;但 一个设备的网口肯定是有限的 当相连的设备多了&#xff0c;整个网线将变得十分复杂&#…

机器视觉与OpenCV--01篇

计算机眼中的图像 像素 像素是图像的基本单位&#xff0c;每个像素存储着图像的颜色、亮度或者其他特征&#xff0c;一张图片就是由若干个像素组成的。 RGB 在计算机中&#xff0c;RGB三种颜色被称为RGB三通道&#xff0c;且每个通道的取值都是0到255之间。 计算机中图像的…

【H3CNE邓方鸣】配置链路聚合+2024.12.11

文章目录 链路聚合作用负载分担分类静态聚合动态聚合 链路聚合作用 定义&#xff1a;把连接到统一交换机上的多个物理端口捆绑为一个逻辑端口 增加链路带宽&#xff1a;聚合组内只要还有物理端口存活&#xff0c;链路就不会中断 提供链路可靠性&#xff1a;避免了STP计算&…

Java 基础知识——part 1

1.目前Java平台有三种版本&#xff1a; Java SE&#xff1a;用于开发桌面应用程序 Java EE&#xff1a;用于编写企业级应用程序 Java ME&#xff1a;用于开发设备应用程序 2.Applet可嵌入Web文档的一种小型程序&#xff0c;因网络传输速度关系都很短小 3.Appilication&…

数据可视化的Python实现

一、GDELT介绍 GDELT ( www.gdeltproject.org ) 每时每刻监控着每个国家的几乎每个角落的 100 多种语言的新闻媒体 -- 印刷的、广播的和web 形式的&#xff0c;识别人员、位置、组织、数量、主题、数据源、情绪、报价、图片和每秒都在推动全球社会的事件&#xff0c;GDELT 为全…

nginx反向代理(负载均衡)和tomcat介绍

nginx的代理 负载均衡 负载均衡的算法 负载均衡的架构 基于ip的七层代理 upstream模块要写在http模块中 七层代理的调用要写在location模块中 轮询 加权轮询 最小连接数 ip_Hash URL_HASH 基于域名的七层代理 配置主机 给其余客户机配置域名 给所有机器做域名映射 四层代理…

Qt编写RK3588视频播放器/支持RKMPP硬解/支持各种视音频文件和视频流/海康大华视频监控

一、前言 用ffmpeg做硬解码开发&#xff0c;参考自带的示例hw_decode.c即可&#xff0c;里面提供了通用的dxva2/d3d11va/vaapi这种系统层面封装的硬解码&#xff0c;也就是无需区分用的何种显卡&#xff0c;操作系统自动调度&#xff0c;基本上满足了各种场景的需要&#xff0…

C# 位运算

一、数据大小对应关系 说明&#xff1a; 将一个数据每左移一位&#xff0c;相当于乘以2。因此&#xff0c;左移8位就是乘以2的8次方&#xff0c;即256。 二、转换 1、 10进制转2进制字符串 #region 10进制转2进制字符串int number1 10;string binary Convert.ToString(num…

蓝桥杯嵌入式客观题(国省)

目录 一、第14届 1.第14届国赛 2.第14届省赛 二、第13届 1.第13届国赛 2.第13届省赛 三、第12届 1.第12届省赛 四、第11届 1.第11届省赛 2.第11届国赛 五、第10届 1.第10届国赛 2.第10届省赛 六、第9届 1.第9届国赛 一、第14届 1.第14届国赛 解析&#xff1a;…

二维码手持终端PDA在仓储管理中的应用

随着物联网技术不断发展&#xff0c;仓储管理的高效性直接关系到企业的运作效率和盈利能力。得益于移动技术的不断进步&#xff0c;二维码手持终端PDA成为了仓储盘点中不可或缺的智能化工具&#xff0c;它们不仅极大地提升了数据收集的效率与准确性&#xff0c;还促进了业务流程…

光控资本:锂电排产上行 AI手机有望快速渗透

AI手机有望快速渗透 据赛迪参谋猜想&#xff0c;2024年AI手机的出货量估量将会抵达1.5亿部&#xff0c;占全球智能手机总出货量13%&#xff0c;到2027年&#xff0c;全球AI手机销售量有望跨过5.9亿部&#xff0c;占全球智能手机总出货量的比重跨过50%。 跟着硬件根底夯实、端侧…

Dead Code Clean

优质博文&#xff1a;IT-BLOG-CN 一、死代码产生的原因 任何项目随着时间的推进&#xff0c;代码量通常会持续上涨&#xff0c;总会积累出死代码&#xff0c;死代码可能是一些久远的 配置&#xff0c;或者只在某个历史阶段有效的业务代码。它的产生原因大致有如下几种&#x…

ubuntu 用 ss-tproxy的最终网络结构

1、包含了AD广告域名筛选 2、Ss-tproxy 国内国外地址分类 3、chinadns-ng解析 4、透明网关 更多细节看之前博客 ubuntu 用ss-TPROXY实现透明代理&#xff0c;基于TPROXY的透明TCP/UDP代理,在 Linux 2.6.28 后进入官方内核。ubuntu 用 ss-tproxy的内置 DNS 前挂上 AdGuardHome…

What is load balancing? 什么是负载均衡?

原文链接 What Is Load Balancing? | IBM 什么是负载均衡&#xff1f; 在多台服务器之间高效的分配网络流量的过程&#xff0c;以优化应用程序的可用性&#xff0c;同时确保积极的用户体验。 电商网站依赖负载均衡&#xff08;load balancing&#xff09;来确保web应用能够无…

【C++算法】40.模拟_N 字形变换

文章目录 题目链接&#xff1a;题目描述&#xff1a;解法C 算法代码&#xff1a; 题目链接&#xff1a; 6. N 字形变换 题目描述&#xff1a; 解法 解法一&#xff1a;模拟 a,b,c,d,e,f,g...... n4 弄个矩阵放进去&#xff0c;最后从左往右读取。 解法二&#xff1a;模拟优化-…

vue3监听横向滚动条的位置;鼠标滚轮滑动控制滚动条滚动;监听滚动条到顶端

1.横向取值scrollLeft 竖向取值scrollTop 2.可以监听到最左最右侧 3.鼠标滚轮滑动控制滚动条滚动 效果 <template><div><div class"scrollable" ref"scrollableRef"><!-- 内容 --><div style"width: 2000px; height: 100…

期末复习-计算机网络

目录 第四章&#xff1a;网络层 1. 虚电路服务和数据报服务的对比 2. 分类的 IP 地址 3. IP 地址与硬件地址&#xff0c;地址解析协议 ARP 4. IP 数据报的格式 5. IP 层转发分组的流程 6. 划分子网&#xff08;子网掩码、划分子网、使用子网时分组的转发&#xff09; …

20分钟入门solidity(1)

1. Solidity简介 Solidity是一种静态类型编程语言&#xff0c;专门用于在以太坊区块链上编写智能合约。它借鉴了JavaScript、Python和C的语法&#xff0c;非常适合开发在以太坊虚拟机&#xff08;EVM&#xff09;上运行的应用程序。 智能合约&#xff1a;表达商业、法律关系的…

【毕业设计选题】数据科学与大数据专业毕业设计选题与建议

目录 前言 毕设选题 开题指导建议 更多精选选题 选题帮助 最后 前言 大家好,这里是海浪学长毕设专题! 大四是整个大学期间最忙碌的时光&#xff0c;一边要忙着准备考研、考公、考教资或者实习为毕业后面临的升学就业做准备,一边要为毕业设计耗费大量精力。学长给大家整…

AI开源南京分享会回顾录

AI 开源南京分享会&#xff0c;已于2024年11月30日下午在国浩律师&#xff08;南京&#xff09;事务所5楼会议厅成功举办。此次活动由 KCC南京、PowerData、RISC-Verse 联合主办&#xff0c;国浩律师&#xff08;南京&#xff09;事务所协办。 活动以“开源视角的 AI 对话”为主…