包教包会:Mysql主从复制搭建

news2024/11/27 10:19:35

笑小枫的专属目录

    • 一、无聊的理论知识
      • 1. 主从复制原理
      • 2. 主从复制的工作过程
      • 3. MySQL四种同步方式
    • 二、docker下安装、启动mysql
      • 1. 安装主库
      • 2. 安装从库
    • 三、配置Master(主)
    • 四、配置Slave(从)
    • 五、链接Master(主)和Slave(从)
    • 六、主从复制排错
      • 1. 错误:error connecting to master 'xxxx' - retry-time: 30 retries: xx
      • 2. 错误:ERROR 1872 (HY000): Slave failed to initialize relay log info structure from the repository
      • 3. 操作从库配置后,主库发生变更
    • 七、测试主从复制测试
    • 八、总结

一、无聊的理论知识

MySQL的主从复制和MySQL的读写分离两者有着紧密联系,首先要部署主从复制,只有主从复制完成了,才能在此基础上进行数据的读写分离

1. 主从复制原理

mysql支持的复制类型:

①STATEMENT:基于语句的复制,在主服务器上执行sql语句,在从服务器上执行同样的语句,MySQL默认采用基于语句的复制,执行效率高

②ROW:基于行的复制,把改变的内容复制过去,而不是把命令在从服务器上执行一边

③MIXED:混合类型的复制,默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制

2. 主从复制的工作过程

主从复制核心部分就是两个日志、三个线程(高版本的mysql以及异步复制、半同步复制、全同步复制

核心重点:两个日志文件:二进制日志、中继日志、三个线程:master的dump thread、slave的IO、SQL

主要原理:master将数据保存在二进制日志中,IO向dump发出同步请求,dump把数据发送给IO线程。IO会写入到本地的中继日志,SQL线程会读取本地的日志数据,同步到自己的数据库中,完成同步

image-20231110170940523

①Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中

②Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求Master的二进制时间

③同时Master节点为每个I/O线程启动一个dump线程,用于向其发生二进制事件,并保存至Slave节点本地的中继日志(Relay log)中,Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成sql语句逐一执行,使得其数据和Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒

**注:**中继日志通常会位于OS缓存中,所以中继日志的开销很小

复制过程有一个很重要的限制,即复制在Slave上是串行化的,也就是说Master上的并行更新操作不能在Slave上并行操作

主MySQL服务器做的增删改操作,都会写入自己的二进制日志(Binary log)
然后从MySQL从服务器打开自己的I/O线程连接主服务器,进行读取主服务器的二进制日志
I/O去监听二进制日志,一旦由新的数据,会发起请求连接
这时候会触发dump线程,dump thread响应请求,传送数据给I/O(dump线程要么处于等待,要么处于睡眠状态)
I/O接收到数据之后存放在中继日志
SQL thread线程会读取中继日志里的数据,存放到自己的服务器中

dump通过TP也就是网络的方式发送给IO

3. MySQL四种同步方式

异步复制(Async Replication)

主库将更新写入Binlog日志文件,不需要等待数据更新是否已经复制到从库中,就可以继续处理更多的请求,Master将事件写入binlog,但并不知道Slave是否或何时已经接收且已处理,在异步复制的机制的情况下,如果Master宕机,事务在Master上已经提交,但可能这些事务没有传到任何的Slave上,假设有Master–>Salve故障转移的机制,此时Slave也可能会丢失事务,Mysql复制默认是异步复制,异步复制提供了最佳性能

同步复制(Sync Replication)

主库将更新写入Binlog日志文件后,需要等待数据更新已经复制到从库中,并且已经在从库执行成功,然后才能返回继续处理其它的请求,同步复制提供了最佳安全性,保证数据安全,数据不会丢失,但对性能有一定的影响

半同步复制(Semi-Sync Replication)

主库提交更新写入二进制日志文件后,等待数据更新写入了从服务器中继日志中,然后才能再继续处理其它请求,该功能确保至少有1个从库接收完主库传递过来的binlog内容已经写入到自己的relay log里面了,才会通知主库上面的等待线程,该操作完毕

半同步复制是最佳安全性于最佳性能 之间的一个折中

MySQL5.5版本之中引入了半同步复制功能,主从服务器必须安装半同步复制插件,才能开启该复制功能,如果等待超时,超过rpl_semi_sync_master_timeout参数设置时间(默认值为10000,表示10秒),则关闭半同步复制。并自动转换为异步复制模式,当master dump线程发送完一个事务的所有事件之后,如果在rpl_semi_sync_master_timeout内,收到了从库的响应,则主从又重新恢复为增强半同步复制

ACK (Acknowledge character)即是确认字符。

增强半同步复制(lossless Semi-Sync Replication、无损复制)

增强半同步时在MySQL 5.7引入,其实半同步可以看成一个过渡功能,因为默认的配置就是增强半同步,大家一般说的半同步复制其实就是增强的半同步复制,也就是无损复制

增强半同步和半同步不同的是,等待ACK时间不同

rpl_semi_sync_master_wait_point =AFTER_SYNC(默认)

半同步的问题是因为等待ACK的点是Commit之后,此时Master已经完成数据变更,用户已经可以看到最新数据,当Binlog还未同步到Slave时,发生主从切换,那么此时从库是没有这个最新数据的,用户看到的还是老数据,增强半同步将等待ACK的点放在提交Commit之前,此时数据还未被提交,外界看不到数据变更,此时如果发生主从切换,新库依然还是老数据,不存在数据不一致的问题

二、docker下安装、启动mysql

docker下安装mysql 8.0.15

docker pull mysql:8.0.15

1. 安装主库

启动mysql-master,当作主库

docker run -p 3320:3306 --name mysql_master -e MYSQL_ROOT_PASSWORD=123456 -d 7bb2586065cd

此时启动已完成,在docker启动镜像时密码加密使用的是caching_sha2_password,
在服务器端启动默认使用mysql_native_password 加密的,
如需要使用外部工具连接,需要进入docker容器重置root密码。

进入docker容器修改Mysql远程连接的密码

docker exec -it mysql_master /bin/sh

# mysql -u root -p

输入登录密码(设置的MYSQL_ROOT_PASSWORD):123456

mysql> ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY 'test001';

退出数据库设置和docker容器,使用exit命令

image-20231110135242436

2. 安装从库

启动mysql-slave,当作从库

docker run  -p 3321:3306 --name mysql_slave -e MYSQL_ROOT_PASSWORD=123456 -d 7bb2586065cd

进入docker容器修改Mysql远程连接的密码

docker exec -it mysql_slave /bin/sh

# mysql -u root -p

输入登录密码(设置的MYSQL_ROOT_PASSWORD):123456

mysql> ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY 'test001';

安装完主库和从库后如下所示:

image-20231110150836045

三、配置Master(主)

docker exec -it mysql_master /bin/sh

cd /etc/mysql切换到/etc/mysql目录下,然后vi my.cnf对my.cnf进行编辑。
此时会报出bash: /bin/sh: 3: vi: not found,需要我们在docker容器内部自行安装vim。
使用apt-get install vim命令安装vim

如果出现如下问题:

Reading package lists... Done
Building dependency tree       
Reading state information... Done
E: Unable to locate package vim

执行apt-get update,然后再次执行apt-get install vim即可成功安装vim。

如果docker内部安装不了Vim,可以将文件拷贝出来,修改完之后在拷贝进去,或者启动时使用docker -v的方式挂载

#将容器中的文件拷贝出来
sudo docker cp 容器ID:/etc/mysql/my.cnf /data/mysql/master
#将容器中的文件拷贝回去
sudo docker cp /data/mysql/master/my.cnf  容器ID:/etc/mysql/

然后我们就可以使用vim编辑my.cnf,在my.cnf中添加

[mysqld]
## 同一局域网内,注意要唯一
server-id=99  
## 开启二进制日志功能,可以随便取(关键)
log-bin=mysql-bin

需要重启mysql服务docker restart 容器ID

下一步在Master数据库创建数据同步用户

CREATE USER 'slave'@'%' IDENTIFIED BY '123456';

ALTER USER 'slave'@'%' IDENTIFIED WITH mysql_native_password BY '123456';

授予用户 slave REPLICATION SLAVE权限和REPLICATION CLIENT权限,用于在主从库之间同步数据。

GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'slave'@'%';

创建用户图片

四、配置Slave(从)

和配置Master(主)一样,在Slave配置文件my.cnf中添加如下配置:

[mysqld]
## 设置server_id,注意要唯一
server-id=101  
## 开启二进制日志功能,以备Slave作为其它Slave的Master时使用
log-bin=mysql-slave-bin   
## relay_log配置中继日志
relay_log=edu-mysql-relay-bin

配置完成后也需要重启mysql服务和docker容器,操作和配置Master(主)一致。

五、链接Master(主)和Slave(从)

在Master进入mysql,执行show master status;

笑小枫专属图片

File和Position字段的值后面将会用到,在后面的操作完成之前,需要保证Master库不能做任何操作,否则将会引起状态变化,File和Position字段的值变化。

在Slave 中进入 mysql,执行

change master to master_host='172.17.0.8', master_user='slave', master_password='test001', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=994, master_connect_retry=30;
  • 命令说明

笑小枫专属图片

master_host :Master的地址,指的是容器的独立ip,可以通过docker inspect --format='{{.NetworkSettings.IPAddress}}' 容器名称|容器id查询容器的ip。如果不是docker直接放服务器的IP地址就行,保证两个服务器互通即可

master_port:Master的端口号,指的是容器的端口号

master_user:用于数据同步的用户

master_password:用于同步的用户的密码

master_log_file:指定 Slave 从哪个日志文件开始复制数据,即上文中提到的 File 字段的值

master_log_pos:从哪个 Position 开始读,即上文中提到的 Position 字段的值

master_connect_retry:如果连接失败,重试的时间间隔,单位是秒,默认是60秒

在Slave 中的mysql终端执行show slave status;用于查看主从同步状态。

笑小枫专属图片

  • Slave_IO_Running:负责从库去主库读取二进制日志,并写入到从库的中继日志
  • Slave_SQL_Running:负责将中继日志转换成SQL语句后执行

正常情况下,SlaveIORunning 和 SlaveSQLRunning 都是No,因为我们还没有开启主从复制过程。
使用start slave;开启主从复制过程,然后再次查询主从同步状态show slave status;

笑小枫专属图片

SlaveIORunning 和 SlaveSQLRunning 都是Yes,说明主从复制已经开启。此时可以测试数据同步是否成功。

六、主从复制排错

1. 错误:error connecting to master ‘xxxx’ - retry-time: 30 retries: xx

笑小枫专属图片

使用start slave开启主从复制过程后,如果SlaveIORunning一直是Connecting,则说明主从复制一直处于连接状态,这种情况一般是下面几种原因造成的,我们可以根据 Last_IO_Error提示予以排除。

1、网络不通

检查ip,端口,这里docker虽然映射出去的mysql端口是3320,但通过内网访问仍然是3306

2、密码不对

检查是否创建用于同步的用户和用户密码是否正确

3、pos不对

检查Master的 Position

2. 错误:ERROR 1872 (HY000): Slave failed to initialize relay log info structure from the repository

检查my.cnf,是否指定relay_log,指定的relay_log是否被其他server占用。

解决方法:修改my.cnf指定relay_log,然后重启服务。

先执行reset slave命令,在执行以下命令:

change master to master_host='172.17.0.8', master_user='slave', master_password='test001', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=994, master_connect_retry=30;

最后启动start slave;

3. 操作从库配置后,主库发生变更

在mastershow master status;查询主库最新的状态

然后执行reset slave命令,再执行更新后的链接命令:

change master to master_host='172.17.0.8', master_user='slave', master_password='test001', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=994, master_connect_retry=30;

最后启动start slave;

七、测试主从复制测试

在主库(master)创建test数据库,并添加test表,然后可以看到从库中也出现了对应的数据库和表

笑小枫专属图片

八、总结

本文主要讲解了Mysql主从复制的操作,如果有多个从库,重复执行从库的操作即可。

切记:对数据的增删改操作一定要在主库上操作,不要在从库上操作。

本文到此就结束了,有问题就找笑小枫

点个关注和收藏吧,不然就👇👇👇👇👇👇👇👇👇

image-20231110154837139

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1192845.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

说说React的事件机制?

一、是什么 React基于浏览器的事件机制自身实现了一套事件机制,包括事件注册、事件的合成、事件冒泡、事件派发等 在React中这套事件机制被称之为合成事件 合成事件(SyntheticEvent) 合成事件是 React模拟原生 DOM事件所有能力的一个事件…

Spring Cloud学习(三)【Nacos注册中心】

文章目录 认识 NacosNacos 安装使用 Nacos 完成服务注册Nacos 服务分级存储模型集群负载均衡策略 NacosRule根据权重负载均衡Nacos 环境隔离Nacos 和 Eureka 的区别 认识 Nacos Nacos 是阿里巴巴的产品,现在是 SpringCloud 中的一个组件。相比Eureka 功能更加丰富&…

同立海源携CGT核心试剂与技术服务整体解决方案亮相SITC 2023年会

2023年11月1日至5日,备受瞩目的第38届癌症免疫治疗学会(SITC)在美国圣地亚哥会议中心盛大召开,作为世界上最大的专注于癌症免疫治疗的国际盛会,本届SITC年会专注于探讨和分享最新的癌症免疫治疗技术和应用研究成果&…

Libra R-CNN: Towards Balanced Learning for Object Detection(2019.4)

文章目录 AbstractIntroduction引入问题1) Sample level imbalance2) Feature level imbalance3) Objective level imbalance进行解决贡献 Related Work(他人的work,捎带与我们的对比)Model architectures for object detection&a…

2023长三角G60科创走廊高质量发展要素对接大会举行

11月8日,第六届中国国际进口博览会2023长三角G60科创走廊高质量发展要素对接大会在国家会展中心隆重举行。会上,G60“一廊九城”同向同行、共赴未来,立足“三先走廊”战略定位,围绕“服务‘一带一路’建设,赋能一体化高…

Java进阶API第二章

Java进阶API第二章 一. 抛出企业问题,脱离main测试,模块化编程 1.学校里如何测试的 //学校教的测试方法 public static void main(String[] args) {//2.本地测试//3.调用函数//4.看输出,查看结果是否符合预期//5.预期结果和测试结果是通过人工…

【开源】基于Vue和SpringBoot的大学兼职教师管理系统

项目编号: S 004 ,文末获取源码。 \color{red}{项目编号:S004,文末获取源码。} 项目编号:S004,文末获取源码。 目录 一、摘要1.1 项目介绍1.2 项目录屏 二、研究内容三、界面展示3.1 登录注册3.2 学生教师管…

电动汽车多时段动态充电价格及网损策略研究

摘要:电动汽车以无序充电方式接入配电网时与网内基础用电负荷叠加,会形成峰上加峰的现象,不利于配电网的稳定运行。针对上述问题,首先对私家车充电负荷进行建模,采用蒙特卡罗抽样模拟电动汽车无序行为下的充电负荷曲线…

灵活运用Vue指令:探究v-if和v-for的使用技巧和注意事项

🎬 江城开朗的豌豆:个人主页 🔥 个人专栏 :《 VUE 》 《 javaScript 》 📝 个人网站 :《 江城开朗的豌豆🫛 》 ⛺️ 生活的理想,就是为了理想的生活 ! 目录 ⭐ 专栏简介 📘 文章引言 一、作…

10道高频React面试题快问快答

※其他的快问快答,看这里! 10道高频Qiankun微前端面试题快问快答 10道高频webpack面试题快问快答 20道高频CSS面试题快问快答 20道高频JavaScript面试题快问快答 30道高频Vue面试题快问快答 面试中的快问快答 快问快答的情景在面试中非常常见。 在面试…

modbus-TCP协议详解

modbus-TCP协议详解 1996年施耐德公司推出基于以太网TCP/IP的modbus协议:modbus-TCP。 MODBUS-TCP使MODBUS-RTU协议运行于以太网,MODBUS-TCP使用TCP/IP以太网在站点间传送MODBUS报文,MODBUS-TCP结合了以太网物理网络和网络标准TCP/IP以及以…

【Spring】Spring IOC DI

Spring IOC & DI IOC DI入门什么是Spring什么是容器什么是IOC IOC介绍传统程序开发解决方案 DI IOC详解Bean的存储Controller(控制器存储)Service(服务存储)Repository(仓库存储)Component(组件存储)Configuration(配置存储) 为什么需要这么多类注解类注解之间的关系方法注…

二十二、W5100S/W5500+RP2040树莓派Pico<SMTP发送邮件>

文章目录 1 前言2 简介2 .1 什么是SMTP?2.2 SMTP是如何工作的?2.3 SMTP、IMAP和POP32.4 SMTP应用场景 3 WIZnet以太网芯片4 SMTP发送邮件示例概述以及使用4.1 流程图4.2 准备工作核心4.3 连接方式4.4 主要代码概述4.5 结果演示 5 注意事项6 相关链接 1 前…

VINS-Mono-后端优化 (三:视觉雅可比推导)

用逆深度是因为这样可以在优化中从优化3个变量降低到1个,降低优化的维度加快求解速度 用逆深度是因为当距离很远的时候, 1 x \frac{1}{x} x1​ x x x 就会无穷大,而3D点很近的情况也一般不会有,这也是为了数值稳定性 用逆深度的…

微服务治理

微服务治理 什么是服务治理 服务治理 是一种方法和实践,用于管理和监控分布式系统中的服务。它旨在确保服务能够在整个生命周期内可靠地运行、可维护、可扩展和符合业务需求。服务治理涉及一系列的实践、策略和工具,用于管理和优化服务的交付和运行。 …

强化学习 - DQN及进化过程(Double DQN,Dueling DQN)

1.DQN 1.1概念 DQN相对于Q-Learning进行了三处改进: 1.引入神经网络:如下图所示希望能从状态A中提取Q(s,a) 2.经验回放机制:连续动作空间采样时,前后数据具有强关联性,而神经网络训练时要求数据之间具有独立同分布特性…

GZ038 物联网应用开发赛题第4套

2023年全国职业院校技能大赛 高职组 物联网应用开发 任 务 书 (第4套卷) 工位号:______________ 第一部分 竞赛须知 一、竞赛要求 1、正确使用工具,操作安全规范; 2、竞赛过程中如有异议,可向现场考评…

双休日做什么副业?适合不同人群的副业赚钱方法

双休日是大多数人可以用来兼职或者做副业的时间,它是大家可以利用的宝贵时光。通过合理规划和努力工作,双休日的副业可以带来额外的收入,并且可以适应不同人群的需求和兴趣。那么,具体来说,适合不同人群的副业赚钱方法…

什么是特权会话管理

特权会话是由具有管理权限的用户在访问 IT 基础架构中的系统、设备或应用程序(本地或远程)时启动的 Internet 会话,包括在该会话期间执行的所有活动。 特权会话可以是数据库或安全管理员,通过 RDP 或 SSH 会话访问数据中心的机密…

Docker 安装与优化

一、安装Docker 1、关闭防火墙 systemctl stop firewalld systemctl disable firewalld setenforce 02、安装依赖包 yum -y install yum-utils device-mapper-persistent-data lvm2#解释 yum-utils #提供了yum-config-manager工具 device mapper #是linux内核中支持逻辑卷…