详解MySQL主从复制

news2024/12/25 9:14:14

目录

1.概述

2.配置使用

2.1.master配置

2.2.slave配置

2.3.认主

2.4.确认认主结果

3.请求分发

3.1.概述

3.2.手动分发

3.2.1.原生JDBC

3.2.2.数据源

3.2.3.中间件


1.概述

在实际的数据密集型应用中,数据库层面往往呈现两个特点:

  • 单点数据库难以扛得住。
  • 读操作远远多于写操作。

综上所述我们可以使用多个数据库节点来组成集群的。采用主从结构来进行数据同步,多个slave节点向一个master节点拿数据。对数据库的写操作(insert)全在master上节点上进行,从而保证master的数据是全局最新最完整的,slave去master上拿数据进行数据同步,然后读操作就可以负载均衡的分发到不同的从节点上进行处理,这样就有效的减轻了数据库中单节点的压力。

以上说的方式就是MySQL的"主从复制",它是MySql最常见的集群方式之一。

以下是MySQL主从复制的实现原理:

master将操作记录写到自己的二进制日志文件,salve开一个线程去读master的日志文件,将日志内容写到中继日志中,再照着中继日志,做一遍其中的事件。

2.配置使用

2.1.master配置

配置文件添加以下内容:

server-id=1  集群中每个server的server-id保持唯一性。

log-bin=mysql-bin 开启二进制日志文件,并将日志文件命名为mysql-bin

2.2.slave配置

配置文件添加以下内容:

server-id=2 集群中每个server的server-id保持唯一性。

log-bin=XXX  如果是扮演单独的从节点,而不扮演链式结构中其他节点的主节点,可以不配。

2.3.认主

注意:无论master还是slave,重启后都必须重新认主!

在master上使用

show master status;

可以查看到主节点的日志文件在集群中的名称以及分区号:

在从节点上进行认主操作:

change master to master_host='192.168.1.100',

master_user='root',master_password='admin',

master_log_file=' mysql-bin.000001',

master_log_pos= 154;

注意:从节点上配置认主的时候,master_user 和master_password所配置的账号必须要有复制权限,如果没有权限的话,需要额外进行权限分配。

分配方式:

在master上:

GRANT REPLICATION SLAVE ON *.* TO '用户名'@'%';

FLUSH PRIVILEGES;

2.4.确认认主结果

认主操作完成后,可以在从节点上确认是否成功与master同步:

show slave status\G0;

会显示以下内容:

其中有两个进程:

  1. slave_io_running,负责与master通信,

    slave_sql_running,负责自己的sql。

两个进程都必须同时为yes才可以正常完成主从复制。

但是默认情况下一旦出现sql错误,slave_sql_running线程会直接阻塞,变为状态变为no。

通过在slave上配置遇见错误跳过,即可:

3.请求分发

3.1.概述

配置完主从复制后,还存在一个问题,就是业务层面怎么将请求区分出来分别进行转发,怎么将写请求分发到master节点、将读请求分发到slave节点。

方法有两种:

  • 手动分发
  • 使用中间件

手动分发,即手动将写操作分发到master节点上,读操作分发到slave节点上。

3.2.手动分发

3.2.1.原生JDBC

实际工程中原生JDBC很少会使用了,这里节约篇幅只说一下实现思想,不做展开。如果是使用原生JDBC的话,每个数据库节点准备一套对应的JDBC连接参数(url、username、password),读的时候进行一次负载均衡,先确定出写到哪个slave上去,然后用该slave对应的那套JDBC连参数去取connection就行了。

3.2.2.数据源

如果是使用了数据源的话,可以使用多数据源的方式来实现请求的分发。为master和slave分别准备数据源,将写操作、读操作分别放在不同的mapper,每个mapper用不同的数据源,将请求分发到不同的节点上去。

以下是spring boot+mybatis的示例:

配置多数据源:

# 主节点数据源配置
spring.datasource.master.driver-class-name=com.mysql.jdbc.Driver
spring.datasource.master.jdbc-url=jdbc:mysql://master-host:3306/database
spring.datasource.master.username=username
spring.datasource.master.password=password

# 从节点数据源配置
spring.datasource.slave.driver-class-name=com.mysql.jdbc.Driver
spring.datasource.slave.jdbc-url=jdbc:mysql://slave-host:3306/database
spring.datasource.slave.username=username
spring.datasource.slave.password=password

配置数据源和SqlSessionFactory:

@Configuration
@MapperScan(basePackages = "com.example.mappers", sqlSessionTemplateRef = "masterSqlSessionTemplate")
public class MasterDataSourceConfig {
    @Bean(name = "masterDataSource")
    @ConfigurationProperties(prefix = "spring.datasource.master")
    public DataSource masterDataSource() {
        return DataSourceBuilder.create().build();
    }

    @Bean(name = "masterSqlSessionFactory")
    public SqlSessionFactory masterSqlSessionFactory(@Qualifier("masterDataSource") DataSource dataSource) throws Exception {
        SqlSessionFactoryBean sessionFactoryBean = new SqlSessionFactoryBean();
        sessionFactoryBean.setDataSource(dataSource);
        // 其他配置项
        return sessionFactoryBean.getObject();
    }

    @Bean(name = "masterSqlSessionTemplate")
    public SqlSessionTemplate masterSqlSessionTemplate(@Qualifier("masterSqlSessionFactory") SqlSessionFactory sqlSessionFactory) {
        return new SqlSessionTemplate(sqlSessionFactory);
    }
}

@Configuration
@MapperScan(basePackages = "com.example.mappers", sqlSessionTemplateRef = "slaveSqlSessionTemplate")
public class SlaveDataSourceConfig {
    @Bean(name = "slaveDataSource")
    @ConfigurationProperties(prefix = "spring.datasource.slave")
    public DataSource slaveDataSource() {
        return DataSourceBuilder.create().build();
    }

    @Bean(name = "slaveSqlSessionFactory")
    public SqlSessionFactory slaveSqlSessionFactory(@Qualifier("slaveDataSource") DataSource dataSource) throws Exception {
        SqlSessionFactoryBean sessionFactoryBean = new SqlSessionFactoryBean();
        sessionFactoryBean.setDataSource(dataSource);
        // 其他配置项
        return sessionFactoryBean.getObject();
    }

    @Bean(name = "slaveSqlSessionTemplate")
    public SqlSessionTemplate slaveSqlSessionTemplate(@Qualifier("slaveSqlSessionFactory") SqlSessionFactory sqlSessionFactory) {
        return new SqlSessionTemplate(sqlSessionFactory);
    }
}

在mapper上进行分发:

@Mapper
@Qualifier("masterSqlSessionTemplate")
public interface MasterMapper {
    // 主节点操作
    @Insert("XXXXX")
    int insertToMaster();
}

@Mapper
@Qualifier("slaveSqlSessionTemplate")
public interface SlaveMapper {
    // 从节点操作
    @Select("XXXX")
    List<MyEntity> selectFromSlave();
}

这里还是会存在一个问题就是没有充分利用到slave节点来进行负载均衡,我们可以改进一下:

首先实现自己的负载均衡策略:

public class LoadBalanceDataSource {
    private List<SqlSessionTemplate> sqlSessionTemplates;

    public LoadBalanceDataSource(List<SqlSessionTemplate> sqlSessionTemplates) {
        this.sqlSessionTemplates = sqlSessionTemplates;
    }

    public SqlSessionTemplate getReadSqlSessionTemplate() {
        // 根据负载均衡算法选择一个从节点
        int index = calculateIndex();
        return sqlSessionTemplates.get(index);
    }

    private int calculateIndex() {
        // 自定义负载均衡算法,例如轮询、随机等
        // 这里仅作示例,实际应根据具体情况选择适合的算法
        // ...
    }
}

然后将这个策略实体托管给IOC:

@Configuration
@MapperScan(basePackages = "com.example.mappers")
public class MyDataSourceConfig {
    @Autowired
    private List<SqlSessionTemplate> sqlSessionTemplates;

    @Bean
    public LoadBalanceDataSource loadBalanceDataSource() {
        return new LoadBalanceDataSource(sqlSessionTemplates);
    }
}

然后,在需要的地方,注入:

@Service
public class MyService {
    @Autowired
    private LoadBalanceDataSource loadBalanceDataSource;

    public void readOperation() {
        SqlSessionTemplate readSqlSessionTemplate = loadBalanceDataSource.getReadSqlSessionTemplate();
        // 使用readSqlSessionTemplate执行读操作
        // ...
    }
}

3.2.3.中间件

前面手动分发的时候我们会发现一个问题,就是我们需要大量的代码去手写整个分发过程,而且需要我们去手动去写负载均衡算法,往往我们自己实现的负载均衡算法,效果不会很好。所以有没有开源组件可以帮我们实现请求分发的这个效果喃?其实有专门的这一类组件——数据库中间件。它们在client和数据库server间作为中间层,请求先走到它们上面,它们再对请求做二次处理,这种二次处理就提供了诸如:负载均衡、安全访问控制、故障转移、请求过滤等能力。

以下给出一个使用数据库中间件中最热门、应用最为广泛的proxy sql解决读写请求分发的示例:

1.安装ProxySQL:根据您的操作系统,从ProxySQL的官方网站下载并安装适当版本的ProxySQL。

2.配置ProxySQL:创建ProxySQL的配置文件,通常为proxysql.cnf,并根据您的环境进行配置。以下是一个示例配置文件的基本结构:

datadir="/var/lib/proxysql"

admin_variables=
{
    admin_credentials="admin:admin"
    mysql_ifaces="0.0.0.0:6032"
}

mysql_variables=
{
    threads=4
    max_connections=2048
    default_query_delay=0
    default_query_timeout=36000000
    have_compress=true
    poll_timeout=2000
    interfaces="0.0.0.0:6033;/path/to/mysql.sock"
    default_schema="information_schema"
    stacksize=1048576
}

mysql_servers =
(
    { address = 'master_host', port = master_port, hostgroup = 1 },
    { address = 'slave1_host', port = slave1_port, hostgroup = 2 },
    { address = 'slave2_host', port = slave2_port, hostgroup = 2 },
    ...
)

mysql_users =
(
    { username = 'your_username', password = 'your_password', default_hostgroup = 1, active = 1 },
)

mysql_query_rules =
(
    { rule_id = 1, match_pattern = "^SELECT.*FOR UPDATE", destination_hostgroup = 1 },
    { rule_id = 2, match_pattern = ".*", destination_hostgroup = 2 },
)

在上述配置中,·需要替换以下内容:

admin_credentials中的用户名和密码,用于访问ProxySQL的管理接口。

mysql_servers中的主节点和从节点的主机名(或IP地址)和端口号。

mysql_users中的用户名和密码,用于连接到MySQL数据库。

mysql_query_rules中的规则,用于指定不同类型的查询应该转发到哪个主机组。

3.启动ProxySQL:运行以下命令启动ProxySQL:

proxysql --initial -f -c /path/to/proxysql.cnf

4.配置应用程序连接:将应用程序的数据库连接配置更改为连接到ProxySQL的地址和端口号。例如,使用JDBC连接字符串:

jdbc:mysql://proxysql_host:proxysql_port/database_name

proxysql_hostproxysql_port替换为ProxySQL的主机名(或IP地址)和端口号,database_name替换为实际的数据库名称。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/546906.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

VONR排查指导分享

不能注册或呼叫到SIP服务器端30秒挂断呼叫的黄金法则咬线或摘机状态单通或无语音收到400 bad request收到413&#xff0c;513 Request Entity Too Large或Message Too Large消息收到408&#xff0c; 480或者487 消息483 - Too Many Hops488 – Not Acceptable Here语音质量和思…

chatgpt赋能Python-python3_9怎么安装

Python 3.9&#xff1a;安装指南 如果你正在学习编程或者已经是一名程序员&#xff0c;那么一定会了解到Python这个编程语言。Python是一种高级编程语言&#xff0c;其强大的设计特点和易于操作的特性使其成为了开发人员的首选。Python 3.9已经发布了&#xff0c;它虽然不是Py…

CSDN官方创作助手InsCode AI 教你分分钟搞定一篇好文章

CSDN官方推出创作助手InsCode AI很多天了&#xff0c;有心人都能发现&#xff0c;在写作界面的右上角多了一个创作助手的浮动按钮&#xff0c;点击后出现如下界面&#xff1a; 现阶段是“限免”状态&#xff0c;不好好利用它来创作&#xff0c;就有点辜负CSDN官方大佬们的良苦用…

【王道·计算机网络】第五章 传输层【未完】

一、传输层概述 传输层为应用层提供通信服务&#xff0c;使用网络层服务传输层的功能&#xff1a; 提供进程和进程之间的逻辑通信&#xff08;网络层提供主机之间的逻辑通信&#xff09;复用&#xff08;发送发不同的应用进程&#xff09;和分用&#xff08;接收方正确的数据传…

Primer C++(第三章)

补码、原码和反码 正数的原码、反码、补码都相同 负数的补码&#xff1a;1、正数的原码符号位由0变1 &#xff08;负数的原码&#xff09; 2、对负数的原码除符号位外每位取反 &#xff08;负数的反码&#xff09; 3、对负数的反码末尾1 &#xff08;负数的补码&#xff09; …

众位力量汇集《永恒之塔私服》新版龙战前传

盛大游戏《永恒之塔》从万众翘首企盼中登陆国服到现在&#xff0c;已经过去了一年有余。在前不久前更新的周年庆版本“云上的召唤”中&#xff0c;精灵星的宝宝终于可以和精灵星一起翱翔在天际了…… “云上的召唤”我们还没有体验够&#xff0c;全新版本“龙战前传”已然于7月…

【观察】从业界首款“空间穿越屏”,看华为全屋智能的进化与重构

这个时代&#xff0c;“家”的构成不再是简单的一家三口&#xff0c;客厅、厨房、卧室也不再只是承担某个单一功能或场景的空间。 无数身在异乡打拼的青年&#xff0c;开始向往一个专属的独立空间&#xff1b;那些奔波劳碌的中年夫妻&#xff0c;在为家人创造更好生活环境的同时…

RabbitMQ_面试题01

文章目录 1.RabbitMQ如何防止消息堆积2.RabbitMQ如何保证消息顺序消费3.RabbitMQ如何防止消息重复消费4.RabbitMQ如何保证消息可靠性4.1 消息持久化4.2 生产者确认2.2.1 application.yml2.2.2 Config2.2.3 Test 4.3 消费者确认4.3.1 application.yml4.3.2 Test 1.RabbitMQ如何防…

OPT (奥普特)锂电池视觉检测技术精彩亮相CIBF

5月16&#xff5e;18日&#xff0c;第十五届中国国际电池技术展览会在深圳举办&#xff0c;全球2500多家优秀电池企业参展。 OPT&#xff08;奥普特&#xff09;作为锂电行业机器视觉核心供应商&#xff0c;携3D、深度学习、分频技术等视觉检测技术亮相&#xff0c;并展示了上…

chatgpt赋能Python-python3免费吗

Python3免费吗&#xff1f; Python3到底免费还是收费呢&#xff1f;这是一个被许多人关注和疑惑的问题。本文将从不同方面解答这个问题&#xff0c;希望能给你提供一个清晰的认识。 什么是Python3&#xff1f; Python3是一种通用、高级、解释型的编程语言。它是由Guido van …

【Linux初阶】fork进程创建 进程终止 进程等待

&#x1f31f;hello&#xff0c;各位读者大大们你们好呀&#x1f31f; &#x1f36d;&#x1f36d;系列专栏&#xff1a;【Linux初阶】 ✒️✒️本篇内容&#xff1a;fork进程创建&#xff0c;理解fork返回值和常规用法&#xff0c;进程终止&#xff08;退出码、退出场景、退出…

第08章_聚合函数

第08章_聚合函数 我们上一章讲到了 SQL 单行函数。实际上 SQL 函数还有一类&#xff0c;叫做聚合&#xff08;或聚集、分组&#xff09;函数&#xff0c;它是对一组数据进行汇总的函数&#xff0c;输入的是一组数据的集合&#xff0c;输出的是单个值。 1. 聚合函数介绍 什么是…

【sentinel】Sentinel工作主流程以流控规则源码分析

Sentinel工作主流程 在Sentinel里面&#xff0c;所有的资源都对应一个资源名称&#xff08;resourceName&#xff09;&#xff0c;每次资源调用都会创建一个Entry对象。Entry可以通过对主流框架的适配自动创建&#xff0c;也可以通过注解的方式或调用SphU API显式创建。Entry创…

跨境seo引流的13种方法

跨境SEO引流是一种通过搜索引擎优化来吸引国际目标受众并增加网站流量的策略。以下是一些跨境SEO引流的关键步骤和技巧&#xff1a; 目标受众研究&#xff1a;了解你的目标市场和受众群体。了解他们的需求、喜好、购买习惯以及使用的搜索引擎和关键词。这将帮助你确定你的跨境S…

chatgpt赋能Python-python3怎么合并列表

Python3&#xff1a;合并列表的不同方法 如果你正在使用Python 3&#xff0c;那么你很可能会面对合并列表的问题。合并列表&#xff08;也称为连接列表或串联列表&#xff09;是将两个或多个列表组合成一个列表的过程&#xff0c;这是在编程中很常见的任务。在这篇文章里&…

Python并发编程:异步编程和多线程技术的应用和效率优化

第一章&#xff1a;介绍 在当今的软件开发领域&#xff0c;高效的并发编程对于处理大规模数据和提升系统性能至关重要。Python作为一种简洁、易读且功能强大的编程语言&#xff0c;提供了多种并发编程的技术和工具。本文将深入探讨Python中的异步编程和多线程技术&#xff0c;…

chatgpt赋能Python-python3如何画图

Python3如何画图&#xff1f; Python是一种高级编程语言&#xff0c;它有着多种用途&#xff0c;包括数据分析和可视化。Python3是Python的最新版本&#xff0c;它具有更好的性能和易用性。在这篇文章中&#xff0c;我们将介绍如何使用Python3来画图&#xff0c;并探讨其优势和…

KingbaseES 逻辑读与物理读

oracle数据库中逻辑读&#xff0c;物理读 数据访问方式&#xff1a;数据库少不了和操作系统进行数据交互&#xff0c;表数据最好的方式是从数据库共享池中访问到&#xff0c;避免发生磁盘IO&#xff0c;当然如果共享池中没有访问到数据就难免发生磁盘IO。 物理读&#xff1a;从…

第三篇、Arduino uno、nano、2560用oled0.96寸屏幕显示dht11温湿度传感器的温度和湿度信息——结果导向

0、结果 说明&#xff1a;先来看看拍摄的显示结果&#xff0c;如果是你想要的&#xff0c;可以接着往下看。 1、外观 说明&#xff1a;本次使用的oled是0.96寸的&#xff0c;别的规格的屏幕不一定适用本教程&#xff0c;一般而言有显示白色、蓝色和蓝黄一起显示的&#xff0…

【小沐学Web】Node实现Web图表功能(ECharts.js,React)

&#x1f388;&#x1f388;&#x1f388;Python实现Web图表功能系列&#xff1a;&#x1f388;&#x1f388;&#x1f388;1&#x1f388;【Web开发】Python实现Web图表功能&#xff08;D-Tale入门&#xff09;&#x1f388;2&#x1f388;【Web开发】Python实现Web图表功能&a…