04、MySQL-------MyCat实现分库分表

news2024/11/16 7:42:10

目录

  • 九、MyCat实现分库分表
    • 1、分库分表介绍:
      • 横向(水平)拆分
        • **垂直分表**:
        • 水平分表:
        • **分库分表**
      • 纵向(垂直)拆分
      • 分表字段选择
    • 2、分库分表操作:
      • 1、分析图:
      • 2、克隆主从
      • 3、配置MyCat
        • 修改配置文件
          • schema.xml
          • rule.xml
        • schema.xml
        • **rule.xml**
        • 重启mycat
      • 4、测试:
  • mysql系统架构各模块工作配合
  • schema.xml

九、MyCat实现分库分表

1、分库分表介绍:

https://www.cnblogs.com/zhangyi555/p/16528576.html

在这里插入图片描述

在这里插入图片描述

横向(水平)拆分

那如果把一张表中的不同的记录分别放到不同的表中,这种就是横向拆分。
横向拆分的结果是数据库表中的数据会分散到多张分表中,使得每一个单表中的数据的条数都有所下降。比如我们可以把不同的用户的订单分表拆分放到不同的表中

在这里插入图片描述

垂直分表

垂直分表是指将一个表按照字段分成多表,每个表存储其中一部分字段

一张表有10个字段,分成A、B两张表,A表放3个字段,B表放7个字段。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

水平分表:

把10万条数据的表,分成两个5万数据的表,就是水平分表,字段都是一样的

在这里插入图片描述

在这里插入图片描述

分库分表

在这里插入图片描述

纵向(垂直)拆分

在这里插入图片描述
在这里插入图片描述

分表字段选择

在这里插入图片描述

2、分库分表操作:

1、分析图:

在这里插入图片描述

2、克隆主从

在克隆出一个主数据和从数据

以前克隆后的id修改步骤参考

在这里插入图片描述

主数据库 :192.168.209.154

从数据库:192.168.209.155

这两个主从数据库的配置方法跟第一次配置的一样,参考下配置

步骤:

主数据库:
1、vi /etc/my.cnf 编辑
server-id=154 #基本就是用id后3为做标识
log-bin=master-bin
log-bin-index=master-bin.index
2、因为是拷贝的,所以需要修改mysql的uuid
查找mysql的位置 find / -iname “auto.cnf”
vi 拷贝查出来的位置,进入编辑,随便改uuid中的一个字母就行,保证唯一就可以
3、启动mysql mysql -uroot -p123456
如果启动不起来,错误:-bash: mysql: command not found,输入:alias mysql=/usr/local/mysql/bin/mysql
4、查看主节点的状态 show master status

从数据库:
1、vi /etc/my.cnf 编辑
server-id=155 #基本就是用id后3为做标识
log-bin=master-bin
log-bin-index=master-bin.index
2、因为是拷贝的,所以需要修改mysql的uuid
查找mysql的位置 find / -iname “auto.cnf”
vi 拷贝查出来的位置,进入编辑,随便改uuid中的一个字母就行,保证唯一就可以
3、启动mysql mysql -uroot -p123456
如果启动不起来,错误:-bash: mysql: command not found,输入:alias mysql=/usr/local/mysql/bin/mysql
4、停止节点链路 stop slave;
5、配置文件:change master to master_host=‘192.168.209.154’,master_user=‘root’,master_password=‘123456’,master_log_file=‘master-bin.000001’,master_log_pos=156;
通过主节点的 show master status,查看master-bin 和 master_log_pos(就是position)是多少,要保持一致,master_host也是要写主节点的id
6、启动从节点链路 start slave;
7、查看链路状态 show slave status \G; 要有两个yes才行
8、重启mysql的命令 service mysqld restart

对应id创建主从数据库

在这里插入图片描述

3、配置MyCat

修改配置文件

在这里插入图片描述

schema.xml
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
	<table name="t_order" primaryKey="orderNo" dataNode="dn01,dn02" rule="rule1"/>	
    </schema>
    
    <dataNode name="dn01" dataHost="dh01" database="ljh_test" />  
    <dataNode name="dn02" dataHost="dh02" database="ljh_test" />  
    
    <dataHost name="dh01" maxCon="1000" minCon="10" balance="1" writeType="0" dbType="mysql" dbDriver="native">  
            <heartbeat>select user()</heartbeat>  
            <writeHost host="192.168.209.150" url="192.168.209.150:3306" user="root" password="123456">
				<readHost host="192.168.209.152" url="192.168.209.152:3306" user="root" password="123456"></readHost>
			</writeHost>
			<writeHost host="192.168.209.152" url="192.168.209.152:3306" user="root" password="123456"></writeHost>
    </dataHost> 

    <dataHost name="dh02" maxCon="1000" minCon="10" balance="1" writeType="0" dbType="mysql" dbDriver="native">  
            <heartbeat>select user()</heartbeat>  
            <writeHost host="192.168.209.154" url="192.168.209.154:3306" user="root" password="123456">
				<readHost host="192.168.209.155" url="192.168.209.155:3306" user="root" password="123456"></readHost>
			</writeHost>
			<writeHost host="192.168.209.155" url="192.168.209.155:3306" user="root" password="123456"></writeHost>
    </dataHost> 

</mycat:schema>
rule.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:rule SYSTEM "rule.dtd">
<mycat:rule xmlns:mycat="http://io.mycat/">
    <tableRule name="rule1">
        <rule>
            <columns>orderNo</columns>
            <algorithm>mod-long</algorithm>
        </rule>
    </tableRule>
    <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
        <!-- how many data nodes -->
        <property name="count">2</property>
    </function>
</mycat:rule>
schema.xml

编写文件:vi /usr/local/mycat/conf/schema.xml

在这里插入图片描述
拷贝进去,格式乱不用理

在这里插入图片描述

rule.xml

vi /usr/local/mycat/conf/rule.xml

在这里插入图片描述

在这里插入图片描述

重启mycat

启动mycat: /usr/local/mycat/bin/mycat start

重启mycat:/usr/local/mycat/bin/mycat restart

查看mycat日志: tail -f -n 50 /usr/local/mycat/logs/wrapper.log

有successfully就是重启成功

在这里插入图片描述

4、测试:

**测试1:**把之前的数据都清空,插入五条数据,看是否会根据求模取余,把5条数据分别插在两个主数据库中(150和154)

在这里插入图片描述

分库分表后插入成功,成功把数据分两个数据库插入。

**测试2:**获取所有的数据,看能不能从两张数据库中把数据完整的查出来
在这里插入图片描述

目前是还没有排序的,需要修改下sql

**测试3:**两个数据库,两张表,看查出来的数据能否正确排序

在这里插入图片描述

测试成功。

mysql系统架构各模块工作配合

在这里插入图片描述

当我们执行启动 MySQL 命令之后,MySQL 的初始化模块就从系统配置文件中读取系统参数和命令行参数,并按照参数来初始化整个系统,如申请并分配 buffer,初始化全局变量以及各种结构等。同时各个存储引擎也被启动,并进行各自的初始化工作。当整个系统初始化结束后,由连接管理模块接手。连接管理模块会启动处理客户端连接请求的监听程序,包 括 tcp/ip 的网络监听,还有 unix 的 socket。这时候,MySQL Server 就基本启动完成,准备好接受客户端请求了。
当连接管理模块监听到客户端的连接请求(借助网络交互模块的相关功能),双方通过Client & Server 交互协议模块所定义的协议“寒暄”几句之后,连接管理模块就会将连接请求转发给线程管理模块,去请求一个连接线程。线程管理模块马上又会将控制交给连接线程模块,告诉连接线程模块:现在我这边有连接请求过来了,需要建立连接,你赶快处理一下。连接线程模块在接到连接请求后,首先会检查当前连接线程池中是否有被 cache 的空闲连接线程,如果有,就取出一个和客户端请求连接上,如果没有空闲的连接线程,则建立一个新的连接线程与客户端请求连接。当然,连接线程模块并不是在收到连接请求后马上就会取出一个连接线程连和客户端连接,而是首先通过调用用户模块进行授权检查,只有客户端请求通过了授权检查后,他才会将客户端请求和负责请求的连接线程连上。

在 MySQL 中,将客户端请求分为了两种类型:一种是 query,需要调用 Parser 也就是Query 解析和转发模块的解析才能够执行的请求;一种是 command,不需要调用 Parser 就可以直接执行的请求。如果我们的初始化配置中打开了 Full Query Logging 的功能,那么Query 解析与转发模块会调用日志记录模块将请求计入日志,不管是一个 Query 类型的请求还是一个 command 类型的请求,都会被记录进入日志,所以出于性能考虑,一般很少打开FullQuery Logging 的功能。

当客户端请求和连接线程“互换暗号(互通协议)”接上头之后,连接线程就开始处理客户端请求发送过来的各种命令(或者 query),接受相关请求。它将收到的 query 语句转给 Query 解析和转发模块,Query 解析器先对 Query 进行基本的语义和语法解析,然后根据命令类型的不同,有些会直接处理,有些会分发给其他模块来处理。

如果是一个 Query 类型的请求,会将控制权交给 Query 解析器。Query 解析器首先分析看是不是一个 select 类型的 query,如果是,则调用查询缓存模块,让它检查该 query 在query cache 中是否已经存在。如果有,则直接将 cache 中的数据返回给连接线程模块,然后通过与客户端的连接的线程将数据传输给客户端。如果不是一个可以被 cache 的 query类型,或者 cache 中没有该 query 的数据,那么 query 将被继续传回 query 解析器,让 query解析器进行相应处理,再通过 query 分发器分发给相关处理模块。

如果解析器解析结果是一条未被 cache 的 select 语句,则将控制权交给 Optimizer,也就是 Query 优化器模块,如果是 DML 或者是 DDL 语句,则会交给表变更管理模块,如果是一些更新统计信息、检测、修复和整理类的 query 则会交给表维护模块去处理,复制相关的query 则转交给复制模块去进行相应的处理,请求状态的 query 则转交给了状态收集报告模块。实际上表变更管理模块根据所对应的处理请求的不同,是分别由 insert 处理器、delete处理器、update 处理器、create 处理器,以及 alter 处理器这些小模块来负责不同的 DML和 DDL 的。

在各个模块收到 Query 解析与分发模块分发过来的请求后,首先会通过访问控制模块检查连接用户是否有访问目标表以及目标字段的权限,如果有,就会调用表管理模块请求相应的表,并获取对应的锁。表管理模块首先会查看该表是否已经存在于 table cache 中,如果已经打开则直接进行锁相关的处理,如果没有在 cache 中,则需要再打开表文件获取锁,然后将打开的表交给表变更管理模块。

当表变更管理模块“获取”打开的表之后,就会根据该表的相关 meta 信息,判断表的存储引擎类型和其他相关信息。根据表的存储引擎类型,提交请求给存储引擎接口模块,调用对应的存储引擎实现模块,进行相应处理。

不过,对于表变更管理模块来说,可见的仅是存储引擎接口模块所提供的一系列“标准”接口,底层存储引擎实现模块的具体实现,对于表变更管理模块来说是透明的。他只需要调用对应的接口,并指明表类型,接口模块会根据表类型调用正确的存储引擎来进行相应的处理。

当一条 query 或者一个 command 处理完成(成功或者失败)之后,控制权都会交还给连接线程模块。如果处理成功,则将处理结果(可能是一个 Result set,也可能是成功或者失败的标识)通过连接线程反馈给客户端。如果处理过程中发生错误,也会将相应的错误信息发送给客户端,然后连接线程模块会进行相应的清理工作,并继续等待后面的请求,重复上面提到的过程,或者完成客户端断开连接的请求。

当一条 query 或者一个 command 处理完成(成功或者失败)之后,控制权都会交还给连接线程模块。如果处理成功,则将处理结果(可能是一个 Result set,也可能是成功或者失败的标识)通过连接线程反馈给客户端。如果处理过程中发生错误,也会将相应的错误信息发送给客户端,然后连接线程模块会进行相应的清理工作,并继续等待后面的请求,重复上面提到的过程,或者完成客户端断开连接的请求。

schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
	<!-- 
		name:逻辑库的名字
		checkSQLschema:当该值设置为 true 时,如果我们执行语句**select * from TESTDB.travelrecord;**MyCat 会把语句修改为**select * from travelrecord;**。
				设置成false,要求应用程序端,SQL语句不要带数据库名,不然识别不了
		sqlMaxLimit:当用户没有写limit语句,给这个语句默认加上 limit 100,如果用户写了则不会加。
	-->
	<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
		<!--
			 name:逻辑表表名
			 dataNode:数据分片id,对应这下面的dataNode节点的name属性(执行的sql的数据被分成多片)
		-->
		<table name="t_order" dataNode="dn01"/>
	</schema>
	<!--
		name:数据分片的名称,给table引用的
		dataHost:数据库实例的id,对应下面dataHost节点的name属性
		database:访问对应数据库实例里面的哪个数据库
	-->
	<dataNode name="dn01" dataHost="dn01" database="ljh_test" />
	<!--
		name:数据库实例的名称,给我们dataNode标签进行引用
		maxCon:最大连接数
		minCon:最小连接数
		dbType:后端关联的数据库类型是什么类型(因为mycat支持多种数据,这里要标明白)
		dbDriver:表示是原生的MySQL,不是被定制、改装过的,是原版。
		balance:负载均衡策略
				 balance="1",全部的readHost与stand by writeHost参与select语句的负载均衡,
				 简单的说,当双主双从模式(M1->S1M2->S2,并且M1M2互为主备),
				 正常情况下,M2,S1,S2都参与select语句的负载均衡

		writeType:writeType="0", 所有写操作发送到配置的第一个writeHost,
				   第一个挂了切到还生存的第二个writeHost,重新启动后已切换后的为准,
				   切换记录在配置文件中:dnindex.properties .
	-->
	<dataHost name="dn01" maxCon="1000" minCon="10" balance="1"
 writeType="0" 
	          dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
		<!-- 心跳机制 -->
		<heartbeat>select user()</heartbeat>
		<!-- 
			写节点的配置
			host:主机名
			url:连接的访问地址
			user:后端数据库的用户名
			password:后端数据库的用户密码
		-->
		<writeHost host="192.168.209.150" url="192.168.209.150:3306" user="root"
 password="123456">
			<!-- 读节点配置 -->
			<readHost host="192.168.209.152" url="192.168.209.152:3306" user="root" password="123456" />
		</writeHost>
		<!-- 备用写节点 ,主的挂了之后,这个备用的就变成主了,能读能写 -->
		<writeHost host="192.168.209.152" url="192.168.209.152:3316" user="root"
 password="123456" />
	</dataHost>
</mycat:schema>

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1110740.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【Docker从入门到入土 1】Docker管理命令

Part1 一、容器1.1 虚拟化技术的演变1.2 容器简介1.3 为什么要用到容器&#xff1f;1.4 常用的容器引擎1.5 容器和虚拟机 二、Docker2.1 什么是docker&#xff1f;&#xff08;面试题&#xff09;2.2 Docker和虚拟机的区别&#xff08;面试常问&#xff0c;记住&#xff09;2.3…

SLAM 14 notes

4.23 推导 f ( x ) f(x) f(x)在点a处的泰勒展开 f ( x ) ∑ n 0 ∞ f ( n ) a n ! ( x − a ) n f(x) \sum_{n0}^\infty \frac{f^{(n)}a}{n!}(x-a)^n f(x)∑n0∞​n!f(n)a​(x−a)n l n x lnx lnx的n阶导数 l n ( n ) x ( − 1 ) n − 1 ( n − 1 ) ! x n ln^{(n)}x \fr…

C++进阶语法之函数和指针【学习笔记(二)】

文章目录 1、C 函数1.1 函数的定义1.2 函数原型&#xff08;function prototypes&#xff09;1.3 参数&#xff08;parameter&#xff09;——值传递&#xff08;pass by value&#xff09;1.4 重载&#xff08;overloading&#xff09;1.5 函数传参——传递数组&#xff08;ar…

drawio都能做那些事情和模板示例

drawio都能做那些事情和模板示例 你可以使用drawio&#xff0c;并使用drawio提供的扩展模板库和大量的形状库&#xff0c;针对很多不同的工业领域创建不同类型的图表。 针对如下的内容中的所有的图&#xff0c;均可以下载源文件并导入到drawio中再次编辑&#xff08;供学习者…

如何远程通过内网穿透实现微信公众号在本地的完整调试

文章目录 前言1. 配置本地服务器2. 内网穿透2.1 下载安装cpolar内网穿透2.2 创建隧道 3. 测试公网访问4. 固定域名4.1 保留一个二级子域名4.2 配置二级子域名 5. 使用固定二级子域名进行微信开发 前言 在微信公众号开发中&#xff0c;微信要求开发者需要拥有自己的服务器资源来…

什么是兼容性测试? 重要性是什么?

在数字化时代&#xff0c;用户使用各种不同类型的设备和操作系统来访问应用程序和网站。为了确保用户体验的一致性和应用程序的可用性&#xff0c;兼容性测试变得至关重要。本文将深入探讨兼容性测试的概念及重要性。 一、什么是兼容性测试? 兼容性测试是一种软件测试方法&…

混入组件 (mixin)

1 什么是混入以及作用 *混入 (mixin) 提供了一种非常灵活的方式&#xff0c;来分发 Vue 组件中的可复用功能。一个混入对象可以包含任意组件选项。当组件使用混入对象时&#xff0c;所有混入对象的选项将被“混合”进入该组件本身的选项。作用&#xff1a;主要作用是继承和封装…

【python】什么是网络爬虫?

什么是网络爬虫&#xff1f; 网络爬虫是一种自动化程序&#xff0c;用于从互联网上抓取信息。这些信息可以是文本、图像、视频、数据表格等各种形式的数据。爬虫程序通过模拟浏览器的行为&#xff0c;自动访问网页、抓取内容&#xff0c;并将其保存或处理。这对于数据挖掘、搜索…

elasticsearch的docker安装与使用

安装 docker network create elasticdocker pull docker.elastic.co/elasticsearch/elasticsearch:8.10.4# 增加虚拟内存&#xff0c; 此处适用于linux vim /etc/sysctl.conf # 添加 vm.max_map_count262144 # 重新启动 sysctl vm.max_map_countdocker run --name es01 --net …

element中form表单验证

type&#xff1a;限定类型 pattern&#xff1a;添加正则表达式规则 transform&#xff1a;规则验证之前执行的函数 参考Element Ui使用技巧——Form表单的校验规则rules详细说明&#xff1b;element的 form 表单rules详细用法_橙cplvfx-技术踩坑记的技术博客_51CTO博客

【java】【重构二】分模块开发版本锁定以及耦合(打包)实战

目录 一、创建dependencyManagement标签 二、 将需要版本控制的依赖版本进行标签设置 三、将需要版本控制的依赖从各子模块迁移到此处 四、将父模块的依赖版本控制 五、删除子模块的全部版本 1、bocai-web-management模块 2、bocai-utils模块 六、打包 1、确定代码都…

三相电表倍率是什么?

三相电表的倍率是指电能表所匹配的互感器的倍率&#xff0c;也称为变比变流(压)比、电流(压)比&#xff0c;就是缩小的比例。 实际的用电量等于电能表的表值乘以倍率。 三相电能表是用来测量三相交流电路中电源输出(或负载消耗)的电能的电度表。 按用途可分为工业与民用表、电子…

QCA中质蕴项选择问题

一、关于质蕴项的基础知识 &#xff08;一&#xff09;什么是质蕴项&#xff1f; &#xff08;1&#xff09;质蕴项定义 逻辑余项是指缺少经验实例的构型&#xff0c;可以被纳入布尔最小化。——QCA设计原理与应用&#xff1a;超越定性与定记研究的新方法 &#xff08;2&…

黄金眼PAAS化数据服务DIFF测试工具的建设实践 | 京东云技术团队

一、背景介绍 黄金眼PAAS化数据服务是一系列实现相同指标服务协议的数据服务&#xff0c;各个服务间按照所生产指标的主题作划分&#xff0c;比如交易实时服务提供实时交易指标的查询&#xff0c;财务离线服务提供离线财务指标的查询。黄金眼PAAS化数据服务支撑了黄金眼APP、黄…

出租房水电表管理系统:实现节能减排与经济效益双赢

随着我国城市化进程的加速&#xff0c;出租房市场日益繁荣&#xff0c;房东与租户之间的水电费管理问题也日益凸显。传统的出租房水电费管理方式存在诸多不便&#xff0c;如收费不透明、数据不准确、浪费严重等问题。出租房水电表管理系统应运而生&#xff0c;那么今天小编就来…

AI四维彩超预测宝宝长相图片生成流量主小程序开发

AI四维彩超预测宝宝长相图片生成流量主小程序开发 以下是AI四维彩超预测宝宝长相图片生成流量主小程序的功能列表&#xff1a; 用户注册和登录功能&#xff1a;允许用户注册新账户或使用现有账户登录。用户上传宝宝四维彩超照片&#xff1a;用户可以上传宝宝的四维彩超照片&am…

标准模板库--STL

这里写目录标题 STL初始STL诞生STL基本概念STL六大组件STL中的容器、算法、迭代器容器算法迭代器初识vector存放内置数据类型vector存放自定义数据类型vector中嵌套vector 二级目录二级目录二级目录二级目录二级目录二级目录二级目录二级目录 STL初始 STL诞生 STL基本概念 STL…

工业RFID厂家与您分享工业生产制造的应用案例

随着科技的不断进步&#xff0c;RFID技术在工业生产制造领域的应用越来越广泛。AGV/RGV小车运输、立体仓库、生产线、物料跟踪与管理等各行业工业自动化的使用上都有着RFID的身影。为工业生产制造智能化自动化提供了助力。下面&#xff0c;为大家分享RFID技术在工业生产制造上的…

基于JAVA+SpringBoot的学生成长管理评价系统

✌全网粉丝20W,csdn特邀作者、博客专家、CSDN新星计划导师、java领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和毕业项目实战✌ &#x1f345;文末获取项目下载方式&#x1f345; 一、项目背景介绍&#xff1a; 学生成长管理评价系统…