Mysql第四章 分库分表,读写分离,主从架构

news2024/10/5 13:10:08

这里写自定义目录标题

  • 一 分库分表
    • 1 为什么要分库分表
    • 2 分库分表的几种方式
      • 2.1 垂直拆分
        • 2.1.1 表的垂直拆分
        • 2.1.2库的垂直拆分
        • 2.1.2 垂直拆分的特点
      • 2.2 水平拆分
        • 2.2.1 表的水平拆分
        • 2.2.2 库的水平拆分
        • 2.2.3 水平拆分的特点
    • 3 分库分表的技术选型
      • 3.1 JDBC直连层
      • 3.2 proxy代理层
  • 二 读写分离
    • 1 读写分离的架构与数据一致性问题
    • 2 如何实现读写分离
    • 3 主从复制原理
  • 三 主从架构的搭建
    • 1 Mysql复制原理
    • 2 具体执行过程
      • 2.1 系统架构图
      • 2.1.1 软件准备
      • 2.1.2 和虚拟机的安装大同小异

一 分库分表

1 为什么要分库分表

在双十一的时候,网站的流量逐渐增加的情况下,传统的主从架构在上亿并发量的情况下,一个主表吞吐容量不够,业务越来越大,单表数据超出了数据库支持的容量,一个nginx并发量只有五万多,tomcat更是只有几千个

2 分库分表的几种方式

分库分表相当于把单机PC上存不下的数据,转化为了分布式PC,放到多台电脑上
在这里插入图片描述

2.1 垂直拆分

2.1.1 表的垂直拆分

在这里插入图片描述
一个概述表,一个详情表
根据业务去拆分表,把user表拆分为拆分成user_base表和user_info表,use_base负责存储登录,user_info负责存储基本用户信息

2.1.2库的垂直拆分

在这里插入图片描述
根据业务拆分,电商系统,拆分为订单库、会员库、商品库

2.1.2 垂直拆分的特点

1.每个库(表)的结构都不一样
2.每个库(表)的数据至少一列一样
3.每个库(表)的并集是全量数据
4.拆分后业务清晰,专库专用按照业务拆分
5.数据维护简单,按照业务不同,放到不同的机架上

2.2 水平拆分

2.2.1 表的水平拆分

在这里插入图片描述
如图把users表拆分成users1表和users2表,以userId拆分,进行取模,偶数放到users1表,奇数放到users2表

2.2.2 库的水平拆分

在这里插入图片描述
按会员库拆分,拆分成会员1库,会员2库,以userId拆分,userId尾号0-5为1库,6-9为2库,还有其他方式,进行取模,偶数放到1库,奇数放到2库
王者荣耀里面的分库,确是按照那个注册时间这个主键来拆分的,比方说从1号库到500号库

2.2.3 水平拆分的特点

  • 每个表的结构都不一样,按照行来拆分,用户表里头,比方说有VIP用户,有普通用户,把这两个人居住的地方隔开,一个人一个时刻只有一个位置,但这两个表的并集,是所有的数据
  • 优点:单库单表的数据保持在一定量,读取速度变快
  •      提高了系统的稳定性,改着不是那么方便了
    
  • 缺点: 库和表很难一起扩容

3 分库分表的技术选型

分库分表的开源框架

jdbc 直连层:shardingsphere、tddl
proxy 代理层:mycat,mysql-proxy(360)

3.1 JDBC直连层

可以跨数据库,但是只能在java语言里头编译
在这里插入图片描述

3.2 proxy代理层

不能跨数据库,但是可以支持多种语言
在这里插入图片描述

二 读写分离

1 读写分离的架构与数据一致性问题

  • 读写分离主要应用于单机操作系统中,主要为了让数据库的读和写分配到不同的节点上,主数据库负责写操作,从服务器负责读操作。
  • 一般采用一主多从的模式,可以大幅度提高读性能,小幅度提高写性能,这样架构实现起来非常的简单
  • 读写分离负面影响:主从同步延迟,写完主数据库后,主数据同步到从库是需要时间的,时间差会导致数据一致性的问题
  • 解决策略:
    – 延迟读取,既然存在延迟导致数据不一致,那么我就等系统刷新数据一致之后再读取
    – 强制同步,采用一致性工具,强制把读请求发到主数据库里
    在这里插入图片描述

2 如何实现读写分离

  • 部署多台服务器,选择其中一台作为主数据库,另外几台作为从数据库
  • 主数据库和从数据库之间的数据是实时同步的,这就是我们常说的主从复制
  • 系统将写请求发给主数据库处理,写请求发给从数据库处理
  • 应用和数据之间加一个代理层,应用程序所有的数据都交给代理层处理,代理层负责分离读写请求,将他们路由到对应的数据库中

3 主从复制原理

mysql binlog 二进制日志文件记录了一些

  • DDL,数据定义语言,DATA DEFINDINE LANGUAGE
  • DML,数据操作语言 DATAmanagement LANGUAGE
    因此我们同步了二进制日志,也就同步了数据到另一个库里头
 1. 主库将数据库中数据的变化写入到 binlog
 2. 从库连接主库
 3. 从库会创建一个 I/O 线程向主库请求更新的 binlog
 4. 主库会创建一个 binlog dump 线程来发送 binlog ,从库中的 I/O 线程负责接收
 5. 从库的 I/O 线程将接收的 binlog 写入到 relay log 中。
 6. 从库的 SQL 线程读取 relay log 同步数据本地(也就是再执行一遍 SQL )。

三 主从架构的搭建

1 Mysql复制原理

在这里插入图片描述

2 具体执行过程

2.1 系统架构图

在这里插入图片描述

2.1.1 软件准备

一个装有Mysql8.0的虚拟机,一个mycat中间件

2.1.2 和虚拟机的安装大同小异

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/496834.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

RocketMQ安装以及源码启动

RocketMQ是一款消息中间件,在我们项目中主要是使用它来进行异步处理业务以及进行解耦,当然还可以用它实现其他业务需求比如流削峰等等,它提供的功能特别多,比如延迟消费、定时消费、消息重试、顺序消费等等。它的整体设计是追求简…

基于Session实现短信验证码登录流程

文章目录 1 发送短信验证码与登录2 登录拦截功能3 隐藏用户敏感信息4 问题: 多台Tomcat的session共享问题 分析一下流程 发送验证码: 用户在提交手机号后,会校验手机号是否合法,如果不合法,则要求用户重新输入手机号 如果手机号…

Django后端-短信验证码登录

前端我使用的是vben-admin(悄悄说一下,好难用。。),对原生的登录页进行了修改。 本文主要讲一下后端实现。 参考文档: djangocelery使用阿里云短信服务异步发送注册验证码_小泽十一章的博客-CSDN博客 django-实现登录…

单链表OJ题:LeetCode--203.移除链表元素

朋友们、伙计们,我们又见面了,今天给大家带来的是LeetCode中203题:移除链表元素 数据结构:数据结构专栏 作 者:stackY、 C 语 言 :C语言专栏 LeetCode--203.移除链表元素:https://leetco…

攻防世界-web-simple js

题目描述:小宁发现了一个网页,但却一直输不对密码。(Flag格式为 Cyberpeace{xxxxxxxxx} ) 打开链接: 然后我们会发现不管我们输入什么密码,发现是都是这样的报错 1. 先用bp抓包看看,可以抓到这样的一串js脚本 看不懂…

SVM(基于李航统计学习方法,包含SMO)

文章目录 线性可分SVM和硬间隔最大化函数间隔和几何间隔间隔最大化支持向量 学习的对偶算法 线性SVM和软间隔最大化支持向量 非线性SVM和核函数SMO算法求解二次规划选择变量第一个变量第二个变量 计算 b b b 和 E i E_i Ei​ 线性可分SVM和硬间隔最大化 函数间隔和几何间隔 …

C++11多线程:std::thread创建线程和std::async创建异步任务的区别,std::async创建异步任务后没有被推迟执行。

系列文章目录 文章目录 系列文章目录前言一、thread和async的区别1.1 新线程和异步任务1.2 std::async和std::thread最明显的不同,就是async有时候并不创建新线程。1.3 std::async和std::thread的区别1.4 std::async不确定性问题的解决 二、使用方法2.1 std::async创…

js基础内容

第一种,几乎完全不用 <a href"#" onclick"alert(百度一下)">百度一下</a>第二种,写在script内 <body><a class"baidu" href"#">百度一下</a><script>var baiduAEldocument.querySelector("…

ChatGPT-5即将发布,上千名人士却紧急叫停

ChatGPT4还没有好好体验&#xff0c;比GPT4强大1000倍的ChatGPT5又即将发布&#xff01;届时将彻底改变人工智能领域&#xff0c;并改变我们现有的世界 【ChatGPT 5简介】 OpenAI计划在2023年12月发布其最新且最强大的人工智能模型——ChatGPT 5。该模型具备人工通用智能的能力…

中文大模型安全性哪家强?清华团队新发布

当前大型语言模型的火爆程度我们不用再进行赘述了&#xff0c;伴随着百度文心一言打响国内商业大模型第一枪&#xff0c;华为盘古&#xff0c;阿里通义千问&#xff0c;智谱ChatGLM,科大讯飞星火等国内公司纷纷开始布局。 另一方面由于众所周知的政策原因&#xff0c;和如火如荼…

Threejs进阶之十三:CSS3DRenderer与Tween.js实现粒子小球按规律变化

今天我们使用CSS3DRendererTween.js实现Threejs官方示例中的粒子小球按规律变化的效果&#xff0c;先看下最终实现的效果 先来分析下&#xff0c;这个页面的动画效果是由512个小球组合起来的四种不同变化&#xff0c;分别是曲面、立方体、随机和圆球四种变化&#xff1b;下面我…

Linux——进程间通信(管道)

目录 进程通信的目的 管道 见见猪跑(举个例子) 文件描述符fd与管道的关系(深度理解管道) 什么是管道&#xff1f; 匿名管道 pipe函数概述 父子进程通信时与文件描述符的关系图(理解pipe函数的关键) pipe函数的使用 管道读写规则 管道的大小 自测 使用man 7 pipe查看 …

Unity Timeline使用

Unity Timeline使用 1.创建Timeline&#xff1a;打开面板Window->Sequencing->Timeline (1.1)选择一个要添加 Timeline 的物体&#xff0c;我创建一个物体就叫 Timeline(可以随意命名)&#xff0c;选择Timeline&#xff0c;然后在面板上显示 Create 按钮&#xff0c;如…

Arduino_STM32 之Arduino IDE开发配置

前言 由于选了物联网作为选修课&#xff0c;老师喜欢使用Arduino进行编程&#xff0c;但是也要教我们使用STM32。于是他就让我们使用Arduino IDE开发STM32&#xff08;用Keil 不好吗&#xff1f;&#xff1f;&#xff1f;&#xff09;。 第一章 软件下载 安装Arduino IDE&…

springboot请求响应

SpringBootWeb请求响应 前言 在上一次的课程中&#xff0c;我们开发了springbootweb的入门程序。 基于SpringBoot的方式开发一个web应用&#xff0c;浏览器发起请求 /hello 后 &#xff0c;给浏览器返回字符串 “Hello World ~”。 其实呢&#xff0c;是我们在浏览器发起请求…

环形链表 力扣

题目描述 题目要求 判断一个单链表是不是环形链表&#xff0c;是就返回true 不是就返回false 思路 要搞清楚环形链表长啥样环形链表有哪些特征 环形链表顾名思义就是在链表中有一个类似环形的结构&#xff0c; 它和普通单链表的区别就是 你用遍历普通单链表的法子遍历一个环…

k8s基础5——Pod常用命令、资源共享机制、重启策略和健康检查、环境变量、初始化容器、静态pod

文章目录 一、基本了解二、管理命令三、yaml文件参数大全四、创建pod的工作流程五、资源共享机制5.1 共享网络5.2 共享存储 六、生命周期重启策略健康检查七、环境变量八、Init Containe初始化容器九、静态Pod 一、基本了解 概念&#xff1a; Pod是一个逻辑抽象概念&#xff0c…

Vben Admin 自学记录 —— Table组件的基本使用及练习(持续更新中...)

Table 表格 对 antv 的 table 组件进行封装 table相关使用及概念 练习 —— 画一个简单的包含增删改查的表格静态页面&#xff08;不包含相关逻辑和处理&#xff09; 之前相关记录&#xff1a; Vben Admin 自学记录 —— 介绍及使用 1.在之前添加的新路由模块中添加一个表…

TCP/IP网络编程(三)

TCP/IP网络编程读书笔记 第14章 多播与广播14.1 多播14.1.1 多播的数据传输方式及流量方面的优点14.1.2 路由&#xff08;Routing&#xff09;和 TTL&#xff08;Time to Live&#xff0c;生存时间&#xff09;&#xff0c;以及加入组的办法14.1.3 实现多播 Sender 和 Receiver…

使用mybatisX逆向生成数据表实体类(pojo,dao),mapper,service

先看使用mybatisX后生成的文件。 1.先在idea安装mybatisX插件&#xff0c;在file->setting->plugins&#xff0c;搜索mybatisX插件&#xff0c;重新启动idea即可。 2.在idea编辑器右侧点击Database&#xff0c;点击“”链接你的数据库类型&#xff0c;这里我选mysql。 输…