MySQL进阶篇4-InnoDB引擎和MySQL管理

news2024/10/3 0:29:35

InnoDB引擎

逻辑存储结构

表空间(ibd文件):一个mysql实例可以对应多个表空间,用于存储记录、索引等数据。

段,分为数据段、索引段和回滚段。InnoDB是索引组织表,数据段就是B+树的叶子节点,索引段即为B+树的非叶子节点。段用来管理多个区。

区,表空间的单元结构,每个区的大小为1M。默认情况下,InnoDB存储引擎页大小为16K,即一个区中一个有64个连续的页。

页,是InnoDB存储引擎磁盘管理的最小单元,每一个页的大小默认为16KB,为了保证页的连续性,InnoDB存储引擎每次从磁盘申请4-5个区。

行,InnoDB存储引擎是按照行进行存放的。

trx_id:每次对每条记录进行改动时,都会把对应的事务id赋值给trx_id隐藏列。

roll_pointer:每次对行记录进行改动时,都会把旧的版本写入到undo日志中,然后这个隐藏列就相当于一个指针,可以通过它来找到该记录修改前的信息。

架构

在MySQL5.5版本开始,默认使用InnoDB存储引擎,它擅长处理事务,具有崩溃恢复特性,在日常开发中使用非常广泛。

内存结构:

缓冲池:

缓冲池是主内存中的一个区域,里边可以缓存磁盘上经常操作的真实数据,在执行增删改查操作时,先操作缓冲池中的数据(若缓冲池中没有数据,则从磁盘中加载并缓存),然后再以一定频率刷新到磁盘,从而减少磁盘缓存,加快处理速度。

缓冲池以Page页为单位,底层采用链表数据结构管理Page。根据状态,将Page分为三种类型:

free page:空闲page,未被使用。

clean page:被使用page,数据没有被修改过。

dirty page:脏页,被使用page,数据被修改过,页中数据与磁盘的数据不一致。

更改缓冲区:

change buffer,针对于非唯一 (二级索引页),在执行DML语句时,如果这些page没有在buffer poll中,不会直接操作磁盘,而会将数据变更存在更改缓冲区中。在未来数据被读取时,再将数据合并恢复到Buffer poll中,再将合并后的数据刷到磁盘中。

日志缓冲区:

用来保存写入到磁盘的log日志数据(redo log、undo log),默认大小为16MB,日志缓冲区的日志会定期刷新到磁盘中。如果需要更新、插入或删除多行的事务,增加日志缓冲区的大小可以节省磁盘IO。

参数:

1、indodb_log_buffer_size:缓冲区大小

2、innodb_flush_log_at_trx_commit:日志刷新到磁盘

参数=1:日志在每次事务提交时,写入并刷新到磁盘;

参数=0:每秒将日志写入并刷新到磁盘一次

参数=2:日志在每次事务提交后写入,并每秒刷新到磁盘一次。

自适应hash索引:

在InnoDB引擎中,采用的是B+树索引,而不是hash索引。哈希索引不能采用范围查询,只能采用等值查询。所以,自适应hash索引,用于优化对Buffer Pool数据的查询。InnoDB存储引擎会监控对表上各索引页的查询,如果观察到hash索引可以提升速度,则建立hash索引,称之为自适应hash索引。

自适应hash索引,无需人工干预,是系统根据情况自动完成。

参数:adaptive_hash_index

磁盘结构:

system tablespace:

系统表空间,是change buffer的存储区域。如果表是在系统空间而不是每个表文件或者通用表空间中创建的,它也可能包含表和索引数据。(在MySQL5版本之中,还包含InnoDB数据字典、undolog等)

参数:Innodb_data_file_path

file-per-table tablespace

每个表的文件表空间,包含单个InnoDB表的数据和索引,并存储在文件系统上的单个数据文件中。

参数:innodb_file_per_table,默认开启,每张表都会生成一张表空间文件。.ibd文件,存放的是表结构和表数据和索引。

General tablespace:

通用表空间,需要通过create tablespace 语法来创建通用表空间,在创建表时,可以指定该表空间。

create tablespace ts add datafile 'filename' engine=innodb;

create table tableName tablespace ts;

undo tablespace:

撤销表空间,MySQL实例在初始化时,会自动创建两个默认的undo表空间(初始大小为16M),用来存储undo log日志。 undo001 undo002两个文件。

temporary tablespace:

InnoDB使用会话临时表空间和全局临时表空间。存储用户创建的临时表等数据。

doublewrite Buffer files:

双写缓冲区,innoDB引擎将数据页从Buffer Pool刷新到磁盘前,先将数据页写入到双写缓冲区中,便于系统异常时恢复数据。

ib_xxx_0.dblwr

ib_xxx_1.dblwr

这还是双写缓冲区的文件。

Redo Log:

重做日志,用来实现事务的持久性。该日志由两部分组成:

1、重做日志缓冲(redo log buffer):在内存;

2、重做日志文件(redo log):在磁盘;

当事务提交之后,会把所有修改信息都会存放到该日志中,用于在刷新脏页到磁盘中时,发生错误时,进行数据恢复使用。

【事务提交之后,redo log意义不大了,每隔一段时间清理一次。】

后台线程:

内存中的数据是如何刷新到磁盘上的呢?

1、Master Thread

核心后台线程,负责调度其他线程,还负责将缓冲池中的数据异步刷新到磁盘中,保持数据的一致性,还包括脏页的刷新,合并插入缓存,undo页的回收。

2、IO Thread

在InnoDB存储引擎中,使用了大量的AIO来处理IO请求,这样可以极大的提高数据库的性能,而IO Thread主要负责这些IO 请求的回调。

线程类型默认个数职责
Read Thread4负责读操作
Write Thread4负责写操作
Log Thread1负责将日志缓冲区刷新到磁盘
Insert Buffer Thread1负责将写缓冲区的内容刷新到磁盘

show engine innodb status;

有一段IO的情况;

3、Purge(清除) Thread:

主要用于回收事务已经提交了的undo log,在事务提交之后,Undo log可能不用了,就用它来回收。

4、Page Cleaner Thread

协助Master Thread刷新脏页到磁盘的线程,它可以减轻Master Thread的工作压力,减少阻塞。

事务原理

redo log和undo log 保证了事务的【原子性、一致性、持久性】

锁机制+MVCC保证了事务的【隔离性】

redo log

redo log是如何来保证持久性的呢?

重做日志,记录的是事务提交时,数据页的物理修改,是用来实现事务的持久性。

该日志文件由两部分组成

1、重做日志缓冲(redo log buffer),在内存中。

2、重做日志文件(redo log file),在磁盘中。

当事务提交之后,会把所有的修改信息都存在该日志文件中。用于在刷新脏页到磁盘,发生错误时,进行数据恢复使用。

【个人理解:当进行增删改时,先从Buffer Pool中找记录,如果没有,就从磁盘查找,然后加载的Buffer Pool中,在缓冲池中修改数据。当修改数据后【缓冲池中的数据和磁盘中的不一致,被称为脏页,脏页并不是实时刷新到磁盘的,后台线程会每隔一段时间,将脏页变化的数据,刷新到磁盘中】,同时会把修改数据的信息记录的redo log Buffer中,当事务提交之后,会将redolog Buffer刷新到磁盘中,当刷新脏页到磁盘中出现问题的时候,采用redolog file来恢复数据。】

为什么不在事务提交之后,将缓冲池中的数据直接刷新到磁盘呢?还要将redolog Buffer刷新到磁盘当中呢?

【如果每次提交,直接将Buffer Pool当中的数据直接刷新到磁盘当中,因为数据进行大量增删改,会产生随机磁盘IO,降低数据库性能。而直接使用redolog,因为其是日志文件,日志文件都是追加的,它此时是顺序磁盘IO,它的性能是要高于随机磁盘IO的】,过一段时间之后,就将脏页的数据,刷新到磁盘当中。

undolog

undolog如何解决事务的原子性呢?

回滚日志,用来记录数据被修改之前的信息,作用包含两个:提供 回滚和MVCC(多版本并发控制)。

undolog和redolog记录物理日志不一样,它是逻辑日志。可以认为当delete一条记录时,undolog中会记录一条对应的insert日志,反之亦然(insert->delete)。当update一条数据时,它记录一条对应相反的update记录。当执行rollback时,就可以从undo log中的逻辑记录中,读取到对应的内容,并回滚。

Undo log销毁:undo log在事务执行时产生,事务提交时,并不会立即删除Undo log,因为这些日志还可能用于MVCC。

Undo log存储:undo log采用段的方式进行管理和记录,存放在rollback segment回滚段当中,内部包含1024个undo log segment。

MVCC

基本概念:

1、当前读

读取的是记录的最新版本,读取时还要保证其它并发事务不能修改当前记录,会对读取的事务进行加锁。

select ..................lock in share mode(共享锁)

select ..................for update、 update、insert、delete都是排他锁,都是当前读。

例如:两个会话同时开启事务,会话1select查询,会话2update,即使会话2提交了,会话1的查询还是不变,因为MySQL设置的隔离级别为可重复读,所以读取不到最新的数据 。但是要想读取到最新的数据,可以设置select in share mode。

2、快照读

简单的select(不加锁)就是快照读。快照读,读取的是记录数据的可见版本,有可能是历史数据,不加锁,是非阻塞读。

read committed:每次select,都生成一个快照表

repeatable read:开启事务后,第一个select才是快照读的地方。

serializable:快照读会退化为当前读。

3、MVCC

全称 Multi-Version Concurrency Control,多版本并发控制。维护一个数据的多个版本,使得读写操作没有冲突,快照读为MySQL实现MVCC提供了一个非阻塞读功能。MVCC的具体实现,还需要依赖于数据库记录的三个隐式字段、undolog日志、readView。

MVCC实现原理

1、三个隐藏字段

id age name [db_trx_id、db_roll_ptr、db_row_id]

db_trx_id:最近修改事务ID,记录插入这条记录或最后一次修改记录的事务ID。

db_roll_ptr:回滚指针,指向这条记录的上一个版本,用于配合undoLog,指向上一个版本。

db_row_id:隐藏主键,如果表结构没有指定主键,将会生成该隐藏字段。

查看ibd文件的数据字典的信息:

ibd2sdi stu.ibd,可以看到隐藏字段。

2、undo log日志

回滚日志,在insert、update、delete的时候,产生的便于数据回滚的日志。

当insert的时候,产生的undo log日志只在回滚时需要,在事务提交之后,可以被立即删除。

而update、delete的时候,产生的undo log日志不仅在回滚时需要,在快照读的时候也需要,不会被立即删除。

undo log 版本链:

不同事务或者是相同事务对同一条记录进行修改,会导致该记录的undo log生成一条记录版本链条,链表的头部是最新的旧记录,链表的尾部是最早的旧记录。

3、read view

读视图,是快照读SQL执行时,MVCC提取数据的依据,记录并维护系统当前活跃的事务(未提交)id。

read view中包含了四个核心字段:

字段含义
m_ids当前活跃的事务ID集合
min_trx_id最小活跃事务ID
max_trx_id预分配事务ID,==当前最大事务ID+1(因为事务ID是自增的)
creator_trx_idreadview创建者的事务ID

trx_id:代表当前事务ID

trx_id == creator_trx_id ? 可以访问该版本

trx_id < min_trx_id ? 可以访问该版本

trx_id > max_trx_id ? 不可以访问该版本

min_trx_id <= trx_id <= max_trx_id 如果trxid不在m_ids中,是可以访问该版本的。

不同的隔离级别,生成ReadView的时机不同:

read comitted:在事务中,每一次执行快照读时生成readview。

repeatable read:仅在事务中第一次执行快照读时生成readview,后续复用该readview。

MySQL管理

系统数据库

数据库含义
mysql存储MySQL服务器正常运行所需要的各种信息(时区,主从,用户,权限等)
infomation_schema提供了访问数据库元数据的各种表和视图,包含数据库、表、字段类型及访问权限等。
performance_schema为MySQL服务器运行时提供了一个底层监控的功能,主要用于收集数据库服务器性能参数
sys包含了一系列方便DBA和开发人员利用performance_schema性能数据库进行调优和诊断的视图

不登录直接执行MySQL语句:

mysql -h192.168.xxxx P3306 -uroot -p1234 pshdhx *-e "select * from emp"*

查看帮助文档:

mysqladmin --help

mysqlbinlog指令

mysqlshow指令

mysqldump指令

mysqldump -uroot -p1234 db01 > db01.sql

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1471790.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

OpenAI视频生成Sora技术简析

基本介绍 Sora是春节期间OpenAI发布的产品&#xff0c;主要是通过文字描述生成视频&#xff0c;通过大规模视频数据训练而成的生成模型&#xff0c;当前还没开放试用。官方发布的技术报告&#xff1a;https://openai.com/research/video-generation-models-as-world-simulators…

【深入理解设计模式】适配器设计模式

适配器设计模式 适配器设计模式是一种结构型设计模式&#xff0c;用于将一个类的接口转换成客户端所期望的另一个接口&#xff0c;从而使得原本由于接口不兼容而不能一起工作的类能够一起工作。适配器模式通常用于以下场景&#xff1a; 现有接口与需求不匹配&#xff1a;当需要…

遭遇DDOS攻击忍气吞声?立刻报警!首都网警重拳出击,犯罪分子无所遁形

遭遇DDOS攻击忍气吞声&#xff1f;立刻报警&#xff01;首都网警重拳出击 公元2024年2月24日18时许&#xff0c;笔者的个人网站突然遭遇不明身份者的DDOS攻击&#xff0c;且攻击流量已超过阿里云DDos基础防护的黑洞阈值&#xff0c;服务器的所有公网访问已被屏蔽&#xff0c;由…

观后感:UniAD

背景 首先定一个调&#xff0c;自动驾驶方向统一的大模型不是一般的公司就能做的&#xff0c;没几十张A100训练都训练死你&#xff0c;这批观后感旨在学习UniAD的思想&#xff0c;拓展一下眼界 UniAD将检测&#xff0c;跟踪&#xff0c;建图&#xff0c;轨迹预测这四个任务统一…

如何本地部署LightPicture结合cpolar内网穿透打造个人云图床

文章目录 1.前言2. Lightpicture网站搭建2.1. Lightpicture下载和安装2.2. Lightpicture网页测试2.3.cpolar的安装和注册 3.本地网页发布3.1.Cpolar云端设置3.2.Cpolar本地设置 4.公网访问测试5.结语 1.前言 现在的手机越来越先进&#xff0c;功能也越来越多&#xff0c;而手机…

深度学习在过冷沸腾气泡动力学分割中的应用

Application of deep learning for segmentation of bubble dynamics in subcooled boiling 深度学习在过冷沸腾气泡动力学分割中的应用 期刊信息&#xff1a;International Journal of Multiphase Flow 2023 级别&#xff1a;EI检索 SCI升级版工程技术2区 SCI基础版工程技术3区…

Python之pyecharts的常见用法4-3D柱状图

目录 专栏导读背景1、3D柱状图代码 2、3D柱状图3、3D柱状图结尾 专栏导读 &#x1f338; 欢迎来到Python办可视化化专栏&#xff0c;目前专栏正在更新中 &#x1f3f3;️‍&#x1f308; 博客主页&#xff1a;请点击——> 一晌小贪欢的博客主页求关注 &#x1f44d; 此外…

300分钟吃透分布式缓存-15讲:如何深入理解、应用及扩展 Twemproxy?

Twemproxy 架构及应用 Twemproxy 是 Twitter 的一个开源架构&#xff0c;它是一个分片资源访问的代理组件。如下图所示&#xff0c;它可以封装资源池的分布及 hash 规则&#xff0c;解决后端部分节点异常后的探测和重连问题&#xff0c;让 client 访问尽可能简单&#xff0c;同…

LeetCode 1038.从二叉搜索树到更大和树

给定一个二叉搜索树 root (BST)&#xff0c;请将它的每个节点的值替换成树中大于或者等于该节点值的所有节点值之和。 提醒一下&#xff0c; 二叉搜索树 满足下列约束条件&#xff1a; 节点的左子树仅包含键 小于 节点键的节点。 节点的右子树仅包含键 大于 节点键的节点。 左…

c++:vector的相关oj题(136. 只出现一次的数字、118. 杨辉三角、26. 删除有序数组中的重复项、JZ39 数组中出现次数超过一半的数字)

文章目录 1. 136. 只出现一次的数字题目详情代码(直接来异或&#xff09;思路 2. 118. 杨辉三角题目详情代码1思路代码2思路2 3. 26. 删除有序数组中的重复项题目详情代码思路 4. JZ39 数组中出现次数超过一半的数字题目详情代码1&#xff08;暴力&#xff09;思路1代码2&#…

《论文阅读》利用提取的情感原因提高共情对话生成的内容相关性 CCL 2022

《论文阅读》利用提取的情感原因提高共情对话生成的内容相关性 前言简介模型架构情绪识别情绪原因提取实验结果示例总结前言 亲身阅读感受分享,细节画图解释,再也不用担心看不懂论文啦~ 无抄袭,无复制,纯手工敲击键盘~ 今天为大家带来的是《Using Extracted Emotion Caus…

el-tab-pane标签页如何加图标

效果如下 主要修改 <el-tab-pane name"tab6" v-if"subOrderType 10 && urlname ! wgSalesTerminationOrder"><span slot"label"> 售后判责<span class"el-icon-warning" style"color:#F66B6C;"&…

电脑dll缺失怎么办,找不到dll的多种解决方法分享

dll文件在计算机领域中扮演着至关重要的角色&#xff0c;它代表的是Dynamic Link Library&#xff08;动态链接库&#xff09;文件。那么&#xff0c;究竟什么是dll文件呢&#xff1f;简单来说&#xff0c;dll文件是一种特殊的程序模块&#xff0c;其中包含了可以被多个应用程序…

Web3的奇迹:数字世界的新篇章

在数字化时代的潮流中&#xff0c;Web3正以其令人振奋的潜力和前景引领着我们进入一个全新的数字时代。作为互联网的下一代&#xff0c;Web3将重新定义我们对数字世界的认知和体验&#xff0c;为我们带来无限的可能性和奇迹。本文将深入探讨Web3的重要性、核心特征以及未来展望…

Nginx----高性能的WEB服务端(二)

一、高级配置 1、网页的状态页 基于nginx 模块 ngx_http_stub_status_module 实现&#xff0c;在编译安装nginx的时候需要添加编译参数 --with-http_stub_status_module&#xff0c;否则配置完成之后监测会是提示语法错误注意: 状态页显示的是整个服务器的状态,而非虚拟主机的…

【力扣白嫖日记】180.连续出现的数字

前言 练习sql语句&#xff0c;所有题目来自于力扣&#xff08;https://leetcode.cn/problemset/database/&#xff09;的免费数据库练习题。 今日题目&#xff1a; 180.连续出现的数字 表&#xff1a;Logs 列名类型idintnumvarchar 找出所有至少连续出现三次的数字。 返回…

Spring之AOP源码解析(下)

前言 在上一遍文章中,我们主要讲解了ProxyFactory在Spring完成AOP动态代理的过程中发挥的作用。这一篇我们主要讲解这些注解都是如何注入Advisors,然后分析这些Advisors生效的条件 注解都是如何注入Advisor并匹配的 EnableTransactionManagement注解 我们在之前提到EnableT…

vue2实现无感刷新token

&#x1f3ac; 江城开朗的豌豆&#xff1a;个人主页 &#x1f525; 个人专栏 :《 VUE 》 《 javaScript 》 &#x1f4dd; 个人网站 :《 江城开朗的豌豆&#x1fadb; 》 ⛺️ 生活的理想&#xff0c;就是为了理想的生活 ! 目录 &#x1f4d8; 引言&#xff1a; &#x1f4…

商家入驻平台怎么让资金自动分配给商家

最近很多上线了多商户电商系统的朋友咨询&#xff0c;我们平台的用户支付后&#xff0c;钱进入了我们的对公账户&#xff0c;怎样让钱在走完流程后&#xff0c;自动进入商家的账户呢&#xff1f;今天商淘云为您分享商户入驻平台自动分配给商家资金的三种方法。 首先是平台应建立…

用户体验设计师如何在 2024抢占先机?

01. 严峻的经济形势和就业市场 我们生活在一个通货膨胀的时代。就从超市抓几个苹果、卷心菜、鸡蛋&#xff0c;看看价格吧&#xff01;我不得不多次检查收据&#xff0c;因为我简直不敢相信。外出就餐费用上涨了 10-20%&#xff0c;现在 Spotify 和 YouTube 要求收取更高的订阅…