MySQL篇(存储引擎 - InnoDB存储引擎架构)(持续更新迭代)

news2024/11/24 4:51:23

目录

一、逻辑存储结构

1. 表空间

2. 段

3. 区

4. 页

5. 行

二、架构

1. 简介

2. 内存结构(四部分)

Buffer Pool

Change Buffer

Adaptive Hash Index

Log Buffer

3. 磁盘结构(七部分)

System Tablespace

File-Per-Table Tablespaces

General Tablespaces

Undo Tablespaces

Temporary Tablespaces

Doublewrite Buffer Files

Redo Log

4. 后台线程(四类)

Master Thread

IO Thread

Purge Thread

Page Cleaner Thread


一、逻辑存储结构

InnoDB的逻辑存储结构如下图所示:

1. 表空间

表空间是InnoDB存储引擎逻辑结构的最高层, 如果用户启用了参数 innodb_file_per_table(在8.0版本中默认

开启) ,则每张表都会有一个表空间(xxx.ibd),一个mysql实例可以对应多个表空间,用于存储记录、索引

等数据。

2. 段

段,分为数据段(Leaf node segment)、索引段(Non-leaf node segment)、回滚段(Rollback

segment),InnoDB是索引组织表,数据段就是B+树的叶子节点, 索引段即为B+树的非叶子节点。

段用来管理多个Extent(区)。

3. 区

区,表空间的单元结构,每个区的大小为1M。

默认情况下, InnoDB存储引擎页大小为16K, 即一个区中一共有64个连续的页。

4. 页

页,是InnoDB 存储引擎磁盘管理的最小单元,每个页的大小默认为 16KB。

为了保证页的连续性,InnoDB 存储引擎每次从磁盘申请 4-5 个区。

5. 行

行,InnoDB 存储引擎数据是按行进行存放的。

在行中,默认有两个隐藏字段:

Trx_id:每次对某条记录进行改动时,都会把对应的事务id赋值给trx_id隐藏列。

Roll_pointer:每次对某条引记录进行改动时,都会把旧的版本写入到undo日志中,然后这个隐藏列就相当于

一个指针,可以通过它来找到该记录修改前的信息。

二、架构

1. 简介

MySQL5.5 版本开始,默认使用InnoDB存储引擎,它擅长事务处理,具有崩溃恢复特性,在日常开发中使用

非常广泛。下面是InnoDB架构图,左侧为内存结构,右侧为磁盘结构。

2. 内存结构(四部分)

在左侧的内存结构中,主要分为这么四大块儿:

Buffer Pool、Change Buffer、Adaptive Hash Index、Log Buffer。

Buffer Pool

InnoDB存储引擎基于磁盘文件存储,访问物理硬盘和在内存中进行访问,速度相差很大,

为了尽可能弥补这两者之间的I/O效率的差值,就需要把经常使用的数据加载到缓冲池中,避免每次访问都进行

磁盘I/O。

在InnoDB的缓冲池中不仅缓存了索引页和数据页,还包含了undo页、插入缓存、自适应哈希索引以及InnoDB

的锁信息等等。

缓冲池 Buffer Pool,是主内存中的一个区域,里面可以缓存磁盘上经常操作的真实数据,

在执行增删改查操作时,先操作缓冲池中的数据(若缓冲池没有数据,则从磁盘加载并缓存),

然后再以一定频率刷新到磁盘,从而减少磁盘IO,加快处理速度。

缓冲池以Page页为单位,底层采用链表数据结构管理Page。

根据状态,将Page分为三种类型

  • free page:空闲page,未被使用。
  • clean page:被使用page,数据没有被修改过。
  • dirty page:脏页,被使用page,数据被修改过,也中数据与磁盘的数据产生了不一致。

在专用服务器上,通常将多达80%的物理内存分配给缓冲池 。

参数设置:

show variables like 'innodb_buffer_pool_size';

Change Buffer

Change Buffer,更改缓冲区(针对于非唯一二级索引页),

在执行DML语句时,如果这些数据Page没有在Buffer Pool中,不会直接操作磁盘,

而会将数据变更存在更改缓冲区 Change Buffer 中,

在未来数据被读取时,再将数据合并恢复到Buffer Pool中,再将合并后的数据刷新到磁盘中。

Change Buffer的意义是什么呢?

先来看一幅图,这个是二级索引的结构图:

Adaptive Hash Index

自适应hash索引,用于优化对Buffer Pool数据的查询。

MySQL的innoDB引擎中虽然没有直接支持hash索引,但是给我们提供了一个功能就是这个自适应hash索引。

因为前面我们讲到过,hash索引在进行等值匹配时,一般性能是要高于B+树的,因为hash索引一般只需要一

次IO即可,而B+树,可能需要几次匹配,所以hash索引的效率要高,但是hash索引又不适合做范围查询、模

糊匹配等。

InnoDB存储引擎会监控对表上各索引页的查询,

如果观察到在特定的条件下hash索引可以提升速度,则建立hash索引,称之为自适应hash索引。

自适应哈希索引,无需人工干预,是系统根据情况自动完成。

参数: adaptive_hash_index

Log Buffer

Log Buffer:日志缓冲区,用来保存要写入到磁盘中的log日志数据(redo log 、undo log),默认大小为

16MB,日志缓冲区的日志会定期刷新到磁盘中。

如果需要更新、插入或删除许多行的事务,增加日志缓冲区的大小可以节省磁盘 I/O。

参数:

  • innodb_log_buffer_size:缓冲区大小
  • innodb_flush_log_at_trx_commit:日志刷新到磁盘时机,取值主要包含以下三个:
    1. 1: 日志在每次事务提交时写入并刷新到磁盘,默认值。
    2. 0: 每秒将日志写入并刷新到磁盘一次。
    3. 2: 日志在每次事务提交后写入,并每秒刷新到磁盘一次。

3. 磁盘结构(七部分)

System Tablespace

系统表空间是更改缓冲区的存储区域。

如果表是在系统表空间而不是每个表文件或通用表空间中创建的,它也可能包含表和索引数据。

(在MySQL5.x版本中还包含InnoDB数据字典、undolog等)

参数:innodb_data_file_path

系统表空间,默认的文件名叫 ibdata1

File-Per-Table Tablespaces

如果开启了innodb_file_per_table开关 ,则每个表的文件表空间包含单个InnoDB表的数据和索引 ,并存储在

文件系统上的单个数据文件中。

开关参数:innodb_file_per_table,该参数默认开启。

那也就是说,我们每创建一个表,都会产生一个表空间文件,如图:

General Tablespaces

通用表空间,需要通过 CREATE TABLESPACE 语法创建通用表空间,在创建表时,可以指定该表空间。

1、创建表空间

CREATE TABLESPACE ts_name ADD DATAFILE 'file_name' ENGINE = engine_name;

2、创建表时指定表空间

CREATE TABLE xxx ... TABLESPACE ts_name;

Undo Tablespaces

撤销表空间,MySQL实例在初始化时会自动创建两个默认的undo表空间(初始大小16M),

用于存储undo log日志。

Temporary Tablespaces

InnoDB 使用会话临时表空间和全局临时表空间。存储用户创建的临时表等数据。

Doublewrite Buffer Files

双写缓冲区,innoDB引擎将数据页从Buffer Pool刷新到磁盘前,先将数据页写入双写缓冲区文件中,

便于系统异常时恢复数据

Redo Log

重做日志,是用来实现事务的持久性。

该日志文件由两部分组成:重做日志缓冲(redo log buffer)以及重做日志文件(redo log),

前者是在内存中,后者在磁盘中。

当事务提交之后会把所有修改信息都会存到该日志中, 用于在刷新脏页到磁盘时,发生错误时,

进行数据恢复使用。

以循环方式写入重做日志文件,涉及两个文件

前面我们介绍了InnoDB的内存结构,以及磁盘结构,那么内存中我们所更新的数据,

又是如何到磁盘中的呢?

此时,就涉及到一组后台线程,接下来,就来介绍一些InnoDB中涉及到的后台线程。

4. 后台线程(四类)

在InnoDB的后台线程中,分为4类,分别是:

Master Thread、IO Thread、Purge Thread、Page Cleaner Thread。

Master Thread

核心后台线程,负责调度其他线程,还负责将缓冲池中的数据异步刷新到磁盘中, 保持数据的一致性,

还包括脏页的刷新、合并插入缓存、undo页的回收 。

IO Thread

在InnoDB存储引擎中大量使用了AIO来处理IO请求, 这样可以极大地提高数据库的性能,

而IO Thread主要负责这些IO请求的回调。负责写操作

线程类型

默认个数

职责

Read Thread

4

负责读操作

Write Thread

4

负责写操作

Log Thread

1

负责将日志缓冲区刷新到磁盘

Insert buffer thread

1

负责将写缓冲区刷新到磁盘

我们可以通过以下的这条指令,查看到InnoDB的状态信息,其中就包含IO Thread信息。

show engine innodb status \G;

Purge Thread

主要用于回收事务已经提交了的undo log,在事务提交之后,undo log可能不用了,就用它来回收。

Page Cleaner Thread

协助 Master Thread 刷新脏页到磁盘的线程,它可以减轻 Master Thread 的工作压力,减少阻塞。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2151516.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

pdf文件怎么直接翻译?使用这些工具让翻译变得简单

在全球化日益加深的职场环境中,处理外语PDF文件成为了许多职场人士面临的共同挑战。 面对这些“加密”的信息宝库,如何高效、准确地将英文pdf翻译成对应语言,成为了提升工作效率的关键。 以下是几款在PDF翻译领域表现出色的软件&#xff0c…

化繁为简:中介者模式如何管理复杂对象交互

化繁为简:中介者模式如何管理复杂对象交互 中介者模式 是一种行为型设计模式,定义了一个中介者对象,来封装一组对象之间的交互。中介者模式通过将对象之间的交互行为从多个对象中抽离出来,集中封装在一个中介者对象中,…

智能除螨仪——NV040D-SOP8语音芯片方案引领除螨仪新时代

随着物联网技术的快速发展,除螨仪作为家庭清洁的重要工具,其智能化、人性化的设计成为提升市场竞争力的关键。置入语音芯片的除螨仪,通过开机提示、工作状态反馈、操作指引、故障提醒等内容。用户可以更加直观地了解除螨仪的工作状态&#xf…

开发谷歌插件之GA埋点

目录 一、背景 二、踩坑 三、谷歌插件开发的GA埋点的实现方式 一、背景 开发了一个谷歌插件,领导需要对用户的一些行为进行分析,于是让我在代码里面加上GA埋点。由于我们的PC端的项目一直都有进行GA埋点,当时就想着,这不就是把…

Spring Cloud Alibaba-(4)Sentinel【流控和降级】

Spring Cloud Alibaba-(1)搭建项目环境 Spring Cloud Alibaba-(2)Nacos【服务注册与发现、配置管理】 Spring Cloud Alibaba-(3)OpenFeign【服务调用】 Spring Cloud Alibaba-(4)Sen…

界面控件Telerik UI for WinForms 2024 Q3概览 - 支持合并单元格等

Telerik UI for WinForms拥有适用Windows Forms的110多个令人惊叹的UI控件。所有的UI for WinForms控件都具有完整的主题支持,可以轻松地帮助开发人员在桌面和平板电脑应用程序提供一致美观的下一代用户体验。 本文将介绍界面组件Telerik UI for WinForms在今年第一…

Java语言程序设计基础篇_编程练习题***18.32 (游戏:骑士的旅途)

目录 题目:***18.32 (游戏:骑士的旅途) 习题思路 代码示例 输出结果 题目:***18.32 (游戏:骑士的旅途) 骑士的旅途是一个古老的谜题,它的目的是使骑从棋盘上的任意一个正方 形开始移动,经过其他的每个正方形一次,如…

R18 5G网络中 AI/ML技术特性及其在5GS和NG-RAN中的应用

随着5G技术的发展,人工智能(AI)和机器学习(ML)在网络中的应用越来越广泛。本文将介绍R18 5G网络中AI/ML的新特性,包括在5G系统(5GS)中的应用、在新一代无线接入网(NG-RAN…

AD中PCB元器件常用的对齐用法

1.shift 选中要对齐的元器件 2.按右键,选择对齐,或者按A,弹出对齐对菜单;(切记不要选择多余的元器件或者线条,要不然也会根据它的位置来做对齐,按shift一个一个元器件选择) 常用如下…

基于SpringBoot+Vue的在线学习平台

作者:计算机学姐 开发技术:SpringBoot、SSM、Vue、MySQL、JSP、ElementUI、Python、小程序等,“文末源码”。 专栏推荐:前后端分离项目源码、SpringBoot项目源码、SSM项目源码 系统展示 【2025最新】基于JavaSpringBootVueMySQL的…

出现conda不是内部或外部命令,也不是可运行的程序或批处理文件。的解决办法

发现是我的环境变量不对,需要改成conda.exe所在的目录下 如果不知道自己conda.exe在哪的 可以下载个everything这个软件 找东西很快 找到后 点击环境变量-系统变量-Path-新建-(你的conda.exe所在目录:绝对路径) 完成上述操作…

【English】语法的整体结构

目录 📌词类——"英语的本质是词与词之间的修饰关系" 名词( Noun ) 形容词( Adjective ) 动词( Verb ) 副词( Adverbs ) 修饰关系——"理解词与词之间的修饰关系与规则" 📌句子结构 句子的基本成分 五种基本句型和三种句子类型 关于…

ROC和AUC也不是评估机器学习性能的金标准

对于不平衡数据集,AUC值是分类器效果评估的常用标准。但如果在解释时不仔细,它也会有一些误导。以Davis and Goadrich (2006)中的模型为例。如图所示,左侧展示的是两个模型的ROC曲线,右侧展示的是precision-recall曲线 (PRC)。 Pr…

前端univer创建、编辑excel

前端univer创建、编辑excel 源码在线demo:https://codesandbox.io/p/sandbox/univer-q87kqg?file/src/Demo.jsx univer官网地址:https://univer.ai/zh-CN/guides/sheet/introduction 安装univer npm install univerjs/core univerjs/design univerjs…

大模型爬虫—ScrapeGraphAI

大模型爬虫—ScrapeGraphAI 一、介绍 ScrapeGraphAI是一个网络爬虫 Python 库,使用大型语言模型和直接图逻辑为网站和本地文档(XML,HTML,JSON 等)创建爬取管道。 只需告诉库您想提取哪些信息,它将为您完成! scrapegraphai有三种主要的爬取管道可用于从网站(或本地文…

dockerfile 添加arthas 监控插件。容器添加arthas监控

1. arthas官网: 简介 | arthas 2. arthas下载地址: Releases alibaba/arthas GitHub 3. 下载版本: 4. 下载压缩包后,解压缩,放入Dockerfile 同级目录 5. dockerfile 命令: RUN mkdir -p /opt/arthas…

HarmonyOS鸿蒙开发实战(5.0)自定义全局弹窗实践

鸿蒙HarmonyOS开发实战往期文章必看: HarmonyOS NEXT应用开发性能实践总结 最新版!“非常详细的” 鸿蒙HarmonyOS Next应用开发学习路线!(从零基础入门到精通) 非常详细的” 鸿蒙HarmonyOS Next应用开发学习路线&am…

【RPA私教课:UIPath】RPA 赋能科技企业,登录时验证码自动截取

在某科技型企业里,专门设置了一个验证码接收系统。每当用户进行登录操作时,都必须从这个系统中抓取最新的登录验证码,以确保登录的安全性。 具体需求如下: 客户会预先在表格中妥善保存众多的账户和密码。当 RPA 机器人在业务系统…

weblogic CVE-2017-3506 靶场攻略

漏洞描述 Weblogic的WLS Security组件对外提供了webserver服务,其中使⽤了XMLDecoder来解析⽤户输⼊的XML数据,在解析过程中出现反序列化漏洞,可导致任意命令执⾏。 影响版本 受影响版本:WebLogic 10.3.6.0, 12.1.3.0, 12.2.1.…

idea启动oom了解决

解决 Error:java: java.lang.OutOfMemoryError: WrappedJavaFileObject[org.jetbrains.jps.javac.InputFileObject[file:///D:/mingan/pb/backend/src/main/java/com/cy/backend/service/impl/StorageServiceImpl.java]]pos36199: WrappedJavaFileObject[org.jetbrains.jps.j…