MySQL索引+常见问题详解

news2024/11/15 18:01:39

文章目录

    • 字典的数据部分
    • 字典的索引部分
    • 数据页
    • 索引页
    • MySQL单表最大数据容量2000万?
    • MySQL为什么采用B+树?
    • 聚簇索引 / 非聚簇索引
    • 回表 / 索引覆盖
    • 为什么建议自增主键
    • 索引下推

网络上的讲述MySQL索引的文章太多了,我打算换个角度来说。我们尝试着从设计者的角度思考,索引为什么这么设计。

假如你是索引的设计者,你会如何设计索引。我们不妨以新华字典为例。如果我们要查询汉字是什么意思,我们有如下操作

  • 确定拼音(假设你知道拼音,只是想要知道它的意思),ai
  • 找到拼音索引页
  • 找到字母A起始位置
  • 定位到ai,以及对应的页码

在这里插入图片描述

字典的数据部分

字典正文部分的内容,我们可以看成是数据页。每一个数据页都拥有自己的编码,也就是唯一标识——id。每一页都有一个起始汉字结束汉字

在这里插入图片描述

字典的索引部分

要让用户快速定位需要查询的内容,如果内容本身无法被快速定位,可以采取从数据中,提取部分冗余信息,构建成索引。然后将索引和内容,通过键值对映射(K-V) 的方式进行对应。

字典则是从每个汉字中,提取拼音这个冗余信息,作为上一层索引;然后从拼音中提取第一个字母,作为拼音的索引;最后将每个字母汇总在同一个索引页层级下,得到完整的索引结构。

我们将字典索引绘制,可以得到下方图案

在这里插入图片描述

tip:

  • 值得一提的是,在构建索引时,存在着非常多相同拼音的汉字。但索引目录不可能全部存储下。因此在构建索引时,只会存储最具代表性的那一个汉字,以及它所存在的页数
  • ai为例,索引中所记录的页数是拥有ai这个拼音,第一个汉字出现的位置。所以严格意义上将,字典的拼音索引并不全面。只有下方图示的索引结构,才能覆盖所有汉字
    在这里插入图片描述

现在,我们回到MySQL的设计中。我们需要解决两个问题:

  • 如何存储
  • 索引如何建立

不论是索引还是数据,我们都需要存储在文件中,我们不妨设计一个叫test.ibd的文件,用于存储我们的数据和索引。其中,test叫表名,.ibd为数据库表文件后缀。

我们可以把test.ibd看作现实世界中的《新华字典》。字典用一页页的纸张存储数据,我们test.ibd也可以划分出一页一页的空间来存放我们的表数据。

字典的每一页都有固定的大小。同样的,数据库的每一页我们也可以固定大小,就比如16K

在这里插入图片描述

tip:

  • InnoDB在物理层面以页(Page)为基本单位进行数据的读写和管理。每个页大小默认是16KB,并且这个大小是可以配置的。
  • 当InnoDB存储引擎需要分配新的空间来存储数据或者索引时,它会以页为单位进行分配。即使实际写入的数据不足一页(默认16KB),InnoDB也会完整地申请一个页的空间。
  • 据此,我们可以发现我们的.ibd文件全部都是16的倍数
    请添加图片描述
    请添加图片描述

存储的问题解决了,现在我们将视角聚焦于每一页的内容上。

我们可以将页划分为两列,一类是专门用于存储索引的——索引页,另一类专门存储数据的——数据页

我们先看数据页

数据页

按照直觉,我们很快就设计出了数据页的内容。首先,我们需要空间用来存用户数据,每一行用书数据都需要一个id作为唯一标识。另外我们需要页头存储页码信息。通过页码来唯一标识。具体如下图所示
在这里插入图片描述
现在我们来思考一个问题。假设我们现在找到了一页数据,我们如何定位逻辑上相邻的下一页数据呢?

对于字典来说,每一页都是物理相邻的,找到一页后顺着翻过去,就得到了另外一页。

但对于计算机来说,每一页都可能存储在磁盘的任何位置。因为磁盘最终会被划分为若干个单元格,操作系统不可能每次申请空间都恰好连续。随着文件的创建和删除,总会出现磁盘空间碎片的现象。如果是申请连续的大空间,这件事情难度过大。

考虑到数据页可能会分配在不同的空间,因此我们设计的时候需要增加指针,允许数据页找到彼此逻辑相连的数据页。

在这里插入图片描述
我们修改一下页的设计,通过添加前后指针,为页提供找到相邻页的能力

在这里插入图片描述


现在的页结构相对比较可用了,我们再完善一下,增加页目录、页尾这部分信息

在这里插入图片描述

我们思考这样一个问题,按照原来的逻辑,寻找数据只能全页遍历,这样的时间复杂度是n,如果用户数据非常多,那么所耗费的时间会非常大。

我们不妨将用户数据信息分组

  • 第一组,最小记录(id)所在组,且改组只有一个数据
  • 最后一组,最大记录(id)所在组,会有若干数据
  • 其余组尽量平均分配每组数据,控制在一定量内

然后,我们在页目录中记录若干slot,每个slot槽指向对应组中,最大数据的偏移地址。通过页目录构造出的数据结构,我们可以对原先的全遍历优化,通过二分的方式降低时间复杂度。从 o ( n ) − > o ( l o g n ) o(n)->o(log^n) o(n)>o(logn)

另外,我们增加页尾,提供页数据完整性校验的功能。

索引页

在正式讲索引页前,我们用一个小案例引入

假设,我们需要从一下数据页中查找id = 11的数据。在数据量小的情况下,我们全表遍历没什么问题。从第一页开始,挨个遍历所有行。但数据量大了,这种方式肯定是需要被淘汰的。我们需要提高搜索效率,这就是索引出现的原因。
在这里插入图片描述

索引页的设计我们依然沿用数据页的设计,不同的地方是索引页存储的内容是索引,且只存索引,而数据页存的是数据。这么做有个好处,当页只存储索引,那么每一页能够容纳更多的索引信息,从而提高索引范围,从而提高了数据的容量

那么索引页,我们该怎么存储索引信息呢?索引存储个啥呢?

在最开始我们提到,索引就是增加冗余信息。通过构建冗余信息来提高查询效率,这也算是空间换时间的一种具体实现。

我们将数据页的每一页最小的数据信息抽离出来,存储到索引页中。形成索引页,具体如下图

在这里插入图片描述
现在我们要查询id = 11的数据,我们先遍历索引页,发现11在9 ~ 12之间,因此定位到页3,然后在页3中根据页目录的信息进行二分,找到11号数据。引入索引页,我们能够更快的定位到数据信息。

此外,随着数据的引入,索引页的增长数量是非常缓慢的。按照上图所示逻辑,一份索引页能够索引到4张不同的页。假设我们是3层数结构,且全部填满。一、二两层用于存储索引页、三层用于存储数据页,我们可以容纳的数据量是 1 ∗ 4 ∗ 4 ∗ 4 = 64 1 * 4 * 4 * 4 = 64 1444=64行数据
计 算 公 式 位 n = z ( h − 1 ) ∗ y 其 中 , n 表 示 数 据 量 , z 表 示 索 引 页 存 储 的 数 据 y 表 示 数 据 页 存 储 数 据 量 h 表 示 树 的 高 度 计算公式位n = z ^ {(h - 1)} * y \\ 其中, n表示数据量, z表示索引页存储的数据\\y表示数据页存储数据量\\ h表示树的高度 n=z(h1)y,n,zyh
假设我们现在拥有5层的树高,且全部填满,带入公式可得, n = 1024 n = 1024 n=1024

我们用python将数据可视化

在这里插入图片描述
不难发现,随着h(树高)轻微的变化,n(数据量)指数式增长。这便是构建树形索引页的好处。

至此,我们的索引设计基本完成!


MySQL单表最大数据容量2000万?

有了上文所说的内容,这个数据的判断起始不难。

假设我们拥有三层满树结构,且页的大小默认为16K,除去其余的信息,索引页能够存储的索引信息只有15K,假设每一行数据占用空间12B,由 15 ∗ 1024 / 15 = 1280 15 * 1024 / 15 = 1280 151024/15=1280 可得,索引页在假设条件下可以索引1280页数据信息。

数据页同理,拥有15K的存储数据的空间,每行数据1K,那么数据页能够存储的数据为15行

带入上一节的公式 n = z ( h − 1 ) ∗ y n = z ^ {(h - 1)} * y n=z(h1)y, 计算得到 n = 24576000 n = 24576000 n=24576000,也就是2000万。

当然,这个数据不绝对。如果行数据大小小于1K,那么容量还得翻一番。

另外,值得一提的是,树的高度决定了磁盘IO的次数

前文我们提到每一页都是存储在磁盘不同的位置。在通过索引查找数据时,遍历了多少页,就意味着进行了多少次IO操作。


MySQL为什么采用B+树?

B+树具有如下优点

  • B+树是多叉树,每一层能够索引的节点量非常庞大。在树的层级确定的情况下,能够容纳更多的数据
  • B+树索引部分只存储索引,不存储数据,因此能够存储更多的索引,从而容纳更多的数据(B树,会将一部分数据充当索引)
  • B+树的所有数据都存储在叶子节点,并且通过指针顺序相连。因此B+树支持范围查询

聚簇索引 / 非聚簇索引

聚簇索引

我们直接看官方是怎么说的

Each InnoDB table has a special index called the clustered index that stores row data. Typically, the clustered index is synonymous with the primary key.

聚簇索引,叶子节点存储的是完整一行的数据,它和主键相关。

我们用图来演示

假设我们创建了test表,其中存储如下数据

在这里插入图片描述

我们为主键创建聚簇索引,create unique index jucu_index on test(id)

得到如下的索引图

在这里插入图片描述
叶子节点存放了完整一行的数据

非局促索引

Indexes other than the clustered index are known as secondary indexes. In InnoDB, each record in a secondary index contains the primary key columns for the row, as well as the columns specified for the secondary index. InnoDB uses this primary key value to search for the row in the clustered index.

在innodb中,只要不是聚簇索引,就是非局促索引。非聚簇索引叶子节点包含了每一行的主键。innodb再用主键的值,在聚簇索引中查询整行信息

我们为age字段创建普通索引,create index nianning_index on test(age)

索引图如下

在这里插入图片描述
每个叶子节点存储的是主键,而不是每一行的信息

回表 / 索引覆盖

回表

回表是指当查询过程中根据非聚簇索引找到行的键值后,缺少需要列信息,所以需要根据主键再次回到聚簇索引的数据区去查找对应的完整行记录的过程

我们以上一节的例子为例

select * from test where age = 30; 这段SQL会走age的非聚簇索引。找到age = 30所对应的节点后,节点只存储了id信息,缺少了其他的信息。因此需要通过找到的id信息,返回聚簇索引中找到全部的信息。

在这里插入图片描述

覆盖索引

索引包含了查询所涉及的所有列,因此数据库可以直接从索引结构中检索所有需要的数据,无需进行额外的“回表”操作来读取磁盘上的实际数据行

依然以test数据库为例

select id, age from test where age = 30;这个SQL就是覆盖索引。因为在age上创建的索引就包含了需要查询的所有信息,无需进行回表

为什么建议自增主键

我们先做个小实验。目前B+树中含有的数据是1,2,3,4,5,6,7,8,9.
在这里插入图片描述

现在我们再次插入id = 5的数据,这样就等于插入非自增数据

在这里插入图片描述

我们发现,当5插入到树中,树的整体形状发生了改变。这是因为叶子节点中,(3,4,5)已经是一组,在插入数字5时,为了保证顺序性,依然是插入到(3,4,5)这个叶子节点中,形成(3,4,5,5)。但这样的话不满足树的度,因此发生了裂变,分裂叶子节点。然后做出额外的平衡操作

如果我们是自增id,那么新的数据会追加到末尾,比如插入数据10

在这里插入图片描述
则并没有发生裂变操作。

使用自增主键可以确保每次插入的新行总是放在数据页的末尾,这样就避免了为了维持B+树索引的有序性而进行大量的页面分裂和调整操作。对于InnoDB存储引擎而言,由于其采用了聚簇索引,数据行本身是按照主键顺序存储的,因此连续的自增主键有助于提高插入效率。


索引下推

这个概念其实很简单。索引下推就是尽可能在存储引擎层,通过索引筛选掉不符合条件的数据,从而加速查询过程。

select * from test where name = 'zhangsan' and age = 18;为例

如果没有索引下推,那么MySQL会在索引层通过name索引判断,找到name = zhangsan的数据后返回给服务层。服务层再筛选过滤掉age != 18的数据

而索引下推,MySQL会在索引层同时过滤筛选name = zhangsan 和 age = 18,筛选完后再把数据返回。

这样的好处就是

  • 存储引擎返回给服务层的数据量减少,提高了数据io效率
  • 数据减少,从而减少回表次数,提高数据查询速度

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1508961.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

物奇平台超距断连无蓝牙广播问题解决方法

是否需要申请加入数字音频系统研究开发交流答疑群(课题组)?可加我微信hezkz17, 本群提供音频技术答疑服务,+群赠送语音信号处理降噪算法,蓝牙耳机音频,DSP音频项目核心开发资料, 物奇平台超距断连无蓝牙广播问题解决方法 一 问题反馈 二解决方法: 1 运行流程分析 对应代…

八、软考-系统架构设计师笔记-系统质量属性和架构评估

1、软件系统质量属性 软件架构的定义 软件架构是指在一定的设计原则基础上,从不同角度对组成系统的各部分进行搭配和安排,形成系统的多个结构而组成架构,它包括该系统的各个构件,构件的外部可见属性及构件之间的相互关系。 软件架…

盘点2024年2月Sui生态发展,了解Sui近期成长历程!

2024年2月喜迎中国春节,Sui生态发布多条重要公告,生态建设积极推进。例如,Sui上TVL突破5亿美元跻身DeFi榜单前十名和最活跃链前五名;Ondo宣布将其原生稳定币USDY带入Sui生态;Sui与Thrive合作推出ThinkSui平台&#xff…

2024年品牌推广:构建品牌生态圈与注重品牌故事和文化传播

在全球经济深度融合、数字化浪潮汹涌澎湃的2024年,品牌推广的策略与模式正经历着前所未有的变革。在这一背景下,构建品牌生态圈和注重品牌故事与文化传播,成为了企业提升品牌竞争力和市场占有率的重要手段。 一、2024年市场经济分析与现状 …

安装YOLOv8

1.创建、激活虚拟环境 conda create --name yolov8 python conda activate yolov8 2.安装YOLOv8 pip install ultralytics 3.在官方网页中下载YoloV8的所有的代码、并且解压: 官方网页:https://github.com/ultralytics/ultralytics/ultralytics 4.进入…

聚道云软件连接器3月新增应用/产品更新合集

3月更新概要 新增应用: 应用1:华为云welink 应用2:易宝支付 应用3:励销云CRM 应用4:分贝通 应用5:灵当CRM 新增&更新功能 1、【流程】中增加流程树状管理 新增应用 应用1:华为云wel…

全面认识计算机操作系统(二)

目录 一、操作系统的诞生 相关概念: 1. 手工操作阶段 2. 脱机输入 / 输出阶段 (1)脱机输入技术 (2)脱机输出技术 3. 单道批处理阶段 4. 多道批处理阶段 5. 分时技术产生 6. 实时系统产生 二、现代操作系统的…

学校里的软件测试专业技能到底怎样,为什么应届生都很难找工作?

大家好,今天和以为在学校教软件测试的老师聊了天,主要聊的主题是-为什么现在大专生就业这么困难。主要总结以下几点! 一是受当下大环境的影响(比如疫情、俄乌、单边主义等);二是今年的应届生实在太多&…

客户案例|100M 768 维向量数据,Zilliz Cloud 稳定支持 Shulex VOC 业

日前,国际化 VOC SaaS 公司数里行间(Shulex)将上亿数据量的核心业务从开源向量数据库 Milvus 迁移至全托管的向量数据库云服务 Zilliz Cloud。 相比于 Milvus,Zilliz Cloud 实现了 Shulex VOC 评论分析洞察报告生成速度 30% 的提升…

伊芙丽签约实在智能,实在Agent数字员工助力品牌效能飙升

近日,国内知名时尚女装品牌伊芙丽与实在智能达成合作,引入业内领先的平台级自动化产品实在Agent数字员工——取数宝,自动获取天猫、淘宝、抖音等线上平台营销数据,开启全域化营销的“提效之旅”。 实在Agent智能体 伊芙丽集团成立…

2024年AI辅助研发趋势:AI辅助科技发展

目录 前言 一、AI辅助研发的技术进展 (一)深度学习在研发中的应用 (二)强化学习在研发中的应用 (三)生成模型在研发中的应用 (四)技术如何推动研发效率的提升 二、2024人工智…

谷歌浏览器如何使用词令官网直达快速打开微博官方网站?

谷歌浏览器如何使用词令官网直达快速打开官方网站? 1、电脑上打开谷歌浏览器,选择打开词令官网直达网站; 2、打开词令关键词口令直达网站; 3、输入网站名称或点击热门历史词令中的网站名称; 4、输入词令搜索直达进入微…

【好书推荐-第十一期】《Java面试八股文:高频面试题与求职攻略一本通(视频解说版)》(博文视点出品)

😎 作者介绍:我是程序员洲洲,一个热爱写作的非著名程序员。CSDN全栈优质领域创作者、华为云博客社区云享专家、阿里云博客社区专家博主、前后端开发、人工智能研究生。公众号:洲与AI。 🎈 本文专栏:本文收录…

如何利用AWS CloudFront 自定义设置SSL

Amazon CloudFront 提供三种选项,可以加速整个网站并从 CloudFront 的边缘站点通过安全的 HTTPS 方式交付内容。除能够安全地从边缘站点交付内容外,您还可以配置 CDN 来使用针对源提取的 HTTPS 连接,这样您的数据就会实现从源到最终用户的端到…

几种摩擦力模型

文章目录 1 摩擦力特性分析1.1 预滑动特性及摩擦滞回1.2 非局部记忆效应1.3 临界摩擦力1.4 低速爬行现象1.5 Stribeck 效应1.6 摩擦滞后特性1.7 法向与切向摩擦力的耦合2 摩擦力数学模型2.1 静态摩擦模型2.1.1 库伦+粘性摩擦模型2.1.2 Stribeck模型-指数型摩擦模型2.2 动态摩擦…

python学习28

前言:相信看到这篇文章的小伙伴都或多或少有一些编程基础,懂得一些linux的基本命令了吧,本篇文章将带领大家服务器如何部署一个使用django框架开发的一个网站进行云服务器端的部署。 文章使用到的的工具 Python:一种编程语言&…

【Ubuntu】原生Ubuntu-dock 栏 安装与卸载

1.查看是否安装 Ubuntu-dock(新版本的Ubuntu自带Ubuntu-dock version> 18.04) gnome-extensions list 2.安装Ubuntu-dock sudo apt install gnome-shell-extension-ubuntu-dock 3.重启,一定要重启!!!…

Jmter接口网站压力测试工具

首先下载Jmeter 官方地址:Apache JMeter - Apache JMeter™ 安装Jmeter 把下载的文件进行解压,产生如下目录: 打开bin文件夹下的jmeter.bat文件及进入程序的主界面窗体jmeter.log是日志文件。 主意:需要配置java环境。 jmter创…

238.除自身以外数组的乘积

题目:给你一个整数数组 nums,返回 数组 answer ,其中 answer[i] 等于 nums 中除 nums[i] 之外其余各元素的乘积 。 题目数据 保证 数组 nums之中任意元素的全部前缀元素和后缀的乘积都在 32 位 整数范围内。 请 不要使用除法,且…

Oracle数据库的连接

首先:你要去官网下载一个Oracle数据库,并且把它安装完毕,详细操作,大家可以自行百度下载安装,笔者就不在过多阐述。下面开始讲解Oracle数据库的连接。 2.1.1 启动oracle服务 为了节省资源,建议把其中自动启…