目录
- 第一章、快速了解索引
- 1.1)索引是什么
- 1.2)为什么使用索引
- 1.3)快速上手创建简单索引
- 第二章、索引分类
- 2.1)按数据结构分类
- 2.1.1)树型数据结构的索引
- ①二叉树
- ②B树
- ③B+ 树:B 树的升级版
- 2.1.2)Hash数据结构索引
- 2.1.3) 其他
- 2.2)按物理存储方式分类
- 2.2.1)聚簇索引(聚集索引)
- 2.2.2)非聚簇索引(非聚集索引)
- 2.3)按索引字段的特性分类
- 2.3.1)普通索引
- 2.3.2)唯一索引
- 2.3.3)主键索引(聚集索引)
- 2.3.4)多列索引(又称组合索引,复合索引,多字段索引,联合索引)
- 2.3.5)前缀索引,后缀索引
- 2.3.6)全文索引(FULLTEXT)
- 2.4)按索引的字段个数分类
- 2.4.1)单列索引
- 2.4.2)重复索引
- 2.4.3)多列索引(又称组合索引,复合索引,多字段索引,联合索引)
- 2.4.4)冗余索引
- 第三章、索引的一些使用场景
- 3.1)索引的优势和劣势
- 3.1.1)优势
- 3.1.2)劣势
- 3.2)索引使用场景与索引失效的场景
- 3.2.1)应创建索引的场景
- 3.2.2)不应创建索引的场景
- 3.2.3)索引失效的场景
- 3.2.4)索引优化
- 3.3)filesort排序和索引排序
- 第四章、参考自以下文章:
友情提醒:
先看文章目录,大致了解文章知识点结构,点击文章目录可直接跳转到文章指定位置。这是一篇学习博客,很多内容都是摘抄的并非原创。文章末尾有列出参考学习的博客
第一章、快速了解索引
1.1)索引是什么
索引介绍:
①数据结构:是计算机存储、组织数据的方式。
②索引:对数据表的值进行预先排序的以便于查找数据的数据结构(数据组织方式),
③类比生活中:还记得小学的时候我参加过查字典比赛,一个同学他的字典没有目录,查找的时候一页一页翻,效率极为低下。但是我的字典有目录,我通常会先查找汉字的偏旁目录或字母目录,找到同音或同偏旁的汉字后再进行查找,这样我就查的很快。
数据库的数据表好比是一本字典,数据库索引好比被预先排序的目录,当数据表只有几十条的时候查找数据表信息很简单,但是如果百万条,千万条数据时,数据库会根据索引快速定位查找信息,这样就加快了数据库的查询速度。
索引原理:
不同类型的索引有着不同的数据结构,但是提高查询速度的思想是一致的:利用数据结构的有序性避免进行全表扫描来获取需要的数据。
索引的效率取决于索引列的值是否散列,即该列的值如果越互不相同,那么索引效率越高。反过来,如果记录的列存在大量相同的值,例如 gender 列,大约一半的记录值是 M,另一半是 F,因此,对该列创建索引就没有意义。使用主键索引的效率是最高的,因为主键会保证绝对唯一,唯一性带来的索引的充分散列。
1.2)为什么使用索引
为什么使用索引:
主要目的是加快检索数据。不用索引时需要在表中遍历所有的行直到找到想要的数据,使用索引后就不必扫描整个表,而是快速定位到符合条件的数据。加快数据库的查询效率和提升程序性能。
举例:select * from tableName where id=10000 这个查询语句中
如果没有索引,必须遍历整个表,直到ID等于10000的这一行被找到为止;
有了经过算法优化过的索引,可以快速定位,查询效率就很高
1.3)快速上手创建简单索引
键和索引的关系
键和索引都是基于字段的,但是键是逻辑结构,不另外存储,
而索引是物理结构,需要另外占用空间存储。
创建索引
创建一个普通的索引作为示例:
①普通索引
最基本的索引类型,允许定义索引的列中插入重复值和空值
注:这里的name是数据表中一列的列名,10是索引的长度(长度可以不写,但是创建索引时如果是blob 和 text 类型,必须指定length)
//CREATE INDEX indexName ON tableName(columnName(columnLength))
create INDEX index_name ON `tableName`(name(10))
②其他的索引创建:
1.PRIMARY KEY (主键索引)
MySQL> alter table table_name add primary key ( `column` )
2.UNIQUE 或 UNIQUE KEY (唯一索引)
mysql> alter table table_name add unique (`column`)
3.FULLTEXT (全文索引)
mysql> alter table table_name add fulltext (`column` )
4.INDEX (普通索引)
mysql> alter table table_name add index index_name ( `column` )
5.多列索引
mysql> alter table `table_name` add index index_name ( `column1`, `column2`, `column3` )
删除和查看索引
①查看索引
show INDEX from tableName;
②删除索引
DROP INDEX index_name ON `tableName`
第二章、索引分类
索引的分类方式很多,名称叫法也不同。这里根据不同的分类方式进行介绍
2.1)按数据结构分类
数据结构是计算机存储、组织数据的方式。根据数据结构分类主要可以分为B树结构,Hash结构等
2.1.1)树型数据结构的索引
①二叉树
接下来我将通过最简单的树形结构二叉树引出一些诸如根节点,节点,树,B树之类的概念。
二叉树(Binary tree)如图:树形结构,许多实际问题抽象出来的数据结构往往是二叉树形式,二叉树特点是每个节点最多只能有两棵子树,且有左右之分 。
①节点:包含一个数据元素及若干指向子树分支的信息
②节点的度:一个节点拥有子树的数目称为节点的度
③叶子节点:也称为终端节点,没有子树的节点或者度为零的节点
④分支节点:也称为非终端节点,度不为零的节点称为非终端节点
⑤树的度:树中所有节点的度的最大值
⑥节点的层次:从根节点开始,假设根节点为第1层,根节点的子节点为第2层
⑦树的深度:也称为树的高度,树中所有节点的层次最大值称为树的深度
⑧有序树:如果树中各棵子树的次序是有先后次序,则称该树为有序树
⑨无序树:如果树中各棵子树的次序没有先后次序,则称该树为无序树
⑩森林:由m(m≥0)棵互不相交的树构成一片森林。如果把一棵非空的树的根节点删除,则该树就变成了一片森林,森林中的树由原来根节点的各棵子树构成
②B树
索引会用到更复杂的树形数据结构如B-tree:
1、B-tree也就是B树允许每个节点有更多的子节点,树的节点增多后树的层级比原来的二叉树少了,且能够保持数据有序。这种数据结构能够让查找数据、顺序访问、插入数据及删除的动作,都在对数时间内完成。与自平衡二叉查找树不同,B树为系统大块数据的读写操作做了优化。B树减少定位记录时所经历的中间过程,从而加快存取速度。
2、 B 树应用到数据库中的时候,充分利用了磁盘块的原理(磁盘数据存储是采用块的形式存储的,每个块的大小为 4K,每次 I/O 进行数据读取时,同一个磁盘块的数据可以一次性读取出来)把节点大小限制在磁盘块大小范围。
B树查找数据过程
一个节点上存有主键关键字和多个指针p,指针存储的是子节点所在磁盘块的地址。
模拟查找关键字29的过程:
1、根据根节点找到磁盘块1,读入内存。【磁盘I/O操作第1次】
2、比较关键字29在区间(17,35),找到指针P2。
3、根据P2指针找到磁盘块3,读入内存。【磁盘I/O操作第2次】
4、比较关键字29在区间(26,30),找到磁盘块3的指针P2。
5、根据P2指针找到磁盘块8,读入内存。【磁盘I/O操作第3次】
6、在磁盘块8中的关键字列表中找到关键字29。
7、分析上面过程,发现需要3次磁盘I/O操作,和3次内存查找操作。由于内存中的关键字是一个有序表结构,可以利用二分法查找提高效率。而3次磁盘I/O操作是影响整个B-Tree查找效率的决定因素。
注意:B树的非叶子节点也存储数据,每个节点中有key,也有data。而B+树只在叶子节点存储数据
而每个节点的存储空间是有限的,如果data数据较大时将会导致每个节点(即一个页)能存储的key的数量很小。当存储的数据量很大时同样会导致B-Tree的深度较大,增大查询时的磁盘I/O次数,进而影响查询效率。
③B+ 树:B 树的升级版
InnoDB存储引擎就是用B+Tree实现MySQL索引结构。有同学又会问了什么是存储引擎啊?存储引擎就是数据库底层软件组件, 数据库管理系统使用数据引擎进行创建、查询、更新和删除数据操作。其实这不是重点,重点是我们知道MySQL里有个存储引擎,这个存储引擎会使用B+tree的数据结构来存储、组织数据表里的数据,而使用B+tree数据结构组织排序以后查询效率大大提升。
1、B+树在叶子节点存储key和数据,非叶子节点只存储key不存储数据所以非叶子节点可以包含更多的节点,这样做可以降低树的高度。还能将数据范围变为多个区间,区间越多,数据检索越快。以 InnoDB 的一个整数字段索引为例,每个节点大概有 1200各分叉。当树高为 4 时,大概可以存储17亿条数据【1200^3 ≈ 17亿】。考虑到树根的数据块总是在内存中的,从17亿条数据中查找一个值,最多只用访问3次磁盘;而树的第二层也有很大概率在内存中,那么访问磁盘的平均次数会更少。
2、B+树叶节点两两相连可大大增加区间访问性,可使用在范围查询等
B+树更适合外部存储(存储磁盘数据)。由于内节点无data域,每个节点能索引的范围更大更精确。
3、B 树的检索的过程相当于对范围内的每个节点的关键字做二分查找,可能还没有到达叶子节点,检索就结束了。而 B+树的检索效率就很稳定了,任何查找都是从根节点到叶子节点的过程,叶子节点的顺序检索很明显。B+树全节点遍历更快:B+ 树遍历整棵树只需要遍历所有的叶子节点即可,,而不需要像 B 树一样需要对每一层进行遍历,这有利于数据库做全表扫描。
4、B+ 树叶子节点的关键字从小到大有序排列,所有节点关键字是按递增次序排列,并遵循左小右大原则;就是说如果有重复元素,父节点 20,子节点 20,那么子节点应当位于右侧,即:子节点<父节点≤右子节点
5、B+树所有的叶子节点数据构成了一个有序链表,左边结尾数据都会保存右边节点开始数据的指针。这个特性在范围查找(区间访问)时非常有用,数据紧密性很高,缓存的命中率也会比 B 树高。。
2.1.2)Hash数据结构索引
1、Hash表是一种key-value的存储结构,通过key计算出下标,然后将value添加到该下标对应的链表中去。哈希表这种结构适用于只有等值查询的场景(比如 Memcached 及其他一些 NoSQL 引擎),不适合区间查询,另外 Hash 表还存在 Hash 函数选择和 Hash 值冲突等问题。
2、哈希索引是一种基于哈希表实现的索引,它支持全值匹配,但不支持范围查询和前缀匹配。在MySQL中,哈希索引主要应用于MEMORY存储引擎。也是 Memory 引擎表的默认索引类型,Memory 引擎同时也支持 B-Tree 索引。
3、哈希索引数据并不是按照索引值顺序存储的,所以也就无法用于排序。
4、哈希索引不支持部分索引列匹配查找,因为哈希索引始终是使用索引列的全部内容来计算哈希值的。
5、哈希索引只支持等值比较查询,包括 =、IN()、<=>;不支持任何范围查询,例如 WHERE price>100。
6、访问哈希索引的数据非常快,除非有很多哈希冲突(不同的索引列值却有相同的哈希值)。当出现哈希冲突的时候,存储引擎必须遍历链表中所有的行指针,逐行进行比较,直到找到所有符合条件的行。
7、如果哈希冲突很多的话,一些索引维护操作的代价也会很高。例如,如果在某个选择性很低(哈希冲突很多)的列上建立哈希索引,那么当从表中删除一行时,存储引擎需要遍历对应哈希值的链表中的每一行,找到并删除对应行的引用,冲突越多,代价越大。
注意事项:基于 Hash 索引的表还是能够支持范围查找,只不过其通过遍历实现,不能利用索引进行查询优化。
2.1.3) 其他
LSM树【Log-Structured Merge-Trees】
在B+树中,每次有数据写入时,可能要插入到不同的节点,即写入不同的数据块。大量的磁盘随机写操作会影响写入速度。因此B+树不适合写入量大的场景。针对这个问题,HBase引入了LSM树的概念,将随机写转变为顺序写,大幅提升了写入速度。和B+树相比,LSM牺牲了部分读性能,用来大幅提高写性能。目前HBase/LevelDB/RocksDB/ClickHouse这些NoSQL存储都是采用的LSM树。
LSM树的结构是横跨内存和磁盘的,包含memtable、immutable memtable、SSTable等多个部分。
2.2)按物理存储方式分类
根据物理存储分类可以分为聚簇索引(聚集索引)和非聚簇索引(非聚集索引)
聚集索引(InnoDB引擎)
主键索引属于聚簇索引的叶子节点会存储指针的值和数据行,也就是说数据和索引是在一起,这就是聚簇索引,InnoDB中也只有主键索引才能是聚簇索引。
非聚集索引(MyISAM引擎)
二级索引(辅助索引)属于非聚簇索引,叶子节点只会存储数据行的指针,简单来说数据和索引不在一起,就是非聚聚簇索引;
注意:主键索引和二级索引都会存储指针的值。
2.2.1)聚簇索引(聚集索引)
聚簇索引并不是一种单独的索引类型,而是一种数据存储方式,InnoDB引擎使用的是聚簇索引,MySQL 的主键索引默认就使用到了聚簇索引。
1、MySQL 自动为主键字段创建一个索引(PRIMARY),按照每张表的主键构造一颗B+树,同时叶子节点中存放有行数据,所以说主键索引默认就使用到了聚簇索引。如果没有主键则选择非空唯一的索引作为聚簇索引,都没有则隐式创建一个索引作为聚簇索引
2、当表有聚簇索引时,它的数据行实际上存放在索引的叶子页(leaf page)中。术语“聚簇”表示数据行和相邻的键值紧凑地存储在一起。因为无法同时把数据行存放在两个不同的地方,所以一个表只能有一个聚簇索引,如果已经设置了主键为聚簇索引又希望再单独设置聚簇索引,必须先删除主键,然后添加我们想要的聚簇索引,最后恢复设置主键即可。
主键索引查询:
3、实际上索引顺序与物理存储顺序一致。因此,通过主键进行查找时的性能最好。InnoDB引擎使用的是聚簇索引,将主键组织到一棵B+树中,主键被作为聚簇索引,而行数据就储存在叶子节点上,id为主键我们使用“where id = 14”这样的条件查找数据,则按照B+树的检索算法即可查找到对应的叶节点,可以直接通过主键定位到数据并返回。
2.2.2)非聚簇索引(非聚集索引)
非聚簇索引也只是一种存储方式,MyIsam使用的是非聚簇索引,以 MyISAM 存储引擎存储的表不存在聚簇索引。二级索引(又称辅助索引)就属于非聚簇索引
1、当我们自己通过:CREATE INDEX语句或者相应的ALTER TABLE ADD INDEX语句创建其他索引就是二级索引,索引顺序与物理存储顺序不一致,二级索引包括普通索引,唯一索引,前缀索引等
二级索引属于非聚簇索引,但是我们不能说非聚簇索引就是二级索引,你可以说狗是动物,但是动物是狗就不对。
2、二级索引出现的原因:很多业务场景中,我们需要根据非主键列进行数据的检索,此时又不能一行一行全表查一遍,因为这样性能极差!
因此数据库的研发者想出了一种办法:多建立几棵B+树,其中只有一颗B+树是用主键索引建立的,这颗树的叶子节点包含了主键索引和完整的数据记录。其他B+树使用二级索引建立的叶子节点存放的是对应的非主键列+主键值,没有存储数据行
辅助索引查询:回表的概念
3、辅助索引中除了包含了索引对应字段值还有主键值,当我们不通过主键来搜索而通过二级索引搜索时,则需要两个步骤:
第一步在辅助索引B+树中检索Name(二级索引列),到达其叶子节点获取对应的主键。
第二步:二级索引在查询需要多扫描一棵索引树,也就是回表,使用主键在主索引B+树中再执行一次B+树检索操作,最终到达叶子节点即可获取整行数据。
通过覆盖索引避免回表
4、查询的字段中既有索引字段,又有非索引字段就会发生回表。那么把非索引字段建立索引,使你查的所有字段都是索引字段(即索引字段覆盖了需要查的字段,这就是覆盖索引)
比如当前的二级索引字段只有name
# 索引中只有name,但是却查询了所有字段,此时就会回表再通过主键获取其他字段的值
select * from table where name = 'a';
不是所有类型的索引都可以成为覆盖索引。覆盖索引必须要存储索引列的值,而哈希索引、空间索引和全文索引等都不存储索引列的值,所以 MySQL 只能使用 B-Tree 索引做覆盖索引。另外,不同的存储引擎实现覆盖索引的方式也不同,而且不是所有的引擎都支持覆盖索引。
通过索引下推(ICP)减少回表
5、索引下推简称ICP,在Mysql5.6的版本上推出,用于优化查询
在使用ICP的情况下,如果存在某些被索引的列的判断条件时,MySQL服务器将这一部分判断条件传递给存储引擎,然后由存储引擎通过判断索引是否符合MySQL服务器传递的条件,只有当索引符合条件时才会将数据检索出来返回给MySQL服务器 。
索引下推默认是开启的,关闭可以使用下面的语句
set optimizer_switch='index_condition_pushdown=off';
索引下推使用条件:
1、只能用于range、 ref、 eq_ref、ref_or_null访问方法;
2、只能用于InnoDB和 MyISAM存储引擎及其分区表;
3、对InnoDB存储引擎来说,索引下推只适用于二级索引(非主键索引);
4、引用了子查询的条件不能下推;
5、引用了存储函数的条件不能下推,因为存储引擎无法调用存储函数。
具体可以看这篇:Mysql性能优化:什么是索引下推?
不同存储引擎下的非聚簇索引实现有所不同:
MyISAM
1、MyISAM 存储引擎存储的表不存在聚簇索引,MyISAM 的非聚簇索引实现的叶子节点仍然是索引节点,MyISAM中无论是主键索引还是二级索引,叶子节点存放的都是主键和指向对应数据块的指针,叶子节点是不存储表数据的。保证可以通过索引查找到对应的数据行,只需要对索引进行一遍查找。但这样会存在页分裂问题。
2、在MyISAM 中,一个数据表table的存储文件,它是由table.frm、table.myd以及table.myi组成。table.myd记录了数据(数据行),table.myi记录了索引的数据。MyISAM 引擎的索引文件和数据文件是独立分开的,正好符合非聚簇索引的架构。
innodb
innodb的非聚簇索引实现,叶子节点存储的是主键值(不是主键地址)通过主键值,去聚簇索引进行索引操作,找到叶子节点,数据在该叶子节点上,这个就是前面说的回表。
InnoDB 的策略好处是:当出现行移动或者数据页分裂时二级索引的维护工作,不需要维护变动的指针;坏处是:使用主键值当作指针会让二级索引占用更多的空间。
2.3)按索引字段的特性分类
2.3.1)普通索引
MySQL中最基本的索引类型,没有任何限制,允许定义索引的列中插入重复值和空值
create index index_name on `TableName`(name(10))
alter table table_name add index index_name ( `column` )
2.3.2)唯一索引
UNIQUE 表示唯一索引,与普通索引类似,用于实现唯一约束;索引列中的值必须是唯一的,但是允许空值;如果是组合索引,则列值的组合必须唯一,创建方法和普通索引类似。
CREATE UNIQUE INDEX indexName ON tableName(columnName(columnLength))
alter table table_name add unique (`column`)
2.3.3)主键索引(聚集索引)
主键和索引的关系
(1)主键索引是创建主键的时候系统自动创建的索引,
(2)主键要求不重复,不为空
(3)主键属于索引,是索引的一种
聚簇索引将索引和数据保存在同一个 B-Tree 中,所以通过主键索引可以直接查到需要查找的数据,
通过非聚集索引可以查到记录对应的主键值 , 再使用主键的值通过聚集索引查找到需要的数据。因此从主键索引中获取数据通常比在二级中查找要快。
alter table table_name add primary key ( `column` )
2.3.4)多列索引(又称组合索引,复合索引,多字段索引,联合索引)
这里就不细说了在后文2.4.3会细说
在表中的多个字段组合上创建的索引,遵循最左前缀原则。
最左前缀原则:使用组合索引时在查询条件中使用了这些字段的左边字段时,索引才会被使用。
注意事项:在一次查询中,MySQL 只能使用一个索引。多列索引也被看作一个索引。
create index index_name on `table_name`(`column1`, `column2`, `column3` )
alter table `table_name` add index index_name ( `column1`, `column2`, `column3` )
2.3.5)前缀索引,后缀索引
MySQL 允许基于 CHAR、VARCHAR、BINARY 以及 VARBINARY 字段的最前面一部分内容创建索引,同时对于 BLOB 和 TEXT 字段必须指定索引使用的字段长度。这一特性被称为前缀索引(prefix index)。
前缀索引是指对字符类型字段的前几个字符或对二进制类型字段的前几个 bytes 建立的索引,而不是在整个字段上建索引。
例如,可以对 persons 表中的 name(varchar(16))字段 中 name 的前 5 个字符建立索引。
create index index_name on persons (name(5)) comment '前缀索引';
前缀索引是一种能使索引更小、更快的有效办法,但另一方面也有其缺点:MySQL 无法使用前缀索引做 ORDER BY 和 GROUP BY,也无法使用前缀索引做覆盖扫描。
后缀索引(suffix index)也有其用途( 例如,找到某个域名的所有电子邮件地址)。MySQL 原生并不支持反向索引,但是可以把字符串反转后存储,并基于此建立前缀索引。可以通过触发器来维护这种索引。
2.3.6)全文索引(FULLTEXT)
全文索引是一种用于文本数据模糊查询的特殊索引,它基于倒排索引实现。在MySQL中,全文索引主要应用于MyISAM和InnoDB存储引擎。全文索引主要是为了检索大文本数据中的关键字的信息,是目前搜索引擎数据库使用的一种技术。Mysql5.6 之前只有 MYISAM 引擎支持全文索引,5.6 之后 InnoDB 也支持了全文索引。
只能在char、varchar、text 类型字段上才能使用。
对于大容量的数据表,生成全文索引是一个非常消耗时间非常消耗硬盘空间的做法。
CREATE FULLTEXT INDEX indexName ON tableName(columnName(columnLength))
alter table table_name add fulltext (`column` )
2.4)按索引的字段个数分类
2.4.1)单列索引
建立在单个列上的索引为单列索引,单列索引有:普通索引,唯一索引,主键索引
注意:多个单列索引与单个多列索引的查询效率不同,因为执行查询时,MySQL只能使用一个索引,会从多个索引中选择一个限制最为严格的索引。
测试具体的效率呢?
两种不同的建立索引方式:
case 1:对c1,c2,c3三列按此顺序添加一个多列索引;
case 2: 对c1,c2,c3分别建立三个单列索引;
问题1:按c1搜索时,哪种索引效率快?
答:单列索引case2快
问题2:按C2搜索时,哪种索引效率快?
答:单列索引case2快,并且,case1的索引无效
问题3:按C1,C2搜索时哪种效率快?
答:不知道
问题4:按C1,C2,C3搜索哪种效率快?
答:多列索引case1快
问题5:按C2,C3,C1搜索时哪种效率快?
答:单列索引case2快, 因为没有按“最左前缀” 规则实现
给三个列加上索引,不管是单列索引还是组合索引,查询时间都是相差不大。
但是如果组合索引没有按照 “最左前缀” 规则实现,查询时间会比单列索引时间要长。
2.4.2)重复索引
重复索引是指在相同的列上按照相同的顺序创建了相同类型的索引。应该避免这样创建重复索引,发现以后也应该立即移除
CREATE TABLE test(
ID INT NOT NULL PRIMARY KEY,
A INT NOT NULL,
B INT NOT NULL,
UNIQUE(ID),
INDEX(ID)
)ENGINE = InnoDB;
一个经验不足的用户可能是想创建一个主键,先加上唯一限制,然后再加上索引以供查询使用。事实上,MySQL 的唯一限制和主键限制都是通过索引实现的,因此,上面的写法实际上在相同的列上创建了三个重复的索引。通常并没有理由这样做,除非是在同一列上创建不同类型的索引来满足不同的查询需求。
2.4.3)多列索引(又称组合索引,复合索引,多字段索引,联合索引)
多列索引介绍
多列索引:一个索引包含多个列,一个联合索引是一个有序元组<a1, a2, …, an>,其中各个元素均为数据表的一列,多列索引最多可以16列。
平时用的SQL查询语句一般都有多个的限制条件,如果一个表中的数据在查询时有多个字段总是同时出现则这些字段就可以作为复合索引,形成索引覆盖可以提高查询的效率。
建立多列索引
①MySQL组合索引“最左前缀”简单的理解就是只从最左面的开始组合。
演示建立一个普通多列索引:索引从左到右顺序为title,time,age
ALTER TABLE table_name ADD INDEX index_title_time_age (title(50),time(10),age(5))。
建立这样的组合索引,其实是相当于从左边开始组合分别建立了下面几个索引:
—title,time,age
–title,time
–title
②演示建表时设置多列索引
create index index_id_name on table_name (id,name) comment '组合索引';
组合索引的非叶子节点保存了两个字段的值作为 B+tree 的 key 值,当 B+tree 上插入数据时,先按字段 id 比较,在 id 相同的情况下按 name 字段比较。
③多列唯一索引
ALTER TABLE table_name ADD unique index_name( userid, username );
④多列主键索引,主键一般都是自增长的ID,要先删除主键后再创建多列主键索引,不然会报错的,ERROR 1068 (42000): Multiple primary key defined;
ALTER TABLE table_name ADD primary key index_name( userid, username );
最左前缀原则
①最左前缀原则:使用组合索引时在查询条件中使用了这些字段的左边字段时,索引才会被使用。
比如建立了一个 (name,age,sex) 的联合索引:
当 (张三,20,男)1 这样的数据来检索的时候,name是索引字段的最左边,所以会使用name来确定下一步的所搜方向,如果 name 相同再依次比较 age 和 sex,最后得到检索的数据;
当 (20,男) 这样查询时没有使用name这个最左边的索引数据时,就不会使用索引。
当 (张三,男) 这样的数据来检索时,先用 name 来指定搜索方向,但下一个字段 age 的缺失,所以只能把名字等于张三的数据通过索引都找到,后面的age索引无法使用,这个即索引的最左匹配特性。
②最左前缀匹配原则指的是 MySQL 会一直向右匹配直到遇到范围查询 (>、<、between、like) 就停止匹配,比如 a = 1 and b = 2 and c > 3 and d = 4 如果建立(a,b,c,d) 顺序的索引,d 是用不到索引的,如果建立(a,b,d,c) 的索引则都可以用到。
③当不需要考虑排序和分组时,将选择性最高的列放到索引最前列,这时候索引的作用只是用于优化 WHERE 条件的查找。但是有时可能需要根据那些运行频率最高的查询来调整索引列的顺序,让这种情况下索引的选择性最高。
2.4.4)冗余索引
冗余索引和重复索引有一些不同。如果创建了索引 (A, B),再创建索引 (A) 就是冗余索引,因为这只是前一个索引的最左前缀列。因此索引 (A, B) 也可以当作索引 (A) 来使用(这种冗余只是对 B-Tree 索引来说的)。但是如果再创建索引 (B, A),则不是冗余索引,索引 (B) 也不是,因为 B 不是索引 (A,B) 的最左前缀列。另外,其他不同类型的索引(例如哈希索引或者全文索引)也不会是 B-Tree 索引的冗余索引,而无论覆盖的索引列是什么。
冗余索引通常发生在为表添加新索引的时候。例如,有人可能会增加一个新的索引 (AB)而不是扩展已有的索引 (A)。还有一种情况是将一个索引扩展为 (A, ID),其中 ID 是主键,对于 InnoDB 来说主键列已经包含在二级索引中了,所以这也是冗余的。
大多数情况下都不需要冗余索引,应该尽量扩展已有的索引而不是创建新索引。但也有时候出于性能方面的考虑需要冗余索引,因为扩展已有的索引会导致其变得太大,从而影响其他使用该索引的查询的性能。
第三章、索引的一些使用场景
3.1)索引的优势和劣势
3.1.1)优势
1、通过创建索引,可以再查询的过程中,提高系统的性能
2、通过创建唯一性索引,可以保持数据库表中每一行数据的唯一性
3、在使用分组和排序子句进行数据检索时,可以减少查询中分组和排序的时间
3.1.2)劣势
1、创建索引和维护索引要耗费时间,这种时间随着数据量的增加而增加;缺点是在插入、更新和删除记录时,需要同时修改索引,因此,索引越多,插入、更新和删除记录的速度就越慢。
2、索引需要占物理空间,除了数据表占数据空间之外,每一个索引还要占一定的物理空间,如果要建立聚簇索引,那么需要的空间就会更大;如果表中数据量巨大,索引数量多,索引文件可能比数据本身的文件会更快到达硬件限制。
3、聚簇数据最大限度地提高了 I/O 密集型应用的性能,但如果数据全部都放在内存中,则访问的顺序就没那么重要了,聚簇索引也就没什么优势了。
3.2)索引使用场景与索引失效的场景
3.2.1)应创建索引的场景
应创建索引的场景
1、经常需要搜索的列上加快搜索的速度;
2、作为主键的列上强制该列的唯一性和组织表中数据的排列结构;
3、经常用在连接的列上,这些列主要是一些外键,可以加快连接的速度
4、在经常需要根据范围进行搜索的列上创建索引,因为索引已经排序,其指定的范围是连续的;
5、在经常需要排序的列上创建索引,因为索引已经排序,这样查询可以利用索引的排序,加快排序查询时间;
6、在经常使用在WHERE子句中的列上面创建索引,加快条件的判断速度。
3.2.2)不应创建索引的场景
1、查询中很少用到的列,有索引或者无索引,并不能提高查询速度。相反,由于增加了索引,反而降低了系统的维护速度和增大了空间需求。
2、取值很少的列,比如数据表中的性别列
3、对于那些定义为text, image和bit数据类型的列不应该增加索引。这是因为,这些列的数据量要么相当大,要么取值很少。
4、被频繁更新的字段应该慎重建立索引:因为当增加索引时,会提高搜索性能,但是会降低修改性能
3.2.3)索引失效的场景
①索引列作为表达式的一部分或者函数参数,那么索引会失效。例如,下面这个查询无法使用 actor_ id 列的索引:
SELECT actor_id FROM sakila.actor WHERE actor_id + 1 = 5;
只有将上述语句修改为如下等价形式,才能够享受到 MySQL 的索引查询优化:
SELECT actor_id FROM sakila.actor WHERE actor_id = 4;
②不符合最左匹配原则,例如定义了 (a,b,c) 联合索引,相当于构造了 (a)、(a,b)、(a,b,c) 索引。如果要使 c 索引实际工作,那么必须在 WHERE 中同时加入 a、b 字段的条件,顺序无所谓。对于 b,则必须加入 a。而 a 索引可以单独出现并工作。
③查询中有某个列的范围查询,则其右边所有列都无法使用索引优化查找。例如有查询 WHERE last_name=‘Smith’ AND first_ name LIKE ‘J%’ AND dob =’ 1976-12-23’,这个查询只能使用索引的前两列,因为这里 LIKE 是一个范围条件(但是服务器可以把其余列用于其他目的)。如果范围查询列值的数量有限,那么可以通过使用多个等于条件来代替范围条件。
其他常见的范围查找有:通过 <,>,<= ,\ >=,\ between,!=,或者 <> 操作符做比较。它们都是导致索引失效。
注意事项:IN() 不是范围匹配,而是多个等值匹配,因此并不会导致索引失效。
WHERE 子句的查询条件里使用了比较操作符 LIKE 和 REGEXP,第一个字符不是通配符的情况下才能使用索引。比如说,如果查询条件是 LIKE ‘abc%’,MySQL 将使用索引(虽然最终会导致后续索引失效);如果条件是 LIKE ‘%abc’,MYSQL 将不使用索引。
如果 WHERE 子句带有 or 且有字段不属于索引,那么即使其中带索引的字段也不会使用。
3.2.4)索引优化
①不要让字段的默认值为NULL
只要列中包含有NULL值都将不会被包含在索引中,复合索引中只要有一列含有NULL值,那么这一列对于此复合索引就是无效的。
②注意避免冗余索引尽可能的考虑建立联合索引而不是单列索引
而理论上每张表里面最多可创建16个索引,不过除非是数据量真的很多,否则过多的使用索引也不是那么好玩的。
③使用短索引
如果在前10个或20个字符内,多数值是惟一的,那么就不要对整个列进行索引,考虑在字符串类型的字段上使用前缀索引代替普通索引
④索引列排序
MySQL查询只使用一个索引,因此如果where子句中已经使用了索引的话,那么order by中的列是不会使用索引的。因此数据库默认排序可以符合要求的情况下不要使用排序操作;如果需要最好给这些列创建复合索引。
⑤like语句操作
一般情况下不鼓励使用like操作,如果非使用不可,要注意like “%aaa%” 不会使用索引而like “aaa%”可以使用索引。
⑥不要在列上进行运算
例如:select * from users where YEAR(adddate)<2007,将在每个行上进行运算,这将导致索引失效而进行全表扫描,因此我们可以改成:select * from users where adddate<’2007-01-01′。
⑦注意范围查询无法使用索引
如<,>,<= ,\ >=,\ between,!=,或者 <>以及某些时候的like(以通配符%或_开头的情形)。
3.3)filesort排序和索引排序
如果有排序的需求,我们只需要order by,底层实现起来整体上来说,有两种不同的思路:
①filesort排序:有时候我们也将之称为文件排序,数据库在执行过程中,数据量比较小的时候先将满足条件的数据全部读出来,放入内存sort_buffer中执行快排,如果临时数据量比内存sort_buffer 大, 就要把数据放入临时文件,然后做外部排序,这种操作就是 filesort。只有当在内存中无法完成排序的时候,才会用到磁盘文件。
②索引排序:给需要排序的字段加上索引,由于 InnoDB 中的索引是按照 B+Tree 的形式将数据组织在一起的,B+Tree 中数据本身就是有序的,所以如果能够利用好索引,排序的事情就会事半功倍。
索引排序原理
B+ 树叶子节点的关键字从小到大有序排列,所有节点关键字是按递增次序排列,并遵循左小右大原则;就是说如果有重复元素,父节点 20,子节点 20,那么子节点应当位于右侧,即:子节点<父节点≤右子节点
只有当索引的顺序和 order by 子句的顺序完全一致,并且所有列的排序方向也都一致的情况下,MySQL 才能通过索引来对结果进行排序,同时,如果是联合索引,order by 子句也需要满足最左匹配原则。
符合索引结构的情况会进行索引排序
InnoDB 索引树以任意一个叶节点为起始点,可以向左或向右遍历;如果语句需要的 order by 顺序刚好可以利用索引树的单向遍历,就可以避免排序操作。
为了便于说明,创建一个简单的表,这个表里,除了主键索引 id 外,还有一个联合索引 ab。
①单字段倒序排序:将这个表的数据,按照 a 的大小倒序返回。因为这次排序符合索引结构的存储情况,所以会进行索引排序而不是filesort排序
SELECT * FROM t WHERE a >0 ORDER BY a DESC;
语句的执行流程:
1、从索引 ab 上,取最右的一个记录,取出主键值 ID_Z;
2、根据 ID_Z 到主键索引上取整行记录,作为结果集的第一行;
3、在索引 ab 上取上一个记录的左边相邻的记录;
4、每次取到主键 id 值,再到主键索引上取到整行记录,添加到结果集的下一行;
重复步骤 3、4,直到遍历完整个索引。
②组合字段倒序排序:按照 a 值倒序,当 a 的值相同时按照 b 值倒序。因为这次排序符合索引结构的存储情况,所以会进行索引排序同样不需要filesort排序
SELECT * FROM t WHERE a >1 AND b >1 ORDER BY a desc,b desc;
②组合字段正序排序:显然,这个语句也是不需要排序的,理由和上面一样,只需要先取 ab 索引树最左边的节点,然后向右遍历即可。
SELECT * FROM t WHERE a >1 AND b >1 ORDER BY a,b;
不符合索引结构的情况会进行filesort排序
按照a值正序,对于相同的a值,b值需要倒序排序。
与索引的存储情况不同,因此只能选择使用filesort排序操作。
select * from t order by a, b desc;
解决方式:既然不符合索引结构会进行filesort排序那么我们改变索引存储结构不就好了嘛?
在8.0版本中支持了这个功能,官方名称是Descending Indexes。在8.0版本中,我们可以把索引ab的定义做个修改。这样从左到右遍历这个索引的时候,就刚好满足a正序,然后b逆序的要求。
Descending Indexes可以避免这种情况下的排序操作,语句的执行性能自然就提升了。
create table `t` (
`id` int(11) NOT NULL,
`a` int(11) NOT NULL,
`b` int(11) NOT NULL,
`c` int(11) NOT NULL,
primary key (`id`),
key `ab` (`a`, `b` desc)
) engine = InnoDB;
ORDER BY 语句也使用索引最左前缀原则;
比如 (a,b) 联合索引下,ORDER BY a 、ORDER BY a,b 都是符合要求的,但是如果 ORDER BY b 或者 ORDER BY b,a 这种情况都是不符合要求的。
第四章、参考自以下文章:
MySQL索引详解(聚集索引与非聚集索引以及数据结构)
【mysql】聚簇索引(聚集索引)和非聚簇索引(二级索引、辅助索引)的区别
浅谈MySQL索引的分类
窥探 MySQL 索引
数据库索引详细介绍
数据库的索引简介
数据库索引
mysql 多列索引 详细说明
MySQL 入门教程》第 30 篇 数据库索引
剖析Mysql的InnoDB索引
Mysql性能优化:什么是索引下推?
主键和聚集索引,单列索引和多列索引
单个索引和组合索引(联合索引)谁效率高
mysql数据库索引类型和原理
MySQL的二级索引
关于在 MySQL 排序中使用索引这件事!