1.深入理解Mysql索引底层数据结构与算法

1.1索引结构

索引及其数据结构：

1. 二叉树
2. 红黑树
3. Hash表
4. B-Tree

1.1 二叉树

说明：二叉树是建立数据后，会和第一元素进行比对，当比较的元素小于第一个元素时，此时就会走第一个元素的左边；当比较的元素大于等于第一个元素，此时会走第一个元素的右边，然后依次和第二个元素进行比较，按照以上的原则进行比较，最后没有节点后，比最后一个元素小放在左边，比最后一个元素大或者相等放在元素的右边
操作连接

1.2 红黑树

说明：红黑树建立数据后，会和第一元素进行比对，当比较的元素小于第一个元素时，此时就会走第一个元素的左边；当比较的元素大于等于第一个元素，此时会走第一个元素的右边，当建立第三个元素的时候，依然会按照上面对比要求往下面走，当时结束后，自动进行平衡（相当于建立生成分支和主支一样）
操作连接

1.3 hash表

说明：hash表，mysql会自己生成一张hash模板，然后对数据进行一次hash运算，把hash运算的值放在对应的hash位置，当时候’in’或者‘=’进行查询的时候，直接查找对应的位置，直接取出内存地址，然后从内存地址中找到对应的值

1.4 B-Tree

1.4.1普通B-Tree

说明：对原有索引数据进行从小到大进行排列，然后对叶节点分配一定的深度，下一个索引进入后，会不断向节点里面填充索引和对应数据，直到数据达到该深度的最大值，然后产生一个分支，对以后来的数据进行上面的步骤，直到填满，产生分支

• 叶节点具有相同的深度，叶节点的指针为空
• 所有的索引元素不重复
• 节点中的数据索引从左到右递增排列

1.4.1B+Tree（B-Tree变种）

说明：对原有索引数据进行从小到大进行排列，然后对叶节点分配一定的深度，索引进入后，会不断向节点里面填充索引和数据，直到数据达到该深度的最大值，然后产生一个分支，此时产生分支后，原有数据会存在叶节点上，此时非叶节点存叶节点第一个索引值，产生多个叶节点时，两个叶节点之间产生指针（内存地址）

• 非叶子节点不存储data，只存储索引（冗余），可以放更多的索引
• 叶子节点包含所有的索引字段
• 叶子节点用指针连接，提高区间访问的性能

1.2mysql采用的树形结构

说明：mysql树形结构选择B+Tree,因为B+Tree最后节点存数据data，其他非叶子节点不存储data值，只存索引值，这样大大节约空间，可以放更多的索引值，这样树形结构的高度更低，这样查询效率更高

1.2.1InnoDB索引实现（聚集）

说明：InnoDB,在B+Tree的基础上，最后一个叶节点的一个索引值上存储一行数据列的所有值

• 表数据文件本身就是按B+Tree组织的一个索引结构文件
• 聚集索引-叶节点包含完整的数据记录
• 为什么建议InnoDB表必须建立主键，并且推荐使用整型的自增主键？（不建立主键，mysql数据会自动建立隐藏主键，降低数据的性能，同时整型数据能提高数据检索的时间）
• 为什么非主键索引结构叶子节点存储的是主键值（一致性和节省存储空间）

1.2.2mylSAM索引文件和数据文件是分离的（非聚集）

说明：InnoDB,在B+Tree的基础上，最后一个叶节点的一个索引值存储对应数据的内存地址的值

1.3联合索引

说明：联合索引必须满足最左前缀原理，最左前缀原理是当一个sql查询条件必须最左边的查询条件是name,然后是age,最后是position,当第一个条件是age时，联合索引失去索引的作用，同时索引的最后一行叶节点存储内存地址值，当需要拿非索引值时，此时需要进行一次回调查找其他数据

2.Explain详解与索引优化最佳实践

2.1Explain工具介绍

• 使用EXPLAIN关键字可以模拟优化器执行SQL语句，分析你的查询语句或是结构的性能瓶颈
• 在 select 语句之前增加 explain 关键字 ，MySQL 会在查询上设置一个标记，执行查询会返回执行计划的信息，而不是执行这条SQL
• 注意：如果 from 中包含子查询，仍会执行该子查询，将结果放入临时表中

2.2Explain分析示例

参考官方文档：https://dev.mysql.com/doc/refman/5.7/en/explain-output.html

## 示例表：
DROP TABLE IF EXISTS `actor`; 
CREATE TABLE `actor` (
  `id` int(11) NOT NULL,
  `name` varchar(45) DEFAULT NULL,
  `update_time` datetime DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

INSERT INTO `actor` (`id`, `name`, `update_time`) VALUES (1,'a','2017-12-22 15:27:18'), (2,'b','2017-12-22 15:27:18'), (3,'c','2017-12-22 15:27:18');

DROP TABLE IF EXISTS `film`;
CREATE TABLE `film` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(10) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_name` (`name`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

INSERT INTO `film` (`id`, `name`) VALUES (3,'film0'),(1,'film1'),(2,'film2');

DROP TABLE IF EXISTS `film_actor`;
CREATE TABLE `film_actor` (
  `id` int(11) NOT NULL,
  `film_id` int(11) NOT NULL,
  `actor_id` int(11) NOT NULL,
  `remark` varchar(255) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_film_actor_id` (`film_id`,`actor_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

• explain使用

explain select * from actor

在查询中的每个表会输出一行，如果有两个表通过 join 连接查询，那么会输出两行

• explain 两个变种

1. explain extended：会在 explain 的基础上额外提供一些查询优化的信息。紧随其后通过 show warnings 命令可以得到优化后的查询语句，从而看出优化器优化了什么。额外还有 filtered 列，是一个百分比的值，rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数（前一个表指 explain 中的id值比当前表id值小的表）。

explain extended select * from film where id = 1;
show warnings;

2.explain partitions：相比 explain 多了个 partitions 字段，如果查询是基于分区表的话，会显示查询将访问的分区。

explain partitions select * from film where id = 1;
show warnings;

2.3explain中的列

2.3.1Id列

1.id列的编号是 select 的序列号，有几个 select 就有几个id，并且id的顺序是按 select 出现的顺序增长的。
2.id列越大执行优先级越高，id相同则从上往下执行，id为NULL最后执行。

explain select (select 1 from actor where id = 1) from (select * from film where id = 1) der;

2.3.2 select_type列

select_type 表示对应行是简单还是复杂的查询。
1.simple：简单查询。查询不包含子查询和union

explain select * from film where id = 2;

2.primary：复杂查询中最外层的 select
3.subquery：包含在 select 中的子查询（不在 from 子句中）
4.derived：包含在 from 子句中的子查询。MySQL会将结果存放在一个临时表中，也称为派生表（derived的英文含义）

set session optimizer_switch='derived_merge=off';   #关闭mysql5.7新特性对衍生表的合并优化
explain select (select 1 from actor where id = 1) from (select * from film where id = 1) der;

 set session optimizer_switch='derived_merge=on'; #还原默认配置

5.union：在 union 中的第二个和随后的 select

explain select 1 union all select 1;

2.3.3. table列

• 这一列表示 explain 的一行正在访问哪个表。
• 当 from 子句中有子查询时，table列是 格式，表示当前查询依赖 id=N 的查询，于是先执行 id=N 的查询。
• 当有 union 时，UNION RESULT 的 table 列的值为<union1,2>，1和2表示参与 union 的 select 行id。
  

2.3.4 type列

这一列表示关联类型或访问类型，即MySQL决定如何查找表中的行，查找数据行记录的大概范围。

• 依次从最优到最差分别为：system > const > eq_ref > ref > range > index > ALL

通过唯一索引直接查找

 set session optimizer_switch='derived_merge=off';   
explain extended select * from (select * from film where id = 1) tmp;

 set session optimizer_switch='derived_merge=on';

通过唯一索引进行关联

 explain select * from film_actor left join film on film_actor.film_id = film.id;

通过简单 select 查询，name是普通索引（非唯一索引）

explain select * from film where name = 'film1';

范围进行查找

explain select * from actor where id > 1;

范围进行查找

explain select * from film;

• 一般来说，得保证查询达到range级别，最好达到ref
• NULL：mysql能够在优化阶段分解查询语句，在执行阶段用不着再访问表或索引。例如：在索引列中选取最小值，可以单独查找索引来完成，不需要在执行时访问表

 explain select min(id) from film;

• const, system：mysql能对查询的某部分进行优化并将其转化成一个常量（可以看show warnings 的结果）。用于 primary key 或 unique key 的所有列与常数比较时，所以表最多有一个匹配行，读取1次，速度比较快。system是const的特例，表里只有一条元组匹配时为system
• eq_ref：primary key 或 unique key 索引的所有部分被连接使用 ，最多只会返回一条符合条件的记录。这可能是在 const 之外最好的联接类型了，简单的 select 查询不会出现这种 type。
• ref:相比 eq_ref，不使用唯一索引，而是使用普通索引或者唯一性索引的部分前缀，索引要和某个值相比较，可能会找到多个符合条件的行
• range：范围扫描通常出现在 in(), between ,> ,<, >= 等操作中。使用一个索引来检索给定范围的行
• index：扫描全索引就能拿到结果，一般是扫描某个二级索引，这种扫描不会从索引树根节点开始快速查找，而是直接对二级索引的叶子节点遍历和扫描，速度还是比较慢的，这种查询一般为使用覆盖索引，二级索引一般比较小，所以这种通常比ALL快一些。

2.3.5 possible_keys列

可能出现索引，但是最后没有使用

• 这一列显示查询可能使用哪些索引来查找。
• explain 时可能出现 possible_keys 有列，而 key 显示 NULL 的情况，这种情况是因为表中数据不多，mysql认为索引对此查询帮助不大，选择了全表查询。
  如果该列是NULL，则没有相关的索引。在这种情况下，可以通过检查 where 子句看是否可以创造一个适当的索引来提高查询性能，然后用 explain 查看效果。

2.3.6 key列

• 这一列显示mysql实际采用哪个索引来优化对该表的访问。
• 如果没有使用索引，则该列是 NULL。如果想强制mysql使用或忽视possible_keys列中的索引，在查询中使用 force index、ignore index。

2.3.7 key_len列

• 这一列显示了mysql在索引里使用的字节数，通过这个值可以算出具体使用了索引中的哪些列。
• 举例来说，film_actor的联合索引 idx_film_actor_id 由 film_id 和 actor_id 两个int列组成，并且每个int是4字节。通过结果中的key_len=4可推断出查询使用了第一个列：film_id列来执行索引查找。

 explain select * from film_actor where film_id = 2;

key_len计算规则如下：

• 字符串，char(n)和varchar(n)，5.0.3以后版本中，n均代表字符数，而不是字节数，如果是utf-8，一个数字或字母占1个字节，一个汉字占3个字节
• char(n)：如果存汉字长度就是 3n 字节
• varchar(n)：如果存汉字则长度是 3n + 2 字节，加的2字节用来存储字符串长度，因为varchar是变长字符串
• 数值类型
• tinyint：1字节
• smallint：2字节
• int：4字节
• bigint：8字节　　
  时间类型
• date：3字节
• timestamp：4字节
• datetime：8字节
• 如果字段允许为 NULL，需要1字节记录是否为 NULL
• 索引最大长度是768字节，当字符串过长时，mysql会做一个类似左前缀索引的处理，将前半部分的字符提取出来做索引。

2.3.8 key_len列

• 这一列显示了在key列记录的索引中，表查找值所用到的列或常量，常见的有：const（常量），字段名（例：film.id）

 explain select * from film where name = 'film1';

explain select film_id from film left join film_actor on film.id = film_actor.film_id;

2.3.9 rows列

这一列是mysql估计要读取并检测的行数，注意这个不是结果集里的行数。

2.3.10 Extra列

• Using index：使用覆盖索引
  覆盖索引定义：mysql执行计划explain结果里的key有使用索引，如果select后面查询的字段都可以从这个索引的树中获取，这种情况一般可以说是用到了覆盖索引，extra里一般都有using index；覆盖索引一般针对的是辅助索引，整个查询结果只通过辅助索引就能拿到结果，不需要通过辅助索引树找到主键，再通过主键去主键索引树里获取其它字段值

 explain select film_id from film_actor where film_id = 1;

• Using where：使用 where 语句来处理结果，并且查询的列未被索引覆盖

explain select * from actor where name = 'a';

• Using index condition：查询的列不完全被索引覆盖，where条件中是一个前导列的范围；

explain   select * from film_actor where film_id> 1;

• Using temporary：mysql需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的，首先是想到用索引来优化。

1.actor.name没有索引，此时创建了张临时表来distinct

actor.name没有索引，此时创建了张临时表来distinct

• Using temporary：mysql需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的，首先是想到用索引来优化。
  2.film.name建立了idx_name索引，此时查询时extra是using index,没有用临时表

 explain select distinct name from film;

• Using filesort：将用外部排序而不是索引排序，数据较小时从内存排序，否则需要在磁盘完成排序。这种情况下一般也是要考虑使用索引来优化的。

1. actor.name未创建索引，会浏览actor整个表，保存排序关键字name和对应的id，然后排序name并检索行记录

 explain select * from actor order by name;

2.film.name建立了idx_name索引,此时查询时extra是using index

 explain select * from film order by name;

• Select tables optimized away：使用某些聚合函数（比如 max、min）来访问存在索引的某个字段是

explain select min(id) from film;