MySql进阶篇
- 一、存储引擎
- 1.1 MySql体系结构
- 1.2 存储引擎的简介
- 1.3 存储引擎的特点
- 1.3.1 innoDB
- 1.3.2 MyISAM
- 1.3.3 Memory
- 1.3.4 上述总结
- 1.4 存储引擎的选择
- 二、索引
- 2.1 索引的概述
- 2.2 索引结构
- 2.2.1 二叉树和红黑树
- 2.2.2 B-Tree(多路平衡查找树)
- 2.2.3 B+Tree
- 2.3 mysql下面的B+Tree
- 2.4 Hash索引
- 2.5 索引的分类
- 2.6 索引的语法
- 2.7 SQL性能分析
- 2.7.1 SQL的执行频率
- 2.7.2、索引-性能分析-show profiles
- 2.7.3、索引-性能分析-explain
- 2.7.4 验证索引效率
- 2.8 索引-使用规则
- 2.8.1、最左前缀法则
- 2.8.2、索引失效情况一
- 2.8.3、索引失效情况二
- 2.8.4、SQL提示
- 2.8.5、覆盖索引&回表查询
- 2.8.6、前缀索引
- 2.6.7、单列索引&联合索引
- 2.7、索引设计原则
一、存储引擎
1.1 MySql体系结构
- 连接层
最上层是一些客户端和链接服务,主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。
- 服务层
第二层架构主要完成大多数的核心服务功能,如SOL接口,并完成缓存的查询,SOL的分析和优化,部分内置函数的执行。所有跨存储引擎的功能也在这一层实现,如
过程、函数等
- 引擎层
存储引擎真正的负责了MVSOL中数据的存储和提取,服务器通过AP和存储引擎进行通信。不同的存储引肇具有不同的功能,这样我们可以根据自己的需要,来选取合适的存储引擎。
- 存储层
主要是将数据存储在文件系统之上,并完成与存储引擎的交互。
1.2 存储引擎的简介
存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表的,而不是基于库的,所以存储引擎也可被称为表类型
。
- 在创建表时,指定存储引擎
CREATE TABLE 表名(
字段1 字段1类型 [ COMMENT 字段1注释]
字段n 字段n类型 [COMMENT 字段n注释)ENGINE =INNODB [ COMMENT 表注释]:
- 查看当前数据库支持的存储引擎
SHOW ENGINES ;
1.3 存储引擎的特点
- 介绍
InnoDB是一种兼顾高可靠性和高性能的通用存储引擎,在 MySQL5.5 之后,InnoDB是默认的 MySQL
存储引擎。 - 特点
- DML操作遵循ACID模型,支持事务
- 行级锁,提高并发访问性能;
- 支持外FOREIGNKEY约束,保证数据的完整性和正确性
- 文件
xxxibd:xxx代表的是表名,innoDB引擎的每张表都会对应这样一个表空间文件,存储该表的表结构(frm、sdi)、数据和索引。参数:innodb_file_per_table
1.3.1 innoDB
1.3.2 MyISAM
- 介绍
MyISAM是MySQL早期的默认存储引擎
- 特点
不支持事务,不支持外键支持表锁,不支持行锁访问速度快
- 文件
- xxx.sdi:存储表结构信息
- xxXMYD:存储数据
- xxx.MYI:存储索
1.3.3 Memory
- 介绍
Memorv引擎的表数据时存储在内存中的,由于受到硬件问题、或断电问题的影响,只能将这些表作为临时表或缓存使用
- 特点
- 内存存放
hash索引(默认)
- 文件
xxx.sdi:存储表结构信息
1.3.4 上述总结
特点 | InnoDB | MyISAM | Memory |
---|---|---|---|
存储限制 | 64TB | 有 | 有 |
事务安全 | 支持 | - | - |
锁机制 | 行锁 | 表锁 | 表锁 |
B+tree索引 | 支持 | 支持 | 支持 |
Hash索引 | - | - | 支持 |
全文索引 | 高 | 低 | N/A |
空间使用 | 支持(5.6版本之后) | 支持 | - |
内存使用 | 高 | 低 | 中等 |
批量插入速度 | 低 | 高 | 高 |
支持外键 | 支持 | - | - |
1.4 存储引擎的选择
在选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据实际情况选择多种存储引擎进行组合
- innoDB:
是Mysg的默认存储擎
,支持事务、外键
。如果应用对事务的完整性有比较高的要
求,在并发条件下要求数据的一致性,数据操作除了插入和查询之外,还包含很多的更新、删除操作,那么InnoDB存储引擎是比较合适的选择。 - MVISAM :
如果应用是以读操作和插入操作为主
,只有很少的更新和州除操作,并且对事务的完整性、并发性要求不是很高,那么选择这个存储引擎是非常合适的。常用于日志,评论什么的 - MEMORY:
将所有数据保存在内存中,访问速度快
,通常用于
临时表及缓存。MEMORY的缺陷就是对表的大小有限制,太大的表无法缓存在内存中,而且无法保障数据的安全性。
二、索引
2.1 索引的概述
索引(index)是帮助MySL
高效获取数据
的数据结构(有序)
。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据, 这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。
优势 | 劣势 |
---|---|
提高数据检索的效率,降低数据库的IO成本 | 索引列也是要占用空间的。 |
通过索引列对数据进行排序,降低数据排序的成本,降低CPU的消耗。 | 索引大大提高了查询效率,同时却也降低更新表的速度,如对表进行INSERT、UPDATE、DELETE时,效率降低 |
2.2 索引结构
索引的分类
索引结构 | 描述 |
---|---|
B+Tree索引 | 最常见的索引类型,大部分引擎都支持 B+ 树索引 |
Hash索引 | 底层数据结构是用哈希表实现的,只有精确匹配索引列的查询才有效不支持范围查询 |
R-tree(空间索引) | 空间索引是MyISAM引擎的一个特殊索引类型,主要用于地理空间数据类型,通常使用较少 |
Full-text(全文索引) | 是一种通过建立倒排索引,快速匹配文档的方式。类似于Lucene,Solr,ES |
索引支持情况
索引 | InnoDB | MyISAM | Memory |
---|---|---|---|
B+tree索引 | 支持 | 支持 | 支持 |
Hash 索引 | 不支持 | 不支持 | 支持 |
R-tree 索引 | 不支持 | 支持 | 不支持 |
Full-text | 5.6版本之后支持 | 支持 | 不支持 |
我们平常所说的索引,如果没有特别指明,都是指B+树结构组织的索引。
2.2.1 二叉树和红黑树
二叉树缺点: 顺序插入时,会形成一个链表,查询性能大大降低。大数据量情况下,层级较深,检索速度慢。
红黑树缺点:虽然解决了一个链表的问题,但是还是存在层级较深,检索速度慢的缺点
2.2.2 B-Tree(多路平衡查找树)
知识小贴士: 树的度数指的是一个节点的子节点个数
具体动态变化的过程可以参考的网站连接
2.2.3 B+Tree
相对于B-Tree区别
- 所有的数据都会出现在叶子节点
- 叶子节点形成一个单向链表
2.3 mysql下面的B+Tree
MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序 指针的B+Tree,提高区间访问的性能。
2.4 Hash索引
哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中
如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突 (也称为hash碰撞), 可以通过链表来解决
Hash索引特点
- Hash索引只能用于对等比较(=,in),不支持范围查询 (between,>,<,…)
- 无法利用索引完成排序操作
- 查询效率高,通常只需要一次检索就可以了,效率通常要高于B+tree索引
存储引擎支持:
在MysQL中,支持hash索引的是Memory引擎,而nnoDB中具有自适应hash功能,hash索引是存储引擎根据B+Tree索引在指定条件下自动构建的。
为什么InnoDB存储引擎选择使用B+tree索引结构?
相对于二叉树
,层级更少,搜索效率高;- 对于
B-tree
,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储的键值减少,指针跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低; - 相对
Hash索引
,B+tree支持范围匹配及排序操作
2.5 索引的分类
分类 | 含义 | 特点 | 关键字 |
---|---|---|---|
主键索引 | 针对于表中主键创建的索引 | 默认自动创建,只能有一个 | PRIMARY |
唯一索引 | 避免同一个表中某数据列中的值重复 | 可以有多个 | UNIQUE |
常规索引 | 快速定位特定数据 | 可以有多个 | |
全文索引 | 全文索引查找的是文本中的关键词,而不是比较索引中的值 | 可以有多个 | FULLTEXT |
在InnoDB存储引擎中,根据索引的存储形式,又可以分为以下两种:
分类 | 含义 | 特点 |
---|---|---|
聚集索引(Clustered Index) | 将数据存储与索引放到了一块,索引结构的叶子节点保存了行数据 | 必须有,而且只有一个 |
二级索引(Secondary Index) | 将数据与索引分开存储,索引结构的叶子节点关联的是对应的主键 | 可以存在多个 |
== 聚集索引选取规则:==
- 如果存在主键,主键索引就是聚集索引。
- 如果不存在主键,将使用第一个唯一(UNIQUE)索引作为聚集索引。
- 如果表没有主键,或没有合适的唯一索引,则innoDB会自动生成一个rowid作为隐藏的聚集索引。
执行 select * from user where name = 'Arm'
操作流程
会利用到回调查询
- 首先先通过Arm查询到其对应的ID值
- 再通过这个ID值返回到聚集索引查询到所有的值
思考题
InnoDB主键索引的B+Tree高度为多高呢?
假设:
一行数据大小为1k,一页中可以存储16行这样的数据。InnoDB的指针占用6个字节的空间,主键即使为bigint,占用字节数为8。
高度为2:
n*8 + (n + 1)6 = 161024,算出n约为1170
1171 *6 = 18736
高度为3:
1171 * 1171 * 16 = 21939856
2.6 索引的语法
- 创建索引
CREATE [UNIQUE|FULLTEXT] INDEX index name ON table name (index col name.... ) ;
- 查看索引
SHOW INDEX FROM table name ;
- 删除索引
DROP INDEX index name ON table name ;
# 给姓名创建一个索引
create index idx_user_name on user(name);
# 有phone创建一个唯一索引
create unique index idx_user_phone on user(phone);
# 给profession,age,status创建一个联合索引
create index idx_user_pro_age_sta on user(profession,age,status);
# 给email创建一个索引
create index idx_user_ema on user(email);
# 删除email的索引
drop index idx_user_ema on user;
2.7 SQL性能分析
2.7.1 SQL的执行频率
MySQL 客户端连接成功后,通过 show sessionlglobal status
命令可以提供服务器状态信息。通过如下指令,可以查看当前数据库的 INSERT、UPDATE、DELETE、SELECT的访问频次:
SHOW GLOBAL STATUS LIKE 'Com_______';
2.7.2、索引-性能分析-show profiles
profile详情
show
profiles能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling参数,能够看到当前MySQL是否支持profile操作:
SELECT @@have_profiling;
默认profiling是关闭的,可以通过set语句在session/global级别开启profiling:
SET profiling = 1;
执行一系列的业务SQL的操作,然后通过如下指令查看指令的执行耗时:
#f查看每一条SQL的耗时基本情况
show profiles;
#查看指定query_id的SQL语句各个阶段的耗时情况
show profile for query query_id;
#查看指定query_id的SQL语句CPU的使用情况
show profile cpu for query query_id;
2.7.3、索引-性能分析-explain
- explain执行计划
EXPLAIN执行计划各字段含义:
-
ld
select查询的序列号,表示查询中执行select子句或者是操作表的顺序(id相同,执行顺序从上到下;id不同,值越大,越先执行)。 -
select_type
表示SELECT的类型,常见的取值有SIMPLE(简单表,即不使用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、UNION(UNION中的第二个或者后面的查询语句)、SUBQERY (SELECT/WHERE之后包含了子查询)等 -
type
表示连接类型,性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、index、all -
possible_key
显示可能应用在这张表上的索引,一个或多个。 -
Key
实际使用的索引,如果为NULL,则没有使用索引。 -
Key_len
表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好。 -
rows
MySQL认为必须要执行查询的行数,在innodb引擎的表中,是一个估计值,可能并不总是准确的。 -
filtered
表示返回结果的行数占需读取行数的百分比, filtered 的值越大越好。
2.7.4 验证索引效率
在未建立索引之前,执行如下SQL语句,查看SQL的耗时。
SELECT* FROM tb sku WHERE sn =100000003145001':
针对字段创建索引
create index idx sku sn on tb sku(sn) ;
然后再次执行相同的SQL语句,再次查看SQL的耗时。
SELECT* FROM tb sku WHER5 sn =100000003145001":
可以明显的发现,创建了索引过后执行的效率明显提升
2.8 索引-使用规则
2.8.1、最左前缀法则
如果索引了多列(联合索引),要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。如果跳跃某一列,
索引将部分失效(后面的字段索引失效)。
范围查询
联合索引中,出现范围查询(>,<)范围查询右侧的索引失效
2.8.2、索引失效情况一
- 索引列运算
不要在索引列上进行运算操作,索引将失效
- 字符串不加引号
字符串类型字段使用时,不加引号,索引将失效
- 模糊查询
如果仅仅是尾部模糊匹配,索引不会失效。如果是头部模糊匹配,索引失效
2.8.3、索引失效情况二
- or连接的条件
用or分割开的条件,如果or前的额条件中的列有索引,而后面的列没有索引,那么涉及的索引都不会被用到
解决方案:对没有添加索引的列,添加上索引
- 数据分布影响
如果MySQL评估使用索引比全表更慢,则不使用索引
2.8.4、SQL提示
SQL提示,是优化数据库的一个重要手段,简单来说,就是在SQL语句中加入一些人为的提示来达到优化操作的目的
use index(告诉数据库要用的索引) :
explain select * from 表名 use index(使用的索引名) where 查询条件;
ignore index(告诉数据库不要用的索引):
explain select *from 表名 ignore index(使用的索引名) where 查询条件;
force index(告诉数据库必须要用的索引):
explain select * from 表名 force index(使用的索引名) where 查询条件;
2.8.5、覆盖索引&回表查询
覆盖索引
尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到),减少select*
using index condition
:查找使用了索引,但是需要回表查询数据
using where; using index :
查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询数据
2.8.6、前缀索引
当字段类型为字符串(varchar,
text等)时、有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘l0,影响查询效率。此时可以只将字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。
语法
create index idx _xxoxx on table_name(column(n)) ;
前缀长度
可以根据索引的选择性来决定,而选择性是指不重复的索引值〈基数)和数据表的记录总数的比值,索引选择性越高则查询效率越高
唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。
select count(distinct email) / count(*) from tb_user ;
select count(distinct substring(email,1,5)) / count(*) from tb_user ;
2.6.7、单列索引&联合索引
单列索引
:即一个索引只包含单个列。
联合索引
:即一个索引包含了多个列。
在业务场景中,如果存在多个查询条件,考虑针对于查询字段建立索引时,建议建立联合索引,而非单列索引
2.7、索引设计原则
- 针对于数据量较大,且查询比较频繁的表建立索引。
- 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引。
- 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高。
- 如果是字符串类型的字段,字段的长度较长,可以针对于字段的特点
建立前缀索引。 - 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率。
- 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价也就越大,会影响增删改的效率。
- 如果索引列不能存储NULL值,请在创建表时使用NOTNULL约束它。当优化器知道每列是否包含NULL值时,它可以更好地确定哪个索引最有效地用于查询。