03、SQL优化
3.1、插入数据
1、insert优化
-
批量插入
INSERT INTO 表名 (字段1,字段2,...) VALUES (值1,值2,...),(值1,值2,...),(值1,值2,...); INSERT INTO 表名 VALUES (值1,值2,...),(值1,值2,...),(值1,值2,...);
-
手动提交事务
start transaction; INSERT INTO 表名 (字段1,字段2,...) VALUES (值1,值2,...),(值1,值2,...),(值1,值2,...); INSERT INTO 表名 (字段1,字段2,...) VALUES (值1,值2,...),(值1,值2,...),(值1,值2,...); INSERT INTO 表名 (字段1,字段2,...) VALUES (值1,值2,...),(值1,值2,...),(值1,值2,...); commit;
-
主键顺序插入
主键乱序插入:8 1 9 21 88 2 4 15 89 5 7 3 主键顺序插入:1 2 3 4 5 7 8 9 15 21 88 89
注意:主键顺序插入性能高于乱序插入
2、大批量插入数据
如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以使用MySQL数据库提供的load指令进行插入。
通过load指令可以一次性把本地文件的数据全部加载到数据库中
操作如下:
# ① 客户端连接服务端时,加上参数 --local-infile
mysql --local-infile -u root -p
# ② 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile=1;
# ③ 执行load指令将准备好的数据,加载到表结构中
load data local infile '/root/sql1.log' into table 表名 fields terminated by ',' lines terminated by '\n';
3.2、主键优化
1、数据组织方式
在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table,IOT)。
InnoDB的逻辑存储结构:
2、页分裂
页可以为空,也可以填充一半,也可以填充100%。每个页包含了2-N行数据(如果一行数据多大,会行溢出),根据主键排列。
-
主键顺序插入
-
主键乱序插入
主键乱序插入会出现页分裂现象:
这种现象称为页分裂。
3、页合并
当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用。
当页中删除的记录达到MERGE_THRESHOLD(默认为页的50%),InnoDB会开始寻找最靠近的页(前或后)看看是否可以将两个页合并以优化空间使用。
知识小贴士:
MERGE_THRESHOLD:合并页的阈值,可以自己设置,在创建表或者创建索引时指定。
4、主键设计原则
- 在满足业务需求的情况下,尽量降低主键的长度。
- 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键。
- 尽量不要使用UUID做主键或者是其他自然主键,如身份证号。
- 业务操作时,避免对主键的修改。
3.3、order by 优化
1、MySQL的排序方式
① Using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫FileSort排序。
② Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为using index,不需要额外排序,操作效率高。
2、举例:
① age、phone升序排序
# 没有创建索引时,根据age、phone进行排序
explain select id,age,phone from tb_user order by age, phone;
# 创建索引
create index idx_user_age_phone on tb_user(age,phone);
# 创建索引idx_user_age_phone后,根据age、phone进行升序排序
explain select id,age,phone from tb_user order by age, phone;
② age、phone降序排序
# 创建索引idx_user_age_phone后,根据age、phone进行降序排序
explain select id,age,phone from tb_user order by age desc, phone desc;
③ phone、age升序排序
# 创建索引idx_user_age_phone后,根据phone、age进行升序排序
explain select id,age,phone from tb_user order by phone, age;
注意:
在使用where时,where后的字段查询没有优先级,即where后面只要有索引最左列即可。
在使用order by时,order by后的字段排序有优先级,即order by后面的字段顺序需要按照索引列的顺序。
④ age升序排序、phone降序排序
# 创建索引idx_user_age_phone后,根据age进行升序排序、phone进行降序排序
explain select id,age,phone from tb_user order by age asc,phone desc;
# 创建索引,age进行升序排序、phone进行降序排序
create index idx_user_age_phone_ad on tb_user(age asc, phone desc);
# 创建索引idx_user_age_phone_ad后,根据age进行升序排序、phone进行降序排序
explain select id,age,phone from tb_user order by age asc,phone desc;
演示:
3、总结
-
根据索引字段建立合适的索引,多字段排序时,也遵循最左前缀法则。
-
尽量使用覆盖索引。(避免使用select *)
-
多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)。
-
如果不可避免的出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256k)。
3.4、group by 优化
1、举例
① 根据profession字段分组
# 删掉目前的联合索引idx_user_profession_age_status
drop index idx_user_profession_age_status on tb_user;
# 执行分组操作,根据profession字段分组
explain select profession, count(*) from tb_user group by profession;
# 创建索引
create index idx_user_profession_age_status on tb_user(profession,age,status);
# 执行分组操作,根据profession字段分组
explain select profession, count(*) from tb_user group by profession;
② 使用最左前缀法则
# 执行分组操作,根据age字段分组
explain select age, count(*) from tb_user group by age;
# 执行分组操作,根据profession,age字段分组
explain select profession, age, count(*) from tb_user group by profession, age;
# 执行分组操作,当满足profession为“软件工程”的同时,根据age字段分组
explain select age,count(*) from tb_user where profession = '软件工程' group by age;
③ 根据age,profession字段分组
# 执行分组操作,根据age,profession字段分组
explain select profession,age,count(*) from tb_user group by age,profession;
group by后面的字段必须要按照所使用的索引列的顺序
2、总结
- 在分组操作时,可以通过索引来提高效率。
- 分组操作时,索引的使用也是满足最左前缀法则的。
3.5、limit优化
一个常见又非常头疼的问题就是limit 2000000,10
,此时需要MySQL排序前20000010记录,仅仅返回2000000-2000010的记录,其他记录丢弃,查询排序的代价非常大。
优化思路:一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化。
3.6、count优化
1、简介
explain select count(*) from tb_user;
MyISAM引擎把一个表的总行数存在了磁盘上,因此执行count(*)的时候会直接返回这个数,效率很高;
InnoDB引擎就麻烦了,它执行count(*)的时候,需要把数据一行一行地从引擎里面读出来,然后累积计数。
优化思路:自己计数。
2、count的几种用法
-
count()是一个聚合函数,对于返回的结果集,一行行地判断,如果count函数的参数不是NULL,累计值就加1,否则不加,最后返回累计值。
-
用法:
-
count(*)
:一行行的判断此行数据是否为null,如果不为null,累计值加1;如果为null,则不加,最终返回累计值。InnoDB引擎并不会把全部字段取出来,而是专门做了优化,不取值,服务层直接按行进行累加。
-
count(主键)
:一行行的判断id对应的数据是否为null,如果不为null,累计值加1;如果为null,则不加,最终返回累计值。InnoDB引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。服务层拿到主键后,直接按行进行累加(主键不可能为null)。
-
count(字段)
:一行行的判断此字段对应的数据是否为null,如果不为null,累计值加1;如果为null,则不加,最终返回累计值。- 没有
not null
约束:InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,计数累加。 - 有
not null
约束:InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,直接按行进行累加。
- 没有
-
count(1)
:对于查询到的数据,每行记录都用1代替,然后在服务层对1进行累加。InnoDB引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1”进去,直接按行进行累加。
性能:
count(字段)<count(主键)<count(1)≈count(*)
-
3.7、update优化
1、演示行级锁:
2、演示表锁:
解决方案:给name字段建立索引
create index idx_course_name on course(name);
3、InnoDB的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁,从而导致并发性能降低。
注意:尽量根据主键/索引字段进行数据更新。