MySQL数据库进阶知识(三)《优化》

news2024/11/16 1:02:44

学习目标:

  • 一周掌握SQL优化知识

学习内容:

一、插入数据

1.insert优化

  • 批量插入
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
  • 手动提交事务
start transaction;
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry');
insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry');
commit;
  • 主键顺序插入
    主键乱序插入:8 1 9 21 88 2 4 15 89 5 7 3
    主键顺序插入:1 2 3 4 5 6 7 8 9 15 21 88 89
  • 大批量插入数据
    如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以使用MySQL数据库提供的load指令进行插入。操作如下:
    在这里插入图片描述
#客户端链接服务器时,加上参数 --local-infile
mysql --local-infile -u root -p
#设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile=1;
#执行load指令将准备好的数据,加载到表结构中
load data local infile '/root/load_user_100w_sort.sql' into table tb_user fields terminated by ',' lines terminated by '\n';

二、主键优化

  • 数据组织方式
    在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table IOT)。
    在这里插入图片描述
  • 页分裂
    页可以为空,也可以填充一半,也可以填充100%。每个页包含了2-N行数据(如果一行数据过大,会行溢出),根据主键排列。
    主键顺序插入:
    在这里插入图片描述
    主键乱序插入(页分裂):
    1.先开启一个新的页
    在这里插入图片描述
    2.将第一页数据50%之后的数据分裂出来放入新页,并将新数据放入新页
    在这里插入图片描述
    3.重新调整页之间的连接顺序
    在这里插入图片描述
  • 页合并
    当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用。当页中删除的记录达到merge_threshold(默认为页的50%),InnoDB会开始寻找最靠近的页(前或者后)看看是否可以将两个页合并以优化空间使用。
    在这里插入图片描述

merge_threshold:合并页的阈值,可以自己设置,在创建表或者创建索引时指定。

  • 主键设计原则
    1.满足业务需求的情况下,尽量降低主键的长度。
    2.插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键。
    3.尽量不要使用UUID做主键或者是其他自然主键,如身份证号。
    4.业务操作时,避免对主键的修改。
    在这里插入图片描述

三、order by优化

(1)Using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer 中完成排序操作,所有不是通过索引直接返回排序结果的排序都是FileSort排序。
(2)Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为using index,不需要额外排序,操作效率高。
例:
1.未建立针对age、phone建立索引,按照age(phone)进行排序,排序执行情况如下:

explain select id,age,phone from tb_user order by age;

在这里插入图片描述

explain select id,age,phone from tb_user order by age,phone;

在这里插入图片描述
2.针对age、phone建立联合索引后,进行排序操作,查询排序执行情况如下:

create index idx_age_phone on tb_user(age,phone);

explain select id,age,phone from tb_user order by age;

explain select id,age,phone from tb_user order by age,phone;

在这里插入图片描述

针对两个字段倒序排列,执行情况如下:

explain select id,age,phone from tb_user order by age desc,phone desc;

在这里插入图片描述

先根据phone进行排序,再根据age进行排序(两种执行方式都出现,原因是不符合最左前缀法则):

explain select id,age,phone from tb_user order by phone,age;

在这里插入图片描述
按照age升序排列,再按照phone倒序排列(两种执行方式都出现):

explain select id,age,phone from tb_user order by age asc,phone desc;

在这里插入图片描述
查看index,collation列表示字段排序方式(A表示升序,D表示倒叙):
在这里插入图片描述
可以在创建索引时指定排序方式:

create index idx_age_pho_ad on tb_user(age asc,phone desc);

在这里插入图片描述

在建立age升序、phone倒叙联合索引后,查询执行过程显示如下:
在这里插入图片描述

两种索引存储结构如下:
在这里插入图片描述

  • order by优化原则:
    1.根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则。
    2.尽量使用覆盖索引(不使用会导致索引失效)。
    3.多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)。
    4.如果不可避免出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256k)。
show variables like 'sort_buffer_size';

在这里插入图片描述

四、group by优化

#删除目前的索引idx_user_pro_age_sta
drop index idx_prof_age_sta on tb_user;

在这里插入图片描述

#执行分组操作,根据profession字段分组
explainselect profession,count(*) from tb_user group by profession;

在这里插入图片描述

#创建索引
create index idx_user_pro_age_sta on tb_user(profession,age,status);

#执行分组操作,根据profession字段分组
explain select profession,count(*) from tb_user group by profession;

在这里插入图片描述

#执行分组操作,根据profession,age分组
explain select profession,count(*) from tb_user group by profession,age;

在这里插入图片描述
分组时不满足最左前缀法则(效率较低):

explain select age,count(*) from tb_user group by age;

在这里插入图片描述
对profession进行条件筛选,并根据age进行分组,执行过程如下:表明该情况满足最左前缀法则

explain select age,count(*) from tb_user where profession='软件工程' group by age;

在这里插入图片描述

  • 优化原则
    1.在分组操作时,可以通过索引来提高效率。
    2.分组操作时,索引的使用也是满足最左前缀法则的。

五、limit优化

比如查询limit 2000000,10,此时需要MySQL排序前2000010记录,仅仅返回2000000-2000010的记录,其他记录丢弃,查询排序的代价非常大。
优化思路:
一般分页查询时,通过创建覆盖索引,能够比较好的提高性能,可以通过覆盖索引加子查询形式进行优化。
分页查询耗时:
1.查询起始位置为1:

select * from tb_sku limit 1,10;

在这里插入图片描述
2.查询起始位置为5000000:

select * from tb_sku limit 5000000,10;

在这里插入图片描述
查询起始位置越往后,效率越低。
查询起始位置为900w之后的10条数据:用时16s

select * from tb_sku limit 9000000,10;

在这里插入图片描述
根据id列进行排序,并分页查询900w之后的10条数据,用时11s

select id from tb_sku order by id limit 9000000,10;

在这里插入图片描述
利用查询出来的id列表与tb_sku表进行连接查询,查询出结果用时10s,比原表分页查询节省了6s,效率提升较多。

select tb_sku.* from tb_sku,(select id from tb_sku order by id limit 9000000,10) s where tb_sku.id=s.id;

在这里插入图片描述
在这里插入图片描述

六、count优化

explain select count(*) from tb_user;
  • MyISAM引擎把一个表的总行数存在了磁盘上,因此执行count(*)的时候会直接返回这个数,效率很高。
  • InnoDB引擎更麻烦,它执行count(*)的时候,需要把数据一行一行从引擎读出来,然后累计计数
    优化思路:自己计数(例如增加一个字段,在新增一列时字段数值+1,删除一列时字段数值-1,但该方法较复杂)
  • count的几种用法
    count()是一个聚合函数,对于返回的结果集,一行一行进行判断,如果count函数的参数不是null,累计值就+1,否则不加,最后返回累计值。
    用法:count(*)、count(主键)、count(字段)、count(1)
    count(1)表示查询数据时,查询到一次数据,就加1
select count(1) from tb_user;

在这里插入图片描述
1.count(主键)
InnoDB引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。服务层拿到主键后,直接按行进行累加(主键不可能为null)
2.count(字段)
没有not null约束:InnoDB引擎会遍历整张表把每一行字段值都取出来,返回给服务层,服务层判断是否为null,不为null,计数累加
有not null约束:InnoDB引擎会遍历整张表把每一行字段值都取出来,返回给服务层,直接按行进行累加。
3.count(1)
InnoDB引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1”进去,直接按行进行累加。
4.count()
InnoDB引擎并不会把全部字段取出来,而是专门做了优化,不取值,服务层直接按行进行累加。
按照效率排序,count(字段)<count(主键 id)<count(1)≈count(),所以尽量使用count()
*

七、update优化

InnoDB的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁
优化:尽量根据主键/索引字段进行数据更新
1.在InnoDB存储结构下,开启2个事务,分别执行如下命令:
事务1:

update course set name='JavaEE' where id=1;

在这里插入图片描述
事务2:

update course set name='Spring' where id=4;

在这里插入图片描述
在事务1执行时,由于使用了id字段进行条件判断,锁住了id为1的行数据,因此不会影响更改id为4的数据的事务2。事务1、2提交后,查询数据两个事务都生效:
在这里插入图片描述
2.在事务1执行的语句更改条件不为索引列,同时在事务2执行更改操作
事务1执行操作:

update course set name='Java' where name='JavaEE';

在这里插入图片描述
事务2执行操作:

update course set name='Kafka2' where id=4;

在这里插入图片描述
事务2无法操作更改,尽管两个事务未操作同一条数据。原因是事务1在执行更改操作时会对指定条件的字段(未设置索引)进行列锁定
3.对表中name列建立索引后,两个事务的执行情况
– 对name字段建立索引

create index idx_course_name on course(name);

事务1对name列进行条件指定:

update course set name='SpringBoot' where name='Spring';

在这里插入图片描述
事务2同时对指定条件的数据进行更改操作:(建立索引后2个事务1操作数据不会影响事务2操作另一条数据)
在这里插入图片描述

学习时间:

  • 周一至周五晚上 7 点—晚上9点
  • 周六上午 9 点-上午 11 点
  • 周日下午 3 点-下午 6 点

学习产出:

  • 技术笔记 2 遍
  • CSDN 技术博客 1 篇

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2047035.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

03 网络编程 TCP传输控制协议

目录 1、TCP基本特征 2、TCP通信流程基本原理 &#xff08;1&#xff09;基本原理 &#xff08;2&#xff09;TCP通信代码实现 &#xff08;3&#xff09;核心API解析 1&#xff09;地址绑定--bind 2)设置监听-listen 3)等待连接请求-accept-产生一个已连接套接字 4&a…

WSL2与Windows之间的网络互访

文章目录 1.环境2.WSL访问Windows上的服务3.Windows访问WSL上的服务 1.环境 1.宿主机 Windows 10 2.WSL ubuntu 18.04 LTS 3.Windows 10上的 vEthernet (WSL) 已启用 2.WSL访问Windows上的服务 1.防火墙设置 2.查看访问Windows的IP 172.21.112.1, 使用该IP访问Windows上的服务…

玩机进阶教程-----回读 备份 导出分区来制作线刷包 回读分区的写入与否 修改xml脚本

很多工作室需要将修改好的系统导出来制作线刷包。前面分享过很多制作线刷包类的教程。那么一个机型中有很多分区。那些分区回读后要写入。那些分区不需要写入。强写有可能会导致不开机 不进系统的故障。首先要明白。就算机型全分区导出后在写回去 都不一定可以开机进系统。那么…

【JVM】JVM 实战调优指南赋案例(保姆篇)

文章目录 JVM 实战调优指南引言1. JVM基础知识1.1 JVM架构1.2 JVM垃圾回收 2. 垃圾回收调优2.1 垃圾回收日志2.2 GC日志分析2.3 调优策略2.3.1 调整堆大小2.3.2 选择合适的GC算法2.3.3 调整垃圾回收线程 3. 内存管理调优3.1 内存泄漏检测3.2 堆转储分析3.3 内存分配策略 4. 线程…

基于飞桨框架的稀疏计算使用指南

本文作者-是 Yu 欸&#xff0c;华科在读博士生&#xff0c;定期记录并分享所学知识&#xff0c;博客关注者5w。本文将详细介绍如何在 PaddlePaddle 中利用稀疏计算应用稀疏 ResNet&#xff0c;涵盖稀疏数据格式的础知识、如何创建和操作稀疏张量&#xff0c;以及如何开发和训练…

在阿里云上部署 Docker并通过 Docker 安装 Dify

目录 一、在服务器上安装docker和docker compose 1.1 首先关闭防火墙 1.2 安装docker依赖包 1.3 设置阿里云镜像源并安装docker-ce社区版 1.4 开启docker服务并设置开机自启动 1.5 查看docker版本信息 1.6 设置镜像加速 1.7 将docker compose环境复制到系统的bin目录下…

【计算机网络】应用层自定义协议与序列化

记得在上一节我们说过TCP中的读取时需要改进&#xff0c;这节就可以解决读取问题了。 目录 应用层再谈 "协议"网络版计算机方案一方案二 序列化 和 反序列化 重新理解 read、write、recv、send 和 tcp 为什么支持全双工 应用层 再谈 “协议” 我们在UDP与TCP中写的…

力扣高频SQL 50题(基础版)第四十七题之1321.餐馆营业额变化增长

力扣高频SQL 50题&#xff08;基础版&#xff09;第四十七题 1321.餐馆营业额变化增长 题目说明 表: Customer ---------------------- | Column Name | Type | ---------------------- | customer_id | int | | name | varchar | | visited_on | date | | amount | …

后端开发刷题 | 排序算法--冒泡排序

描述 有一个长度为7的无序数组&#xff0c;按照从小到大的顺序排序后输出。 输入描述&#xff1a; 数组中的数据 输出描述&#xff1a; 数组中数据排序后输出 示例1&#xff1a; 输入&#xff1a; 13 11 9 7 5 3 1输出&#xff1a; 1 3 5 7 9 11 13 算法思想&#xf…

Type-C PD芯片与OTG功能:边充电边数据同时进行 LDR6028

在科技飞速发展的今天&#xff0c;智能设备已成为我们日常生活中不可或缺的一部分。从智能手机到平板电脑&#xff0c;再到笔记本电脑&#xff0c;这些设备不仅极大地丰富了我们的生活方式&#xff0c;也对充电与数据传输技术提出了更高要求。Type-C PD&#xff08;Power Deliv…

WPF篇(19)-TabControl控件+TreeView树控件

TabControl控件 TabControl表示包含多个共享相同的空间在屏幕上的项的控件。它也是继承于Selector基类&#xff0c;所以TabControl也只支持单选操作。另外&#xff0c;TabControl的元素只能是TabItem&#xff0c;这个TabItem继承于HeaderedContentControl类&#xff0c;所以Ta…

EE trade:黄金的基础知识点

黄金&#xff0c;这种闪耀着金色光芒的贵金属&#xff0c;自古以来就吸引着人类的目光&#xff0c;并深深地影响着人类文明进程。从古代文明的装饰品到现代社会的投资工具&#xff0c;黄金始终扮演着重要的角色。本文整理了黄金的必备常识、黄金的基础知识点。 一、黄金的独特…

达梦数据库系列—48.DMHS实现Mysql到DM8的同步

目录 DMHS实现Mysql到DM8的同步 1、准备介质 2、安装 3、准备源端Mysql和目标端DM8 软件安装 数据库创建 打开归档 开启附加日志 创建辅助表 Mysql客户端驱动 Mysql端安装ODBC 检查依赖包 创建连接用户 创建测试表 4、同步配置 修改服务配置 Mysql到Dm单向同步…

CVPR2023《DNF: Decouple and Feedback Network for Seeing in the Dark》暗光图像增强论文阅读笔记

相关链接 论文链接 https://openaccess.thecvf.com/content/CVPR2023/papers/Jin_DNF_Decouple_and_Feedback_Network_for_Seeing_in_the_Dark_CVPR_2023_paper.pdf 代码链接 https://github.com/Srameo/DNF 摘要 RAW数据的独特属性在低光照图像增强方面展现出巨大潜力。…

ansible环境搭建

任务背景 公司的服务器越来越多, 维护⼀些简单的事情都会变得很繁琐。⽤ shell脚本来管理少量服务器效率还⾏, 服务器多了之后, shell脚本⽆ 法实现⾼效率运维。这种情况下&#xff0c;我们需要引⼊⾃动化运维⼯具, 对 多台服务器实现⾼效运维。 任务要求 通过管理服务器能够…

nginx核心配置示例

目录 1、nginx location的详细使用 &#xff08;1&#xff09;精确匹配 &#xff08;2&#xff09;区分大小写 &#xff08;3&#xff09;不区分大小写 &#xff08;4&#xff09;匹配文件名后缀 2、nginx下的用户认证 3、nginx自定义错误页面 4、自定义错误日志 5、n…

Scrapy框架进阶攻略:代理设置、请求优化及链家网实战项目全解析

scrapy框架 加代理 付费代理IP池 middlewares.py # 代理IP池 class ProxyMiddleware(object):proxypool_url http://127.0.0.1:5555/randomlogger logging.getLogger(middlewares.proxy)async def process_request(self, request, spider):async with aiohttp.ClientSess…

【乐吾乐大屏可视化组态编辑器】状态切换

状态切换 开关状态 开关的断开和闭合。可以拖拽国家电网图库中的“开”与“关”两个组件&#xff0c;选中对齐重叠在一起后&#xff0c;右键选择“组合为状态”&#xff0c;在“外观”面板可以任意切换状态。 想实现点击开关图元就可以切换开关状态&#xff0c;可以选中图元添…

基于 springboot 2 和 vue 3 的 博客论坛系统

1. 网站信息 博客论坛系统&#xff1a;http://106.53.164.141:8200 本网站是 基于 SpringBootVue 前后端分离的博客论坛系统 前台用户&#xff1a;注册登录&#xff1b;博客和活动相关的展示、浏览、点赞、收藏、评论、编辑等功能 后台管理员&#xff1a;管理公告、博客、活…

日撸Java三百行(day25:栈实现二叉树深度遍历之中序遍历)

目录 一、栈实现二叉树遍历的可行性 二、由递归推出栈如何实现中序遍历 1.左子树入栈 2.根结点出栈 3.右子树入栈 4.实例说明 三、代码实现 总结 一、栈实现二叉树遍历的可行性 在日撸Java三百行&#xff08;day16&#xff1a;递归&#xff09;中&#xff0c;我们讲过…