MySQL SQL优化 【建议熟读并背诵】

news2024/11/23 12:29:39

插入数据

批量插入数据

insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');

手动控制事务

start transaction;
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry'); 
insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry');
commit;

主键顺序插入

顺序插入性能要高于乱序插入

  • 主键乱序插入 : 8 1 9 21 88 2 4 15 89 5 7 3
  • 主键顺序插入 : 1 2 3 4 5 7 8 9 15 21 88 89

大批量插入数据

如果一次性需要插入大批量数据(比如: 几百万的记录),使用insert语句插入性能较低,此以使用MySQL数据库提供的load指令进行插入。

操作如下:

-- 客户端连接服务端时,加上参数 -–local-infile
mysql –-local-infile -u root -p
-- 查询load开关有没有开启,0:未开启 1:已开启
select @@local_infile;
-- 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile = 1;
-- 执行load指令将准备好的数据,加载到表结构中
-- 使用','分隔,使用'\n'分行
load data local infile '/root/sql1.log' into table tb_user fields terminated by ',' lines terminated by '\n' ;

主键顺序插入性能高于乱序插入

主键优化

数据组织方式

在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table IOT)。

在这里插入图片描述

行数据存储在聚集索引的叶子节点上:

在这里插入图片描述

在InnoDB引擎中,数据行是记录在逻辑结构 page 页中的,而每一个页的大小是固定的,默认16K。

一个页中所存储的行是有限的,如果插入的数据行row在该页存储不小,将会存储到下一个页中,页与页之间会通过指针连接。

页分裂

页可以为空,也可以填充一半,也可以填充100%。每个页包含了2-N行数据(如果一行数据过大,会行溢出),根据主键排列。

主键顺序插入:

  1. 从磁盘中申请页, 主键顺序插入
  2. 第一个页没有满,继续往第一页插入
  3. 当第一个也写满之后,再写入第二个页,页与页之间会通过指针连接
  4. 当第二页写满了,再往第三页写入

在这里插入图片描述

主键乱序插入:

  1. 假如1#,2#页都已经写满了,存放了如图所示的数据

在这里插入图片描述

  1. 此时插入id为50的记录,因为索引结构的叶子节点是有顺序的。应该存储在47之后。

在这里插入图片描述

  1. 47所在的1#页,已经快满了,存储不了50对应的数据了。 此时会开辟一个新的页 3#。

在这里插入图片描述

  1. 将1#页后一半的数据,移动到3#页,然后在3#页,插入50。

在这里插入图片描述

  1. 1#的下一个页,应该是3#, 3#的下一个页是2#。 重新设置链表指针。

在这里插入图片描述

上述的这种现象,称之为 “页分裂”,是比较耗费性能的操作。

页合并

  1. 目前表中已有数据的索引结构(叶子节点)如下:

在这里插入图片描述

  1. 当删除一行记录时,没有被物理删除,而是被标记(flaged)为删除,并且它的空间变得允许被其他记录声明使用。

在这里插入图片描述

  1. 当页中删除的记录达到 MERGE_THRESHOLD(默认为页的50%),InnoDB会开始寻找最靠近的页(前或后)看看是否可以将两个页合并以优化空间使用。

在这里插入图片描述

  1. 删除数据,并将页合并之后,再次插入新的数据21,则直接插入3#页。

在这里插入图片描述

这个里面所发生的合并页的这个现象,就称之为"页合并"。

MERGE_THRESHOLD:合并页的阈值,可以自己设置,在创建表或者创建索引时指定。

主键设计原则

  • 满足业务需求的情况下,尽量降低主键的长度。
  • 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键。
  • 尽量不要使用UUID做主键或者是其他自然主键,如身份证号。
  • 业务操作时,避免对主键的修改。

order by优化

MySQL的排序有两种方式:

  • Using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫 FileSort 排序。
  • Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为using index,不需要额外排序,操作效率高。

对于以上的两种排序方式,Using index性能高,Using filesort性能低,在优化排序操作时,尽量优化为Using index

  1. 在表中没有索引的情况下,进行排序,是Using filesort ,性能较低

在这里插入图片描述

  1. 创建索引,再进行排序,是Using index ,性能较高

在这里插入图片描述

  1. 创建索引后,根据age, phone进行降序排序,此时Extra中出现了 Backward index scan,代表反向扫描索引,在MySQL中,默认索引的叶子节点从小到大排序,此时查询排序是从大到小,扫描就是反向扫描,就会出现 Backward index scan。 在MySQL8版本中,支持降序索引,可以创建降序索引

在这里插入图片描述

  1. 根据phone,age进行升序排序,phone在前,age在后。排序时,也需要满足最左前缀法则,否则也会出现filesort

在这里插入图片描述

  1. 根据age, phone进行降序一个升序,一个降序。创建索引时,如果未指定顺序,默认按照升序排序,查询时一个升序一个降序,就会出现Using filesort可以在创建联合索引时,指定升序或者降序。

在这里插入图片描述

在这里插入图片描述

升序/降序联合索引结构图示:

在这里插入图片描述

在这里插入图片描述

order by优化原则

  1. 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则。
  2. 尽量使用覆盖索引。
  3. 多字段排序,一个升序一个降序,需要注意联合索引在创建时的规则(ASC/DESC)。
  4. 如果不可避免的出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256k)。
-- 查看缓冲区大小
show variables like 'sort_buffer_size';

group by优化

  1. 在没有索引的情况下,执行SQL,查询执行计划。使用了临时表,效率较低。

在这里插入图片描述

  1. 创建一个联合索引,再执行前面相同的SQL查看执行计划,使用到了索引,性能较高。

在这里插入图片描述

  1. 如果仅仅根据age分组,就会出现Using temporary;而如果是根据profession,age两个字段同时分组,则不会出现Using temporary。分组操作在联合索引中也符合最左前缀法则。

在这里插入图片描述
在这里插入图片描述

group by优化原则

  1. 在分组操作时,可以通过索引来提高效率。
  2. 分组操作时,索引的使用也需满足最左前缀法则。

limit优化

在数据量比较大时,如果进行limit分页查询,在查询时,越往后,分页查询效率越低。

在这里插入图片描述

一般分页查询时,通过创建 覆盖索引 能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化。

通过下面这种方式,速度就会快很多:

在这里插入图片描述

count优化

如果数据量很大,在执行count操作时非常耗时。

  • MyISAM 引擎会把一个表的总行数存在磁盘上,执行 count(*) 的时候会直接返回这个数,效率很高;如果是带条件的count,MyISAM也慢。

  • InnoDB 引擎执行 count(*) 的时候,需要把数据一行一行地从引擎里面读出来,然后累积计数。

如果要大幅度提升InnoDB表的count效率,可以自己计数(可以借助于类似redis的数据库计数,如果是带条件的count又会比较麻烦)。

count()是一个聚合函数,对于返回的结果集,一行行地判断,如果 count 函数的参数不是NULL,累计值就加 1,否则不加,最后返回累计值。

count用法含义
count(主键)InnoDB 引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。
服务层拿到主键后,直接按行进行累加(主键不可能为null)
count(字段)没有not null 约束:InnoDB 引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,计数累加。
有not null 约束:InnoDB 引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,直接按行进行累加。
count(数字)InnoDB 引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1”进去,直接按行进行累加。
count(*)InnoDB引擎并不会把全部字段取出来,而是专门做了优化,不取值,服务层直接按行进行累加。

按照效率排序:count(字段) < count(主键 id) < count(1) ≈ count(*),所以尽量使用 count(*)。

update优化

InnoDB的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁 。

  1. 在执行SQL语句时,会锁定id为1这一行的数据,然后事务提交之后,行锁释放。
update course set name = 'javaEE' where id = 1 ;
  1. 当开启多个事务,执行SQL时,行锁会升级为表锁。 导致update语句的性能大大降低。
update course set name = 'SpringBoot' where name = 'PHP' ;

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/425635.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

在Windows中使用Linux命令安装这款软件就可以

由于平时经常使用Linux命令&#xff0c;所以导致在Windows的cmd中输入命令的时候经常打错&#xff0c;提示不是内部或外部命令&#xff0c;也不是可运行的程序。 那么有办法将补全cmd命令&#xff0c;使Linux中的命令在Windows中也能使用呢&#xff1f; 下面我来讲解如何在Win…

微服务架构-服务网关(Gateway)-服务网关在微服务中的应用

服务网关在微服务中的应用 我们将目光转向Spring Cloud应用的外围&#xff0c;讨论微服务架构下的各个模块如何对外提供服务。 1、对外服务的难题 微服务架构下的应用系统体系很庞大&#xff0c;光是需要独立部零的基础组件就有注册中心、配置中心和服务总线、Turbine异常聚…

【版本控制】Github同步Gitee镜像仓库自动化脚本

文章目录Github同步Gitee镜像仓库自动化脚本前言什么是Hub Mirror Action&#xff1f;1.介绍2.用法配置步骤1.生成密钥对2.GitHub私钥配置3.Gitee公钥配置4.Gitee生成私人令牌5.Github绑定Gitee令牌6.编写CI脚本7.多仓库同步推送8.定时运行脚本总结Github同步Gitee镜像仓库自动…

Softmax和Cross Entropy Loss在分类问题中的作用

本文以三分类神经网络为例&#xff0c;讲解Softmax和Cross Entropy Loss在分类问题中的作用。 首先&#xff0c;对类别标签进行一位有效编码&#xff1a; y[y1,y2,y3]Ty[y_{1},y_{2},y_{3}]^{T}y[y1​,y2​,y3​]T yi{1,if(iy)0,otherwisey_{i}\left\{\begin{matrix} 1 ,& …

形式语言和自动机总结----正则语言RE

第3-4章正则表达式 正则表达式的设计举例 正则表达式的运算 正则表达式的优先级 举例 1.倒数第三个字符是1 &#xff08;01)*1(01)(01) 2.不含有连续的0 &#xff08;101&#xff09;*&#xff08;0&#xff09; 3.含有000 &#xff08;01&#xff09;*000&#xff08;01&a…

【算法LearnNO.1】算法介绍以及算法的时间复杂度和空间复杂度

目录 一、算法 1、算法概述 2、算法的5个特性 3、设计算法的标准 二、时间复杂度 1、时间复杂度的介绍 2、渐进时间复杂度的求法 3、计算时间复杂度的代码举例&#xff08;平方阶示例&#xff09; 4、时间复杂度排序 三、空间复杂度 一、算法 1、算法概述 算法就是解…

蔚来试水辅助驾驶订阅,NOP+能否吃蟹?

作者 | 德新 编辑 | 王博2021年的NIO Day上&#xff0c;随着当时ET7发布&#xff0c;蔚来最早宣布了智能驾驶订阅服务&#xff1a;NAD&#xff0c;月费680元。 两年后&#xff0c;辅助驾驶订阅模式终于开始落地&#xff1a;蔚来将从7月1日起&#xff0c;对NOP进行收费&#xff…

Nginx基础教程

Nginx 目标 Nginx简介【了解】 Nginx安装配置【掌握】 一、Nginx简介 Nginx称为:负载均衡器或 静态资源服务器:html,css,js,img ​ Nginx(发音为“engine X”)是俄罗斯人编写的十分轻量级的HTTP服务器,是一个高性能的HTTP和反向代理服务器&#xff0c;同时也是一个IMAP/P…

索引优化、优化,你又是一个好MongoDB!!!博学谷狂野架构师

MongoDB索引优化 作者: 博学谷狂野架构师GitHub&#xff1a;GitHub地址 &#xff08;有我精心准备的130本电子书PDF&#xff09;只分享干货、不吹水&#xff0c;让我们一起加油&#xff01;&#x1f604; 索引简介 索引通常能够极大的提高查询的效率&#xff0c;如果没有索引&a…

【pg数据库状态监控相关参数展示】

1、最近项目中做了一个postgresql数据库监控状态功能的需求&#xff0c;需求如下图 2、研究好久&#xff0c;终于在pg数据库的官方文档中找到了相关视图参数&#xff0c; 文档连接如下&#xff1a; 数据库基础信息&#xff1a; http://www.postgres.cn/docs/9.3/functions-in…

开源项目:数据库表结构生成文档工具

目录 一、软件介绍 二、技术框架 三、功能介绍 四、代码展示 1、获取数据库信息部分代码 2、导出Html文档代码 五、运行效果 六、项目开源地址 一、软件介绍 今天给大家分享我自己编写的数据库表结构文档生成工具&#xff0c;方便大家在实际开发当中&#xff0c;可以很方便导出…

JAVA常用工具-文件操作相关IO

IO技术在JDK中算是极其复杂的模块&#xff0c;文件管理都依赖IO技术&#xff0c;而且都是编程的难点&#xff0c;想要整体理解IO流&#xff0c;先从Linux操作系统开始&#xff0c; Linux空间隔离 Linux使用是区分用户的&#xff0c;这个是基础常识&#xff0c;其底层也区分用…

【MQTT协议】使用Mosquitto实现mqtt协议(二):编写视频帧的发布/订阅服务

目录一、Mosquitto中的QoS定义QoS1和3区别二、安装base64库三、cjson简介四、主程序代码五、调用Mosquitto库使用的cmakelist更多内容详见 【MQTT协议】使用c实现mqtt协议&#xff08;Mosquitto源码编译&#xff09;一、Mosquitto中的QoS定义 MQTT协议中的QoS&#xff08;Qual…

CLIP论文拜读及理解

文章目录一、clip论文阅读二、prompt1.除prompt之外的预训练语言模型2.prompt2.1. prompt定义2.2. prompt类型2.3. prompt重构2.3.1 prompt template2.3.2 Answer engineering2.4 多个 prompt的使用2.5 prompt的训练总结参考&#xff08;博文、论文&#xff09;一、clip论文阅读…

Windows系统安装WSL,并安装docker服务

背景 因为工作需要&#xff0c;要在电脑上执行sh脚本&#xff0c;并启动docker服务执行具体逻辑。因为我的电脑是windows系统&#xff0c;对做本任务来说&#xff0c;比较吃力&#xff0c;所以想到使用wsl&#xff0c;让windows电脑具有linux电脑的能力。 什么是 WSL 2 WSL 2 …

JVM的类加载的过程以及双亲委派模型

目录 1、加载 &#xff08;加载字节码文件&#xff0c;生成.class对象&#xff09; 2、验证&#xff08;验证Class文件是否符合规范&#xff09; 3、准备 &#xff08;为静态变量分配内存并设置变量初始值&#xff09; 4、解析&#xff08;初始化常量池中的一些常量&#…

索引的分类

1.唯一索引 给表中某一列设置为了唯一约束(这列不允许出现重复数据)后&#xff0c;数据库会为将这一列设置索引&#xff0c;这个索引叫做唯一索引&#xff08;主键那一列是一个特殊的唯一索引&#xff0c;不仅要满足唯一索引这一列不可以出现重复数据&#xff0c;而且这一列还…

Android opencv

install cmake cpp folder,新建c项目 获取 OpenCV4Android SDK O4A_SDK 下载&#xff0c;并解压 ~/Downloads/OpenCV-android-sdk$ tree -d -L 2 . ├── apk ├── samples │ ├── 15-puzzle │ ├── camera-calibration │ ├── color-blob-detection │ ├…

文件:IO流

1. 什么是IO /O 即输入Input/ 输出Output的缩写&#xff0c;其实就是计算机调度把各个存储中&#xff08;包括内存和外部存储&#xff09;的数据写入写出的过程&#xff1b;java中用“流&#xff08;stream&#xff09;”来抽象表示这么一个写入写出的功能&#xff0c;封装成一…

Vue学习笔记(7. axios异步请求)

1. axios请求方式 方式1&#xff1a;axios({method:"GET",url:"..."}) 方式2&#xff1a;axios({method:"POST",url:"...",data:"..."}) 方式3&#xff1a;axios.get("url...") 方式4&#xff1a;axios.post(…