MySQL性能深度优化

news2025/3/14 20:20:02

这里的深度优化是指,除了建索引、左匹配索引等等其他的优化手段。
文章涉及到操作系统连接数、IO、Mysql本身的某些参数设置,值得记录下来。

文章目录

  • 一.数据库服务器配置
  • 二.CPU的优化
  • 三.内存的优化
  • 四.IO的优化
  • 五.连接的优化
  • 六.数据一致性的优化
  • 原文链接

一.数据库服务器配置

  • CPU:48C
  • 内存:128G
  • DISK:3.2TSSD

二.CPU的优化

innodb_thread_concurrency=32
表示SQL经过解析后,允许同时有32个线程去innodb引擎取数据,如果超过32个,则需要排队;
值太大会产生热点数据,global锁争用严重,影响性能

三.内存的优化

query_cache_type=0
query_cache_size=0
缓存查询,5.6默认关闭,在应用层实现,比如MC、redis

四.IO的优化

  • 1.innodb_buffer_pool_size=50G
    类似SGA,衡量总的IO处理能力上限,一般为物理内存的60%-70%,这里128G部署2个实例,剩下28G分配给OS和mysql连接等使用
  • 2.innodb_io_capacity=20000
    每秒后台进程处理IO数据的上限,一般为IO QPS总能力的75%
    比如SSD是3W QPS,75%大概是2W,双实例减半,为1W,几个实例除以几
  • 3.innodb_log_files_in_group=4
    几个innodb redo log日志组
  • 4.innodb_log_file_size=1000M
    redo log日志循化写,生产必须大于1G,
    如果太小,那么innodb_buffer_pool_size的数据有可能不能及时写入redo log造成halt等待;查看是否够用?如果value大于0,则提高改参数或者增加日志组
root@master 12:51:  [(none)]> show global status like '%log_wait%';
+------------------+-------+
| Variable_name    | Value |
+------------------+-------+
| Innodb_log_waits | 0     |
+------------------+-------+
1 row in set (0.00 sec)
root@master 12:54:  [(none)]> show global status like '%Innodb_os_log_written%';
+-----------------------+-------+
| Variable_name         | Value |
+-----------------------+-------+
| Innodb_os_log_written | 1024  |
+-----------------------+-------+
1 row in set (0.00 sec)
#此参数大小可作为设置日志文件size大小参考值
  • 5.innodb_flush_method=O_DIRECT
    SSD直接写硬盘,不写硬盘cache,也就是绕过fsync()刷硬盘
  • 6.innodb_max_dirty_pages_pct=50
    当脏块达到innodb_buffer_pool_size的50%时,触发检查点,写磁盘
  • 7.innodb_file_per_table=on
    一表一文件,可以避免共享表空间的IO竞争
  • 8.innodb_page_size=4k
    默认是16K,这里是SSD,写SSD前要擦除,擦除单位是extent,一个extent有128个page组成,16128 > 4128 ,效率会更高
  • 9 innodb_flush_neighbors=0
    SSD设置为0,SAS打开刷新相邻块,随机访问转换为顺序访问

五.连接的优化

  • 1.back_log=300
    默认是50,TCP/IP的连接数量,一个连接占用256KB内存,最大是64MB,256 * 300 =75MB内存和三次握手有关系
    在这里插入图片描述

syn_queue取64和tcp_max_sync_backlog最大者,默认是1024,当瞬时很多连接进来这个参数会进行限制,否则太大容易消耗资源

accept queue取back_log和somaxconn最小者,用来防止丢包,当瞬时很多连接进来达到上限后,后来连接将超时触发重传机制

当有3000个连接进来,将队列accept queue占满,应用还没来得及将请求从队列中取出,剩下的2700个连接将被拒绝,每取走一个请求(一个连接,mysql一个线程一个连接),将创建一个thread线程

net.ipv4.tcp_max_sync_backlog= 8192 类似活动场所
sync接收队列的长度,默认是1024,当mysql在很短时间内得到很多的请求,需要增加,太大会消耗资源,太小的话会在show processlist出现未认证错误

net.core.somaxconn=1024 类似活动场所中的座位数
尽可能防止丢包,超过这个值会触发超时或者重传,限制在net.ipv4.ip_local_port_range这个范围之内

  • 2.max_connections=3000
    连接的创建和销毁都需要系统资源,比如内存、文件句柄
    业务说的支持多少并发,指的是每秒请求数,也就是QPS
    同一时刻并行的SQL由innodb_thread_concurrency决定,最大不能超过该值

如果一个用户的请求数据超过64MB(比如排序),就会申请临时空间,放到硬盘上

如果3000个用户同时连上mysql,最小需要内存3000256KB=750M,最大需要内存300064MB=192G,如果innodb_buffer_pool_size是80GB,可用内存不到48G,192GB>48GB,将会产生SWAP,此时将会影响性能

连接数过高,不一定带来吞吐量的提高,而且可能占用更多的系统资源

一个DB 3W QPS计算,前端有100个web服务器,每个web服务器需要300个QPS,每个QPS占用时间=网络来回时间+SQL执行时间,以20ms计算,需要6个连接数(300/1000/20ms=6)

示例1:有100台web服务器,PHP/JAVA的最大连接数可设置为:3000/100=30
示例2:有30台web服务器,要扩容到60台,web服务器连接数怎么配置?web服务器最大连接数:之前是3000/30=100,现在3000/60=50即可

  • 3.max_user_connections=2980
    剩余连接数用作管理
  • 4.table_open_cache=1024
    打开表的缓存,跟表数量没关系
    1000个连接上来,都需要访问A表,那么会打开1000个表,打开1000个表是指mysql创建1000个这个表的对象,连接直接访问表对象,类似会把这张表做一个class,1000个连接都访问这个表对象,当表对象没了,重新new一个,不需要每次都打开物理表

root@master 14:44:  [(none)]> show variables like '%table_open_cache';
+------------------+-------+
| Variable_name    | Value |
+------------------+-------+
| table_open_cache | 1024  |
+------------------+-------+
1 row in set (0.00 sec)
root@master 14:46:  [(none)]> show global status like 'open%tables%'; 
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| Open_tables   | 19    |
| Opened_tables | 113   |
+---------------+-------+
2 rows in set (0.00 sec)
可以考虑设置为max_connections或者max_connections*查询同时用到的表个数或者
  • 5.thread_cache_size=512
    都是短连接进来容易产生短连接风暴
    会话层:事务状态、认证会话
    连接层:网络连接、包传输
    一个用户 对应 一个session 对应 一个connection
    connection - thread:操作系统调用
    3000个用户进来使用cache的512个线程,用完就放回去,避免创建、销毁线程的开销
  • 6.wait_timeout=120
    指的是app应用连接mysql进行操作完毕后,空闲120秒后断开
  • 7.interactive_timeout=120
    指的是mysql client连接mysql进行操作完毕后,空闲120秒后断开

六.数据一致性的优化

1.innodb_flush_log_at_trx_commit=1
0,不管有没有提交,每秒钟都写到binlog日志里
1,每次提交事务,都会把log buffer的内容写到磁盘里去,对日志文件做到磁盘刷新,安全最好
2,每次提交事务,都写到操作系统缓存,由OS刷新到磁盘,性能最好
https://blog.csdn.net/zengxuewen2045/article/details/51476186
2.sync_binlog=1
0,事务提交后,mysql不做fsync之类的刷盘,由文件系统来决定什么落盘
n,多少次提交,每n次提交持久化磁盘
生产设为1
3.日志写盘过程
image

1)三个update会话,三个线程都会产生的操作日志
2 )commit后提交到公共的cache中,三个进程之间不能相互看到对方的操作内容
3)经过write写入到标准I/O cache中,也就是文件系统句柄,线程缓存
4)如果需要让其他线程看到文件句柄内容,就需要通过flush刷新到全局可见文件系统缓存
5)最后最重的一步是将内存数据sync落盘

原文链接

https://www.cnblogs.com/jenvid/p/8994831.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/645935.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

scDesign3:多模态单细胞和空间组学数据生成

scDesign3是一个统计模拟器,通过从真实数据中学习可解释的参数,生成真实的单细胞和空间组学数据,包括各种细胞状态、实验设计和特征模态。使用单细胞和空间组学数据的统一概率模型,scDesign3可以推断出具有生物学意义的参数&#…

DC降压电源模块 输入8-32V输出电流50A/1V-12V 恒流恒压可调模块

【产品参数】 [] 非隔离同步降压(BUCK)电源模块 [] 宽输入DC6-32V,输出DC0.6-12.2V [] 峰值效率>96% [] 过流保护 短路保护自恢复 [] 远程ON/OFF [] 过温保护、高稳压精度、动态响应快 [] 输出限流指示灯 [] 输出电压电流可调 [] 低纹波、低静态电流 […

Kafka学习--3、Kafka Broker、节点服役和退役、Kafka 副本、Leader 选举流程、故障处理

1、Kafka Broker 1.1 Kafka Broker工作流程 1.1.1 Zookeeper储存的Kafka信息 (1)启动Zookeeper集群、再启动Kafka集群,然后启动Zookeeper客户端 (2)通过ls命令可以查看kafka相关信息。 1.1.2 Kafka Broker总体工作…

【冷冻电镜】IMOD使用教程(Etomo tutorial)

参考教程: Etomo Tuturial for IMOD version 4.11 1. Initial Setup 本教程提供了一个小双轴示例数据集和Etomo的分布指南,更详细的内容参考Tomography Guide。该版本使用1k*1k的图像而不是压缩版本。imodhelp命令可以打开帮助界面,查看各种…

自定义修改Typora原生默认github风格样式

使用typora的时候,想要自定义一些颜色、字体,或者修改一些设置,这个时候需要修改或者自己编写css文件。 修改涉及的样式: ① 目录 ② 块应用 我还是比较喜欢原生自带的默认样式(github样式), 但…

公司采购缺进项发票,税负重?买票违法不可取,这招可合规节税!

公司采购缺进项发票,税负重?买票违法不可取,这招可合规节税! 《税筹顾问》专注于园区招商,您的贴身节税小能手,合理合规节税! 自从金税四期的上线,我国的税务环境有了翻天覆地的变化…

软件开发流程解析

文章目录 1. 软件开发生命周期2.常见开发流程2.1 瀑布模型2.2 敏捷开发 3.实例开发过程示例 1. 软件开发生命周期 来源于百度百科:软件生命周期(Software Life Cycle,SLC)是软件的产生直到报废或停止使用的生命周期。软件生命周期内有问题定义、可行性分析、总体描述…

哈工大人工智能数学基础考试题型和资料(考查课)

大作业 【免费】人工智能数学基础11111资源-CSDN文库 PPT (1条消息) 【免费】人工智能数学基础PPT解压缩打开不会出现乱码资源-CSDN文库

Docker安装wordpress并配置数据库(详细步骤)

Docker在线拉取安装wordpress并配置数据库 一、拉取wordpress镜像(默认最新)二、启动wordpress容器三、查看容器状态四、安装wordpress博客程序 如果您已经在 Docker 容器中分别安装了 WordPress 和 MySQL,并且想要让它们链接起来,可以按照以下步骤进行操…

这所武汉的211,面试仅占比15%,却刷掉了409分的同学!Why?

一、学校及专业介绍 武汉理工大学(Wuhan University of Technology),简称武理工,位于武汉市,是中华人民共和国教育部直属全国重点大学,国家“双一流”建设高校,“211工程”、“985工程优势学科创…

西门子PPI协议开发

目录 西门子PPI协议开发 1 协议介绍 2 仿真环境 2.1 安装修改仿真软件 2.2 设置PPI串口 3 报文示例 西门子PPI协议开发 西门子PPI协议适用S7-200、S7-200SMART PLC。 1 协议介绍 仔细读下,用于开发是满足的,不用再去找其他文章了。网上找了不少&a…

wfe进不了standby模式怎么办

快速链接: . 👉👉👉 【目录】ARM/TEE/ATF/SOC微信群问题记录 👈👈👈 付费专栏-付费课程 【购买须知】:联系方式-加入交流群 ----联系方式-加入交流群 (说明:本文总结来自于微信群的公开讨论&a…

项目集管理—项目集生命周期管理

项目集生命周期管理是指为促进有效的项目集定义、项目集交付和项目集收尾,管理所需项目集 活动的绩效领域。 为了确保实现效益,项目集各组件要与组织战略目的和目标保持必要的一致性。这些组件可能包 括项目、子项目集和其他项目集相关活动,它…

城市内涝监测预警系统中积水监测仪的应用

一、方案背景 近年来,由强降水引发的道路低洼处、下穿式立交桥和隧道产生大量积水的现象时有发生,给人们的出行和生活带来很多不便,严重时甚至会造成人民生命、财产的重大损失。住房和城乡建设部、国家发展改革委办公厅于4月16日发布了《关于…

JavaScript 温度异常图表

了解如何使用高性能 JS 图表创建可用于异常天气和温度科学研究的 JS 温度异常图表。 你好! 在本文中,我们将创建温度异常图表。 对于这个例子,我们将使用 LightningCharts JS 库,特别是XY图表。对于那些对技术细节感兴趣的人&am…

2.数据库语言二

文章目录 数据库语言二Mysql的约束数据表高级操作克隆表方法一方法二 清空表,删除表内的数据方法一方法二 创建临时表外键约束数据库用户管理新建用户查看用户重命名用户删除用户修改用户密码忘记root密码 数据库用户授权授予权限查看权限撤销权限 数据库语言二 My…

OpenAI 重磅更新 变得更强啦 | 包括更多可控的 API 模型、函数调用能力、更长的上下文和更低的价格

文章目录 一、前言二、主要内容三、总结 🍉 CSDN 叶庭云:https://yetingyun.blog.csdn.net/ 一、前言 OpenAI 官网:https://openai.com/blog/function-calling-and-other-api-updates 功能调用和其他 API 更新。OpenAI 宣布更新,包…

netstat命令与wget命令

查看本机的网络连接与后门:netstat 如果某个网络服务明明已经启动了,但是就算无法进行连接,那应该怎么办?首先你要查询以下网络接口所监听的端口(port),来看看是否真的已经启动,因为有时候屏幕上显示的OK并…

从 ColossalChat 到 DeepSpeedChat, RLHF的应用及优化

从 ColossalChat 到 DeepSpeedChat, RLHF的应用及优化 原创 紫气东来 收录于合集#LLMs8个 作者:紫气东来 项目地址:https://zhuanlan.zhihu.com/p/621391363 一、深入理解 ColossalChat 在上一期 NLP(九):LLaMA, Al…

畅捷通T+ SQL注入漏洞复现(QVD-2023-13612)

0x01 产品简介 畅捷通 T 是一款基于互联网的新型企业管理软件,功能模块包括:财务管理、采购管理、库存管理等。主要针对中小型工贸和商贸企业的财务业务一体化应用,融入了社交化、移动化、物联网、电子商务、互联网信息订阅等元素。 0x02 漏…