【MySQL】数据库服务器硬件优化与实战详解(调优篇)(实战篇)(MySQL专栏启动)

news2025/1/19 3:01:45

📫作者简介:小明java问道之路,专注于研究 Java/ Liunx内核/ C++及汇编/计算机底层原理/源码,就职于大型金融公司后端高级工程师,擅长交易领域的高安全/可用/并发/性能的架构设计与演进、系统优化与稳定性建设。

        

📫 热衷分享,喜欢原创~ 关注我会给你带来一些不一样的认知和成长。

        

🏆 InfoQ签约作者、CSDN专家博主/后端领域优质创作者/内容合伙人、阿里云专家/签约博主、51CTO专家 🏆

       

🔥如果此文还不错的话,还请👍关注、点赞、收藏三连支持👍一下博主~ 

本文目录

本文导读

一、什么是服务器

二、存储器的层次结构

三、数据库服务器硬件优化——CPU

三、数据库服务器硬件优化——内存

四、数据库服务器硬件优化——磁盘

总结


本文导读

本文从数据库服务器底层硬件介绍,什么是服务器,结合CSAPP中的第4、6、9章的存储器层次结构、虚拟内存、处理器体系结构,分析MySQL服务器需要做的一些优化,并给出优化建议。

一、什么是服务器

数据库服务器是一台高性能计算机,用于为用户和设备网络存储和管理服务器上存储的数据。通常,数据库服务器解决方案为用户网络提供中央数据管理、安全性、访问和权限控制以及交互式存储库。

数据库服务器是数据流和存储的核心,支持当今组织和消费者使用的大多数应用程序、程序和工具。

服务器是数据库的主机,其性能直接影响数据库的性能。因此,服务器的优化也是数据库优化的第一步。

数据库服务器通常从三个方面进行优化:CPU、内存和磁盘。网络取决于实际负载。建议使用万兆网络网络。

二、存储器的层次结构

存储器系统(memory system)是一个具有不用容量、成本和访问时间的存储设备的层次结构。本章我们了解存储器层次结构、基本的存储技术(磁盘结构、固态硬盘结构、高速缓存存储器)等。

如果程序需要的数据在寄存器中,指令可以立即使用这些数据;如果数据存储在cache中,那么获取这些数据4~75个时钟周期;当数据存储在内存中,需要几百个时钟周期;如果数据存储在磁盘中,需要大约几千万个时钟周期。

详解,请参考《存储器层次结构详解》 

三、数据库服务器硬件优化——CPU

MySQL 5.1可以使用4核,MySQL 5.5可以使用24核,MySQL 5.6可以使用64核,而MySQL 5.6可以支持128核或更多核。

对于MySQL,每个连接对应一个线程,每个并发查询只能使用一个内核。也就是说,当执行单个SQL语句时,MySQL只能在底部使用一个CPU内核。

为了提高SQL执行效率,单个SQL执行应该尽可能快。在考虑CPU时,我们应该优先考虑高频CPU,以提高单个SQL语句的执行效率。

通过参数 thread_Handling 可以查看线程池模型,主要包括每个线程一个连接 one-connection-per-thread 和每个连接一个线程 one-thread-per-connection。建议每个连接使用 one-thread-per-connection(在5.6版本之前,MySQL连接处理用的 one-connection-per-thread。对于到MySQL Server的每个数据库连接,都创建了一个独立的线程服务,处理请求后,线程被销毁)。

CPU处理器工作原理:

详解,请参考《处理器体系结构详解》 

对于 MySQL 的 CPU 使用,访问密集型业务对并发SQL执行的需求很大。为了在短时间内确保大吞吐量,需要选择具有大量内核的CPU。

因此,数据库服务器更喜欢高频率和多核的CPU。

MySQL运行服务器的CPU硬件优化总结如下:

1、选择 Performance Per Watt Optimized(DAPC)作为系统配置,以最大化功耗性能,而不是节能模式(禁用高计算节点)。节能模式在低频和高频性能转换期间容易出现错误。

2、CPU优先选择高主频以提高计算能力;其次,可以选择多个内核进行多线程并发处理和多实例部署。

3、关闭C1E(增强型空闲电源管理状态转换)和C状态。DB服务器不需要节能和省电操作。默认情况下,它处于启用状态。建议关闭DB服务器以提高CPU效率。

4、数据库服务器选择具有高主频和多核计数的CPU类型,并同时打开最大性能和关闭CPU CIE和C状态。高频加速SQL执行,多核解决并发问题。

三、数据库服务器硬件优化——内存

俗话说的好性能不够,内存来凑。MySQL需要足够的内存才能运行。对于具有多个实例的单机,建议根据实际热数据量的30%来规划内存。

对于具有单个实例(即独占实例)的单机,建议分配50%到80%的内存。

MySQL有 Query Cache 查询缓存,但功能很差。建议联机关闭查询缓存。MySQL 8.0已经删除了查询缓存。

CPU和内存的关系:详解,请参考《虚拟内存详解》 

MySQL的内存分配原则取决于参数配置。详细信息将在下面的MySQL参数优化中解释。

MySQL的内存优化建议总结如下:

1、选择内存频率的最大性能。

2、大内存。renice mysql-pid防止mysql在OOM期间被强制终止。

3、在内存设置菜单中,启用节点交错以避免NUMA问题,建议修改系统配置以关闭NUMA。

4、对于数据库服务器,首选大内存,同时启用最大性能,禁用NUMA。

四、数据库服务器硬件优化——磁盘

对于磁盘的硬件要求,数据库是 IO型负载的软件。首选 SSD 和 PCIe SSD,并强制使用高速机械硬盘。建议在运行数据库时放弃使用机械硬盘。

IO类型方面,MySQL Undo Log为顺序写入和随机读取,Redo Log 和 Binlog 为顺序写入与顺序读取,OLTP 场景以随机IO为主,OLAP 场景以顺序IO为主,其存储结构 MyISAM 为堆表,InnoDB为索引组织表。

MySQL磁盘硬件优化原则:

1、RAID策略选择:Sata SSD和PCIe SSD不需要RAID。机械硬盘首选RAID 10,其次是RAID 5。

2、RAID CACHE&BBU选择:购买的阵列卡同时配备CACHE和BBU模块,可以提高机械磁盘IOPS,定期检查或监控CACHE和BBBU模块的运行状况,并确保在发生事故时数据不会丢失。
磁盘类型选择:首选SSD或PCIe SSD,机械磁盘采用高速硬盘。

3、读/写策略选择:当有阵列卡时,将阵列写策略设置为WB或强制WB(无电池),并禁止WT。同时,关闭仅用作写缓存的显示预读策略。

总结

本文从数据库服务器底层硬件介绍,什么是服务器,结合CSAPP中的第4、6、9章的存储器层次结构、虚拟内存、处理器体系结构,分析MySQL服务器需要做的一些优化,并给出优化建议。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/44365.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

[附源码]计算机毕业设计springboot-菜篮子系统

项目运行 环境配置: Jdk1.8 Tomcat7.0 Mysql HBuilderX(Webstorm也行) Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。 项目技术: SSM mybatis Maven Vue 等等组成,B/S模式 M…

D-017 SWD硬件电路设计

SWD硬件电路设计1 简介2 JTAG和SWD的区别2 设计要点3 电路实战1 简介 SWD(SERIAL WIRE DEBUG)是一种串行线调试,是ARM设计的协议,主要功能是对微控制器进行编程和调试。 相关引脚说明: PIN脚描述SWDIO串行数据线,用于数据的读出和写入。SW…

Nodejs -- CORS的介绍及使用CORS解决Express请求跨域的问题

文章目录CORS 跨域资源共享1 接口的跨域问题2 使用cors中间件解决跨域问题3 什么是CORS4 CORS的注意事项5 CORS响应头部 - Access-Control-Allow-Origin6 CORS响应头部 - Access-Control-Allow-Headers7 CORS响应头部 - Access-Control-Allow-Methods8 CORS请求的分类9 简单请求…

R语言隐马尔可夫模型HMM识别股市变化分析报告

了解不同的市场状况如何影响您的策略表现可能会对您的收益产生巨大的影响。最近我们被客户要求撰写关于HMM的研究报告,包括一些图形和统计输出。 某些策略在波动剧烈的市场中表现良好,而其他策略则需要强劲而平稳的趋势,否则将面临长时间的下…

使用Spark的foreach算子及UDTF函数实现MySQL数据的一对多【Java】

使用Spark的foreach算子及UDTF函数实现MySQL数据的一对多【Java】 背景 我们的数仓项目中遇到了这样一种场景,脱敏后内容大致如下: col1col2time1time2a1b12022-01-01 00:00:002022-01-05 00:00:00a2b22022-01-28 00:00:002022-02-03 00:00:00a3b3202…

53-54 - 被遗弃的多重继承

---- 整理自狄泰软件唐佐林老师课程 1. 问题 C是否允许一个类继承自多个父类? 1.1 C中的 多重继承 C支持编写多重继承的代码 一个子类可以拥有多个父类子类拥有所有父类的成员变量子类继承所有父类的成员函数子类对象可以当作任意父类对象使用 1.2 多重继承的语…

PC_非连续内存分配方式@分页存储管理@地址变换机构@快表

文章目录非连续内存分配方式🎈分页存储管理基本分页存储管理页面和页面大小分块和碎片逻辑地址结构页表页表项结构页表项和地址比较🎈页表项地址地址变换机构基本地址变换机构结构图映射过程Note:页表长度页表项长度页表大小例小结ref具有快表的地址变换…

Django学习第一天

学习建议 先从看视频学习开始,网上学习Django的视频有很多,然后跟着视频多多练习并且做一些小项目来加深印象和理解。 注意: 要学习Django前,必须先学习python基础,因为Django是基于python这门语言而开发的&#xff0…

openEuler快速入门-Navicat远程链接openGauss数据库

文章目录前言一、环境准备二、openGauss服务设置步骤2.1 切换至用户openGauss2.2添加放行IP2.3 修改加密方式3.4 重启openGauss服务3.5 创建远程连接角色备注总结前言 最近这段时间再整理openGauss数据库相关内容,在这里总结记录并分享一些基础的操作以及遇到的一些…

与堆和堆排序相关的问题

与堆和堆排序相关的问题 作者:Grey 原文地址: 博客园:与堆和堆排序相关的问题 CSDN:与堆和堆排序相关的问题 堆结构说明 堆结构就是用数组实现的完全二叉树结构,什么是完全二叉树?可以参考如下两篇博…

向善的力量:顺丰,如何在不确定性中寻求确定性

眼下新冠病毒来势汹汹,广大民众生活受到巨大影响。虽然物流企业也受到巨大影响,但面对严峻形势,众多物流企业依然在为保障民生献出自己的一份力量,在当下最大的不确定性中努力寻求确定性。 特别是在最近,常常看到各类…

拿捏Fiddler抓包教程(10)-Fiddler如何设置捕获Firefox浏览器的Https会话

1.简介 经过上一篇对Fiddler的配置后,绝大多数的Https的会话,我们可以成功捕获抓取到,但是有些版本的Firefox浏览器仍然是捕获不到其的Https会话,需要我们更进一步的配置才能捕获到会话进行抓包。 2.宏哥环境 1.宏哥的环境是Win…

[附源码]SSM计算机毕业设计校园兼职招聘系统JAVA

项目运行 环境配置: Jdk1.8 Tomcat7.0 Mysql HBuilderX(Webstorm也行) Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。 项目技术: SSM mybatis Maven Vue 等等组成,B/S模式 M…

数仓开发之DWS层(一)

目录 一:流量域来源关键词粒度页面浏览各窗口汇总表(FlinkSQL) 1.1 主要任务: 1.2 思路分析: 1.3 图解: 1.4 ClickHouse建表语句: 二:流量域版本-渠道-地区-访客类别粒度页面浏…

数据结构和算法之图

什么是图 定义 包含 1. 一组顶点&#xff1a;通常用V(Vertex)表示顶点集合2. 一组边&#xff1a;通常用E(Edge)表示边的集合1. 边是顶点对&#xff1a;(v,w)属于E&#xff0c;其中v,w属于V2. 有向边<v,w>表示从v指3.不考虑重边和自回路 抽象数据类型定义 1.类型名称&…

[附源码]Python计算机毕业设计SSM基于java的云顶博客系统(程序+LW)

环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 Maven管理等…

【车载开发系列】UDS诊断---诊断会话控制($0x10)

【车载开发系列】UDS诊断—诊断会话控制&#xff08;$0x10&#xff09; UDS诊断---诊断会话控制&#xff08;$0x10&#xff09;【车载开发系列】UDS诊断---诊断会话控制&#xff08;$0x10&#xff09;一.概念定义二.三种会话模式1&#xff09;默认会话2&#xff09;编程会话3&a…

【DevPress】V2.4.0版本发布,增加留资组件

DevPress V2.4.0版本于2022年9月29日发版 一、该版本功能包含 1、新需求 1&#xff09;企业社区移动端优化&#xff0c;响应式布局&#xff0c;提升用户浏览体验。 2&#xff09;增加社区留资组件&#xff0c;更好在社区首页和内容详情页展示 - 包含新建组件&#xff0c;包含…

基于PHP+MySQL医药信息查询系统的设计与开发

医药信息查询系统的基本功能包括用户注册登录,查看医药资讯,医药查询和在线留言等信息。 PHP中药管理系统是一个服务类型的网站,系统通过PHp&#xff1a;MySQL进行开发,分为前台和后台两部分,前台部分主要是让需要买药的人员查看和查询药品信息。后来部分主要是让管理员对网站的…

通过Xshell操作Jetson Nx

1 Jetson Nx Nx留有Uart2 口&#xff0c;便于使用xshell等进行操作。 串口有三根线。链接后使用。 2 XShell 软件 2.1 XShell软件介绍 XShell 软件是一个Windows上运行的终端模拟器&#xff0c;支持SSH, SFTP, TELNET, RLOGIN&#xff0c;和Serial。用于连接Unix或Linux服…