Java web应用性能分析之【MySQL安装注意事项】

news2024/11/16 1:20:51

        本文主要是针对以前LAMP,以及默认用apt安装的mysql。数据文件、日志文件都在一起;innodb_buffer_pool默认用128M。如果你排查问题,最后发现是因为mysql的安装配置不对,是否一口老血要喷出来。同时给MySQL数据库安装做参考。

        关于MySQL数据库优化,我这里分成5部分:1.服务器配置优化,2.MySQL安装优化,3.MySQL配置优化,4.数据库设计优化,5.针对MySQL的SQL优化。其中123都是针对数据库运行环境的优化,45是在业务运行过程中,根据业务运行情况进行的适配调整。一般这些工作都是DBA的活,但是对于开发来说,多了解点无大碍,毕竟技多不压身。而且如果在安装前不把这些设置好,也会影响数据库性能,最终导致应用慢,并且这个也比较隐蔽,一般开发是很难发现问题。

        1.服务器配置优化

        数据库作为应用中一个重要的组件,业务数据都存放在数据库,业务操作都需要访问数据库,为了保证数据库的性能和可靠性,选择合适的硬件设备非常重要。

        CPU选型

        MySQL 5.1可以使用4核,MySQL 5.5可以使用24核,MySQL 5.6可以使用64核,忘记5.6还是5.7的那个版本已经支持128核(槽点:PG没有限制,有多少核心,它都能用上)。mysql的每个连接mysqld进程都会创建一个线程去处理,也就是每个客户端的sql命令只能用一个核心,要提高SQL执行效率,高频多核的CPU是个不错的选择。所以选CPU就看核心数、频率、缓存。

  1. 核心数量:CPU的核心数量越多,能够同时处理的请求就越多。建议选择具有至少8个核心的CPU。
  2. 频率:CPU的频率越高,处理速度越快。建议选择主频在3GHz以上的CPU。
  3. 缓存:CPU的缓存越大,能够缓存的数据就越多,可以提高查询性能。建议选择具有至少30MB缓存的CPU。

        MySQL运行服务器的CPU硬件优化总结如下:

        1、选择 Performance Per Watt Optimized(DAPC)作为系统配置,以最大化功耗性能,而不是节能模式(禁用高计算节点)。节能模式在低频和高频性能转换期间容易出现错误。

        2、CPU优先选择高主频以提高计算能力;其次,可以选择多个内核进行多线程并发处理和多实例部署。

        3、关闭C1E(增强型空闲电源管理状态转换)和C状态。DB服务器不需要节能和省电操作。默认情况下,它处于启用状态。建议关闭DB服务器以提高CPU效率。

        4、数据库服务器选择具有高主频和多核计数的CPU类型,并同时打开最大性能和关闭CPU CIE和C状态。高频加速SQL执行,多核解决并发问题。

        内存选型

        行内古话“要想性能好、内存少不了”。如果内存能装下你所有的业务数据,那么你想慢都难。当然这也是一句屁话。一般估算三五年的业务量,能将20%的业务热数据装载到内存,就已经很好了。一般数据库服务器,我们会将50%-90%的内存分给mysql,操作系统留个512MB基本够用。所以选内存,够大即可,有钱的土豪客户豪横任性。

  1. 容量:内存的容量越大,能够存储的数据就越多。建议根据实际需求选择内存容量,一般来说,每个GB的数据需要至少8GB的内存。对于1000个用户的场景,建议选择至少16GB的内存容量。
  2. 速度:内存的速度越快,访问数据的速度就越快。建议选择DDR4内存,其主频至少为2133MHz。
  3. 通道数:内存的通道数越多,数据传输的效率就越高。建议选择具有至少2个内存通道的主板。

        MySQL的内存优化建议总结如下:

        1、选择内存频率的最大性能。

        2、大内存。renice mysql-pid防止mysql在OOM期间被强制终止。Linux的一种粗暴自我保护机制,当Linux内核发现物理内存不足时,首先会回收可回收的内存,如读写文件时的页缓存、延迟释放的空闲slab内存页等。如果Linux内核完成内存回收,还是不能解决内存不足,这个时候臭名昭著的杀手就来了“OOM Killer”,它会拿起它42米的大砍刀,率先砍掉占用内存最大的进程。大哥,这是数据库服务器,占内存最多的进程毫无疑问是mysqld。可怜的小海豚,就这样惨死了,更可怕的是你的业务数据丢失了。

$ echo -1000 > /proc/mysqld的进程id/oom_score_adj

在内核计算进程最坏分数值时,会加上进程的 oom_score_adj(OOM建议值)值。如果将此值设置为 -1000 时,那么系统将会禁止 OOM killer 杀死此进程。
如果数据库有重启,则每次都需要来设置一下。


panic_on_oom:用来控制当内存不足时该如何做。

cat /proc/sys/vm/panic_on_oom

值为0:内存不足时,启动 OOM killer。
值为1:内存不足时,有可能会触发 kernel panic(系统重启),也有可能启动 OOM killer。
值为2:内存不足时,表示强制触发 kernel panic,内核崩溃GG(系统重启)。

这个参数建议不修改,保持0


mysql内存使用计算

内存占用=共享内存+客户端链接线程内存+PS占用内存+数据字典占用内存+内存引擎占用内存

SELECT ( @@key_buffer_size
+ @@innodb_buffer_pool_size
+ @@innodb_log_buffer_size
+ @@max_connections * (
    @@read_buffer_size
    + @@read_rnd_buffer_size
    + @@sort_buffer_size
    + @@join_buffer_size
    + @@binlog_cache_size
    + @@thread_stack
    + @@tmp_table_size 
    + @@max_heap_table_size))/1024/1024 as All_memory_mb


 1. 使用下述语句查询各个模块的内存占用(查看当前哪个模块内存占用多)
SELECT 
  SUBSTRING_INDEX(event_name,'/',2) AS code_area, sys.format_bytes(SUM(current_alloc)) AS current_alloc 
FROM sys.x$memory_global_by_current_bytes 
GROUP BY SUBSTRING_INDEX(event_name,'/',2) 
ORDER BY SUM(current_alloc) DESC;

select   *
from   sys.x$memory_global_by_current_bytes
where  event_name like "memory/sql/%" 
order by current_alloc desc;

 2. 查看具体哪个连接占用内存多
select   thread_id, event_name, SUM_NUMBER_OF_BYTES_ALLOC 
from  performance_schema.memory_summary_by_thread_by_event_name
order by SUM_NUMBER_OF_BYTES_ALLOC desc limit 20;

 3. 查看占用内存最多的连接的详细信息
select   * 
from  performance_schema.threads 
where   THREAD_ID = xxx;

        3、对于数据库服务器,首选大内存,同时启用最大性能,禁用NUMA。numa本来是给cpu并发用的,让每个核心都有自己独有的内存块。但是问题是一个32GB的内存,被你4核心cpu干成8GB。结果业务要放16GB的内存数据,在32GB内存的服务器上却放不下。

一、检查OS是否开启NUMA
# numactl --hardware
二、Linux OS层面禁用NUMA
1、修改 grub.conf
# vi /boot/grub/grub.conf

 
default=0
timeout=5
hiddenmenu
foreground=000000
background=ffffff
splashimage=(hd0,0)/boot/grub/oracle.xpm.gz
 
title Trying_C0D0_as_HD0
root (hd0,0)
kernel /boot/vmlinuz-2.6.18-128.1.16.0.1.el5 root=LABEL=DBSYS ro bootarea=dbsys rhgb quiet console=ttyS0,115200n8 console=tty1 crashkernel=128M@16M numa=off
initrd /boot/initrd-2.6.18-128.1.16.0.1.el5.img
 
2、重启Linux操作系统
# /sbin/reboot
 
3、确认OS层面禁用NUMA是否成功
# cat /proc/cmdline
root=LABEL=DBSYS ro bootarea=dbsys rhgb quiet console=ttyS0,115200n8 console=tty1 crashkernel=128M@16M numa=off
# numactl --hardware

        4、选择内存分配器

        LINUX内核也有内存分配器,只是它处于系统内核层. 这里用户空间内存我们要替换其它分配器,因为malloc函数效率不高也易造成内存泄漏。

        tcmalloc的算法优化了glibc的malloc等内存分配函数,通过预分配大内存然后分割来避免内存碎片,同时提高内存分配效率,使用场景为多线程,大内存操作
在my.cnf添加参数

[mysqld_safe]
malloc-lib=tcmalloc
启动mysql  查看是否已加载
lsof -n | grep -i tcmalloc

jemalloc
jemalloc-3.6.0-1.el7.x86_64.rpm
https://repo.percona.com/yum/release/7/RPMS/x86_64/jemalloc-3.6.0-1.el7.x86_64.rpm 
rpm -ivh jemalloc-3.6.0-1.el7.x86_64.rpm

my.cnf中添加配置,并重启mysql(mysql 5.5+)
[mysqld_safe]
malloc-lib=/usr/local/lib/libjemalloc.so



[root@localhost home]# lsof -n | grep jemalloc
mysqld 8114 root mem REG 253,2 2264568 71 /home/Percona8.0/lib/mysql/libjemalloc.so.1
mysqld 8114 8117 root mem REG 253,2 2264568 71 /home/Percona8.0/lib/mysql/libjemalloc.so.1
mysqld 8114 8118 root mem REG 253,2 2264568 71 /home/Percona8.0/lib/mysql/libjemalloc.so.1
mysqld 8114 8119 root mem REG 253,2 2264568 71 /home/Percona8.0/lib/mysql/libjemalloc.so.1

        5、使用大页内存

        LINUX 系统对大页内存不计算在OOM得分里,如何给MYSQL分配并使用上
大页内存请看探索MYSQL开启大页内存 MYSQL 大页内存+锁定内存。

        为了提高性能,尤其是在处理大量内存和高并发时,MySQL配置大页内存是个不错的选择。以下是配置MySQL使用大页内存的基本步骤:

  1. 确保系统支持大页内存(Transparent HugePages,THP)。

  2. 禁用THP。

  3. 配置MySQL的innodb_buffer_pool_size到适当的大小。

以下是在Linux系统上禁用THP的命令:

# 临时禁用(不会在重启后持续)
echo 'never' > /sys/kernel/mm/transparent_hugepage/enabled
echo 'never' > /sys/kernel/mm/transparent_hugepage/defrag

 
1. 安装大内存页支持的操作系统
在开始之前,你需要确保你的操作系统支持大内存页。大内存页一般在Linux系统中得到支持,因此你需要确保你的操作系统是Linux,并且已经安装了相应的内核。

2. 配置操作系统
一旦你的操作系统支持大内存页,你需要对操作系统进行一些配置。具体来说,你需要修改sysctl.conf文件,以便启用大内存页。

首先,打开sysctl.conf文件:

sudo vi /etc/sysctl.conf

然后,添加以下内容到文件末尾:

vm.nr_hugepages=128

保存并关闭文件。

3. 重新加载系统配置
为了使配置生效,你需要重新加载系统配置。运行以下命令:

sudo sysctl -p

4. 配置MySQL
现在,你需要对MySQL进行一些配置,以便启用大内存页。

首先,打开MySQL配置文件my.cnf:

sudo vi /etc/my.cnf

然后,找到[mysqld]部分,并添加以下内容:
[mysqld]
innodb_buffer_pool_size = 10G # 假设你有10GB物理内存可以分配给InnoDB缓冲池
# 启用大内存页
large-pages

保存并关闭文件。

5. 重启MySQL
为了使MySQL的配置生效,你需要重启MySQL服务。运行以下命令:

sudo systemctl restart mysql


# 要想永久禁用,可以将上述命令添加到启动脚本中
然后,在MySQL配置文件(my.cnf或my.ini)中设置InnoDB缓冲池的大小:


确保重启MySQL服务使配置生效。

请注意,在某些系统上,禁用THP可能会对系统性能产生轻微影响,特别是在不支持大页内存的系统上,这些命令可能不需要执行。在配置MySQL之前,应当充分了解系统的内存管理策略。

        磁盘选型

        硬盘是MySQL服务器的存储设备,用于存储数据库的数据文件和日志文件等。对于磁盘的硬件要求,数据库是 IO型负载的软件。首选 SSD 和 PCIe SSD,并强制使用高速机械硬盘。建议在运行数据库时放弃使用机械硬盘。

        IO类型方面,MySQL Undo Log为顺序写入和随机读取,Redo Log 和 Binlog 为顺序写入与顺序读取,OLTP 场景以随机IO为主,OLAP 场景以顺序IO为主,其存储结构 MyISAM 为堆表,InnoDB为索引组织表。

         MySQL磁盘硬件优化原则:

        1、RAID策略选择:Sata SSD和PCIe SSD不需要RAID。机械硬盘首选RAID 10,其次是RAID 5。

        2、RAID CACHE&BBU选择:购买的阵列卡同时配备CACHE和BBU模块,可以提高机械磁盘IOPS,定期检查或监控CACHE和BBBU模块的运行状况,并确保在发生事故时数据不会丢失。 磁盘类型选择:首选SSD或PCIe SSD,机械磁盘采用高速硬盘。

        3、读/写策略选择:当有阵列卡时,将阵列写策略设置为WB或强制WB(无电池),并禁止WT。同时,关闭仅用作写缓存的显示预读策略。

        在选择硬盘时,需要考虑以下因素:

  1. 类型:硬盘的类型有HDD和SSD两种,SSD的速度比HDD快得多,但价格也更高。建议选择SSD作为数据库的存储设备。
  2. 容量:硬盘的容量越大,能够存储的数据就越多。建议根据实际需求选择硬盘容量,一般来说,每个GB的数据需要至少10GB的硬盘空间。对于1000个用户的场景,建议选择至少500GB的硬盘容量。
  3. IOPS:IOPS是每秒输入输出操作的次数,它决定了硬盘的读写速度。建议选择具有高IOPS的SSD硬盘。

        网卡选型

        网络接口卡是MySQL服务器与客户端进行通信的关键组件之一。在选择NIC时,需要考虑以下因素:

  1. 速度:NIC的速度越快,数据传输的速度就越快。建议选择具有1Gbps或更高速度的NIC。
  2. 端口数:NIC的端口数越多,能够连接的设备就越多。建议选择具有至少4个端口的NIC。
  3. 支持的技术:NIC支持的技术包括TCP/IP、RDMA等,需要根据实际需求选择合适的技术。

 2.服务器配置优化之内核调整

1.选择合适的IO调度
对于mysql的系统,如果是SSD,那么应该使用NOOP调度算法,如果是磁盘,就应该使用Deadline调度算法。默认是CFQ
echo dealine > /sys/block/{DEV-NAME}/queue/scheduler

 2.选择良好的文件系统
 文件系统强烈推荐: XFS   (使用df -Th查看)
 格式化命令:mkfs.xfs -f /dev/sdb1  

3.选择更快的存储设备对于数据库可以选择SSD硬盘

4.优化挂载文件系统参数挂载XFS参数:(rw, noatime,nodiratime,nobarrier)挂载ext4参数:ext4 (rw,noatime,nodiratime,nobarrier,data=ordered)

方法一:修改/etc/fastb文件,将default修改为上面
方法二:热挂载:mount -o remount,rw,noatime /dev/sda3 /var/

5.硬件层相关优化CPU
一、选择Performance Per Watt Optimized(DAPC)模式,发挥CPU最大性能,跑DB这种通常需要高运算量的服务就不要考虑节电了;
二、关闭C1E和C States等选项,目的也是为了提升CPU效率;
三、Memory Frequency(内存频率)选择Maximum Performance(最佳性能);
四、内存设置菜单中,启用Node Interleaving,避免NUMA问题;

6.选择合适的版本这里推荐percona版本的mysql,与原生mysql最相近,且优化过提升性能
7.优化内核参数
net.ipv4.ip_forward = 0
net.ipv4.conf.default.rp_filter = 1
net.ipv4.conf.default.accept_source_route = 0
kernel.sysrq = 0
kernel.core_uses_pid = 1
net.ipv4.tcp_syncookies = 1
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.shmmax = 68719476736
kernel.shmall = 4294967296
net.ipv4.tcp_max_tw_buckets = 20000
net.ipv4.tcp_sack = 1
net.ipv4.tcp_window_scaling = 1
net.ipv4.tcp_rmem = 4096 87380 4194304
net.ipv4.tcp_wmem = 4096 16384 4194304
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.core.netdev_max_backlog = 262144
net.core.somaxconn = 262144
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.tcp_max_syn_backlog = 262144
net.ipv4.tcp_synack_retries = 1
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_timestamps = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_fin_timeout = 1
net.ipv4.tcp_keepalive_time = 30
net.ipv4.ip_local_port_range = 1024 65000
vm.overcommit_memory = 1

#防火墙参数优化,建议内网运行不开启防火墙,或者云上使用安全组
net.nf_conntrack_max = 524288
net.netfilter.nf_conntrack_max = 524288
net.netfilter.nf_conntrack_tcp_timeout_established = 180
net.netfilter.nf_conntrack_tcp_timeout_close_wait = 60
net.netfilter.nf_conntrack_tcp_timeout_fin_wait = 120
net.netfilter.nf_conntrack_tcp_timeout_time_wait = 120

 3.MySQL安装优化和MySQL配置优化

        mysql安装最好是选择二进制文件安装,操作系统最好是linux,mysql版本最好是选择mysql8.0,mysql的参数配置参考下面。

## 注意: #

## (1)本配置假设物理服务器内存为 16G,总表数量在300之内,中小型企业业务 #

## (2)请根据实际情况作调整部分参数 #

## (3)本人不对这些建议结果负相应责任

##服务端参数配置


[Mysqld]

port= 3307

basedir = /usr/local/mysql

datadir= /data/datafile/

Socket= /var/lib/mysql/mysqld.sock

log-error = /data/log/mysqld.log

pid-file = /var/run/mysqld/mysqld.pid

#只能用IP地址检查客户端的登录,不用主机名

skip_name_resolve = 1

#若你的MySQL数据库主要运行在境外,请务必根据实际情况调整本参数

default_time_zone = "+8:00"

#数据库默认字符集, 主流字符集支持一些特殊表情符号(特殊表情符占用4个字节)

character-set-server = utf8mb4

#数据库字符集对应一些排序等规则,注意要和character-set-server对应

collation-server = utf8mb4_general_ci

#设置client连接mysql时的字符集,防止乱码

init_connect='SET NAMES utf8mb4'

#是否对sql语句大小写敏感,1表示不敏感

lower_case_table_names = 1

# 执行sql的模式,规定了sql的安全等级, 暂时屏蔽,my.cnf文件中配置报错

#sql_mode = STRICT_TRANS_TABLES,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION

#事务隔离级别,默认为可重复读,mysql默认可重复读级别(此级别下可能参数很多间隙锁,影响性能)

transaction_isolation = READ-COMMITTED

#TIMESTAMP如果没有显示声明NOT NULL,允许NULL值

explicit_defaults_for_timestamp = true

#它控制着mysqld进程能使用的最大文件描述(FD)符数量。

#需要注意的是这个变量的值并不一定是你设定的值,mysqld会在系统允许的情况下尽量获取更多的FD数量

open_files_limit = 65535

#最大连接数

max_connections = 10000

#最大错误连接数

max_connect_errors = 3000

#在MySQL暂时停止响应新请求之前的短时间内多少个请求可以被存在堆栈中

#官方建议 back_log = 50 + (max_connections / 5),封顶数为65535,默认值= max_connections

back_log = 110

# 所有线程的公开表的数量

# 例如,对于200个并发运行的连接,指定一个至少200 * N的表缓存大小,

# 其中N是您执行的任何查询中每个连接的最大数量.

table_open_cache = 600

# 可以存储在定义缓存中的表定义的数量

# MIN(400 + table_open_cache / 2, 2000)

table_definition_cache = 700

# 为了减少会话之间的争用,可以将opentables缓存划分为table_open_cache/table_open_cache_instances个小缓存

table_open_cache_instances = 64

# 每个线程的堆栈大小 如果线程堆栈太小,则会限制执行复杂SQL语句

thread_stack = 512K

# 禁止外部系统锁

external-locking = FALSE

#SQL数据包发送的大小,如果有BLOB对象建议修改成1G

max_allowed_packet = 128M

#order by 或group by 时用到

#建议先调整为4M,后期观察调整

sort_buffer_size = 4M

#inner left right join时用到

#建议先调整为4M,后期观察调整

join_buffer_size = 4M

# 服务器应缓存多少线程以供重用.

# 如果您的服务器每秒达到数百个连接,则通常应将thread_cache_size设置得足够高,以便大多数新连接使用缓存线程

# default value = 8 + ( max_connections / 100) 上限为100

thread_cache_size = 20

#MySQL连接闲置超过一定时间后(单位:秒)将会被强行关闭

#MySQL默认的wait_timeout 值为8个小时, interactive_timeout参数需要同时配置才能生效

interactive_timeout = 1800

wait_timeout = 1800

#Metadata Lock最大时长(秒), 一般用于控制 alter操作的最大时长sine mysql5.6

#执行 DML操作时除了增加innodb事务锁外还增加Metadata Lock,其他alter(DDL)session将阻塞

lock_wait_timeout = 3600

#内部内存临时表的最大值。

#比如大数据量的group by ,order by时可能用到临时表,

#超过了这个值将写入磁盘,系统IO压力增大

tmp_table_size = 64M

max_heap_table_size = 64M

#--###############-- 慢SQL日志记录 开始 --#################

#是否启用慢查询日志,1为启用,0为禁用

slow_query_log = 1

#记录系统时区

log_timestamps = SYSTEM

#指定慢查询日志文件的路径和名字

slow_query_log_file = /var/lib/mysql/slow.log

#慢查询执行的秒数,必须达到此值可被记录

long_query_time = 2

#将没有使用索引的语句记录到慢查询日志

log_queries_not_using_indexes = 0

#设定每分钟记录到日志的未使用索引的语句数目,超过这个数目后只记录语句数量和花费的总时间

log_throttle_queries_not_using_indexes = 60

#对于查询扫描行数小于此参数的SQL,将不会记录到慢查询日志中

min_examined_row_limit = 5000

#记录执行缓慢的管理SQL,如alter table,analyze table, check table, create index, drop index, optimize table, repair table等。

log_slow_admin_statements = 0

#作为从库时生效, 从库复制中如何有慢sql也将被记录

#对于ROW格式binlog,不管执行时间有没有超过阈值,都不会写入到从库的慢查询日志

log_slow_slave_statements = 1

#--##################-- 慢SQL日志记录 结束 --##################

#--##############-- Bin-Log设置 开始 --######################

server-id = 1

#开启bin log 功能

log-bin=mysql-bin

#binlog 记录内容的方式,记录被操作的每一行

binlog_fORMat = ROW

#对于binlog_format = ROW模式时,FULL模式可以用于误操作后的flashBack。

#如果设置为MINIMAL,则会减少记录日志的内容,只记录受影响的列,但对于部分update无法flashBack

binlog_row_image = FULL

#bin log日志保存的天数

#如果 binlog_expire_logs_seconds 选项也存在则 expire_logs_days 选项无效

#expire_logs_days 已经被标注为过期参数

#expire_logs_days = 7

binlog_expire_logs_seconds = 1209600

#master 状态和连接信息输出到表mysql.slave_master_info中

master_info_repository = TABLE

#the slave's position in the relay logs输出到表mysql.slave_relay_log_info中

relay_log_info_repository = TABLE

#作为从库时生效, 想进行级联复制,则需要此参数

log_slave_updates

#作为从库时生效, 中继日志relay-log可以自我修复

relay_log_recovery = 1

#作为从库时生效, 主从复制时忽略的错误

#如果在备份过程中执行ddl操作,从机需要从主机的备份恢复时可能会异常,从而导致从机同步数据失败

#如果对数据完整性要求不是很严格,那么这个选项确实可以减轻维护的成本

slave_skip_errors = ddl_exist_errors

#####RedoLog日志 和 binlog日志的写磁盘频率设置 BEGIN #############

# RedoLog日志(用于增删改事务操作) + binlog日志(用于归档,主从复制)

# 为什么会有两份日志呢?

# 因为最开始MySQL没有 InnoDB 引擎,自带MyISAM引擎没有 crash-safe能力,binlog日志只用于归档

# InnoDB 引擎是另一个公司以插件形式引入MySQL的,采用RedoLog日志来实现 crash-safe 能力

# redo log 的写入(即事务操作)拆成两阶段提交(2PC):prepare阶段 和 commit阶段

#(事务步骤1) 执行commit命令,InnoDB redo log 写盘,然后告知Mysql执行器:[你可以写binlog了,且一并提交事务],事务进入 prepare 状态

#(事务步骤2) 如果前面 prepare 成功,Mysql执行器生成 binlog 并且将binlog日志写盘

#(事务步骤3) 如果binlog写盘成功,Mysql执行器一并调用InnoDB引擎的提交事务接口,事务进入 commit 状态,操作完成,事务结束

#参数设置成 1,每次事务都直接持久化到磁盘

#参数设置成 0,mysqld进程的崩溃会导致上一秒钟所有事务数据的丢失。

#参数设置成 2,只有在操作系统崩溃或者系统掉电的情况下,上一秒钟所有事务数据才可能丢失。

#即便都设置为1,服务崩溃或者服务器主机crash,Mysql也可能丢失但最多一个事务

#控制 redolog 写磁盘频率 默认为1

innodb_flush_log_at_trx_commit = 1

#控制 binlog 写磁盘频率

sync_binlog = 1

#####RedoLog日志 和 binlog日志的写磁盘频率设置 END ##############

#一般数据库中没什么大的事务,设成1~2M,默认32kb

binlog_cache_size = 4M

#binlog 能够使用的最大cache 内存大小

max_binlog_cache_size = 2G

#单个binlog 文件大小 默认值是1GB

max_binlog_size = 1G

#开启GTID复制模式

gtid_mode = on

#强制gtid一致性,开启后对于create table ... select ...或 CREATE TEMPORARY TABLE 将不被支持

enforce_gtid_consistency = 1

#解决部分无主键表导致的从库复制延迟问题

#其基本思路是对于在一个ROWS EVENT中的所有前镜像收集起来,

#然后在一次扫描全表时,判断HASH中的每一条记录进行更新

#该参数已经被标注为过期参数

#slave-rows-search-alGorithms = 'INDEX_SCAN,HASH_SCAN'

# default value is CRC32

#binlog_checksum = 1

# default value is ON

#relay-log-purge = 1

#--################-- Bin-Log设置 结束 --###############

#--############-- 可能用到的MyISAM性能设置 开始 --##############

#对MyISAM表起作用,但是内部的临时磁盘表是MyISAM表,也要使用该值。

#可以使用检查状态值 created_tmp_disk_tables 得知详情

key_buffer_size = 15M

#对MyISAM表起作用,但是内部的临时磁盘表是MyISAM表,也要使用该值,

#例如大表order by、缓存嵌套查询、大容量插入分区。

read_buffer_size = 8M

#对MyISAM表起作用 读取优化

read_rnd_buffer_size = 4M

#对MyISAM表起作用 插入优化

bulk_insert_buffer_size = 64M

#--############-- 可能用到的MyISAM性能设置 开始 --####################

#--################-- innodb性能设置 开始 --######################

# 定义InnoDB内部允许的最大线程数.

# 值0(默认值)被解释为无限并发(无限制)

innodb_thread_concurrency = 0

#一般设置物理存储的 60% ~ 70%

innodb_buffer_pool_size = 8G

#当缓冲池大小大于1GB时,将innodb_buffer_pool_instances设置为大于1的值,可以提高繁忙服务器的可伸缩性

innodb_buffer_pool_instances = 4

#默认启用。指定在MySQL服务器启动时,InnoDB缓冲池通过加载之前保存的相同页面自动预热。 通常与innodb_buffer_pool_dump_at_shutdown结合使用

innodb_buffer_pool_load_at_startup = 1

#默认启用。指定在MySQL服务器关闭时是否记录在InnoDB缓冲池中缓存的页面,以便在下次重新启动时缩短预热过程

innodb_buffer_pool_dump_at_shutdown = 1

# Defines the name, size, and attributes of InnoDB system tablespace data files

#innodb_data_home_dir = /data/datafile/

#innodb_data_file_path = ibdata1:1G:autoextend(打开后若启动不了,大多数发生在后设置,将1G更改为10M或12M即可)

#InnoDB用于写入磁盘日志文件的缓冲区大小(以字节为单位)。默认值为16MB

innodb_log_buffer_size = 32M

#InnoDB日志文件组数量

innodb_log_files_in_group = 3

#InnoDB日志文件组中每一个文件的大小

innodb_log_file_size = 2G

#是否开启在线回收(收缩)undo log日志文件,支持动态设置,默认开启

innodb_undo_log_truncate = 1

#当超过这个阀值(默认是1G),会触发truncate回收(收缩)动作,truncate后空间缩小到10M

innodb_max_undo_log_size = 4G

#The path where InnoDB creates undo tablespaces

#没有配置则在数据文件目录下 和数据文件在不同的磁盘上,可以减少io热点

#innodb_undo_directory = /undologdata/undolog

#用于设定创建的undo表空间的个数

#已经弃用了,只能手动添加undo表空间

#innodb_undo_tablespaces变量已弃用,并且自那时起不再可配置 MySQL 8.0.14

#innodb_undo_tablespaces = 95

#提高刷新脏页数量和合并插入数量,改善磁盘I/O处理能力

#根据您的服务器IOPS能力适当调整

#一般配普通SSD盘的话,可以调整到 10000 - 20000

#配置高端PCIe SSD卡的话,则可以调整的更高,比如 50000 - 80000

innodb_io_capacity = 4000

innodb_io_capacity_max = 8000

#如果打开参数innodb_flush_sync, checkpoint时,flush操作将由page cleaner线程来完成,此时page cleaner会忽略io capacity的限制,进入激烈刷脏

innodb_flush_sync = 0

innodb_flush_neighbors = 0

#CPU多核处理能力设置,假设CPU是4颗8核的,设置如下

#读多,写少可以设成 2:6的比例

innodb_write_io_threads = 8

innodb_read_io_threads = 8

innodb_purge_threads = 4

innodb_page_cleaners = 4

innodb_open_files = 65535

innodb_max_dirty_pages_pct = 50

#该参数针对unix、linux,window上直接注释该参数.默认值为 NULL

#O_DIRECT减少操作系统级别VFS的缓存和Innodb本身的buffer缓存之间的冲突

#innodb_flush_method = O_DIRECT(本人测试时,打开后启动失败,暂未查明原因)

innodb_lru_scan_depth = 4000

innodb_checksum_algorithm = crc32

#为了获取被锁定的资源最大等待时间,默认50秒,超过该时间会报如下错误:

# ERROR 1205 (HY000): Lock wait timeout exceeded; try restarting transaction

innodb_lock_wait_timeout = 20

#默认OFF,如果事务因为加锁超时,会回滚上一条语句执行的操作。如果设置ON,则整个事务都会回滚

innodb_rollback_on_timeout = 1

#强所有发生的死锁错误信息记录到 error.log中,之前通过命令行只能查看最近一次死锁信息

innodb_print_all_deadlocks = 1

#在创建InnoDB索引时用于指定对数据排序的排序缓冲区的大小

innodb_sort_buffer_size = 67108864

#控制着在向有auto_increment 列的表插入数据时,相关锁的行为,默认为2

#0:traditonal (每次都会产生表锁)

#1:consecutive (mysql的默认模式,会产生一个轻量锁,simple insert会获得批量的锁,保证连续插入)

#2:interleaved (不会锁表,来一个处理一个,并发最高)

innodb_autoinc_lock_mode = 1

#表示每个表都有自已独立的表空间

innodb_file_per_table = 1

#指定Online DDL执行期间产生临时日志文件的最大大小,单位字节,默认大小为128MB。

#日志文件记录的是表在DDL期间的数据插入、更新和删除信息(DML操作),一旦日志文件超过该参数指定值时,

#DDL执行就会失败并回滚所有未提交的当前DML操作,所以,当执行DDL期间有大量DML操作时可以提高该参数值,

#但同时也会增加DDL执行完成时应用日志时锁定表的时间

innodb_online_alter_log_max_size = 4G

#--##########-- innodb性能设置 结束 --##################

[mysqldump]

quick

max_allowed_packet = 128M

##客户端参数配置

[client]

port= 3307

socket=/var/lib/mysql/mysqld.sock

[mysql]

#prompt="\u@mysqldb \R:\m:\s [\d]> "

#关闭自动补全sql命令功能

no-auto-rehash

## 本配置参考 https://imysql.com/my-cnf-wizard.html #



本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1611433.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Docker - HelloWorld

原文地址,使用效果更佳! Docker - HelloWorld | CoderMast编程桅杆https://www.codermast.com/dev-tools/docker/docker-helloworld.html 开始之前 在学习本小节之前,你必须确保你正确安装了 Docker,正确安装 Docker 是后续学习的…

【树莓派学习】hello,world!

系统安装及环境配置详见【树莓派学习】系统烧录及VNC连接、文件传输-CSDN博客 树莓派内置python3,可以直接利用python输出。

linux中如何挂载yum云仓库进行软件的安装

1.首先在根目录下建立文件,用来挂载镜像文件 [rootclient ~]# mkdir /rhel9 2.挂载镜像文件: [rootclient ~]# mount /dev/cdrom /rhel9 3.切换到 /etc/yum.repos.d 下的目录并查看 ,创建 rhel9.repo文件,并编辑云仓库域名&am…

基于机器学习的车辆状态异常检测

基于马氏距离的车辆状态异常检测(单一传感器) 基于多元自动编码器的车辆状态异常检测 基于单传感器平滑马氏距离的车辆状态异常检测 工学博士,担任《Mechanical System and Signal Processing》等期刊审稿专家,擅长领域&#xff1…

HCIP-Datacom-ARST必选题库_10_IPv4【1道题】

一、单选 1.IPV4报文发送方式包括哪三种? 任意播组播单播广播 2.如图所示是一个IP报文头部,则以下说法正确的是? 协议号51,代表该IPHeader后的报文为AH头部 该报文一定是只有AH装的IPsecVPN报文 协议号51,代表该IPHeader后的报文为ESP头部 该报文为Ipsec VPN报文,并且该报文…

【NRND】SCT2401 4.5V-40V输入,600mA同步降压DCDC变换器,建议使用LGS5148替代

DCDC丝印2401替代原因: 国产器件未提供中文说明书,截止到2024年4月20日。 批量价格约9毛,比LGS5148贵50%,且输入电压没有LGS5148高,而LGS5148还提供了中文说明书。 2者引脚定义相同。 LGS5148详情请点此处打开CSDN连接…

知道做到 一篇总结学习方法的笔记

元数据 [!abstract] 知道做到:跃迁式学习 书名: 知道做到:跃迁式学习作者: 彼得•霍林斯简介: 学习是改善你的生活环境、成为你想成为的人的关键。科学的方法能加速学习进程,让你事半功倍。技能、信息和能力…

linux下摄像头设置固定的设备名

目录 2.热插拔udev机制 3.设置udev的规则 1.查看usb ID 2. 查看usb设备的信息 3.编译规则 4.拓展 1.问题的出现 通过我之前的文章配置完摄像头的开机自启动之后我们会发现有的时候会出现启动不了的情况,通过实验我发现是摄像头的设备名发生了改变,…

如何打开局域网共享?

局域网共享是一种方便实现文件共享、打印共享和资源访问的技术。通过局域网共享,不同设备之间可以方便地共享文件和资源,提高工作效率和便利性。在网络环境中,使用天联组网工具可以更加快速地实现局域网共享,解决不同地区间的远程…

数据仓库作业五:第8章 关联规则挖掘

目录 第8章 关联规则挖掘作业题 第8章 关联规则挖掘 作业题 1、设4-项集 X { a , b , c , d } X\{a,b,c,d\} X{a,b,c,d},试求出由 X X X 导出的所有关联规则。 解: 首先生成项集的所有非空真子集。这包括: { a } , { b } , { c } , {…

Java测试编程题

题目1 1.创建5个线程对象 线程名设置为(Thread01,Thread02,Thread03,Thread04,Thread05)使用 代码实现5个线程有序的循环打印,效果如下: Thread01正在打印1 Thread02正在打印2 Threa…

【做一名健康的CSDNer】

程序员由于工作性质,常常需要长时间面对电脑,这可能对身心健康带来挑战。以下是一些实用的建议,帮助程序员保持身心健康: 规律生活:建立健康的生活习惯,包括规律的作息时间和固定的饮食时间,保证…

2024 年选择安全运营中心 (SOC) 工具指南

安全运营中心 (SOC) 是对抗网络威胁的前线。他们使用各种安全控制措施来监控、检测和快速响应任何网络威胁。这些控制措施对于确保信息系统全天候安全至关重要。 大型组织中的现代 SOC 与各种安全供应商合作,处理 75 到 100 种不同的工具。让我们探讨一下您可能遇到…

操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统

2024年4月12日,1Panel开源项目组正式对外介绍了其官方出品的开源子项目——MaxKB(github.com/1Panel-dev/MaxKB)。MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max …

二维图像的双线性插值

1. 原理 见下图,假设原图为单通道的灰度图,想求图像中某点Q(x,y)的灰度值。 2. 代码实现 #include <iostream> #include <stdio.h> #include <stdint.h> #include <string> #include<opencv2/opencv.hpp> #include<opencv2/core.hpp>…

C++ 程序的内存分配

C 程序的内存分配 C 程序的内存分配栈堆数据区程序代码区参考 C 程序的内存分配 一个 C 编译的程序占用内存分为以下几个部分&#xff08;从高地址到低地址&#xff09;&#xff1a; 内核空间&#xff1a;由操作系统创建并控制&#xff0c;用户代码不能读写。栈&#xff1a;由…

政安晨:【深度学习神经网络基础】(十二)—— 深度学习概要

目录 概述 深度学习的概况 深度学习的组成部分 部分标记的数据 修正线性单元 卷积神经网络 神经元Dropout GPU训练 政安晨的个人主页&#xff1a;政安晨 欢迎 &#x1f44d;点赞✍评论⭐收藏 收录专栏: 政安晨的机器学习笔记 希望政安晨的博客能够对您有所裨益&#xf…

在Java中使用XxlCrawler时防止被反爬的几种方式

目录 前言 一、常见的反爬措施 1、User-Agent识别 2、Referer识别 3、频率限制 4、IP限制 二、XxlCrawer的应对之道 1、User-Agent应对 2、频率限制 3、IP限制 三、XxlCrawler执行解析 1、XxlCrawler对象 2、启动对象 3、信息爬取线程 总结 前言 众所周知&#x…

Parade Series - CoreAudio Loopback

Scenario 鉴于业务场景需要&#xff0c; 经过技术路径探索&#xff0c; 发现 comtypes 兼容性过于混乱&#xff0c;故而考虑整合一个 CoreAudio 的轮子dll来解决实际问题&#xff01;std::StringStream ⇒ std::ios::binary ⇒ std::ofstream Loopback.dll #ifndef _DLL_C…

第63天:服务攻防-框架安全CVE 复现DjangoFlaskNode.JSJQuery

目录 思维导图 案例一&#xff1a;JavaScript-开发框架安全-Jquery&Node node.js目录穿越 CVE-2021-21315命令执行 Jquery CVE-2018-9207 案例二&#xff1a;Python-开发框架安全-Django&Flask django cve_2019_14234 CVE-2021-35042 flask ssti 思维导图 案…