腾讯云架构师整理总结的MySQL性能优化和高可用架构实践文档

news2024/11/28 5:36:49

前言

有人调侃我们说:

  • 程序员不如送外卖。送外卖是搬运食物,自己是搬运代码,都不产出新的东西……
  • 透支体力,又消耗健康,可替代性极强,30岁之后就要面临被优化的危险……
  • 想跳槽,但是更高的平台难进,同级别的平台又是重复……
  • 想利用业余时间学习提升,但是自己能力有限,很难形成知识体系…

这些其实都是初级程序员面临的困境,当你提高自身能力,登上更高的层级之后,无论薪资还是发展都会有很大的提升。

那么问题来了,怎么才能度过初级程序员的瓶颈,进阶成为高薪工程师呢?

作为最流行的开源数据库软件之一,MySQL数据库软件已经广为人知了。当前很火的Facebook、腾讯、淘宝等大型网站都在使用MySQL的数据库。

互联网行业的多数业务场景有非常明显的特点:用户量大、引发数据容量大、并发高、业务复杂度适中。MySQL数据库产品初期的定位就是Web应用的数据服务,故几乎所有互联网企业都使用MySQL数据库产品,有很多企业几乎全部使用MySQL提供的数据服务。

选择开源产品是国家和企业的主流选择,而开源MySQL数据库在国内外应用最广泛,从业的技术人员也最多,它成为“去IOE”分布式技术架构中最关键的关系型数据库产品。数据库系统作为IT业务系统的核心,其高可用性和容灾能力对整个业务系统的连续性和数据完整性起着至关重要的作用,是企业正常运营的基石。

互联网公司里面几乎很少有公司不用MySQL,国内互联网巨头都在大规模使用MySQL。如果把MySQL比喻成数据库界的一条巨龙,则性能优化和高可用架构设计实践就是点睛之笔。

本文将详细讲解MySQL 5.7高可用和性能优化技术,细致梳理思路,并与真实生产案例相结合,通过原理阐述到实战部署,帮助读者将所学知识点运用到实际工作中。

本文适合有一定基础的MySQL数据库学习者、MySQL数据库开发人员和MySQL数据库管理人员阅读。

目录

主要内容

**第1章MySQL架构介绍;**MySQL作为目前互联网工作的主流数据库,有着不容撼动的地位。DB-Engines这个排名在业界引用得非常多,权威性也很高,排名前三依然是Oracle、MySQL、Microsoft SQL Server。MySQL是20世纪90年代出来的数据库,整个架构上吸取了其他数据库的一些优良特性,也去除了不好的地方,整个架构比较稳定、比较简洁。MySQL的架构可以在多种不同的场景中应用,Facebook、Twitter、Google、腾讯、阿里等都在大量使用MySQL存储海量数据。

**第2章lnnoDB存储引擎体系结构;**从MySQL 5.5版本开始,InnoDB是默认的表存储引擎,特点是支持事务、支持数据行锁、支持多版本并发MVCC、支持外键。

**第3章MySQL事务和锁;**锁在计算机中是协调多个进程或线程并发访问某一资源的一种机制。在数据库中,除了传统的计算资源(CPU、RAM、I/O等)争用之外,数据也是一种供许多用户共享访问的资源。数据库在进行并发访问的时候会自动对相应的对象进行加锁,以保证数据并发访问的一致性。InnoDB存储引擎既支持行级锁,也支持表级锁,但默认情况下采用行级锁。

第4章SQL语句性能优化;说起SQL语句性能优化,相信所有人都了解一些简单的技巧:不使用SELECT *、不使用NULL字段、合理地使用索引、为字段选择恰当的数据类型等。你是否真的理解这些优化技巧?是否理解其背后的工作原理?本章从理论和实战角度出发,讲解这些优化建议背后的原理。

第5章MySQL服务器全面优化;绝大多数使用Linux操作系统的大中型互联网网站都在使用MySQL作为后端的数据库服务,所以如何优化MySQL服务器是我们要研究的。现在MySQL 5.7版本对于多核CPU、固态硬盘、锁机制有着更好的优化。另外,MySQL 5.7版本对优化器提升了很多,比如MySQL 5.7的in语句子查询能够使用index range scan方式,Union all不再产生临时表,排序效率上也有所提升。我们从MySQL 5.7版本的存储引擎增强,硬件、操作系统、配置参数优化、设计规范优化几个层面来全面优化MySQL服务器。

**第6章MySQL性能监控;**MySQL被越来越多的企业接受。随着企业发展,MySQL存储数据日益膨胀,性能分析、监控预警显得非常重要。在某些场景下,通常会部署一套MySQL监控/图形工具,然后根据MySQL监控面板提供的信息来执行进一步的调优。

**第7章MySQL主从复制详解;**MySQL的主从复制功能是构建基于MySQL数据库的高可用、高性能的应用程序基础,既能用于分担主数据库的读负载,也为高可用HA等工作提供了更多的支持。主从复制是指数据可以从一个MySQL数据库服务器主节点复制到另外一个或多个MySQL数据库服务器从节点。主从复制可以用于数据实时备份、读写分离、高可用HA等企业场景中。

第8章PXC高可用解决方案;Percona公司的Percona XtraDB Cluster(简称PXC)是基于Galera协议 的 MySQL 高 可 用 性 集 群 架 构 , 集 成 了 Percona Server 和 PerconaXtraBackup,同时采用了Codership Galera库。Percona Xtradb Cluster在原MySQL代码上通过Galera包将不同的MySQL实例连接起来,实现了multi-master的集群架构。它可以实现多个MySQL节点间的数据同步复制以及读写,不但可以保障数据库的服务高可用,而且保证整个集群所有数据的强一致性,满足CAP理论中的一致性(Consistency)和可用性(Availability)。

**第9章基于MHA实现的MySQL自动故障转移集群;**MHA(Master High Avaliability)是由日本的一位工程师采用Perl语言编写的一个脚本管理工具,是一款开源的MySQL高可用解决方案软件,能在MySQL主从复制的基础上实现自动化主服务器故障转移,目前在MySQL高可用方面是一个相对成熟的解决方案。在MySQL故障切换过程中,MHA能做到在30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中能在最大程度上保证数据的一致性,以达到真正意义上的高可用。

**第10章MySQL Group Replication;**MySQL Group Replication(MGR)是MySQL官方于2016年12月推出的一个全新的高可用的解决方案。MGR被认为是继Oracle Database RAC之后又一个“真正”的集群,也是MySQL官方基于组复制概念并充分参考MariaDB Galera Cluster和Percona XtraDB Cluster结合而来的新的高可用集群架构。它是官方推出的一种基于Paxos协议的状态机复制,彻底解决了基于传统的异步复制和半同步复制中数据一致性问题无法保证的情况,让MySQL数据库打开互联网金融行业的大门。

第11章Keepalived+双主复制的高可用架构;双主复制配合Keepalived这种MySQL高可用架构设计也是基于MySQL的主从复制原理,而Keepalived使用VIP,并利用Keepalived自带的服务监控功能和自定义脚本来实现master主服务器故障自动切换。这套MySQL双主复制+Keepalived架构其实可以适用于各种业务,是一种简单、便捷的高可用方案。

**第12章数据库分库分表与中间件介绍;**大型网站用户数和数据库规模急剧上升,关系型数据库常见的性能瓶颈主要体现在两点:一是大量的并发读写操作,导致单库出现负载压力过大;二是单表存储数据量过大,导致查询效率低下。这时常见的做法便是对数据库实施分库分表即Sharding改造来应对海量数据和高并发对数据库的冲击,与此同时,支持分库分表并且对业务开发透明的数据库中间件也大行其道。

**第13章Mycat中间件详解;**由于真正的数据库需要存储引擎,而Mycat并没有存储引擎,因此它并不是完全意义上的分布式数据库系统,可以更贴切地说成是数据库的中间件,就是介于数据库与应用之间进行数据处理与交互的中间服务。传统的访问数据库是直接连接数据库,创建数据库实例,根据需求对数据库中的数据进行增删查改。但是,当我们使用Mycat后,其实直接连接的是Mycat,通过Mycat对真正的数据库进行操作,在Mycat上我们可以做一些分表分库等操作,达到我们对数据库的可扩展要求。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/49603.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

wordpress改成https网址方法

我们建议搭建wordpress使用宝塔更为方便,另外也可以选择WDCP或者phpstudy也不错。本次教程适用于宝塔。 老样子买一台云服务器,建议找一些主流云服务器提供商,然后买一台Linux系统的然后安装好宝塔控制面板,创建一个站点&#xf…

【T+】畅捷通T+服务管理中,异步任务服务(TPlusPopAsyncTaskService1700)无法启动

【问题描述】 畅捷通T产品, 服务管理中的【异步任务服务(TPlusPopAsyncTaskService1700)】一直处于停止状态,且点击启动没有任何反应。 【解决方法】 【排查过程】 首先:检查数据库配置,以及网站端口配置…

可以写进简历的软件测试电商项目,不进来get一下?

前言 说实话,在找项目的过程中,我下载过(甚至付费下载过)N多个项目、联系过很多项目的作者,但是绝大部分项目,在我看来,并不适合你拿来练习,它们或多或少都存在着“问题”&#xff…

Linux C中对json格式数组数据的生成与解析

在网络通信中,数据经常被做成json格式的来进行传输。那么我们怎么在linux系统中去做json格式的数据呢?怎么将接收到的json格式的数据解析出来呢? 1、linux json库的安装 (1)下载json-c源码包 (2&#xff09…

Redis 内存淘汰和过期删除策略

提起使用Redis的优点,大家可以列举出许多,比如:数据存储在内存,读写速度快,性能优异。比如数据持久化,便于数据备份及恢复等等。 分布式服务系统平台发展至今,Redis活跃在平台的各个领域&#…

如何写单元测试

单元测试理论知识 什么是单元测试? 单元测试(unit testing),是指对软件中的最小可测试单元进行检查和验证。通常而言,一个单元可能是单个程序、类、对象、方法等。 为什么需要单元测试 为什么要做单元测试&#xf…

Linux学习-63-源码包服务管理方法

14.5 源码包服务管理(启动与自启动) 14.5.1 源码包服务的启动管理 源码包服务中所有的文件都会安装到指定目录当中,并且没有任何垃圾文件产生(Linux 的特性),所以服务的管理脚本程序也会安装到指定目录中…

[东华杯2021] ezgadget

复现环境配置: 链接:https://pan.baidu.com/s/1t5-fV7SUETDEI5-qbZZQrw 提取码:8do5运行 java -jar ezgadget.jar访问127.0.0.1:8888就可以了 分析: ToStringBean.java package com.ezgame.ctf.tools;import java.io.Seriali…

Nevrona Rave Reports基于报表库

Nevrona Rave Reports基于报表库 Rave Reports被描述为一套复杂的Delphi和CBuilder组件,它能够实现强大的进化过程,并为用户和开发人员提供灵活的数据库覆盖。Rave可视报表设计器基本上是一个基于组件的系统,它是专门为覆盖范围而编写的。与传…

Discourse 为什不建议使用 Gmail 的 SMTP

最开始我们也用了 Gmail 的 SMTP 服务。 这里有个问题是 Gmail 的日发送邮件限制,很多人可能认为 Gmail 是没有日常发送邮件限制的,通常不是这样的,因为如果你是手工回复和发送邮件的话,这个限制还是很难达到的。 如果是计算机或…

docker镜像如何下载到本地

Docker save 命令 | 菜鸟教程 查看镜像 docker images 保存到本地 docker save 999c20aee5da > /home/artipub.tar 999c20aee5da为镜像ID docker save : 将指定镜像保存成 tar 归档文件。 语法 docker save [OPTIONS] IMAGE [IMAGE...] OPTIONS 说明: -o :…

Xlua在unity中使用luaide打断点

本功能可以让你使用同一个编辑器实现对c#和lua打断点 编辑器:vscode 注:这是luaide的付费版才能使用断点的功能,请尊重原作者的辛苦付出! 如有需要请访问官方进行操作,官方链接如下: ShowDoc一个非常适合IT团队的在…

UDS知识整理(六):通讯控制——0x28服务

目录 一、0x28服务(通讯控制)简介 二、0x28服务信息格式 (1)请求格式 (2)正响应格式 (3)负响应格式 三、0x28服务举例 (1)打开接收与发送通讯功能 一、…

如何设计分布式系统-分布式事务-TCC?

如何设计分布式系统-分布式事务-2PC、3PC?_技术分子的博客-CSDN博客 TCC 事务模型的思想类似 2PC 提交,下面对比 TCC 和基于 2PC 事务 XA 规范对比。 第一阶段 TCC 中锁定资源。 第二阶段 TCC根据锁定资源情况进行确认和取消操作。 区别 2PC/XA 是数…

【STL常用容器】:string 容器

文章目录前言一、string容器的基本概念二、字符串的创建构造三、string 赋值操作四、string 字符串拼接五、string 查找和替换六、string字符串比较七、string 字符的存取八、string的插入和删除九、string 子串例:取出邮箱中的用户名前言 时不可以苟遇,…

【JavaScript闭包】JavaScript何为闭包,浅谈闭包的形成和意义

谈到js,必然逃不了闭包。 闭包到底是啥呢?我查了不少资料,解释真的是各种各样,千奇百怪,令人困惑。 我们先来看看一下各种解释 红宝石书:闭包指的是那些引用了另一个函数作用域中变量的函数。mdn : 闭包&a…

英语不好,能不能学会编程?

编程的人都会问: 我英文差能学会编程吗?? 学会编程不须要多浅近的英语水平,想要学会编程,简略的英语水平足够了。当初的程序开发环境又很敌对,基本上关上之后不须要怎么配置,间接写代码就行&a…

Assignment写作摘要方面包含哪些内容?

英文Assignment摘要需要包含问题陈述、动机、方法、结果和结论五个要素。本文小编针对每个要素给出一些常用的句型,以供大家参考使用。 Assignment英文摘要五要素常用句型整理 1、问题陈述(problem statement)常用句型 陈述要解决的问题详解,这个问题又哪…

【JSP】EL表达式

EL表达式EL表达式干什么用的?EL表达式的使用面试题如何输出对象属性值?域中取数据注意事项EL表达式的空处理如何从Map集合中取数据如何从数组或者List集合中获取数据局部忽略EL表达式EL表达式的内置对象EL表达式的运算符EL表达式干什么用的? …

手把手教你写一个图片预览组件

一、前言 本篇主要介绍,vue项目手写一个图片预览组件,组件主要包括图片方法、图片缩小、显示原图、下载、复制等功能。 二、实现方式 首先我们需要做一个图片预览组件都有的功能表头,如下图 主要功能包括,放大、缩放比例显示、…