Docker实战:从零构建高可用的MySQL主从集群与Redis集群

news2025/4/19 3:06:39

在分布式系统架构中,数据库集群是保障数据高可用和性能的关键组件。本文将通过Docker技术,手把手教你搭建MySQL主从集群和Redis Cluster,并分享独创的优化技巧与运维实战经验。

一、为什么选择Docker部署集群?

传统数据库集群搭建存在环境依赖复杂、配置繁琐、跨平台兼容性差等问题。使用Docker可带来三大核心优势:

  1. 环境标准化:通过Dockerfile固化镜像,彻底消除"在我机器能跑"的魔咒
  2. 快速部署:单节点部署从小时级压缩到分钟级,集群扩展只需修改Compose文件
  3. 资源隔离:容器化实现进程级隔离,避免多实例间的端口冲突

二、MySQL主从集群实战(GTID+半同步模式)

2.1 集群架构设计

采用一主两从架构,结合GTID全局事务标识和半同步复制,确保数据零丢失:

Master (可写可读)
  │
  ├──→ Slave1 (只读)
  └──→ Slave2 (只读)

2.2 Dockerfile优化技巧

# mysql/Dockerfile
FROM mysql:8.0.30
COPY my.cnf /etc/mysql/conf.d/
RUN chmod 644 /etc/mysql/conf.d/my.cnf
# 预置初始化脚本
COPY init_db.sql /docker-entrypoint-initdb.d/

2.3 核心配置解析(my.cnf)

[mysqld]
server-id=1                   # 节点唯一标识
gtid_mode=ON                  # 启用GTID
enforce_gtid_consistency=ON
rpl_semi_sync_master_enabled=1 # 半同步复制
log-bin=mysql-bin             # 二进制日志
binlog_format=ROW             # 行级复制

2.4 自动初始化脚本(init_db.sql)

-- 创建复制用户
CREATE USER 'repl'@'%' IDENTIFIED WITH mysql_native_password BY 'Repl@123';
GRANT REPLICATION SLAVE ON *.* TO 'repl'@'%';

-- 设置读写分离账号
CREATE USER 'app_user'@'%' IDENTIFIED WITH mysql_native_password BY 'App@123';
GRANT SELECT, INSERT, UPDATE ON app_db.* TO 'app_user'@'%';

2.5 Docker Compose编排

version: '3.8'
services:
  mysql-master:
    build: ./mysql
    ports: ["3306:3306"]
    environment:
      MYSQL_ROOT_PASSWORD: Root@123
      MYSQL_DATABASE: app_db
    volumes:
      - mysql_master_data:/var/lib/mysql

  mysql-slave1:
    build: ./mysql
    ports: ["3307:3306"]
    environment:
      MYSQL_ROOT_PASSWORD: Root@123
    volumes:
      - mysql_slave1_data:/var/lib/mysql
    depends_on:
      - mysql-master

volumes:
  mysql_master_data:
  mysql_slave1_data:

三、Redis Cluster智能部署方案

3.1 六节点集群拓扑

采用三主三从模式,通过哈希槽分配实现数据自动分片:

Master1 (5461) — Slave1 (6379)
Master2 (5462) — Slave2 (6380)
Master3 (5463) — Slave3 (6381)

3.2 自动故障转移配置

cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
cluster-require-full-coverage no # 允许部分节点故障
appendonly yes                   # AOF持久化

3.3 独创的集群初始化脚本

#!/bin/bash
# 自动检测并修复集群状态
redis-cli --cluster check 127.0.0.1:6379
if [ $? -ne 0 ]; then
  echo "正在尝试自动修复集群..."
  redis-cli --cluster fix 127.0.0.1:6379 --user mypass
fi

3.4 性能监控仪表盘

使用Prometheus+Granfana构建监控体系,关键指标包括:

  • 集群节点存活状态
  • 内存碎片率
  • 命令处理延迟
  • 网络吞吐量

四、运维黑科技

4.1 MySQL在线DDL神器

-- 使用pt-online-schema-change实现无锁表结构变更
pt-online-schema-change --alter "ADD COLUMN new_col INT" D=app_db,t=users \
--user=root --password=Root@123 --execute

4.2 Redis内存优化策略

  1. 设置内存软限制maxmemory 8gb + maxmemory-policy allkeys-lru
  2. 启用内存碎片整理CONFIG SET activedefrag yes
  3. 监控大Key:使用redis-cli --bigkeys扫描异常数据

4.3 自动化备份方案

# 每天凌晨3点执行全量备份
0 3 * * * docker exec mysql-master mysqldump -u root -pRoot@123 app_db | gzip > /backups/mysql_$(date +\%Y\%m\%d).sql.gz

# 每小时增量备份binlog
0 * * * * rsync -avz /var/lib/docker/volumes/mysql_master_data/_data/mysql-bin.* /binlog_backups/

五、性能对比与成本分析

方案部署时间故障恢复资源消耗扩展性
传统物理机8小时30分钟
虚拟机+手动配置4小时15分钟一般
Docker容器化方案15分钟2分钟极优

六、进阶玩法

  1. 混合云部署:结合Docker Swarm实现跨AZ容灾
  2. 智能路由:使用ProxySQL实现MySQL读写分离+查询缓存
  3. Redis模块扩展:集成RedisTimeseries实现时间序列数据存储
  4. 混沌工程:使用ChaosBlade模拟节点故障验证集群健壮性

结语

通过Docker容器化技术,我们实现了数据库集群的快速部署与智能运维。这种方案不仅降低了运维复杂度,更通过GTID、半同步复制等机制保障了数据一致性。后续可结合Kubernetes实现真正的云原生数据库即服务(DBaaS),让数据库管理像使用水电一样简单。

立即实践:复制文中代码到你的服务器,15分钟即可拥有生产级数据库集群!遇到问题欢迎在评论区交流,点赞关注获取更多运维干货!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2337678.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【Rust基础】使用Rocket构建基于SSE的流式回复

背景 我们正在使用Rust开发基于RAG的知识库系统,其中对于模型的回复使用了常用的SSE,Web框架使用Rocket,Rocket提供了一个简单的方式支持SSE,但没有会话保持、会话恢复等功能,因此我们自己简单实现这两个功能。 使用R…

大前端基础学习

一、cs架构和bs架构 c:客户端, b:浏览器(无需安装,无需更新,可跨平台)√ s:server服务端,帮我们保 存信息,传递信息 二、 altshift向下键向下复制一行 …

Axios 的 POST 请求:QS 处理数据的奥秘与使用场景解析

在现代前端开发中,Axios 已经成为了进行 HTTP 请求的首选库之一,它的简洁易用和强大功能深受开发者喜爱。当使用 Axios 进行 POST 请求时,我们常常会遇到一个问题:是否需要使用 QS 库来处理请求数据?什么时候又可以不用…

Linux 防火墙( iptables )

目录 一、 Linux 防火墙基础 1. 防火墙基础概念 (1)防火墙的概述与作用 (2)防火墙的结构与匹配流程 (3)防火墙的类别与各个防火墙的区别 2. iptables 的表、链结构 (1)规则表 …

【redis进阶三】分布式系统之主从复制结构(1)

目录 一 为什么要有分布式系统? 二 分布式系统涉及到的非常关键的问题:单点问题 三 学习部署主从结构的redis (1)创建一个目录 (2)进入目录拷贝两份原有redis (3)使用vim修改几个选项 (4)启动两个从节点服务器 (5)建立复制,要想配…

EM储能网关ZWS智慧储能云应用(9) — 远程OTA升级

ZWS智慧储能云平台支持远程OTA固件升级,可以针对具体的储能设备进行升级,升级储能网关、EMS主控软件、PCS、BMS等。 简介 储能系统通常高度集成化,一体化设计,将EMS、BMS(电池管理系统)、PCS&#xff08…

ubuntu24.04LTS安装向日葵解决方案

去向日葵官方下载ubuntu使用的deb包 向日葵 输入如下命令安装,将具体版本修改成自己下载的版本 andrew in ~/下载 λ sudo dpkg -i SunloginClient_15.2.0.63064_amd64.deb 正在选中未选择的软件包 sunloginclient。 (正在读取数据库 ... 系统当前共安装有 290947…

达梦官方管理工具SQLark:自动识别外键约束、check约束与虚拟列,助力高效生成测试数据

在数据库管理和应用开发过程中,高质量的测试数据对于系统调试和POC测试至关重要。达梦官方推出的新一代管理工具 SQLark百灵连接,其数据生成功能,可以为应用开发者、DBA 以及测试人员带来极大便利,能够轻松应对各类复杂的测试场景…

不关“猫”如何改变外网IP?3种免重启切换IP方案

每次更换外网IP都要重启路由器?太麻烦了!那么,不关猫怎么改变外网IP?无论是为了网络调试、爬虫需求,还是解决IP限制问题,频繁重启设备既耗时又影响效率。其实,更换外网IP并不一定要依赖“重启大…

C#进阶学习(五)单向链表和双向链表,循环链表(中)双向链表

目录 一、双向链表的声明 1. 节点类声明 2. 链表类框架声明 3、实现其中的每一个函数 增删操作(核心方法组) 删除操作(核心方法组) 查询操作(辅助方法) 维护方法(内部逻辑) …

重学Redis:Redis常用数据类型+存储结构(源码篇)

一、SDS 1,SDS源码解读 sds (Simple Dynamic String),Simple的意思是简单,Dynamic即动态,意味着其具有动态增加空间的能力,扩容不需要使用者关心。String是字符串的意思。说白了就是用C语言自己封装了一个字符串类型&a…

js原型和原型链

js原型: 1、原型诞生的目的是什么呢? js原型的产生是为了解决在js对象实例之间共享属性和方法,并把他们很好聚集在一起(原型对象上)。每个函数都会创建一个prototype属性,这个属性指向的就是原型对象。 …

OpenHarmony - 小型系统内核(LiteOS-A)(五)

OpenHarmony - 小型系统内核(LiteOS-A)(五) 六、文件系统 虚拟文件系统 基本概念 VFS(Virtual File System)是文件系统的虚拟层,它不是一个实际的文件系统,而是一个异构文件系统之…

PyTorch进阶学习笔记[长期更新]

第一章 PyTorch简介和安装 PyTorch是一个很强大的深度学习库,在学术中使用占比很大。 我这里是Mac系统的安装,相比起教程中的win/linux安装感觉还是简单不少(之前就已经安好啦),有需要指导的小伙伴可以评论。 第二章…

proteus8.17 环境配置

Proteus介绍 Proteus 8.17 是一款功能强大的电子设计自动化(EDA)软件,广泛应用于电子电路设计、仿真和分析。以下是其主要特点和新功能: ### 主要功能 - **电路仿真**:支持数字和模拟电路的仿真,包括静态…

Java对接Dify API接口完整指南

Java对接Dify API接口完整指南 一、Dify API简介 Dify是一款AI应用开发平台,提供多种自然语言处理能力。通过调用Dify开放API,开发者可以快速集成智能对话、文本生成等功能到自己的Java应用中。 二、准备工作 获取API密钥 登录Dify平台控制台在「API密…

极狐GitLab GEO 功能介绍

极狐GitLab 是 GitLab 在中国的发行版,关于中文参考文档和资料有: 极狐GitLab 中文文档极狐GitLab 中文论坛极狐GitLab 官网 Geo (PREMIUM SELF) Geo 是广泛分布的开发团队的解决方案,可作为灾难恢复策略的一部分提供热备份。Geo 不是 开箱…

云原生(Cloud Native)的详解、开发流程及同类软件对比

以下是云原生(Cloud Native)的详解、开发流程及同类软件对比: 一、云原生核心概念 定义: 云原生(Cloud Native)是基于云环境设计和运行应用程序的方法论,强调利用云平台的弹性、分布式和自动化…

学习笔记:减速机工作原理

学习笔记:减速机工作原理 一、减速机图片二、减速比概念三、减速机的速比与扭矩之间的关系四、题外内容--电机扭矩 一、减速机图片 二、减速比概念 即减速装置的传动比,是传动比的一种,是指减速机构中,驱动轴与被驱动轴瞬时输入速…

《UE5_C++多人TPS完整教程》学习笔记36 ——《P37 拾取组件(Pickup Widget)》

本文为B站系列教学视频 《UE5_C多人TPS完整教程》 —— 《P37 拾取组件(Pickup Widget)》 的学习笔记,该系列教学视频为计算机工程师、程序员、游戏开发者、作家(Engineer, Programmer, Game Developer, Author) Steph…