Redis系列(四):哨兵机制详解

news2024/11/24 8:05:53

首发博客地址

https://blog.zysicyj.top/

前面我们说过,redis采用了读写分离的方式实现高可靠。后面我们说了,为了防止主节点压力过大,优化成了主-从-从模式

思考一个问题,主节点此时挂了怎么办

alt

这里主从模式下涉及到的几个问题:

  1. 主库真的挂了吗?
  2. 我们应当选择哪个从库作为主库?
  3. 怎样让其他从库知道新的主库信息呢?
  4. 中断的数据如何恢复?

哨兵机制就完美的解决了以上问题。

什么是哨兵机制?

Redis引入哨兵(Sentinel)机制的主要目的是为了增强其高可用性和自动故障恢复能力。在分布式系统中,特别是用作数据存储的数据库系统中,保障高可用性是至关重要的,以确保系统在面对节点故障等情况时能够继续提供服务。

以下是引入Redis哨兵机制的原因:

  1. 故障检测和自动故障切换: 哨兵允许您配置多个Redis节点,并监视它们的运行状况。如果主节点(Master)出现故障,哨兵可以自动检测到并执行故障切换,将一个可用的从节点(Slave)晋升为新的主节点,从而保证服务的可用性。

  2. 自动配置更新: 当Redis节点的拓扑结构发生变化(比如添加或移除节点)时,哨兵能够自动地通知客户端和其他Redis节点进行配置更新,从而确保整个集群的正确配置。

  3. 监控和报警: 哨兵不仅监视节点的健康状态,还可以提供有关节点运行状况的信息,例如主从复制是否正常、延迟情况等。这可以帮助管理员及时发现问题并采取措施。

  4. 无需人工干预的恢复: 哨兵允许自动故障切换,这意味着当主节点出现问题时,系统可以自动将一个从节点提升为新的主节点,而无需管理员手动介入,从而缩短恢复时间。

Redis引入哨兵机制使得在分布式环境中更容易实现高可用性和故障恢复,而无需太多手动操作。哨兵机制可以确保Redis集群在节点故障时继续提供稳定的服务,对于那些对于高可用性要求较高的应用场景非常有用。

哨兵机制的基本流程

哨兵其实就是一个运行在特殊模式下的Redis进程,其随着主从实例同时运行。

那么哨兵负责哪些活呢?主要是以下三点:

  1. 监控
  2. 选主(选择主库)
  3. 通知
哨兵机制的三项任务与目标
哨兵机制的三项任务与目标

监控

Redis哨兵的监控流程涉及多个步骤,用于实时监控Redis集群中各个节点的状态并采取必要的措施来确保集群的可用性和稳定性。

  1. 节点发现和配置: 哨兵通过配置文件指定要监控的主节点和从节点。启动哨兵后,它会连接到指定的节点,并获取有关其他节点的信息,形成一个初始的监控拓扑。

  2. 心跳检测: 哨兵会定期向监控的节点发送PING命令来检测节点是否存活。这些节点可以是主节点、从节点或其他哨兵节点。如果哨兵在一定时间内没有收到响应,它会认为节点不可用。

  3. 节点状态变更: 当哨兵连续多次无法连接到一个节点时,它会将该节点标记为主观下线。当多个哨兵都将节点标记为主观下线时,这个节点会被认为是客观下线。

  4. 故障判断和选举: 当主节点被标记为客观下线时,哨兵会执行故障判断。它会从剩余的健康主节点中选举一个作为新的主节点,并将该信息广播给其他哨兵和客户端。故障判断的逻辑考虑了多个因素,包括优先级、最近一次复制偏移量等。

  5. 自动故障切换: 如果主节点被标记为客观下线,哨兵会通知从节点晋升为新的主节点。同时,哨兵会更新其他从节点的配置,使其复制新的主节点。这确保了即使主节点发生故障,集群仍然可以继续提供服务。

  6. 监控从节点: 哨兵还会监控从节点的状态,包括从节点是否与主节点保持同步,以及从节点的复制延迟情况。如果从节点无法同步或者复制延迟过高,哨兵会将其标记为不健康。

  7. 节点恢复: 如果一个节点从客观下线状态恢复,哨兵会将其标记为健康,并将其重新纳入集群中。从节点恢复后,它会重新同步主节点的数据。

  8. 配置更新: 如果集群的拓扑发生变化,例如添加或移除节点,哨兵会自动更新配置,以便客户端能够正确连接到集群。

  9. 事件通知: 哨兵通过发布订阅机制向订阅者(通常是客户端)发送有关集群状态变化的消息。这使得应用程序能够根据实时的集群状态做出相应的决策。

  10. 持续监控: 哨兵会持续地监控集群中的节点,定期执行心跳检测、状态更新和故障判断,以确保集群的稳定运行。

主观下线与客观下线

在Redis的哨兵监控机制中,有两个关键概念:主观下线(Subjective Down)和客观下线(Objective Down)。这些概念帮助哨兵判断节点的可用性和故障状态。

  1. 主观下线(Subjective Down): 主观下线是指单个哨兵节点认为一个特定的Redis节点(主节点、从节点或其他哨兵)不可用。主观下线是一种主观的判断,是基于单个哨兵节点的观察结果得出的。当一个哨兵无法连接到某个Redis节点,它会将该节点标记为主观下线。多个哨兵节点可能会对同一个节点发出主观下线标记。

  2. 客观下线(Objective Down): 客观下线是指在整个哨兵集合中达成一致,认为某个特定的Redis节点不可用。客观下线是一种更客观的判断,需要多个哨兵节点共同达成一致。当多个哨兵节点都主观下线同一个Redis节点时,这个节点会被认为是客观下线。

举例说明:

  • 假设有三个哨兵节点:Sentinel A、Sentinel B 和 Sentinel C,以及一个主节点 Master 和一个从节点 Slave。如果 Sentinel A 无法连接到 Master 节点,它会将 Master 标记为主观下线。同样地,如果 Sentinel B 也无法连接到 Master 节点,它也会将 Master 标记为主观下线。但这还不足以让 Master 被认为是客观下线。

  • 当 Sentinel A 和 Sentinel B 都主观下线了 Master 节点,并且他们相互通信时发现了这个情况,他们就会在达成一致意见后将 Master 节点标记为客观下线。这时,整个哨兵集合达成一致,认为 Master 节点已下线。

客观下线是一个更严格的判断,需要多个哨兵节点一致认为某个节点不可用,才会触发后续的故障判断和自动故障切换等动作。这种机制确保了在一个哨兵节点认为某节点下线时,不会立即触发故障切换,以避免误判造成不必要的切换。只有多个哨兵节点一致认为节点下线,才会触发后续的故障处理流程。

客观下线的判断
客观下线的判断

如何选定新主库

在Redis Sentinel模式中,当主节点(Master)发生故障导致下线后,哨兵会通过选举过程选择一个新的主节点(Master)来取代原来的主节点。选定新主库的过程如下:

  1. 主观下线和客观下线判断: 当哨兵节点主观下线(单个哨兵认为不可用)一个主节点时,如果多数哨兵都主观下线了同一个主节点,那么这个主节点会被标记为客观下线(多数派共识)。

  2. 选举新主节点: 当一个主节点被标记为客观下线后,哨兵节点会开始选举一个新的主节点。选举过程如下:

    • 哨兵会在所有没有下线的从节点(Slaves)中选择一个作为新主节点。 哨兵会选择一个延迟最小、复制偏移量最大的从节点作为新主节点。这确保了新主节点是最接近原主节点的从节点。
    • 如果没有合适的从节点,哨兵会选择一个具备最高优先级的从节点,将其升级为主节点。如果优先级相同,那么哨兵会选择一个复制偏移量最大的从节点。
  3. 故障转移和切换: 一旦新主节点被选定,哨兵会发起故障转移操作。旧主节点会变成新主节点的一个从节点。其他从节点会重新配置,指向新的主节点。这个过程会保证尽量不丢失数据,并且保证整个集群的高可用性。

选定新主库的过程是一个由哨兵节点协同工作的流程,确保了在主节点故障的情况下,尽可能地选择一个合适的从节点作为新的主节点,实现集群的高可用性和数据完整性。

新主库的选择
新主库的选择

如何配置哨兵

  1. 哨兵配置文件: 在Redis 6.x版本中,哨兵的配置文件名称默认为redis-sentinel.conf

  2. 配置变化: Redis 6.x版本引入了一些新的哨兵配置选项,以适应新的功能和改进。以下是一些常见的配置选项:

    sentinel monitor mymaster 127.0.0.1 6379 2   # 监控名为 "mymaster" 的主节点,2表示至少需要2个哨兵同意主观下线才会执行故障转移
    sentinel down-after-milliseconds mymaster 5000   # 主观下线判定为5秒无响应
    sentinel parallel-syncs mymaster 1   # 执行故障转移时同时同步的从节点数量
    sentinel failover-timeout mymaster 10000   # 故障转移超时时间为10秒
    sentinel auth-pass mymaster mypassword   # 主节点的访问密码
    
  3. 启动哨兵节点: 在Redis 6.x版本中,启动哨兵节点的命令为:

    redis-server /path/to/redis-sentinel.conf --sentinel
  4. 查看哨兵状态: 使用以下命令查看Redis 6.x版本哨兵节点的状态:

    redis-cli -p 26379
    sentinel master mymaster   # 查看主节点的信息
    sentinel slaves mymaster   # 查看从节点的信息
    sentinel sentinels mymaster   # 查看其他哨兵节点的信息

哨兵是如何互相发现的?

我们查看配置可以看到,我们并没有配置从节点的哨兵,我们只配置了主节点地址。

那么哨兵之间是如何互相发现通信的呢?

在Redis Sentinel(哨兵)集群中,哨兵节点之间通过发布订阅机制来互相发现和通信。这种方式使得哨兵节点能够监控主节点和从节点的状态,并进行故障检测和故障转移。

以下是哨兵集群如何通过发布订阅机制互相发现的工作流程:

  1. 初始连接: 在启动时,每个哨兵节点会尝试连接到指定的主节点。这些哨兵节点通过配置文件中的sentinel monitor命令指定要监控的主节点信息。

  2. Sentinel命令发布: 当一个哨兵节点成功连接到主节点后,它会开始定期向主节点发送PING命令,以确保主节点处于活跃状态。如果哨兵节点检测到主节点不可用,它会将一个+switch-master命令发布到频道中,通知其他哨兵节点。

  3. 发布订阅机制: Redis的发布订阅机制允许一个节点(发布者)向一个或多个节点(订阅者)广播消息。在哨兵集群中,每个哨兵节点都订阅了一个名为__sentinel__:hello的频道,用于接收其他哨兵节点发送的信息。alt

  4. 发现其他哨兵节点: 当一个哨兵节点成功连接到主节点后,它会向__sentinel__:hello频道发布一个"Hello"消息,其中包含它自己的信息(如IP地址和端口号)。其他哨兵节点通过订阅这个频道,可以获取所有其他哨兵节点的信息。

  5. 收集哨兵信息: 每个哨兵节点通过订阅__sentinel__:hello频道,收集到其他哨兵节点的信息。这使得每个哨兵节点都知道了集群中其他哨兵节点的存在。

  6. 故障检测和转移: 当一个哨兵节点检测到主节点不可用时,它会通过发布+switch-master命令来通知其他哨兵节点。这个命令包含了新的主节点信息,以及在执行故障转移时需要的其他信息。其他哨兵节点收到这个命令后,会进行判断并可能发起故障转移。

通过以上机制,哨兵节点可以相互发现和通信,共同监控主节点和从节点的状态,并在主节点下线时协同执行故障转移操作。这种发布订阅机制确保了哨兵集群中节点之间的实时信息传递和协作。

alt

由哪个哨兵执行主从切换?

客观下线具体判断流程

  1. 故障检测: 哨兵节点定期向集群中的所有主节点和从节点发送PING命令来检测节点的可用性。如果一个哨兵节点连续一定次数没有收到节点的回复,就会将该节点标记为可能进入客观下线状态。

  2. Quorum判断: 在判断一个节点是否客观下线时,需要考虑Quorum的概念。Quorum是指一个最小的投票数,当达到或超过这个投票数时,哨兵认为节点可能进入客观下线状态。Quorum的值通常设置为哨兵节点数量的一半加一。

  3. 投票过程: 当哨兵节点开始怀疑某个节点可能客观下线时,它会向其他哨兵节点发送一个SENTINEL is-master-down-by-addr命令,询问其他哨兵节点是否也认为该节点客观下线。其他哨兵节点会对此做出回应,根据回应的数量来判断是否达到Quorum。

  4. 达到Quorum: 如果收到的回应数量达到或超过Quorum,那么哨兵节点就会认为该节点进入客观下线状态。这表示集群中有足够多的哨兵都认为该节点可能下线,进而触发后续的主从切换流程。

  5. 执行后续操作: 一旦一个节点被认为客观下线,哨兵节点将开始执行故障转移操作,选择新的主节点并开始同步数据。这将最终导致一个新的主节点被选出,从而实现高可用性。 alt

选举Leader流程

Redis Sentinel(哨兵)是用于监控和管理Redis主从复制以及自动故障切换的工具。当主节点失效时,哨兵会协调选择一个从节点作为新的主节点,这涉及到选举Leader的过程。详细流程如下:

  1. 监控主节点: 哨兵持续监控Redis主节点的状态,包括主节点是否在线,主从复制是否正常,以及哨兵和其他节点的通信情况。

  2. 检测主节点失效: 当哨兵检测到主节点失效(例如,无法响应PING命令),它会将主节点标记为“主观下线”。

  3. 广播主观下线状态: 一旦主观下线状态被确认,哨兵会广播该信息给其他哨兵和节点,告知主节点已经“主观下线”。

  4. 投票: 当其他哨兵收到关于主观下线状态的广播时,它们会进行投票来决定是否需要进行领导者选举。

  5. 选举Leader: 如果多个哨兵都认为主节点失效,它们将进入领导者选举过程。选举过程使用了Raft算法的变体。

  6. 提议投票: 在选举过程中,哨兵会提议自己作为领导者,然后请求其他哨兵投票支持。

  7. 投票表决: 哨兵在收到提议后会表决是否支持该提议。通常,哨兵会投票给具有最高配置版本号的提议者。

  8. Quorum判断: 在选举过程中,哨兵需要收集足够数量的投票,达到Quorum(大多数)的支持才能选举成功。

  9. 选出新领导者: 如果某个哨兵获得足够多的投票,超过了Quorum,那么它将被选为新的领导者。

  10. 通知其他节点: 新选出的Leader会向其他哨兵和节点广播其成为领导者的消息,确保集群中的所有节点都知道领导者的变更。

  11. 故障切换: 一旦新的Leader选举完成,哨兵会协调进行故障切换,将一个从节点提升为新的主节点,使整个集群继续正常运行。

  12. 恢复正常状态: 一旦故障切换完成,新的主节点将开始处理客户端请求,集群会恢复到正常运行状态。

需要注意的是,Redis Sentinel的选举Leader过程受到Paxos算法和Raft算法等分布式一致性算法的影响,以保证在主节点失效时能够选择合适的节点作为新的主节点,从而保持数据的一致性和高可用性。

alt

TIP

  1. 如果哨兵集群只有 2 个实例,此时,一个哨兵要想成为 Leader,必须获得 2 票,而不是 1 票。所以,如果有个哨兵挂掉了,那么,此时的集群是无法进行主从库切换的。因此,通常我们至少会配置 3 个哨兵实例。

  2. 要保证所有哨兵实例的配置是一致的,尤其是主观下线的判断值 down-after-milliseconds。

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/909799.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

华为OD-整数对最小和

题目描述 给定两个整数数组array1、array2,数组元素按升序排列。假设从array1、array2中分别取出一个元素可构成一对元素,现在需要取出k对元素,并对取出的所有元素求和,计算和的最小值 代码实现 # coding:utf-8 class Solution:…

ISVE2023展商 | 皮克智能:零售及互联网领域数字化变革开拓者

ISVE2023展商 | 皮克智能:零售及互联网领域数字化变革开拓者 01 公司介绍 Exhibitor Profile 皮克智能是优质的智能硬件产品及系统解决方案提供商,具备自主研发创新、软硬件方案集成及全产业链资源整合的能力。 公司总部位于中国深圳,主要服…

小程序中通过canvas生成并保存图片

1. html <canvas class"canvas" id"photo" type"2d" style"width:200px;height: 300px;"></canvas> <button bindtap"saveImage">保存</button> <!-- 用来展示生成的那张图片 --> <image…

构建 NodeJS 影院预订微服务并使用 docker 部署(03/4)

一、说明 构建一个微服务的电影网站&#xff0c;需要Docker、NodeJS、MongoDB&#xff0c;这样的案例您见过吗&#xff1f;如果对此有兴趣&#xff0c;您就继续往下看吧。 你好社区&#xff0c;这是&#x1f3f0;“构建 NodeJS 影院微服务”系列的第三篇文章。本系列文章演示了…

Ae 效果:CC Line Sweep

过渡/CC Line Sweep Transition/CC Line Sweep CC Line Sweep&#xff08;CC 线条扫描&#xff09;通过线条的扫描动作来制作一个过渡效果&#xff0c;线条可以根据设定的方向、厚度、倾斜度和方向翻转来扫过画面&#xff0c;从而将一个场景过渡到另一个。 ◆ ◆ ◆ 效果属性…

数据治理核心知识点总结-1

管理数据的人员必须由业务人员和信息技术人员两类角色共同承担&#xff1b; 数据管理的12个原则&#xff0c;这12个原则分为数据管理原则、数据价值、数据管理需求是业务的需求、数据管理依赖于不同的技能&#xff0c;数据管理是生命周期管理5个方面&#xff1b;这5个方面中&am…

6-3 使用函数输出水仙花数

分数 20 全屏浏览题目 切换布局 作者 张高燕 单位 浙大城市学院 水仙花数是指一个N位正整数&#xff08;N≥3&#xff09;&#xff0c;它的每个位上的数字的N次幂之和等于它本身。例如&#xff1a;153135333。 本题要求编写两个函数&#xff0c;一个判断给定整数是否水仙花数…

深度学习-实验1

一、Pytorch基本操作考察&#xff08;平台课专业课&#xff09; 使用&#x1d413;&#x1d41e;&#x1d427;&#x1d42c;&#x1d428;&#x1d42b;初始化一个 &#x1d7cf;&#x1d7d1;的矩阵 &#x1d474;和一个 &#x1d7d0;&#x1d7cf;的矩阵 &#x1d475;&am…

node配合charles写文件并下载

利用charles的Copy URL 和Copy cURL Request 进行抓取喜马拉雅的m4a文件 将抓取的下载链接粘贴进txt,利用如下代码去重,并生成新的sh文件,执行sh文件即可下载 const fs require("fs");//need config const inputFile "input.txt"; const outputFile &q…

JCTools Mpsc源码详解(一)

Jctools介绍--jctools是一个Java开源并发非阻塞数据结构实现,其中主要实现了非阻塞Map和非阻塞queue,旨在为Java提供高性能并发数据结构实现; jctool的特点--为什么性能高: lazyset--putOrderedObject,使用loadload内存屏障,写不会立即可见大量的位运算伪共享-通过pad类实现内…

嵌入式系统中常见内存的划分方法

看到有小伙伴在讨论关于单片机内存的话题&#xff0c;今天就结合STM32给大家描述一下常见的划分区域。 在一个STM32程序代码中&#xff0c;从内存高地址到内存低地址&#xff0c;依次分布着栈区、堆区、全局区&#xff08;静态区&#xff09;、常量区、代码区&#xff0c;其中全…

npm install 安装依赖,报错 Host key verification failed

设置 git 的身份和邮箱 git config --global user.name "你的名字" > 用户名 git config --global user.email “你的邮箱" > 邮箱进入 > 用户 > [你的用户名] > .ssh文件夹下,删除 known_hosts 文件即可 进入之后有可能会看到 known_hosts…

亿赛通电子文档安全管理系统 RCE漏洞

亿赛通电子文档安全管理系统 RCE漏洞 一、 产品简介二、 漏洞概述三、 复现环境四、 漏洞复现小龙POC检测: 五、 修复建议 免责声明&#xff1a;请勿利用文章内的相关技术从事非法测试&#xff0c;由于传播、利用此文所提供的信息或者工具而造成的任何直接或者间接的后果及损失…

【学会动态规划】 最长递增子序列(26)

目录 动态规划怎么学&#xff1f; 1. 题目解析 2. 算法原理 1. 状态表示 2. 状态转移方程 3. 初始化 4. 填表顺序 5. 返回值 3. 代码编写 写在最后&#xff1a; 动态规划怎么学&#xff1f; 学习一个算法没有捷径&#xff0c;更何况是学习动态规划&#xff0c; 跟我…

【Django】 Task5 DefaultRouter路由组件和自定义函数

文章目录 【Django】 Task5 DefaultRouter路由组件和自定义函数1.路由组件1.1路由组件介绍1.2SimpleRouter1.3DefaultRouter1.4DefaultRouter示例1.5查看访问服务接口url 2.自定义函数 【Django】 Task5 DefaultRouter路由组件和自定义函数 Task5 主要了解了DefaultRouter路由…

如何使用LLM实现文本自动生成视频

推荐&#xff1a;使用 NSDT场景编辑器 助你快速搭建可二次编辑的3D应用场景 介绍 基于扩散的图像生成模型代表了计算机视觉领域的革命性突破。这些进步由Imagen&#xff0c;DallE和MidJourney等模型开创&#xff0c;展示了文本条件图像生成的卓越功能。有关这些模型内部工作的…

SpringMVC 反射型跨站点脚本攻击

解决方案&#xff1a; 服务端校验&#xff0c;添加拦截器 配置web,xml <filter><filter-name>xssFilter </filter-name><filter-class>com.fh.filter.XssFilter </filter-class></filter> XssFilter package com.fh.filter;import com…

【C++】运算符重载 | 赋值运算符重载

Ⅰ. 运算符重载 引入 ❓什么叫运算符重载&#xff1f; 就是&#xff1a;运用函数&#xff0c;将现有的运算符重新定义&#xff0c;使其能满足各种自定义类型的运算。 回想一下&#xff0c;我们以前运算的对象是不是都是int、char这种内置类型&#xff1f; 那我们自定义的“…

编写Dockerfile制作Web应用系统nginx镜像,生成镜像nginx:v1.1,并推送其到私有仓库

Docker 镜像是一个特殊的文件系统&#xff0c;除了提供容器运行时所需的程序、库、资源、配置等文件外&#xff0c;还包含了一些为运行时准备的一些配置参数&#xff08;如匿名卷、环境变量、用户等&#xff09;。镜像不包含任何动态数据&#xff0c;其内容在构建之后也不会被改…

存储系统性能优化中IOMMU的作用是什么?

一、IOMMU原理 IOMMU(Input/Output Memory Management Unit)是一种用于管理计算机内存的技术,它允许将物理内存映射到虚拟地址空间。IOMMU通过使用专用的硬件来管理和优化内存访问,从而提高系统性能和稳定性。本文将详细介绍IOMMU的原理,并介绍一些应用案例和典型的问题解…