hadoop_zookeeper详解

news2024/11/30 3:01:12

Zookeeper秒懂

  • 工作机制
  • 特点
  • 数据结构
  • 应用场景
  • 安装
  • 选举机制
    • 初始化启动
    • 无法和Leader保持连接
  • 节点类型
  • 监听器原理
  • 写数据流程
  • Paxos算法
    • 算法流程
  • 客户端命令

Zookeeper 是一个开源的分布式的,为分布式框架提供协调服务的 Apache 项目。

工作机制

Zookeeper是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应。

特点

  1. Zookeeper:一个领导者(Leader),多个跟随者(Follower)组成的集群
  2. 集群中只要有半数以上节点存活,Zookeeper集群就能正常服务。所以Zookeeper适合安装奇数台服务器
  3. 全局数据一致:每个Server保存一份相同的数据副本,Client无论连接到哪个Server,数据都是一致的
  4. 更新请求顺序执行,来自同一个Client的更新请求按其发送顺序依次执行
  5. 数据更新原子性,一次数据更新要么成功,要么失败
  6. 实时性,在一定时间范围内,Client能读到最新数据

数据结构

ZooKeeper 数据模型的结构与 linux 文件系统很类似,整体上可以看作是一棵树,每个节点称做一个 ZNode。每一个 ZNode 默认能够存储 1MB 的数据,每个 ZNode 都可以通过其路径唯一标识

在这里插入图片描述

应用场景

1、统一命名服务

在分布式环境下,对应用/服务进行统一命名,便于识别

2、统一配置管理

分布式环境下,配置文件同步,保证所有节点的配置信息是一致的

3、统一集群管理

可以实现实时监控节点状态变化

4、发布和订阅

zk引入了watcher机制来实现发布/订阅功能,能够让多个订阅者同时监听某一个主题对象,当这个主题对象自身状态发生变化时,会通知所有订阅者

5、软负载均衡

在Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求

安装

zookeeper集群安装及配置_CSDN

选举机制

当ZooKeeper集群中的一台服务器出现以下两种情况之一时,就会开始进入Leader选举:
	1、服务器初始化启动
	2、服务器运行期间无法和Leader保持连接

初始化启动

选举规则: 
	1、得票数超过集群数量的一半即可成为leader 
	2、把选票投给myid大的 
	3、一旦leader选举成功之后,其他节点只能是follower
简单记:投票过半数时,服务器 id 大的胜出

在这里插入图片描述

无法和Leader保持连接

当一台机器进入Leader选举流程时,当前集群可能会处于以下两种状态:
	1、集群中有一个Leader,自身是follower,连接不上Leader;
	2、自身是leader坏掉了,集群中不存在Leader

集群中已经存在一个Leader

机器试图去选举Leader时,会被告知当前服务器的Leader信息,对于该机器来说,仅仅需要和Leader机器建立连接,并进行状态同步即可

集群中不存在Leader

选举Leader规则:
	1、EPOCH大的直接胜出 
	2、EPOCH相同,ZXID大的胜出
	3、ZXID相同,SID大的胜出
EPOCH:
	每个Leader任期的代号。没有Leader时同一轮投票过程中的逻辑时钟值是相同的。每投完一次票这个数据就会增加
ZXID:
	事务ID。用来标识一次服务器状态的变更。在某一时刻,集群中的每台机器的ZXID值不一定完全一致,这和ZooKeeper服务器对于客户端“更新请求”的处理逻辑有关	
SID:
	服务器ID。用来唯一标识一台ZooKeeper集群中的机器,每台机器不能重复,和myid一致
举例:
	假设ZooKeeper由5台服务器组成,SID分别为1、2、3、4、5,ZXID分别为8、8、8、7、7,并且此SID为3的服务器是Leader。
	某一时刻,3和5服务器出现故障,因此开始进行Leader选举
	选举时各机器状态:
		Server1 (EPOCH:1,ZXID:8,SID:1)
		Server2 (EPOCH:1,ZXID:8,SID:2)
		Server4 (EPOCH:1,ZXID:7,SID:4)
	开始选举:
		Round one:EPOCH都相同无胜出
		Round Two:ZXID Server4最小,Server1和Server2胜出
		Round Thr:SID Server2大于Server1,Server2胜出
	选举结果:
		Server2为新的leader

节点类型

  1. 持续化节点
  2. 持续化顺序编号节点
  3. 临时节点
  4. 临时顺序编号节点

持久(Persistent):客户端和服务器端断开连接后,创建的节点不删除
短暂(Ephemeral):客户端和服务器端断开连接后,创建的节点自己删除
创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序

监听器原理

客户端注册监听它关心的目录节点,当目录节点发生变化(数据改变、节点删除、子目录节点增加删除)时,ZooKeeper 会通知客户端。
监听机制保证 ZooKeeper 保存的任何的数据的任何改变都能快速响应到监听了该节点应用程序

监听流程

  1. Zookeeper客户端,会创建两个线程,一个负责网络连接通信(connet),一个负责监听(listener)。
  2. 通过connect线程将注册的监听事件发送给Zookeeper服务端。
  3. Zookeeper服务端在注册监听器列表中将注册的监听事件添加到列表中。
  4. Zookeeper服务端监听到有数据或路径变化,就会将这个消息发送给listener线程。
  5. 客户端接收到通知后,会执行相应的回调方法来处理节点的变化。

写数据流程

客户端写数据请求提交给Leader节点流程
在这里插入图片描述

客户端写数据请求提交给Follower节点流程
在这里插入图片描述

Paxos算法

一种基于消息传递且具有高度容错特性的一致性算法

算法流程

在一个Paxos系统中,将所有节点划分为Proposer(提议者),Acceptor(接受者),和Learner(学习者)
注意:每个节点都可以身兼数职

  1. Prepare准备阶段

     Proposer生成全局唯一且递增的Proposal ID,向所有Acceptor发送Propose请求,这里无需携带提案内容,只携带Proposal ID即可
     Acceptor收到Propose请求后,做出“两个承诺,一个应答”
     	不再接受Proposal ID小于等于当前请求的Propose请求
     	不再接受Proposal ID小于当前请求的Accept请求
     	不违背以前做出的承诺下,回复已经Accept过的提案中Proposal ID最大的那个提案的Value和Proposal ID,没有则返回空值
    
  2. Accept接受阶段

     Proposer收到多数Acceptor的Promise应答后,从应答中选择Proposal ID最大的提案的Value,作为本次要发起的提案。
     如果所有应答的提案Value均为空值,则可以自己随意决定提案Value。然后携带当前Proposal ID,向所有Acceptor发送Propose请求
     Acceptor收到Propose请求后,在不违背自己之前做出的承诺下,接受并持久化当前Proposal ID和提案Value
    
  3. Learn学习阶段

     Proposer收到多数Acceptor的Accept后,决议形成,将形成的决议发送给所有Learner
    

客户端命令

在这里插入图片描述

  • 查看节点状态
stat  <path>

在这里插入图片描述

czxid:创建节点的事务 zxid
	每次修改 ZooKeeper 状态都会产生一个 ZooKeeper 事务 ID。事务 ID 是 ZooKeeper 中所有修改总的次序
ctime:
	znode 被创建的毫秒数
mzxid:
	znode 最后更新的事务 zxid
mtime:
	znode 最后修改的毫秒数
pZxid:
	znode 最后更新的子节点 zxid
cversion:
	znode 子节点变化号,znode 子节点修改次数
dataversion:
	znode 数据变化号
aclVersion:
	znode 访问控制列表的变化号
ephemeralOwner:
	如果是临时节点,这个是 znode 拥有者的 session id。如果不是临时节点则是 0
dataLength:
	znode 的数据长度
numChildren:
	znode 子节点数量
  • 查看节点信息
ls  <path>

在这里插入图片描述

  • 创建节点
create  <option> <path>
option:
	-s:含有序列
	-e:临时节点
  • 获取节点信息
get  <path>

在这里插入图片描述

  • 删除节点
delete  <path>
  • 递归删除节点
deleteall  <path>

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2250150.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

MD5算法加密笔记

MD5是常见的摘要算法。 摘要算法&#xff1a; 是指把任意⻓度的输⼊消息数据转化为固定⻓度的输出数据的⼀种密码算法. 摘要算法是 不可逆的, 也就是⽆法解密. 通常⽤来检验数据的完整性的重要技术, 即对数据进⾏哈希计算然后⽐ 较摘要值, 判断是否⼀致. 常⻅的摘要算法有: MD5…

【LeetCode每日一题】——717.1比特与2比特字符

文章目录 一【题目类别】二【题目难度】三【题目编号】四【题目描述】五【题目示例】六【题目提示】七【解题思路】八【时空频度】九【代码实现】十【提交结果】 一【题目类别】 数组 二【题目难度】 简单 三【题目编号】 717.1比特与2比特字符 四【题目描述】 有两种特…

ATTCK红队评估实战靶场(二)

http://vulnstack.qiyuanxuetang.net/vuln/?page2 描述&#xff1a;红队实战系列&#xff0c;主要以真实企业环境为实例搭建一系列靶场&#xff0c;通过练习、视频教程、博客三位一体学习。本次红队环境主要Access Token利用、WMI利用、域漏洞利用SMB relay&#xff0c;EWS re…

SpringMVC |(一)SpringMVC概述

文章目录 &#x1f4da;SpringMVC概述&#x1f407;三层架构&#x1f407;异步调用 &#x1f4da;SpringMVC入门案例&#x1f407;入门案例&#x1f407;注意事项 &#x1f4da;小结 学习来源&#xff1a;黑马程序员SSM框架教程_SpringSpringMVCMaven高级SpringBootMyBatisPlus…

uniapp实现APP版本升级

App.vue 直接上代码 <script>export default {methods: {//APP 版本升级Urlupload() {// #ifdef APP-PLUSplus.runtime.getProperty(plus.runtime.appid, (info) > {// 版本号变量持久化存储getApp().globalData.version info.version;this.ToLoadUpdate(info.versi…

visionpro官方示例分析(一) 模板匹配工具 缺陷检测工具

1.需求&#xff1a;找出图像中的这个图形。 2.步骤 使用CogPMAlignTool工具&#xff0c;该工具是模板匹配工具&#xff0c;见名知意&#xff0c;所谓模板匹配工具就是说先使用该工具对一张图像建立模板&#xff0c;然后用这个模板在其他图像上进行匹配&#xff0c;匹配上了就说…

QT:多ui界面显示

文章目录 1.多ui界面添加2.跳转函数3.返回函数4.Qt5源码工程5.模态显示 1.多ui界面添加 最终生成这个目录 2.跳转函数 void MainWindow::on_pushButton_clicked() {//this->setWindowModality(Qt::WindowModal);test1 *t1 new test1();t1->setParentData(this);this-…

python代码示例(读取excel文件,自动播放音频)

目录 python 操作excel 表结构 安装第三方库 代码 自动播放音频 介绍 安装第三方库 代码 python 操作excel 表结构 求出100班同学的平均分 安装第三方库 因为这里的表结构是.xlsx文件,需要使用openpyxl库 如果是.xls格式文件,需要使用xlrd库 pip install openpyxl /…

CSS技巧之2D转换

目录 2D转换 2D 转换之移动 translate 2D 转换之旋转 rotate 2D 转换中心点 transform-origin 2D 转换之缩放scale 2D 转换综合写法 2D转换 转换(transform)是CS53中具有颠覆性的特征之一&#xff0c;可以实现元素的位移、旋转、缩放等效果转换(lranslorm)你可以简单理解…

架构-微服务-服务治理

文章目录 前言一、服务治理介绍1. 什么是服务治理2. 常见的注册中心 二、nacos简介三、nacos实战入门1. 搭建nacos环境2. 将商品微服务注册到nacos3. 将订单微服务注册到nacos 四、实现服务调用的负载均衡1. 什么是负载均衡2. 自定义实现负载均衡3. 基于Ribbon实现负载均衡 五、…

常见的概念 及 分布式系统的演变过程

文章目录 一. 概念解释1. 应用&#xff08;Application&#xff09;/ 系统&#xff08;System&#xff09;2. 模块&#xff08;Module&#xff09;/ 组件&#xff08;Component&#xff09;3. 分布式&#xff08;Distributed&#xff09;4. 集群&#xff08;Cluster&#xff09…

探讨播客的生态系统

最近对播客发生了兴趣&#xff0c;从而引起了对播客背后的技术&#xff0c;生态的关注。本文谈谈播客背后的技术生态系统。 播客很简单 播客&#xff08;podcast&#xff09;本质上就是以语音的方式发布信息。它和博客非常类似。如果将CSDN 网站上的文字加一个语音播报。CSDN …

微信小程序WXSS全局样式与局部样式的使用教程

微信小程序WXSS全局样式与局部样式的使用教程 引言 在微信小程序的开发中,样式的设计与实现是提升用户体验的关键部分。WXSS(WeiXin Style Sheets)作为微信小程序的样式表语言,不仅支持丰富的样式功能,还能通过全局样式与局部样式的灵活运用,帮助开发者构建美观且易于维…

Apache-maven在Windows中的安装配置及Eclipse中的使用

Apache Maven 是一个自动化项目管理工具&#xff0c;用于构建&#xff0c;报告和文档的项目管理工具。以下是在不同操作系统上安装和配置 Maven 的基本步骤&#xff1a; 安装 Maven 下载 Maven: apache-maven-3.9.9下载地址&#xff0c;也可访问 Apache Maven 官方网站 下载最…

【Web前端】如何构建简单HTML表单?

HTML 表单是 Web 开发中非常重要的组成部分。它们是与用户交互的主要方式&#xff0c;能够收集用户输入的数据。表单的灵活性使它们成为 HTML 中最复杂的结构之一&#xff0c;但若使用正确的结构和元素&#xff0c;可以确保其可用性和无障碍性。 表单的基本结构 HTML 表单使用…

“不可能三角”的“宿敌”,AI辅助技术撕开“第一道口子”

尽管&#xff0c;打破看得好病、看得起病和看得上病这个“不可能三角”&#xff0c;无法一蹴而就&#xff0c;但是在人工智能浪潮的推动下&#xff0c;“不可能”也在逐渐向“可能”转变。 近日&#xff0c;国家医保局在相关新闻发布会上表示&#xff0c;目前已编制发布17批立…

Java-AOP

AOP&#xff0c;面向切面编程是一种思想&#xff0c;动态代理就是这种思想的最主要表现形式。 实现步骤 1、自定义一个注解类 Documented //让自定义注解出现在javadoc中 Target(ElementType.METHOD) //目标对象是方法 Retention(RetentionPolicy.RUNTIME) //在runtime时生效 …

电脑无互联网连接怎么解决?分享5种解决方案

无互联网连接是指设备无法与互联网进行通信或连接失败。这可能会导致我们无法正常上网&#xff0c;给我们的日常生活和工作带来很大的不便。但请不要担心&#xff0c;下面将为您介绍一些解决无互联网连接问题的方法。 一、检查网络是否正常连接 首先&#xff0c;确保您的路由器…

MemVerge与美光科技利用CXL®内存提升NVIDIA GPU利用率

该联合解决方案将 GPU 利用率提高了 77%&#xff0c;并将 OPT-66B 批量推理的速度提高了一倍以上。 2023 年 3 月 18 日&#xff0c;作为大内存软件领域领导者的 MemVerge&#xff0c;与美光科技联手推出了一项突破性解决方案&#xff0c;该方案通过智能分层的 CXL 内存&#x…

Mysql中的 TEXT 和 BLOB 解析

&#x1f680; 博主介绍&#xff1a;大家好&#xff0c;我是无休居士&#xff01;一枚任职于一线Top3互联网大厂的Java开发工程师&#xff01; &#x1f680; &#x1f31f; 在这里&#xff0c;你将找到通往Java技术大门的钥匙。作为一个爱敲代码技术人&#xff0c;我不仅热衷…