kafka集群

news2024/11/14 3:35:26

目录

broker

 ZooKeeper

consumer group(消费者组)

分区(Partitions)

副本(Replicas)

主题(Topic)

偏移量(offset)


broker

一个kafka进程就是一个broker,这些broker集群需要交给ZooKeeper去管理

  1. 一个Kafka的集群通常由多个broker组成,这样才能实现负载均衡、以及容错
  2.  broker是无状态(Sateless)的,它们是通过ZooKeeper来维护集群状态
  3.  一个Kafka的broker每秒可以处理数十万次读写,每个broker都可以处理TB消息而不影响性能

 ZooKeeper

 ZK用来管理和协调broker,并且存储了Kafka的元数据(有多少topic、partition/consumer)

 ZK服务主要用于通知生产者和消费者Kafka集群中有新的broker加入、或者Kafka集群中出现故障的broker。

 一个kafka集群通常是由多个broker组成的,这样才能够负责均衡,以及容错

consumer group(消费者组)

  1.  consumer group是kafka提供的可扩展且具有容错性的消费者机制
  2.  一个消费者组可以包含多个消费者
  3.  一个消费者组有一个唯一的ID(group Id)
  4.  组内的消费者一起消费主题的所有分区数据

 

分区(Partitions)

在Kafka集群中,主题被分为多个分区,一个topic是由很多个分区组成的,可以理解为kafka是按分区存储的

副本(Replicas)

副本可以确保某个服务器出现故障时,确保数据依然可用

在Kafka中,一般都会设计副本的个数>1

主题(Topic)

  1. 主题是一个逻辑概念,用于生产者发布数据,消费者拉取数据
  2.  Kafka中的主题必须要有标识符,而且是唯一的,Kafka中可以有任意数量的主题,没有数量上的限制
  3.  在主题中的消息是有结构的,一般一个主题包含某一类消息
  4.  一旦生产者发送消息到主题中,这些消息就不能被更新(更改)

偏移量(offset)

  1. offset记录着下一条将要发送给Consumer的消息的序号
  2.  默认Kafka将offset存储在ZooKeeper中
  3.  在一个分区中,消息是有顺序的方式存储着,每个在分区的消费都是有一个递增的id。这个就是偏移量offset
  4.  偏移量在分区中才是有意义的。在分区之间,offset是没有任何意义的

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/798698.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

C++ 名字空间namespace

在C中支持三种域:局部域、名字空间域和类域。 名字空间域是随标准C而引入的。它相当于一个更加灵活的文件域(全局域),可以用花括号把文件的一部分括起来,并以关键字namespace开头给它起一个名字: namespac…

多线程与高并发(17)——多线程总结(很全)

总结并复习了一下之前写的多线程的知识,见下图。 不够清楚可私信或者processOn。

983. 最低票价;1911. 最大子序列交替和;894. 所有可能的真二叉树

983. 最低票价 核心思想:对于365天中的一天,如果它不在旅行的日子,我们在这一天可以不花钱;如果它在旅行的日期,那么要么这一天花钱,要么在前面花钱的时间范围内。所以想到了动态规划,对于dp[x…

深入篇【C++】【容器适配器】:(stack)(queue)(priority_queue)模拟实现(详细剖析底层实现原理)

深入篇【C】【容器适配器】: (stack)&& (queue)&& (priority_queue)模拟实现(详细剖析底层实现原理) Ⅰ.容器适配器Ⅱ.认识dequeⅢ.stack模拟实现Ⅳ.queue模拟实现Ⅴ.priority_queue模拟实现1.priority_queue()2.…

深度学习入门(一):神经网络基础

一、深度学习概念 1、定义 通过训练多层网络结构对位置数据进行分类或回归,深度学习解决特征工程问题。 2、深度学习应用 图像处理语言识别自然语言处理 在移动端不太好,计算量太大了,速度可能会慢 eg.医学应用、自动上色 3、例子 使用…

ARM将常数加载到寄存器方法之LDR伪指令

一、是什么? LDR Rd,const伪指令可在单个指令中构造任何32位数字常数,使用伪指令可以生成超过MOV和MVN指令 允许范围的常数. 实现原理: (1)如果可以用MOV或MVN指令构造该常数,则汇编程序会生成适当的指令 (2)如果不能用MOV或MVN指令构造该常数,则汇编程序会执行下列…

C++中一些常见的运算符重载代码模板

可重载和不可重载的运算符 C中可重载的运算符如下: 而不可重载的运算符如下: 运算符重载的代码模板 下面是代码中形参的统一解释: lhs: 左操作数,通常为运算符左侧的对象或值。 rhs: 右操作数,通常为运算符右侧的对象…

性能测试、负载测试、压力测试-之间的差异

性能测试、负载测试、压力测试-之间的差异 目录 1、什么是性能测试2、什么是负载测试3、什么是压力测试4、性能测试 vs 负载测试 vs 压力测试5、为什么要进行性能测试6、为什么要进行负载测试7、为什么要进行压力测试8、什么时候使用性能测试9、什么时候使用负载测试10、什么时…

【数据结构】实验七:字符串

实验七 字符串实验报告 一、实验目的与要求 1)巩固对串的理解; 2)掌握串的基本操作实现; 3)掌握 BF 和 KMP 算法思想。 二、实验内容 1. 给定一个字符串ababcabcdabcde和一个子串abcd,查找字串是否在主串中出现。…

Ansible安装部署与应用

文章目录 一、ansible简介二、ansible 环境安装部署三、ansible 命令行模块3.1 command 模块3.2 shell 模块3.3 cron 模块3.4 user 模块3.5 group 模块3.6 copy 模块3.7 file 模块3.8 hostname 模块3.9 ping 模块3.10 yum 模块3.11 service/systemd 模块3.12 script 模块3.13 m…

可穿戴设备的发展

目录 1.什么是可穿戴设备 2.可穿戴设备的发展过程 3.可穿戴设备带来的福利 4.可穿戴设备未来的发展趋势 1.什么是可穿戴设备 可穿戴设备是指可以佩戴在身体上并与用户进行交互的电子设备。它们通常以小型、便携和智能化的形式呈现,与用户的服装、配饰或身体部位相…

nplayer读取电脑共享文件

Step 1: 在电脑中开启共享。 ▼想要访问电脑中的文件,电脑上需要有一个含密码的账户。 所以没有密码的首先得去控制面板为当前用户添加一个密码。 ▼下面添加共享文件夹。比如我们想共享music文件夹,则右键该文件夹>属性>共享>高级…

ChatGPT安卓版正式发布,附安装包,但有款手机无法使用

ChatGPT安卓版如约而至,OpenAI正式宣布该应用已在谷歌应用商店上架,用户可以免费下载,对话不限次数。 但是安卓版ChatGPT目前仅在美国、印度、孟加拉国和巴西提供下载,下周将会推广至更多国家。 网页端下载链接: http…

POM+数据驱动+pytest

POM数据驱动pytest 数据驱动:将测试过程中所有测试数据,进行提取、保存以及管理,提升框架的可维护性,一般情况下会使用到的数据类型:Excel、yaml、json、py......,如:登录场景,需要…

《长沙市“1+2+N”先进制造业集群提质升级研究》 课题调研组莅临麒麟信安展开专题调研

为提质升级长沙“12N”先进制造业产业集群,构建与现代产业体系相适应的产业生态,7月11日下午,由长沙市制造业发展促进中心党委书记沈群等市制造业发展促进中心相关领导以及中南大学王昶、卢锋华、朱思文等教授和多位博士、硕士组成的《长沙市…

视频剪辑矩阵分发系统Unable to load FFProbe报错技术处理?

问题一 报错处理 对于视频剪辑矩阵分发系统中出现的“Unable to load FFProbe”报错问题,可以采取以下技术处理措施进行解决。 1.检查系统中是否正确安装了FFProbe工具,并确保其路径正确配置。 2.检查系统环境变量是否正确设置,包括FFPr…

Rete算法相关内容与实例,搞懂Rete算法这一篇文章就够了,有我自己的理解,也有经典的例子详解,非常详细

Rete算法是一个规则匹配算法,是一个高效的规则匹配算法。Drools从3.X版本到7.X版本一直都是基于Rete算法实现规则匹配的,为了进一步了解Drools,所以就研究一下Rete算法。 Rete算法是由美国工程师Charles L. Forgy在1979年提出的。 该算法的设计的目的就是用于高效地处理规…

【设计模式——学习笔记】23种设计模式——装饰器模式Decorator(原理讲解+应用场景介绍+案例介绍+Java代码实现)

生活案例 咖啡厅 咖啡定制案例 在咖啡厅中,有多种不同类型的咖啡,客户在预定了咖啡之后,还可以选择添加不同的调料来调整咖啡的口味,当客户点了咖啡添加了不同的调料,咖啡的价格需要做出相应的改变。 要求&#xff…

SAP安装笔记

1、准备安装介质,SWPM10SP25,51050829_NW750_JavaExport、SAP_HANA_CLIENT、kernel放到/sapcd/NetWeaver目录下 ​​​​​​​ 进入SWPM10SP25执行./sapinst安装 2、待出现 “Open your browser and paste the following URL address to access the G…

如何从0开始搭建公司自动化测试框架?25k入职新公司的我是这样做的..

搭建的自动化测试框架要包括API测试,UI测试,APP测试三类。以上三类其实可以简化为两类,那就是: 1)接口自动化测试框架搭建 2)UI自动化测试框架搭建。 没问题,安排,且是手把手教你如何…