大数据之Kafka基本知识和架构介绍

news2024/11/18 4:29:02

文章目录

  • 前言
  • 一、Kafka的基本介绍
    • (一)Kafka的特点
  • 二、Kafka的架构
  • 总结


前言

#博学谷IT学习技术支持#
本篇文章主要从Kafka的基本介绍,Kafka的架构入手,如果有不恰当或者有疑问的地方,非常欢迎各位的意见和建议!

一、Kafka的基本介绍

Kafka底层由scala语言编写,其是一个分布式,支持分区,多副本以及多订阅者的日志系统,简称分布式MQ系统,Kafka是消息队列的中间件产品,可以用于搜索日志,监控日志以及访问日志等等。kafka在进行消息保存时会根据Topic进行归类,发送消息者称为Producer,消息接收者称为Consumer,在Kafka集群中存在多个kafka实例,每个实例(Server)称为Broker。无论是Kafka集群,Producer或者是Consumer都依赖于Zookeeper集群,所以开启Kafka集群先需要保证Zookeeper集群的正常运行。

(一)Kafka的特点

  1. 可靠性: 分布式, 多分区 ,多副本和容错等
  2. 可扩展性: Kakfa集群轻松缩放和扩展, 无需停机
  3. 耐用性: Kafka使用分布式提交日志, 这个意味着消息会尽可能快速的保存在磁盘上, 因此它是持久的
  4. 性能: Kafka集群对于发布和订阅消息都具有高吞吐量, 即使存储的数据量很大,也能保证稳定的性能,零停机以及零数据丢失

二、Kafka的架构

在这里插入图片描述
Kafka主要包括Producer,Kafka集群和Consumer,其重要内容以及作用如下:

  1. Producer:数据生产者,发布数据到Kakfa集群的终端或服务
  2. Kafka集群:Kafka集群又称为Kafka Cluster,该集群由多台服务器组成,每一台服务称为Broker,在Broker中存储多个Topic逻辑容器,生产者存储数据时将一类数据存放在某个Topci下,消费者再从对应的Topic中消费数据;
    每个Topic存在分片和副本的概念:
    (1)Shard分片:一个Topic可以被分成多个分片,同一Topic下的不同分片分别放置在不同的Broker中
    (2)Replicas副本:可以对每一个分片构建多个副本,分别存在不同的Broker中,副本数量最多和Broker数量一致,从而保证数据不丢失
  3. Consumer:消费者,主要负责消费Kafka集群中的数据

总结

Kafka是消息队列的中间件产品,通过Kafka可以对代码进行解耦,也可以提高数据的处理效率,提高数据处理效率的同时还能保证数据的安全性。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/149517.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

jetson连接PCF8591读取模拟电压值

文章目录一.PCF8591介绍PCF8591引脚说明PCF8591设置地址二.PCF8591模块功能描述:主要性能指标:三.PCF8591模块接口说明三.PCF8591连接jetson nano四.jetson nano 获取PCF8591模块的输入输出python版本代码C版本代码一.PCF8591介绍 PCF8591是一个单片集成、 单独供电、 低功耗、…

【Linux】Linux编译器—gcc/g++的使用

目录一.背景二.gcc如何生成1.预处理(进行宏替换)2.编译(生成汇编)3.汇编(生成机器可识别代码)4.链接(生成可执行文件或库文件)三.函数库1.函数库的分类(1)动态库(2)静态库2.区别3.拓展四.记忆1.选项2.后缀五.gcc选项该篇博客需要使用vim编译器&#xff0…

excel排序技巧:这些不同方式的排序方法你都会了么

都说这Excel里暗藏玄机,求最大值的MAX函数可以用于查找,用于查找的LOOKUP函数可以对数据进行四舍五入…就连看似人人都会的Excel自动排序,也藏着许多我们不知道的“小秘密”。今天我们就来探索一下这些藏在自动排序中的“小秘密”。一、扩展选…

Numpy数据分析csv文件的应用

1.数据存取与函数 1.1.数据的CSV文件存取 CSV(Comma-Separated Value,逗号分隔值) CSV是一种常见的文件格式,用来存储批量数据 np.savetxt(frame, array, fmt‘%.18e’, delimiterNone) 复制代码 frame : 文件、字符串或产生器,可以是.gz或.bz2的压缩…

SpringCloud从入门到精通(七)

Gateway Gateway-概述 网关旨在为微服务架构提供一种简单而有效的统一的API路由管理方式。 在微服务架构中,不同的微服务可以有不同的网络地址,各个微服务之间通过互相调用完成用户请求,客户端可能通过调用N个微服务的接口完成一个用户请求…

【C++】优先级队列、仿函数和反向迭代器

​🌠 作者:阿亮joy. 🎆专栏:《吃透西嘎嘎》 🎇 座右铭:每个优秀的人都有一段沉默的时光,那段时光是付出了很多努力却得不到结果的日子,我们把它叫做扎根 目录👉priority…

工具及方法 - 字幕下载网站

1,射手网(伪) 首页 - 射手网(伪) - assrt.net - 字幕下载,字幕组,中文字幕,美剧字幕,英剧字幕,双语字幕,新番字幕 2,国外网站。 Subscene - Passionate abo…

sentinel-热点参数限流

Pages 60 Sentinel 官方网站 OpenSergo 微服务治理 文档 Read Me新手指南Sentinel 介绍FAQRoadmap如何使用工作原理流量控制集群流控(分布式流控)网关流控熔断降级热点参数限流系统自适应限流黑白名单控制实时监控数据动态规则控制台生产环境使用 Sent…

【自学Python】Python IDLE使用

Python IDLE使用 Python IDLE使用教程 在 Windows 上安装好 Python 之后,Python 都会提供一个 Python 命令行工具,就叫 IDLE。IDLE 是一个 Python Shell,Python Shell 可以用于与 Python 进行交互。 Python IDLE使用 打开Python IDLE 首…

分布式基础篇4 —— 基础篇完结(谷粒商城)

分类维护一、三级分类后端实现准备工作跨域问题关闭 ESLint 检查前端实现二、分类删除前端完善分类列表后端实现——删除配置发送请求代码片段前端实现——删除三、分类增加前端实现四、分类修改五、拖拽菜单拖拽效果实现拖拽数据收集拖拽功能完成拖拽功能完善六、批量删除品牌…

粒子系统-常用子模块

目录 Emission (发射) Shape (形状) Cone (锥形) Velocity over Lifetime (运动) Limit Velocity over Lifetime (速度限制) Force over lifetime (受力) Color over Lifetim…

【C语言航路】第十站:指针进阶(二)

目录 六、函数指针数组 七、指向函数指针数组的指针 八、回调函数 1.回调函数的概念 2.回调函数实现计算器 3.回调函数实现冒泡排序 总结 六、函数指针数组 我们已经知道了函数指针,它的类型是int(*)(int,int)。那么我们能否进行推广呢?将其推广成…

基于AD Event日志实时检测DSRM后门

01、简介每个域控制器都有一个目录还原模式(DSRM)帐户,它的密码是在安装域控时设置的,实际上它对应的就是sam文件里的本地管理员“administrator”,基本很少会被重置,因此有着极强的隐蔽性。攻击者通过获取…

面试篇之NoSQL

面试篇之NoSQL一、redis持久化1.1、字节1.2、微软1.3、题解1.3.1、RDB快照1.3.2、AOF日志1.3.3、最佳实践二、redis删除策略2.1、字节2.2、阿里云2.3、题解2.3.1、过期删除2.3.2、内存淘汰2.3.3、LRU2.3.4、LFU三、redis高可用3.1、字节3.2、美团3.3、微软3.4、题解3.4.1、主从…

前端性能优化(六):传输加载优化

目录 一:启用压缩 Gzip 二:启用 Keep Alive 三:HTTP 资源缓存 3.1.HTTP 缓存方案 3.2.各大网站缓存策略参考 四:Service Worker 五:HTTP2 的性能提升 5.1.HTTP2 优势 5.2.开启 HTTP2 5.3.Server Push&#x…

【Spring(五)】带你深入了解bean的生命周期

1.5 bean的生命周期 bean的实例化已经说完了,我们最后再来讲讲bean的生命周期。 我们主要来围绕着bean生命周期控制来学习,那么什么是生命周期呢?其实就是一个东西从创建到消亡的完整过程,比如人从出生到死亡的整个过程&#xff…

【MySQL进阶】深入理解redoLog日志

【MySQL进阶】深入理解redoLog日志 文章目录【MySQL进阶】深入理解redoLog日志一:redo日志概述二:redo日志格式三:Mini-Transaction1:以组的形式写入redo日志2:Mini-Transaction的概念四:redo日志的写入过程…

富淼转债,优彩转债上市价格预测

富淼转债基本信息转债名称:富淼转债,评级:A,发行规模:4.5亿元。正股名称:富淼科技,今日收盘价:18.25,转股价格:20.26。当前转股价值 转债面值 / 转股价格 * …

(3分钟速览)SLAM中的三大金刚-H E F Matrix

编辑切换为居中添加图片注释,不超过 140 字(可选)三个矩阵的自由度:单应矩阵H 自由度8基础矩阵F 自由度7本质矩阵E 自由度5或者8,这个是根据使用旋转矩阵还是旋转向量编辑切换为居中添加图片注释,不超过 14…

每日一题之Vue的异步更新实现原理是怎样的?

最近面试总是会被问到这么一个问题:在使用vue的时候,将for循环中声明的变量i从1增加到100,然后将i展示到页面上,页面上的i是从1跳到100,还是会怎样?答案当然是只会显示100,并不会有跳转的过程。…