kafka3.0安装使用

news2024/11/18 1:38:48

一:定义

Kafka 传 统定义: Kafka 是一个 分布式 的基于 发布 / 订阅模式 消息队列 Message
Queue ),主要应用于大数据实时处理领域。
Kafka 最 新定义 : Kafka 是 一个开源的 分 布式事件流平台 Event Streaming
Platform ),被数千家公司用于高性能 数据管道 流分析 数据集成 关键任务应用
目 前企 业中比 较常 见的 消息 队列产 品主 要有 Kafka ActiveMQ RabbitMQ
RocketMQ 等。
在大数据场景主要采用 Kafka 作为消息队列。在 JavaEE 开发中主要采用 ActiveMQ
RabbitMQ RocketMQ

二、kafka体系

 

1、 Producer 消息生产者,就是向 Kafka broker 发消息的客户端。
2 Consumer 消息消费者,向 Kafka broker 取消息的客户端。
3 )、 Consumer Group CG ): 消费者组,由多个 consumer 组成。 消费者组内每个消
费者负责消费不同分区的数据,一个分区只能由一个组内消费者消费;消费者组之间互不
影响。 所有的消费者都属于某个消费者组,即 消费者组是逻辑上的一个订阅者
4 Broker 一台 Kafka 服务器就是一个 broker 。一个集群由多个 broker 组成。一个
broker 可以容纳多个 topic
5 Topic 可以理解为一个队列, 生产者和消费者面向的都是一个 topic
6 Partition 为了实现扩展性,一个非常大的 topic 可以分布到多个 broker (即服
务器)上, 一个 topic 可以分为多个 partition ,每个 partition 是一个 有序的队列
7 Replica 副本。一个 topic 的每个分区都有若干个副本,一个 Leader 和若干个
Follower
8 Leader 每个分区多个 副本的 ,生产者发送数据的对象,以及消费者消费数
据的对象都是 Leader
9 Follower 每个分区多个 副本中的 ,实时从 Leader 中同步数据,保持和
Leader 数据的同步。 Leader 发生故障时,某个 Follower 会成为新的 Leader

三、安装

1、环境背景

centos7.5   

已安装zookeeper 可参考 zookeeper安装使用

2、下载  版本3.0  非集群  后面单独出集群

官网 Apache Kafka

 

某云盘
链接:https://pan.baidu.com/s/181CN5W8g_Rjo42IG7xZqKA 
提取码:v0w1
3.上传解析 
kafka_2.12-3.0.0.tgz压缩包上传/opt 目录 
解压
tar -zxvf kafka_2.12-3.0.0.tgz
4、修改解压后的文件名称
mv kafka_2.12-3.0.0/ kafka

5、进入到/opt/kafka 目录,修改配置文件 

cd config/
 
vim server.properties
1、#kafka 运行日志 ( 数据 ) 存放的路径,路径不需要提前创建, kafka 自动帮你创建,可以
配置多个磁盘路径,路径与路径之间可以用 " " 分隔
2、zookeeper连接地址

6、配置环境变量

/etc/profile.d/my_env.sh 文件中增加 kafka 环境变量配置 

sudo vim /etc/profile.d/my_env.sh

增加如下内容

#KAFKA_HOME
export KAFKA_HOME=/opt/kafka
export PATH=$PATH:$KAFKA_HOME/bin
 

 

 刷新环境变量

source /etc/profile

启动

 bin/kafka-server-start.sh -daemon  config/server.properties
 

查看进程

jps -l
 

停止

 bin/kafka-server-stop.sh

 

此处先安装单节点 后面会出和spring Boot相关集成和集群安装

参照

kafka+springboot入门_龙谷情Sinoam的博客-CSDN博客

Kafka安装部署(3.0.0)_kafka3.0安装_tianyi6_6的博客-CSDN博客

Kafka3.0.0安装使用教程-CSDN博客

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/390302.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

安卓反编译入门01-apktool反编译使用流程

apktool反编译使用流程1.获取工具apktool反编译 APK,首先要有工具apktool.jar apktool下载地址:https://bitbucket.org/iBotPeaches/apktool/downloads作者github 地址:https://github.com/iBotPeaches/Apktool无脑下最新版就行了。将下载好的…

计算机网络协议详解(一)

文章目录🔥计算机网络通信🔥TCP/IP协议群🔥TCP协议传输特点🔥服务端口🔥数据包与处理流程🔥计算机网络通信 什么是通信协议 简单来说,通信协议就是计算机之间通过网络实现通信时事先达成的一种…

陀螺仪小车(Forerake-Car)

项目简介:搭建一辆有arduino UNO 与rnf24l01组成的小车;手部安装由arduino nano开发板、nrf24l01、imu构成的手势控制器,利用手势控制器检测手部状态、发送信号对小车进行前进,实现基于卡尔曼滤波的MPU6050姿态结算。 准备工作&am…

蓝桥杯2023/3/2

1. 小蓝正在学习一门神奇的语言,这门语言中的单词都是由小写英文字母组 成,有些单词很长,远远超过正常英文单词的长度。小蓝学了很长时间也记不住一些单词,他准备不再完全记忆这些单词,而是根据单词中哪个字母出现得最…

格密码学习笔记(一):格的定义、基本区域和行列式

文章目录格的基本定义格的基本区域格的行列式致谢格的基本定义 定义1 给定nnn维实数空间Rn\mathbb{R}^nRn中的一组线性无关向量B{b1,…,bn}⊂Rn\bm{B} \{ \bm{b}_1, \dots, \bm{b}_n \} \subset \mathbb{R}^nB{b1​,…,bn​}⊂Rn,其整数系数线性组合构成的集合被称…

列表(list)、数组(numpy)、张量(tensor)、元组各自怎样查看形状

列表(list)、数组(numpy)、张量(tensor)、元组各自怎样查看形状 一、查看列表(list)的形状 1.shape import numpy as npL [[1,2],[3,4],[5,6],[7,8]] L np.array(L)print(L.sha…

大数据周会-本周学习内容总结04

目录 1、mysql数据同步到es 1.1、通过logstash同步数据 1.2、canal数据同步 1.3、通过logstash将本地文件导入es 2、git 1、mysql数据同步到es 1.1、通过logstash同步数据 elastic官方文档:如何使用Logstash和JDBC确保 Elasticsearch与关系型数据库保持同步&a…

5. unity之组件

1. 组件Component 物体可以挂载不同的组件以实现不同的功能,需要什么功能就添加什么组件。当我们选中一个物体后,就可以在右侧的属性窗口中添加组件,如下图所示: 2. AudioSource组件 使用这个组件可以为模型添加音乐或者声效效…

32- PyTorch基础 (PyTorch系列) (深度学习)

知识要点 PyTorch可以说是现阶段主流的深度学习框架 . 1 PyTorch入门 1.1 PyTorch概述 Torch是什么?一个火炬!其实跟Tensorflow中Tensor是一个意思,可以当做是能在GPU中计算的矩阵.,也可以当做是ndarray的GPU版! PyT…

Aspose.Words for JasperReports Crack

Aspose.Words for JasperReports Crack 添加了在文档中指定字符间距的功能。 添加了文档样式选项,允许您指定是否自动重新定义样式。 显著改进了图表渲染: 渲染径向渐变笔刷时添加了相对坐标支持。 增加了对呈现趋势线和趋势线R平方的支持。 增加了对渲染…

zabbix自定义模版Templates和监控项items

注:此处使用的客户端和服务端版本均为 ubuntu 2204 自定义模板和监控项实现过程 在Zabbix 被监控主机上编写自定义监控项的取值的脚本,并加执行权限在Zabbix 被监控主机上的配置文件中添加自定义监控项,指定 key 和 对 key 赋值的脚本及参数在Zabbix Server 上使用…

docker环境安装tomcat

一 安装tomcat 1. 查找tomcat镜像 docker search tomcat 2. 安装指定版本的tomcat镜像 docker pull tomcat:9.0 二 启动tomcat镜像 docker run -d -p 8080:8080 --name tomcat tomcat:9.0 三 访问tomcat页面 http://ip:8080 第一访问会出现下面的情况 四 解决上述问题 进入…

C语言-基础了解-12-C数组

C数组 一、C数组 C 语言支持数组数据结构,它可以存储一个固定大小的相同类型元素的顺序集合。数组是用来存储一系列数据,但它往往被认为是一系列相同类型的变量。 数组的声明并不是声明一个个单独的变量,比如 runoob0、runoob1、…、runoo…

SpringBoot_第五章(Web和原理分析)

目录 1:静态资源 1.1:静态资源访问 1.2:静态资源源码解析-到WebMvcAutoConfiguration 2:Rest请求绑定(设置put和delete) 2.1:代码实例 2.2:源码分析到-WebMvcAutoConfiguratio…

穿越时空:当ChatGPT遇见stable-diffusion,你不敢相信的创意艺术之旅!

前言 欢迎来到一场创意的旅程,这里将聚焦于 ChatGPT 和 stable-diffusion 这两个令人激动的技术。在这篇文章中,我们将会探索这两种技术如何结合使用,为艺术创作带来全新的可能性。我们将探讨如何利用 ChatGPT 生成富有想象力的创意&#xf…

Mac Book pro(M1)使用总结

1、拿到电脑激活的时候,一定要记住账号密码及安全问题的答案。 2、显示隐藏文件夹: 3、显示.git或者gitignore等隐藏后缀的文件: 打开终端 defaults write com.apple.finder AppleShowAllFiles TRUE重启Finder在终端输入 killall Finder …

如何在虚拟机中安装ikuai软路由系统

首先访问ikuai官网下载固件固件下载-爱快 iKuai-商业场景网络解决方案提供商 (ikuai8.com) 根据需求下载 然后创建一个虚拟机,点击下一步 选择更下载的ISO映像文件,点击下一步 点击下一步 设置一下名称和储存位置,点击下一步 根据需求设置&a…

k8s集群调度

1、调度约束Kubernetes 是通过 List-Watch 的机制进行每个组件的协作,保持数据同步的,每个组件之间的设计实现了解耦。1.1 List-Watch 用户通过kubectl命令提交请求交给apiserver创建pod,然后apiserver将pod信息存放到etcd中,之后…

并发编程——ReentrantLock

如果有兴趣了解更多相关内容,欢迎来我的个人网站看看:耶瞳空间 一:基本介绍 从Java 5开始,引入了一个高级的处理并发的java.util.concurrent包,它提供了大量更高级的并发功能,能大大简化多线程程序的编写…

shell基础(5)算数计算:运算语法、自增自减

文章目录1. shell算数运算的特点2. 运算符一览3. 运算语法3.1 整形运算3.2. 小数运算 ing4. 自增自减4.1. a与a4.2. 自加1. shell算数运算的特点 Shell 和其它编程语言不同,Shell 不能直接进行算数运算,必须使用数学计算命令。Shell只支持整数运算&#…