kafka安装及配置过程

news2024/12/27 16:09:17

kafka安装及配置过程

kafka 依赖于 zookeeper,zookeeper的安装可看:ZooKeeper的安装和配置过程

先说明一下,集群主机分别是:192.168.127.129,192.168.127.130,192.168.127.131

安装

kafka可以通过官网下载:https://kafka.apache.org/downloads

下载官方推荐版本kafka_2.13-3.4.0.tgz。

/user/local/创建 kafka 目录,将kafka_2.13-3.4.0.tgz通过Xftp工具传到kafka目录
解压kafka_2.13-3.4.0.tgz

[root@localhost kafka]# tar -zvxf kafka_2.13-3.4.0.tgz

kafka配置

当前 kafka_2.13-3.4.0 所在目录:

在这里插入图片描述
kafka_2.13-3.4.0 目录结构:

在这里插入图片描述

kafka的配置文件在config/server.properties文件中,主要修改参数如下,更具体的参数说明以后再整理下。

broker.id是kafka broker的编号,集群里每个broker的id需不同。我是从0开始。
在这里插入图片描述

listeners是监听地址,需要提供外网服务的话,要设置本地的IP地址

在这里插入图片描述

log.dirs是日志目录,需要设置。在 kafka_2.13-3.4.0 目录下创建 logs 目录,log.dirs 日志目录指向 kafka_2.13-3.4.0 目录下的 logs 目录。

在这里插入图片描述

设置Zookeeper集群地址

在这里插入图片描述

num.partitions 为新建Topic的默认Partition数量,partition数量提升,一定程度上可以提升并发性

在这里插入图片描述

内部topic配置

内部__consumer_offsets和__transaction_state两个topic,分组元数据的复制因子,为了保证可用性,在生产上建议设置大于1。

default.replication.factor为kafka保存消息的副本数,如果一个副本失效了,另一个还可以继续提供服务,是在自动创建topic时的默认副本数,可以设置为3

在这里插入图片描述

上面配置只在主机 192.168.127.129 上进行配置,因为要创建kafka集群,所以kafka的所有文件都复制两份,配置文件做相应的修改,尤其是brokerid、listeners 的 IP地址和日志目录。

启动及停止kafka

/usr/local/kafka/kafka_2.13-3.4.0目录下进行操作

1、启动kafka

bin/kafka-server-start.sh -daemon config/server.properties

-daemon 参数会将任务转入后台运行,输出日志信息将写入日志文件logs/server.log,结尾输出started说明启动成功。

[root@localhost kafka_2.13-3.4.0]# cat logs/server.log

在这里插入图片描述

也可以用jps命令,看有没有kafka的进程

在这里插入图片描述

2、 停止kafka

bin/kafka-server-stop.sh config/server.properties

测试

kafka和Zookeeper已启动完成

1、 创建topic

bin/kafka-topics.sh --create --topic test --bootstrap-server 192.168.127.129:9092 --replication-factor 3 --partitions 3

在这里插入图片描述

2、 查看主题

bin/kafka-topics.sh --list --bootstrap-server 192.168.127.129:9092

在这里插入图片描述

3、 发送消息

bin/kafka-console-producer.sh --broker-list 192.168.127.129:9092 --topic test

在这里插入图片描述

4、 接收消息

bin/kafka-console-consumer.sh --bootstrap-server 192.168.127.129:9092 --topic test --from-beginning

在这里插入图片描述

5、 查看特定主题的详细信息

bin/kafka-topics.sh --bootstrap-server 192.168.127.129:9092 --describe  --topic test

在这里插入图片描述

从中可以看到,test主题分了三个区,复制因子是3。

6、 删除主题

bin/kafka-topics.sh --bootstrap-server 192.168.127.129:9092 --delete  --topic test

参考:
https://www.cnblogs.com/zhaoshizi/p/12154518.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/437429.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Polardb 如何替换MYSQL 之 IMCI 列式(2)系统的核心与关键

开头还是介绍一下群,如果感兴趣polardb ,mongodb ,mysql ,postgresql ,redis 等有问题,有需求都可以加群群内有各大数据库行业大咖,CTO,可以解决你的问题。加群请联系 liuaustin3 ,在新加的朋友会分到2群。 本期继续上…

如何docker安装es和kibana以及ik分词器

推荐用portainer进行可视化 1.创建网络--让es和kibana容器互联 docker network create es-net 2.部署单点es docker run -d \ --name es \ -e "ES_JAVA_OPTS-Xms512m -Xmx512m" \ -e "discovery.typesingle-node" \ -v es-data:/usr/sha…

Java垃圾回收机制

Java垃圾回收机制 垃圾回收算法为什么垃圾回收回收哪些内存如何回收Marking-Sweep(标记-清除法)Marking-Compat(标记-整理法) 内存分代年轻代 Minor gc和Major gc的区别常见回收器Serial Garbage CollectorParallel Garbage Colle…

InnoDB的表空间

独立表空间结构 区概念 连续的64个页就是一个区,也就是说一个区默认用1MB空间大小。表空间由若干个连续的区(物理位置上的连续)组成的,256的区被划分成一组。 其中,extent0~extent256个区算是第一组,exten…

基于微信小程序的家政服务预约系统的设计与实现

基于微信小程序的家政预约系统,有效解决了人们网上随时预约家政服务的问题。依托于新的小程序开发环境,解决了"跨系统开发"这个难题,在一个"类操作底层"开发基于微信小程序的家政服务应用。功能模块包括:家政服务项目展示模块,服务报价模块,用户留言评价模…

零门槛,手把手教你玩转ChatGPT,顺滑般国内使用chatGPT

国内是可以玩ChatGPT的,只需要去官网注册一个OpenAI帐号,然后使用第三方接码平台获取短信验证码,就可以成功注册帐号,注册成功之后国内就可以随意使用chatGPT啦。 国内怎么玩chatGPT如下: 官方原版 一、注册OpenAI账…

ansible——编写循环和条件任务

环境:RH294 1. 以student用户的身份并使用student作为密码登录workstation ssh studentworkstation 在workstation上,运行lab control-flow start命令,此命令会创建control-flow工作目录 lab control-flow start 2. 切换到/home/studen…

Python中PIL库的常用用法示例

Python中的PIL(Python Imaging Library,已更名为Pillow)是一个功能强大的图像处理库。以下是一些常用的PIL功能及相应的代码示例: 1. 打开和保存图像: from PIL import Image# 打开图像 image Image.open("exam…

B+G双轮驱动,税友股份迎来数字化东风

配图来自Canva可画 不知不觉之间,国内的数字经济已经蔚然成潮。据相关部门的统计数据显示,去年国内数字经济规模已经达到了50万亿,占到了国内GDP总量的40%以上,增速更是持续领先于GDP增速。与此同时,随着数字中国战略…

权限提升:网站漏洞(提权思路.)

权限提升:网站漏洞 权限提升简称提权,由于操作系统都是多用户操作系统,用户之间都有权限控制,比如通过 Web 漏洞拿到的是 Web 进程的权限,往往 Web 服务都是以一个权限很低的账号启动的,因此通过 Webshell …

The Foundry Modo 16 for Mac v16.1v3 含历史版本

The Foundry MODO是一个功能强大的3D建模、动画和渲染软件,被广泛应用于游戏开发、电影制作、产品设计和建筑可视化等领域。 以下是一些MODO的优点: 1. 强大的建模工具:MODO提供了一系列丰富的建模工具,包括多边形建模、NURBS建…

mysql索引失效的坑

目录 前言 博客文章分享 对索引字段做函数操作 隐式类型转换 隐式字符编码转换 原因分析 解决方法: 前言 在MySQL中,有时候会因为语句使用不当导致sql不走索引,从而使数据库的压力变大。本篇分享一下sql不走索引的坑,让大家…

Nginx 和Rewrite

系列文章目录 文章目录 系列文章目录一、常规的nginx正则表达式1.location和rewrite的区别2.常用的nginx的正则表达式3.nginx里面的优先级 二、rewrite1.Rewrite2.实验 总结 一、常规的nginx正则表达式 1.location和rewrite的区别 从功能看 rewrite 和 location 似乎有点像&a…

GPT-2隐私泄露论文阅读:Extracting Training Data from Large Language Models

文章目录 论文地址:原文阐释:渔樵问对:原理梗概预防策略隐私策略这个新颖的攻击方式是什么?三种典型采样策略:隐私风险文章第5页第二段中提到的 memorized training exam ple 是什么意思 ThreatModel &Ethics什么是文本的zlib…

【Apache 网页与安全优化】

1.网页压缩 检查是否安装 mod_deflate 模块 apachectl -t -D DUMP_MODULES | grep "deflate"如果没有安装mod_deflate 模块,重新编译安装 Apache 添加 mod_deflate 模块 systemctl stop httpd.service cd /usr/local/httpd/conf mv httpd.conf httpd.c…

数字硬件建模SystemVerilog-通信总线建模 --Interface端口的概念

来到了SV最后一部分,预计三篇文章,两周更完,所有的思维导图如下: 概述 SystemVerilog Interface是modport的一种,但比简单的输入、输出或输入输出端口的功能更多。在其最简单的形式中,Interface端口将相关的…

关于户外旋转LED显示屏的核心技术

户外旋转LED显示屏因可视范围达360的新颖结构,并且成本低廉,而得到了迅速的发展。虽然看着外观与普通LED显示屏没有什么大的异样,但为使设计的户外旋转LED显示屏具有较好的显示效果,背后也是需要通过众多工程技术人员克服技术难点…

git lfs简易使用教程

参考资料: https://zzz.buzz/zh/2016/04/19/the-guide-to-git-lfs/ 这篇随笔简单记录一下git lfs的使用教程,只记录最为常用的部分,并阐述原理,方便后面查阅。 首先说明一下git lfs的原理,看名称:git lfs。…

电力监控系统在智能建筑电气节能中的应用

摘要:电力监控系统在智能建筑中被广泛使用,其以及时、稳定、安全、便捷的优点提高了电能使用效率,节约了成本。借助电力监控系统能准确判断故障发生原因和位置,为智能建筑的安全性和智能化发展提供了有力的支持 关键词&#xff1…

华为,找寻科技秋天里的春光

捷克导演伏拉基米尔米切尔在2001年指导了一部电影,叫做《秋天里的春光 Bab lto》。 我很喜欢这个名字,它吐露着一种简单质朴的美好。回望历史,我们会发现文明与知识经常陷入秋天,但却因为人类的一次次努力,最终我们迎来…