线上Kafka集群如何调整消息存储时间

news2024/11/25 16:23:52

这里是weihubeats,觉得文章不错可以关注公众号小奏技术,文章首发。拒绝营销号,拒绝标题党

Kafka版本

  • kafka_2.13-3.5.0

背景

Kafka 默认消息存储时间为7天,实际线上的业务使用Kafka更多的是一些数据统计之类的业务,大多是朝生夕死,大概存储1-3天就可以了。为了节省磁盘,避免存储过多的消息浪费磁盘,所以我们需要调整Kafka的消息存储时间

Kafka 配置

这里先给大家科普下Kafka 配置分哪几种吧

  • read-only: 只读参数,或者说是静态参数,修改后只有重启broker才会生效
  • per-broker:动态参数,修改后不用重启broker即可生效
  • cluster-wide: cluster-wide的参数也属于动态参数,修改后会在整个集群范围内生效,对所有Broker都生效。也可以为具体的Broker修改cluster-wide参数

消息存储配置

消息存储配置分两个。一个是broker维度,一个是topic维度

如果是topic配置了存储时间,就使用topic的,如果是broker配置了,就使用broker

broker消息存储配置

我们先看看broker的消息存储时间配置

可以看到这个参数是read-only,意味着改动非常不方便,需要重启。
然后就是过期时间有三个时间维度,小时、分钟、秒
默认是小时,168小时即7天

优先级是 ms > minutes > hours

除了通过设置消息过期时间外,我们还可以设置broker总的消息保存磁盘大小,不过这个一般不设置

topic消息存储配置

可以看到broker的消息存储时间修改需要重启broker是非常不方便的,那么topic的消息存储时间是不是也是需要重启的呢。

所有的topic属性都是可以在不重启broker的情况下进行更改

可以看到配置是retention.ms,默认也是7天

如果要修改topic的配置可以进入到bin目录执行如下命令

./kafka-configs.sh --bootstrap-server localhost:9092 --entity-type topics --entity-name my-topic --add-config retention.ms=86400000

这里是将Topic的消息存储时间调整为86400000(1天)

总结

总的来说Kafka的配置分broker级别和Topic级别。如果我们要修改消息的存储时间,最好是通过修改Topic的存储时间来修改,因为不用重启broker

不过在部署Kafka集群的时候我们也建议设置合理的消息存储时间,避免每个Topic都要定制化配置,才能最大化利用磁盘,避免磁盘浪费

其次从Kafka的这种配置设计来说,我们后续做技术设计的时候也可以采用这种优秀的方式,提供全局+局部的配置,局部配置优先级高于全局,其实如果开源软件使用的多的话,我们会发现大多开源软件的配置都采用这种设计思路

参考

  • Kafka官方文档:https://kafka.apache.org/35/documentation.html#configuration

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1169876.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Screens for Mac 中文版 远程桌面连接控制工具

Screens Mac 版是Mac os平台上的一款Mac VNC 客户终端,能够自由访问远程计算机设备, Screens Mac 版支持各种强大的远程控制辅助工具,例如剪切板共享、快捷方式自定义、安全连接、多屏幕支持、快速扫描连接等。 Screens 4 for mac支持多种远程桌面协议&…

【Orangepi Zero2 全志H616】资料及环境搭建

点击跳转 点击跳转 点击跳转 点击跳转 点击跳转 点击跳转 跳转到此处 跳转到此处 跳转到此处 跳转到此处 跳转到此处 跳转到此处 官网资料下载 GitHub:新版本的 orangepi-build 源码 环境搭建:新手配置教程 打开 MobaXterm ,单击左上的图标…

element-ui属性、事件、方法

在使用组件的方法时需要在对应的组件中加入 ref “组件别名” 在调用方法时直接使用 this.$refs.组件别名.方法名() 注意:在element-UI中所有组件 都存在 属性 事件 和方法 属性:直接写在对应的组件标签上,使用方法 :属性名 属性值 方式 事…

ABAP简单的队列设置QRFC

场景:用job的方式在接口里启用job,如果接口调用比较频繁,存在同一时间启动相同job的情况,会导致锁表锁程序这种情况。 查阅job函数,发现在JOB_CLOSE函数里自带了类似队列的参数,但是因为是接口&#xff0c…

如何控制 LLM 的输出格式和解析其输出结果?

现在很多人对于如何使用像 ChatGPT 这样的 LLM 已经比较有经验了,可以使用各种不同的 Prompt 得到自己想要的结果。但有时候我们的使用场景不局限于手动操作,而是需要结合程序去调用 API,并且解析 API 的返回结果,从而实现一些自动…

如何在 Unbuntu 下安装配置 Apache Zookeeper

简介 Zookeeper 是 apache 基金组织下的项目,项目用于简单的监控和管理一组服务,通过简单的接口就可以集中协调一组服务,如配置管理,信息同步,命名,分布式协调。 准备工作 Ubuntu 23.04 或者 20.04访问…

中国等28个国家发布《布莱切利宣言》,鼓励AI以安全方式发展

英国时间11月1日,中国、美国、英国、法国、德国等28个国家和欧盟,在英国的布莱切利庄园签署了,首个全球性人工智能(AI)声明——《布莱切利宣言》。 该宣言明确指出了AI对人类社会的巨大机遇,但AI需要以人为…

核心舱在轨飞行VR沉浸式互动体验满足大家宇宙探险的心愿

近日神州十七号载人飞船迎来发射,随着我国载人航天工程进入空间站应用与发展阶段,在轨航天探索和运维工作进入常态化阶段,然而每次出征都牵动着亿万人民的心,对航天航空的好奇和向往也越来越强烈。为了让普通人也能体验乘坐飞船上…

腾讯云轻量应用服务器2核4G5M三年566.6元还有吗?

腾讯云双11优惠活动3年轻量2核4G5M服务器从566.6元涨价到756元三年,3年轻量2核2G4M服务器从366.6元恢复到540元三年,大家抓紧吧,三年轻量已经库存已经不多了,看看隔壁阿里云,都是一年期的,活动:…

Compress JPEG PNG images-WordPress图片压缩插件使用方法

插件介绍 Compress JPEG & PNG images是一款非常好用的图片压缩插件:,非常值得大家安装使用;特别是图片类型网站。其实我们很多服务器磁盘空间是不在乎多那么几十MB大小的,但是压缩了图片能提升网站速度,节省宽带&#xff0c…

【Kubernetes部署】Kurbernetes集群高可用架构(二进制部署多Master节点)

高可用 一、基本架构1.1 为什么要有多个Master节点?1.1.1 Master节点单点故障问题1.1.2 选举算法的要求 1.2 基本架构 二、新Master节点的部署2.1 系统初始化操作Step1 关闭防火墙、selinux和swap分区Step2 修改主机名,添加域名映射Step3 修改内核参数St…

网络连接模拟器:SoftPerfect Connection Emulator Crack

SoftPerfect Connection Emulator(SCE)是一款面向网络应用程序开发人员、系统管理员和网络工程师的WAN环境模拟器。创建网络应用程序的软件开发人员,尤其是VoIP软件或实时协议等时间关键型应用程序,需要在一系列环境中彻底测试他们…

leetCode 213. 打家劫舍 II + 动态规划 + 从记忆化搜索到递推 + 空间优化

关于此题我的往期文章,动规五部曲详解篇: leetCode 213. 打家劫舍 II 动态规划 房间连成环怎么偷呢?_呵呵哒( ̄▽ ̄)"的博客-CSDN博客https://heheda.blog.csdn.net/article/details/133409962213. 打家劫舍 II - 力扣&#x…

ShareGPT平替!利用苏格拉底提问模拟器更好地蒸馏ChatGPT对话能力

©PaperWeekly 原创 作者 | 孔楚伊 单位 | 深圳市大数据研究院 研究方向 | 自然语言处理 引言 基于真实用户与 ChatGPT 的互动,通过反转学习目标(从学习回复到学习提问),训练更贴近真实用户的模拟器,更好的提问质…

电子产品上架Temu平台需要做什么认证?UL测试报告

2022年8月17日报道,TEMU正在筹备跨境电商平台。9月1日,TEMU跨境电商平台正式在海外上线,首站将面向北美市场,该平台命名为TEMU,App Store应用详情页显示意为“Team Up,Price Down”,即买得人越多…

3.线性神经网络-3GPT版

#pic_center R 1 R_1 R1​ R 2 R^2 R2 目录 知识框架No.1 线性回归基础优化算法一、线性回归1、买房案例2、买房模型简化3、线性模型4、神经网络5、损失函数6、训练数据7、参数学习8、显示解9、总结 二、 基础优化算法1、梯度下降2、学习率3、小批量随机梯度下降4、批量大小5、…

欧盟网络安全威胁:虚假与错误信息

如今,数字平台已是新闻媒体的主战地。社交网站、新闻媒体、甚至搜索引擎都是现在大多数人的信息来源。由于这些网站的运作方式是通过吸引人们来产生网站流量,这些抓人眼球的信息通常是推广广告,有些甚至没有经过审查。 国际现状 恶意攻击者现…

机器视觉行业最大的污点是什么?99%机器视觉公司存在测量项目数据造假,很遗憾,本人不没有恪守技术的本分

机器视觉行业最大的污点是什么?99%机器视觉公司存在测量项目数据造假,很遗憾,本人没有恪守技术的本分。 1%是没做过机器视觉测量项目,我们应该具体分析和具体判断,更应该提高自己的认知能力和技术能力。 那我们​在现场…

linux+python3.6.8+uwsgi+postgresql+django部署web服务器

linuxpython3.6.8uwsgipostgresqldjango部署web服务器 1.查看系统信息2.配置postgresql数据库2-1.安装postgresql数据库2-2.设置密码2-3.修改postgresql数据库配置文件 3.Python虚拟环境激活虚拟环境 4.Django4-1.Python 安装Django4-2.创建Django项目4-3.配置Django 5.uwsgi5-…

polarismesh安装

polarismesh安装 1.安装须知2.安装方式 1.安装须知 1.官方安装文档:https://polarismesh.cn/docs/%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97/%E6%9C%8D%E5%8A%A1%E7%AB%AF%E5%AE%89%E8%A3%85/%E5%8D%95%E6%9C%BA%E7%89%88%E5%AE%89%E8%A3%85/ 2.下载地址 .github下载…