Docker部署单节点Kafka

news2024/11/27 14:31:40

文章目录

  • Docker部署单节点Kafka
    • 参考镜像
        • wurstmeister/zookeeper Overview
        • wurstmeister/kafka Overview
    • 部署单Broker
        • kafka 环境变量:
      • 启动与停止命令
      • 测试验证:
        • 参考文章

Docker部署单节点Kafka

参考镜像

wurstmeister/zookeeper Overview

docker pull wurstmeister/zookeeper

wurstmeister/kafka Overview

docker pull wurstmeister/kafka

部署单Broker

定义 docker-compose-single-broker.yml:

version: '3.8'
services:
  zookeeper:
    image: wurstmeister/zookeeper
    ports:
      - "2181:2181"
  kafka:
    image: wurstmeister/kafka
    depends_on: [ zookeeper ]
    ports:
      - "9092:9092"
    environment:
      KAFKA_ADVERTISED_HOST_NAME: kafka
      KAFKA_CREATE_TOPICS: "test:1:1"
      KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181
    volumes:
      - /usr/app/run/docker.sock:/var/run/docker.sock

kafka 环境变量:

  • KAFKA_ADVERTISED_HOST_NAME:
    你可以修改主机名来以匹配docker主机IP。注意:如果要运行多个Broker,请不要使用localhost或127.0.0.1作为主机ip
  • KAFKA_CREATE_TOPICS:
    kafka-docker在创建期间自动在kafka中创建主题,例如 test:1:1 表示主题test包含1个分区和1个副本。
  • KAFKA_ZOOKEEPER_CONNECT:
    现在是强制的环境变量,表示kafka的zookeeper connect string。
  • KAFKA_ADVERTISED_HOST_NAME:
    192.168.220.150,类似这种 hostName用ip的,一直出错,关键报错信息如下:

Error while fetching metadata with correlation id xxx {test=LEADER_NOT_AVAILABLE}

修改为 KAFKA_ADVERTISED_HOST_NAME: kafka,验证可行!

  • kafka depends-on:
    指定 zookeeper 在 kafka 前面启动。

  • kafka volumes 卷映射:
    宿主机中的文件路径:容器中的文件路径,而我的宿主机是Linux主机。

参考自 Github kafka-docker
GitHub 上的文件 build: . 修改为 image: wurstmeister/kafka,修改前会出现以下错误:

failed to solve with frontend dockerfile.v0: failed to read dockerfile: open /var/lib/docker/tmp/buildkit-mount698554617/Dockerfile: no such file or directory
ERROR: Service 'kafka' failed to build : Build failed

启动与停止命令

首先需要 cd 进入 docker-compose-single-broker.yml 所在目录:

启动命令:

docker-compose -f docker-compose-single-broker.yml up -d

结尾不加 -d 会占用当前命令行窗口。因为按 Ctrl + C 会自动 stop 容器。

停止命令:

docker-compose -f docker-compose-single-broker.yml stop

停止并删除容器命令:

docker-compose -f docker-compose-single-broker.yml down

测试验证:

1、使用 docker ps -a 查看 zookeeper 和 kafka 容器是否已经正常运行:

2、进入 kafka 容器控制台:

docker exec -it app_kafka_1 bash

3、进入 kafka 容器中的 bin 目录:

cd $KAFKA_HOME/bin
pwd

pwd 用来打印当前工作目录,方便我们确认是否切换成功

4、检查自动创建的主题 test:

kafka-topics.sh --zookeeper app_zookeeper_1:2181 --describe --topic test

5、在一个cmd窗口发布消息:

kafka-console-producer.sh --topic=test --broker-list app_kafka_1:9092

6、打开另一个cmd窗口,重复1-3步,订阅消息:

kafka-console-consumer.sh --bootstrap-server app_kafka_1:9092 --from-beginning --topic test

参考文章

  • docker部署单节点kafka
https://www.cnblogs.com/kendoziyu/p/15129948.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/27102.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Hadoop总结——HDFS

一、HDFS概述 1.1 HDFS产生背景 随着数据量越来越大,在一个操作系统管辖的范围内存不下了,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件…

记一次自定义starter引发的线上事故复盘

前言 本文素材来源于业务部门技术负责人某次线上事故复盘分享。故事的背景是这样,该业务部门招了一个技术挺不错的小伙子小张,由于小张技术能力在该部门比较突出,在入职不久后,他便成为这个部门某个项目组的team leader&#xff…

计算机外设:显示器是如何工作的?

本节我们将了解计算机的外设之一:显示器的底层工作原理。通过本节,你会知道电脑显示器是如何实时展示我们在计算机上的操作的,比如显示出一张“E”的字符。最后总结了计算机编程的本质,就是人们是通过设计,让字节代表不…

超迷你机械臂机器人,YYDS

真正的大师,永远都怀着一颗学徒的心! 一、项目简介 超迷你机械臂机器人,YYDS 核心板: REF核心板 REF底板(机械臂底座里面的控制器电路板) 步进电机驱动 Peak示教器 文件: 3D模型设计源文件。 20步进…

Python机器学习 | AI芯片调研

AI芯片调研 1、 概念 AI芯片又叫AI加速器,专门用于处理人工智能应用中的大量计算任务的模块。 注意:其他非计算任务仍由CPU处理 2、 背景 神经网络需要大量的矩阵运算,CPU和传统计算架构无法满足对于并行计算能力的需求,需要特殊定制的AI芯片(GPU、TPU、NPU、DPU等等)…

Go Web项目学习之项目结构

风离不摆烂学习日志 Day4 — Go Web项目学习之项目结构 创建项目配置代理 下载加速 go 包代理 GOPROXYhttps://goproxy.cn,direct 本项目学习自: [github.com](https://github.com/gnimli/go-web-mini) 项目结构分层 ├─common # casbin mysql zap validator 等公…

web概述18

JSP JSP是Sun为了解决动态生成HTML文档的技术,通过Servlet输出简单html页面信息都非常不方便。如果要输出一个复杂页面的时候,就更加的困难,而且不利于页面的维护和调试。所以sun公司推出一种叫做jsp的动态页面技术来实现对页面的输出繁锁工…

【设计模式】 - 结构型模式 - 适配器模式

目录标题1. 前言适配器模式1. 概述2. 结构3. 实现3.1 类适配器模式( 继承)--耦合度高代码实现3.2 对象适配器模式(聚合)代码实现类适配器与对象适配器的区别4. 适配器模式的优缺点1. 前言 结构型模式描述如何将类或对象按某种布局…

Borland Delphi 2005对Delphi语言的支持

Borland Delphi 2005对Delphi语言的支持 Borland Delphi是Borland Delphi的最新版本,它为用户的Microsoft Windows操作系统和1.1本身的Microsoft.NET Framework版本提供了快速应用程序开发。Delphi Borland 2005被认为具有主要的三个不同的字符,如Win32…

目标检测论文解读复现之十五:基于YOLOv5的光学遥感图像舰船 目标检测算法

前言 此前出了目标改进算法专栏,但是对于应用于什么场景,需要什么改进方法对应与自己的应用场景有效果,并且多少改进点能发什么水平的文章,为解决大家的困惑,此系列文章旨在给大家解读最新目标检测算法论文&#xff0…

关于商业智能BI,今天只谈这五点

数据在当下的价值不断提高,但数据本身只是一种资产,一旦超过一定数据量就很难被人类理解,所以想要利用数据,就必须将数据转化为信息和知识,让管理者看到的是信息,而不是数据堆砌。 之前的文章里写过很多关…

打了10次电话,才总结出来的抖音封号原因分析,能避免大量封号

真正做过视频的人,应该是经常会面对封号 ,如果你号都没有封过,说明你还没有真正开始过 。这个话不是我讲的,是和一个日入3万的大V聊天,他说给我听的。你觉得这话对么?无论任何平台 ,都不会无缘无故封你号 ,平台需要大量的作者去生成内容 ,在符…

马来酰亚胺聚谷氨酸天冬氨酸聚合物药物载顺铂/mPEg-PGA纳米微球的制备

小编在此整理了马来酰亚胺聚谷氨酸天冬氨酸聚合物药物载顺铂/mPEg-PGA纳米微球的制备步骤,与小编一同来看! 载顺铂mPEg-PGA纳米微球的制备: 采用生物相容性好,生物可降解的mPEG-PGA聚合物作为药物载体,通过膜透析法制备了负载顺铂纳米微球,以…

CAN总线在OSI模型中层级

ISO14229-1仅规定了应用层的实现,诊断可以基于不同的总线去实施,以基于CAN的UDS最为广泛。本文开始将陆续介绍CAN总线协议的规范与开发。 关联文章:UDS的OSI模型 文章目录OSI模型与CAN的关系在各层中CAN定义事项CAN总线网络ISO11898 和 ISO…

如何保证优秀的医疗器械设计?

如何保证优秀的产品设计?医疗器械设计领域的出现不是一蹴而就的,而是经历了时间的沉淀。 医疗设备的设计责任重大。这些产品有机会改变和拯救生命。它们可以在市场上销售几年或更长时间,这将影响人们管理自己或他人健康的方式。所以,医疗产品…

报错与解决 | 应用程序无法启动0x7b mysql

文章目录报错解决办法成功解决问题报错 根据“MySQL下载安装使用-完整详细步骤”下载安装好MySQL后,以管理员身份启动cmd,输入: "D:\mysql\mysql-5.7.31-winx64\bin \mysqld.exe" --initialize-insecure # 自己的mysql安装目录 …

C语言easyx颜色模块+案例

c语言exsyx学习颜色模型rgbhsvhsv转换为rgb案例 绘制彩虹窗体案例 绘制天空和彩虹画面颜色模型 1.1 什么是RGB颜色模型 不知道你有没有近距离看过各种电子显示屏。若非常近距离的观察电子显示屏,可以发现屏幕居然是由 一个一个的红色、绿色、蓝色的小点组成。 红…

毕业设计 - SSM中药店商城系统(含源码+论文)

文章目录1 项目简介2 实现效果2.1 界面展示3 设计方案3.1 概述3.2 系统流程3.3 系统结构设计4 项目获取1 项目简介 Hi,各位同学好呀,这里是M学姐! 今天向大家分享一个今年(2022)最新完成的毕业设计项目作品,【基于SSM的中药店商…

半年销售100万辆 关注比亚迪后300万时代

11月16日,比亚迪第300万辆新能源汽车下线发布在比亚迪全球总部举行,标志着比亚迪成为首个达成这一里程碑的中国品牌。从“第1辆新能源汽车到第100万辆新能源汽车”用时13年、从“100万到200万”用时1年,从“200万到300万”仅用时半年&#xf…

HTML5——周技能检测——菜单编辑——2022年11月22日(考完)

HTML5——周技能检测——菜单编辑——2022年11月22日(考完) 一、语言和环境 1. 实现语言:HTML5。 2. 开发环境:VScode。 二、要求 1、完成下列菜单显示效果。 2、添加【:hover】选择器,鼠标悬停在文字上方时文字…