Kafka-Eagle简介
在开发工作中,当业务不复杂时,可以使用Kafka命令来进行一些集群的管理工作。但如果业务变得复杂,例如:需要增加group、topic分区,此时,再使用命令行就感觉很不方便,此时,如果使用一个可视化的工具帮助我们完成日常的管理工作,将会大大提高对于Kafka集群管理的效率,而且还可以使用工具来监控消费者在Kafka中消费情况。
Kafka Eagle是一款结合了目前大数据Kafka监控工具的特点,重新研发的一块开源免费的Kafka集群优秀的监控工具。它可以非常方便的监控生产环境中的offset、lag变化、partition分布、owner等。
官网:https://www.kafka-eagle.org/
安装Kafka-eagle
- 官网下载压缩包、上传服务器并解压
- 安装jdk,配置jdk环境变量
https://blog.51cto.com/u_15307418/3132282 -> 查看jdk默认安装路径,配置环境变量
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.372.b07-1.el7_9.x86_64
export PATH=$PATH:$JAVA_HOME/bin
- 给kafka-eagle配置环境变量,
vim /etc/profile
进入配置文件,末尾添加如下内容
export KE_HOME=/usr/local/kafka-eagle/kafka-eagle-bin-3.0.1/efak-web-3.0.1
export PATH=$PATH:$KE_HOME/bin
source /etc/profile
使环境变量生效
- 解压缩修改配置文件 system-config.properties,修改里面的zk的地址和mysql的地址
efak.zk.cluster.alias=cluster1
cluster1.zk.list=124.222.253.33:2181
#cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181
efak.driver=com.mysql.cj.jdbc.Driver
efak.url=jdbc:mysql://124.222.253.33:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
efak.username=root
efak.password=123456
- 进入到bin中,通过命令来启动
./ke.sh start
启动成功
平台的使用
访问地址:http://124.222.253.33:8048
用户名:admin
密 码:123456
进入平台可以查看topic、consumer等信息
指标解释:
指标 | 意义 |
---|---|
Brokers Spread | broker使用率 |
Brokers Skew | 分区是否倾斜 |
Brokers Leader Skew | leader partition是否存在倾斜 |
生产者消息总计
等等。