【大数据之Kafka】十五、Kafka-Kraft模式

news2024/9/30 17:33:07

1 Kafka-Kraft架构

在这里插入图片描述
左图为 Kafka 现有架构，元数据在 zookeeper 中，运行时动态选举 controller，由controller 进行 Kafka 集群管理。
右图为 kraft 模式架构（实验性），不再依赖 zookeeper 集群，而是用三台 controller 节点代替 zookeeper，元数据保存在 controller 中，由 controller 直接进行 Kafka 集群管理。

好处：
（1）Kafka 不再依赖外部框架，而是能够独立运行；
（2）controller 管理集群时，不再需要从 zookeeper 中先读取数据，集群性能上升；
（3）由于不依赖 zookeeper，集群扩展时不再受到 zookeeper 读写能力限制；
（ 4）controller 不再动态选举，而是由配置文件规定。这样可以有针对性的加强controller 节点的配置，而不是像以前一样对随机 controller 节点的高负载束手无策。

2 Kafka-Kraft集群部署

（1）再解压一份Kafka安装包。

tar -zxvf kafka_2.12-3.0.0.tgz -C /opt/module/

（2）重命名为kafka2。

mv kafka_2.12-3.0.0/ kafka2

（3）在 hadoop102 上修改/opt/module/kafka2/config/kraft/server.properties 配置文件。

#kafka 的角色（controller 相当于主机、broker 节点相当于从机，主机类似 zk 功能）
process.roles=broker, controller
#节点 ID
node.id=2

#controller 服务协议别名
controller.listener.names=CONTROLLER
#全 Controller 列表
controller.quorum.voters=2@hadoop102:9093,3@hadoop103:9093,4@hadoop104:9093
#不同服务器绑定的端口
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
#broker 服务协议别名
inter.broker.listener.name=PLAINTEXT
#broker 对外暴露的地址
advertised.Listeners=PLAINTEXT://hadoop102:9092
#协议别名到安全协议的映射
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
#kafka 数据存储目录
log.dirs=/opt/module/kafka2/data

（4）分发kafka2，在 hadoop103 和 hadoop104 上需要对 node.id 相应改变，值需要和controller.quorum.voters 对应。在 hadoop103 和 hadoop104 上需要根据各自的主机名称，修改相应的advertised.Listeners 地址。

（5）初始化集群数据目录，首先生成存储目录唯一 ID。

 bin/kafka-storage.sh random-uuid

在这里插入图片描述
（6）用该 ID 格式化 kafka 存储目录（三台节点）。

[lyx@hadoop102 kafka2]$ bin/kafka-storage.sh format -t 7NSm-xjRRGu3hj-4bA0qMw -c /opt/module/kafka2/config/kraft/server.properties

[lyx@hadoop103 kafka2]$ bin/kafka-storage.sh format -t 7NSm-xjRRGu3hj-4bA0qMw -c /opt/module/kafka2/config/kraft/server.properties

[lyx@hadoop104 kafka2]$ bin/kafka-storage.sh format -t 7NSm-xjRRGu3hj-4bA0qMw -c /opt/module/kafka2/config/kraft/server.properties

（7）启动Kafka集群。

[lyx@hadoop102 kafka2]$ bin/kafka-server-start.sh -daemon config/kraft/server.properties

[lyx@hadoop103 kafka2]$ bin/kafka-server-start.sh -daemon config/kraft/server.properties

[lyx@hadoop104 kafka2]$ bin/kafka-server-start.sh -daemon config/kraft/server.properties

在这里插入图片描述
（8）停止Kafka集群。

[lyx@hadoop102 kafka2]$ bin/kafka-server-stop.sh

[lyx@hadoop103 kafka2]$ bin/kafka-server-stop.sh

[lyx@hadoop104 kafka2]$ bin/kafka-server-stop.sh

3 Kafka-Kraft集群启停脚本

（1）在/home/用户名/bin目录下创建文件kf2.sh脚本。

#!/bin/bash
case $1 in
"start"){
    for i in hadoop102 hadoop103 hadoop104
    do
        echo " --------启动 $i Kafka2-------"
        ssh $i "/opt/module/kafka2/bin/kafka-server-start.sh -
daemon /opt/module/kafka2/config/kraft/server.properties"
    done
};;
"stop"){
    for i in hadoop102 hadoop103 hadoop104
    do
        echo " --------停止 $i Kafka2-------"
        ssh $i "/opt/module/kafka2/bin/kafka-server-stop.sh "
    done
};;
esac