目录
一、准备工作
1、Zookeeper集群安装
2、Kafka集群安装
二、常用Shell命令
1、创建Topic
2、查看创建的Topic
3、查看某一个Topic的详细信息
4、修改Topic
5、删除Topic
6、生产者发布消息命令
7、消费者接受消息命令
8、查看kafka节点数目
9、查看kafka进程
一、准备工作
1、Zookeeper集群安装
【大数据入门核心技术-Zookeeper】(五)ZooKeeper集群搭建
2、Kafka集群安装
【大数据入门核心技术-Kafka】(三)Kafka高可用集群部署
二、常用Shell命令
1、创建Topic
bin/kafka-topics.sh --create --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --replication-factor 1 --partitions 1 --topic test_kafka
2、查看创建的Topic
bin/kafka-topics.sh --list --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181
3、查看某一个Topic的详细信息
bin/kafka-topics.sh --describe --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --topic test_kafka
4、修改Topic
可以增加分片的数量,不能减少分片的数量,不支持副本的修改。
bin/kafka-topics.sh --alter --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --topic test_kafka --partitions 3
5、删除Topic
bin/kafka-topics.sh --delete --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --topic test_kafka
6、生产者发布消息命令
(执行完此命令后,在控制台输入要发送的消息,回车即可)
bin/kafka-console-producer.sh --broker-list hadoop101:9092,hadoop102:9092,hadoop103:9092 --topic test_kafka
7、消费者接受消息命令
消费者命令:
bin/kafka-console-consumer.sh --bootstrap-server hadoop101:9092,hadoop102:9092,hadoop103:9092 --topic test_kafka
指定消费者消费哪个分区的数据:
bin/kafka-console-consumer.sh --bootstrap-server hadoop101:9092,hadoop102:9092,hadoop103:9092 --topic test_kafka --partition 0
8、查看kafka节点数目
在zookeeper中查看,登录客户端bin/zkCli.sh 执行ls /brokers/ids 查看节点数目及节点ID
[0, 1, 2]
9、查看kafka进程
ps -ef|grep server.properties