当前位置:   article > 正文

kafka常用基本命令 topic主题操作kafka-topics.sh,生产消息,消费消息,查看消费者组消费情况kafka-consumer-groups.sh等_kafkaserver id=1002 这编号1002编号代表什么意思

kafkaserver id=1002 这编号1002编号代表什么意思

主题相关操作

  1. 选项说明:
  2. --topic 定义 主题名
  3. --partitions 定义分区数
  4. --replication-factor 定义副本数
  5. 创建主题
  6. kafka-topics.sh --create --bootstrap-server localhost:9092 --topic xinwen --partitions 3 --replication-factor 3
  7. 列出所有主题
  8. kafka-topics.sh --list --bootstrap-server localhost:9092
  9. 查看主题详情
  10. kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic xinwen
  11. 修改主题配置
  12. kafka-topics.sh --alter --topic xinwen --partitions 10 --bootstrap-server localhost:9092
  13. 删除主题
  14. kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic xinwen

查看指定的topic明细,关注下ISR
kafka-topics.sh --bootstrap-server localhost:9092 --describe --topic zhuti_1

  1. //说明
  2. Topic:主题
  3. PartitionCount:分区的数量,这里为2个,下标是从0开始的,物理上的分区
  4. ReplicationFactor:副本的数量,指的是一个分区被复制成几份
  5. 下面的 10011002是 broker.id 属性设置的
  6. Leader: 1002 指的是broker.id=1002 Leader负责读和写
  7. Replicas: 复制该分区数据的节点列表,第一位代表leader [静态表述]
  8. Isr: in-sync Replicas 正在复制的副本节点列表 [动态表述]
  9. 当leader挂了,会从这个列表选举出leader
  10. Topic:zhuti_1 PartitionCount:2 ReplicationFactor:2 Configs:
  11. Topic: zhuti_1 Partition: 0 Leader: 1002 Replicas: 1002,1001 Isr: 1001,1002
  12. Topic: zhuti_1 Partition: 1 Leader: 1003 Replicas: 1003,1002 Isr: 1003,1002



删除topic

kafka-topics.sh --bootstrap-server localhost:9092 --delete --topic zhuti_1
注:默认情况下,不能真正删除topic,只是把这个topic标记为删除(marked for deletion),
要彻底把topic删除,先修改kafka安装目录下config/server.properties文件中的属性delete.topic.enable=true

必须把kafka中与当前topic相关的数据目录和zookeeper中与当前topic相关的路径一并删除

生产消息和消费消息

  1. 生产消息
  2. kafka-console-producer.sh --bootstrap-server localhost:9092 --topic xinwen
  3. 从头开始消费,从主题最开始的消息开始消费
  4. kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic xinwen --from-beginning
  5. 实时消费,只想消费新产生的消息,即实时消费
  6. kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic xinwen


消费者组消费情况

  1. 查看所有消费者组
  2. kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
  3. 查看特定消费者组的详细信息
  4. kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group group_1
  5. # 重置到最早的偏移量,从头开始消费
  6. kafka-consumer-groups.sh --bootstrap-server localhost:9092 --reset-offsets --to-earliest --execute --group group_1 --topic xinwen
  7. # 重置到最晚的偏移量,从最新的消息的下一条开始消费
  8. kafka-consumer-groups.sh --bootstrap-server localhost:9092 --reset-offsets --to-latest --execute --group group_1 --topic xinwen

下面两张图是演示重置消费者组offset偏移量的情况
重点观察 CURRENT-OFFSET 和 LAGLAG为0,表示已经消费到最新的位置了


 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/在线问答5/article/detail/936685
推荐阅读
相关标签
  

闽ICP备14008679号