当前位置:   article > 正文

【kafka运维】Kafka全网最全最详细运维命令合集(精品强烈建议保存)_kafa查看配置

kafa查看配置

先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7

深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新Linux运维全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上运维知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以添加V获取:vip1024b (备注运维)
img

正文

| --replication-factor | 副本数量,注意不能大于broker数量;如果不提供,则会用集群中默认配置 | –replication-factor 3 |

| --partitions | 分区数量,当创建或者修改topic的时候,用这个来指定分区数;如果创建的时候没有提供参数,则用集群中默认值; 注意如果是修改的时候,分区比之前小会有问题 | –partitions 3 |

| --replica-assignment | 副本分区分配方式;创建topic的时候可以自己指定副本分配情况; | --replica-assignment BrokerId-0:BrokerId-1:BrokerId-2,BrokerId-1:BrokerId-2:BrokerId-0,BrokerId-2:BrokerId-1:BrokerId-0 ; 这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 |

| --config<String: name=value> | 用来设置topic级别的配置以覆盖默认配置;只在–create 和–bootstrap-server 同时使用时候生效; 可以配置的参数列表请看文末附件 | 例如覆盖两个配置 --config retention.bytes=123455 --config retention.ms=600001 |

| --command-config <String: command 文件路径> | 用来配置客户端Admin Client启动配置,只在–bootstrap-server 同时使用时候生效; | 例如:设置请求的超时时间 --command-config config/producer.proterties; 然后在文件中配置 request.timeout.ms=300000 |

1.2.删除Topic

bin/kafka-topics.sh --bootstrap-server localhost:9092 --delete --topic test


支持正则表达式匹配Topic来进行删除,只需要将topic 用双引号包裹起来

例如: 删除以create_topic_byhand_zk为开头的topic;

bin/kafka-topics.sh --bootstrap-server localhost:9092 --delete --topic “create_topic_byhand_zk.*”

.表示任意匹配除换行符 \n 之外的任何单字符。要匹配 . ,请使用 . 。

·*·:匹配前面的子表达式零次或多次。要匹配 * 字符,请使用 *。

.* : 任意字符

删除任意Topic (慎用)

bin/kafka-topics.sh --bootstrap-server localhost:9092 --delete --topic “.*?”

更多的用法请参考正则表达式

相关配置

| 配置 | 描述 | 默认 |

| — | — | — |

| file.delete.delay.ms | topic删除被标记为–delete文件之后延迟多长时间删除正在的Log文件 | 60000 |

| delete.topic.enable | true | 是否能够删除topic |

1.3.Topic分区扩容

zk方式(不推荐)

>bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic topic1 --partitions 2

kafka版本 >= 2.2 支持下面方式(推荐)

单个Topic扩容

bin/kafka-topics.sh --bootstrap-server broker_host:port --alter --topic test_create_topic1 --partitions 4

批量扩容 (将所有正则表达式匹配到的Topic分区扩容到4个)

sh bin/kafka-topics.sh --topic ".*?" --bootstrap-server 172.23.248.85:9092 --alter --partitions 4

".*?" 正则表达式的意思是匹配所有; 您可按需匹配

PS: 当某个Topic的分区少于指定的分区数时候,他会抛出异常;但是不会影响其他Topic正常进行;


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --replica-assignment | 副本分区分配方式;创建topic的时候可以自己指定副本分配情况; | --replica-assignment BrokerId-0:BrokerId-1:BrokerId-2,BrokerId-1:BrokerId-2:BrokerId-0,BrokerId-2:BrokerId-1:BrokerId-0 ; 这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 |

PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区;

比如: 以前3分区1副本是这样的

| Broker-1 | Broker-2 | Broker-3 | Broker-4 |

| — | — | — | — |

| 0 | 1 | 2 | |

现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker

| Broker-1 | Broker-2 | Broker-3 | Broker-4 |

| — | — | — | — |

| 1 | 0 | 2 | 3 |

但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变

| Broker-1 | Broker-2 | Broker-3 | Broker-4 |

| — | — | — | — |

| 0 | 1 | 2 | 3 |

1.4.查询Topic描述

1.查询单个Topic

sh bin/kafka-topics.sh --topic test --bootstrap-server xxxx:9092 --describe --exclude-internal

2.批量查询Topic(正则表达式匹配,下面是查询所有Topic)

sh bin/kafka-topics.sh --topic ".*?" --bootstrap-server xxxx:9092 --describe --exclude-internal

支持正则表达式匹配Topic,只需要将topic 用双引号包裹起来


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --bootstrap-server 指定kafka服务 | 指定连接到的kafka服务; 如果有这个参数,则 --zookeeper可以不需要 | –bootstrap-server localhost:9092 |

| --at-min-isr-partitions | 查询的时候省略一些计数和配置信息 | --at-min-isr-partitions |

| --exclude-internal | 排除kafka内部topic,比如__consumer_offsets-* | --exclude-internal |

| --topics-with-overrides | 仅显示已覆盖配置的主题,也就是单独针对Topic设置的配置覆盖默认配置;不展示分区信息 | --topics-with-overrides |

5.查询Topic列表

1.查询所有Topic列表

sh bin/kafka-topics.sh --bootstrap-server xxxxxx:9092 --list --exclude-internal

2.查询匹配Topic列表(正则表达式)

查询test_create_开头的所有Topic列表

sh bin/kafka-topics.sh --bootstrap-server xxxxxx:9092 --list --exclude-internal --topic "test_create_.*"


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --exclude-internal | 排除kafka内部topic,比如__consumer_offsets-* | --exclude-internal |

| --topic | 可以正则表达式进行匹配,展示topic名称 | --topic |

2.ConfigCommand


Config相关操作; 动态配置可以覆盖默认的静态配置;

2.1 查询配置

Topic配置查询

展示关于Topic的动静态配置

1.查询单个Topic配置(只列举动态配置)

sh bin/kafka-configs.sh --describe --bootstrap-server xxxxx:9092 --topic test_create_topic

或者

sh bin/kafka-configs.sh --describe --bootstrap-server 172.23.248.85:9092 --entity-type topics --entity-name test_create_topic

2.查询所有Topic配置(包括内部Topic)(只列举动态配置)

sh bin/kafka-configs.sh --describe --bootstrap-server 172.23.248.85:9092 --entity-type topics

在这里插入图片描述

在这里插入图片描述

3.查询Topic的详细配置(动态+静态)

只需要加上一个参数--all

其他配置/clients/users/brokers/broker-loggers 的查询

同理 ;只需要将--entity-type 改成对应的类型就行了 (topics/clients/users/brokers/broker-loggers)

在这里插入图片描述

查询kafka版本信息

sh bin/kafka-configs.sh --describe --bootstrap-server xxxx:9092 --version

所有可配置的动态配置 请看最后面的 附件 部分

2.2 增删改 配置 --alter

–alter

删除配置: --delete-config k1=v1,k2=v2

添加/修改配置: --add-config k1,k2

选择类型: --entity-type (topics/clients/users/brokers/broker-

loggers)

类型名称: --entity-name

Topic添加/修改动态配置

--add-config

sh bin/kafka-configs.sh --bootstrap-server xxxxx:9092 --alter --entity-type topics --entity-name test_create_topic1 --add-config file.delete.delay.ms=222222,retention.ms=999999

Topic删除动态配置

--delete-config

sh bin/kafka-configs.sh --bootstrap-server xxxxx:9092 --alter --entity-type topics --entity-name test_create_topic1 --delete-config file.delete.delay.ms,retention.ms

添加/删除配置同时执行

sh bin/kafka-configs.sh --bootstrap-server xxxxx:9092 --alter --entity-type brokers --entity-default --add-config log.segment.bytes=788888888 --delete-config log.retention.ms

其他配置同理,只需要类型改下--entity-type

类型有: (topics/clients/users/brokers/broker- loggers)

哪些配置可以修改 请看最后面的附件:ConfigCommand 的一些可选配置

默认配置

配置默认 --entity-default

sh bin/kafka-configs.sh --bootstrap-server xxxxx:9090 --alter --entity-type brokers --entity-default --add-config log.segment.bytes=88888888

动态配置的默认配置是使用了节点 <defalut>;

在这里插入图片描述

该图转自https://www.cnblogs.com/lizherui/p/12271285.html

优先级 指定动态配置>默认动态配置>静态配置

3.副本扩缩、分区迁移、跨路径迁移 kafka-reassign-partitions


请戳 【kafka运维】副本扩缩容、数据迁移、副本重分配、副本跨路径迁移

kafka实战】分区重分配可能出现的问题和排查问题思路(生产环境实战,干货!!!非常干!!!建议收藏)

4.Topic的发送kafka-console-producer.sh


4.1 生产无key消息

生产者

bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic test --producer.config config/producer.properties

4.2 生产有key消息

加上属性--property parse.key=true

生产者

bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic test --producer.config config/producer.properties --property parse.key=true

默认消息key与消息value间使用“Tab键”进行分隔,所以消息key以及value中切勿使用转义字符(\t)


可选参数

| 参数 | 值类型 | 说明 | 有效值 |

| — | — | — | — |

| –bootstrap-server | String | 要连接的服务器必需(除非指定–broker-list) | 如:host1:prot1,host2:prot2 |

| –topic | String | (必需)接收消息的主题名称 | |

| –batch-size | Integer | 单个批处理中发送的消息数 | 200(默认值) |

| –compression-codec | String | 压缩编解码器 | none、gzip(默认值)snappy、lz4、zstd |

| –max-block-ms | Long | 在发送请求期间,生产者将阻止的最长时间 | 60000(默认值) |

| –max-memory-bytes | Long | 生产者用来缓冲等待发送到服务器的总内存 | 33554432(默认值) |

| –max-partition-memory-bytes | Long | 为分区分配的缓冲区大小 | 16384 |

| –message-send-max-retries | Integer | 最大的重试发送次数 | 3 |

| –metadata-expiry-ms | Long | 强制更新元数据的时间阈值(ms) | 300000 |

| –producer-property | String | 将自定义属性传递给生成器的机制 | 如:key=value |

| –producer.config | String | 生产者配置属性文件[–producer-property]优先于此配置 配置文件完整路径 | |

| –property | String | 自定义消息读取器 | parse.key=true/false key.separator=<key.separator>ignore.error=true/false |

| –request-required-acks | String | 生产者请求的确认方式 | 0、1(默认值)、all |

| –request-timeout-ms | Integer | 生产者请求的确认超时时间 | 1500(默认值) |

| –retry-backoff-ms | Integer | 生产者重试前,刷新元数据的等待时间阈值 | 100(默认值) |

| –socket-buffer-size | Integer | TCP接收缓冲大小 | 102400(默认值) |

| –timeout | Integer | 消息排队异步等待处理的时间阈值 | 1000(默认值) |

| –sync | 同步发送消息 | | |

| –version | 显示 Kafka 版本 | 不配合其他参数时,显示为本地Kafka版本 | |

| –help | 打印帮助信息 | | |

5. Topic的消费kafka-console-consumer.sh


1. 新客户端从头消费--from-beginning (注意这里是新客户端,如果之前已经消费过了是不会从头消费的)

下面没有指定客户端名称,所以每次执行都是新客户端都会从头消费

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

2. 正则表达式匹配topic进行消费--whitelist

消费所有的topic

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --whitelist ‘.*’

消费所有的topic,并且还从头消费

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --whitelist ‘.*’ --from-beginning

3.显示key进行消费--property print.key=true

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --property print.key=true

4. 指定分区消费--partition 指定起始偏移量消费--offset

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --partition 0 --offset 100

5. 给客户端命名--group

注意给客户端命名之后,如果之前有过消费,那么--from-beginning就不会再从头消费了

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --group test-group

6. 添加客户端属性--consumer-property

这个参数也可以给客户端添加属性,但是注意 不能多个地方配置同一个属性,他们是互斥的;比如在下面的基础上还加上属性--group test-group 那肯定不行

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --consumer-property group.id=test-consumer-group

7. 添加客户端属性--consumer.config

--consumer-property 一样的性质,都是添加客户端的属性,不过这里是指定一个文件,把属性写在文件里面, --consumer-property 的优先级大于 --consumer.config

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --consumer.config config/consumer.properties


| 参数 | 描述 | 例子 |

| — | — | — |

| --group | 指定消费者所属组的ID | |

| --topic | 被消费的topic | |

| --partition | 指定分区 ;除非指定–offset,否则从分区结束(latest)开始消费 | --partition 0 |

| --offset | 执行消费的起始offset位置 ;默认值: latest; /latest /earliest /偏移量 | --offset 10 |

| --whitelist | 正则表达式匹配topic;--topic就不用指定了; 匹配到的所有topic都会消费; 当然用了这个参数,--partition --offset等就不能使用了 | |

| --consumer-property | 将用户定义的属性以key=value的形式传递给使用者 | --consumer-propertygroup.id=test-consumer-group |

| --consumer.config | 消费者配置属性文件请注意,[consumer-property]优先于此配置 | --consumer.config config/consumer.properties |

| --property | 初始化消息格式化程序的属性 | print.timestamp=true,false 、print.key=true,false 、print.value=true,false 、key.separator=<key.separator> 、line.separator=<line.separator>、key.deserializer=<key.deserializer>、value.deserializer=<value.deserializer> |

| --from-beginning | 从存在的最早消息开始,而不是从最新消息开始,注意如果配置了客户端名称并且之前消费过,那就不会从头消费了 | |

| --max-messages | 消费的最大数据量,若不指定,则持续消费下去 | --max-messages 100 |

| --skip-message-on-error | 如果处理消息时出错,请跳过它而不是暂停 | |

| --isolation-level | 设置为read_committed以过滤掉未提交的事务性消息,设置为read_uncommitted以读取所有消息,默认值:read_uncommitted | |

| --formatter | kafka.tools.DefaultMessageFormatter、kafka.tools.LoggingMessageFormatter、kafka.tools.NoOpMessageFormatter、kafka.tools.ChecksumMessageFormatter | |

6.kafka-leader-election Leader重新选举


6.1 指定Topic指定分区用重新PREFERRED:优先副本策略 进行Leader重选举

sh bin/kafka-leader-election.sh --bootstrap-server xxxx:9090 --topic test_create_topic4 --election-type PREFERRED --partition 0

6.2 所有Topic所有分区用重新PREFERRED:优先副本策略 进行Leader重选举

sh bin/kafka-leader-election.sh --bootstrap-server xxxx:9090 --election-type preferred --all-topic-partitions

6.3 设置配置文件批量指定topic和分区进行Leader重选举

先配置leader-election.json文件

{

“partitions”: [

{

“topic”: “test_create_topic4”,

“partition”: 1

},

{

“topic”: “test_create_topic4”,

“partition”: 2

}

]

}

sh bin/kafka-leader-election.sh --bootstrap-server xxx:9090 --election-type preferred --path-to-json-file config/leader-election.json


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --bootstrap-server 指定kafka服务 | 指定连接到的kafka服务 | –bootstrap-server localhost:9092 |

| --topic | 指定Topic,此参数跟--all-topic-partitionspath-to-json-file 三者互斥 | |

| --partition | 指定分区,跟--topic搭配使用 | |

| --election-type | 两个选举策略(PREFERRED:优先副本选举,如果第一个副本不在线的话会失败;UNCLEAN: 策略) | |

| --all-topic-partitions | 所有topic所有分区执行Leader重选举; 此参数跟--topicpath-to-json-file 三者互斥 | |

| --path-to-json-file | 配置文件批量选举,此参数跟--topicall-topic-partitions 三者互斥 | |

7. 持续批量推送消息kafka-verifiable-producer.sh


单次发送100条消息--max-messages 100

一共要推送多少条,默认为-1,-1表示一直推送到进程关闭位置

sh bin/kafka-verifiable-producer.sh --topic test_create_topic4 --bootstrap-server localhost:9092 --max-messages 100

每秒发送最大吞吐量不超过消息 --throughput 100

推送消息时的吞吐量,单位messages/sec。默认为-1,表示没有限制

sh bin/kafka-verifiable-producer.sh --topic test_create_topic4 --bootstrap-server localhost:9092 --throughput 100

发送的消息体带前缀--value-prefix

sh bin/kafka-verifiable-producer.sh --topic test_create_topic4 --bootstrap-server localhost:9092 --value-prefix 666

注意--value-prefix 666必须是整数,发送的消息体的格式是加上一个 点号. 例如: 666.

其他参数:

--producer.config CONFIG_FILE 指定producer的配置文件

--acks ACKS 每次推送消息的ack值,默认是-1

8. 持续批量拉取消息kafka-verifiable-consumer


持续消费

sh bin/kafka-verifiable-consumer.sh --group-id test_consumer --bootstrap-server localhost:9092 --topic test_create_topic4

单次最大消费10条消息--max-messages 10

sh bin/kafka-verifiable-consumer.sh --group-id test_consumer --bootstrap-server localhost:9092 --topic test_create_topic4 --max-messages 10


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --bootstrap-server 指定kafka服务 | 指定连接到的kafka服务; | –bootstrap-server localhost:9092 |

| --topic | 指定消费的topic | |

| --group-id | 消费者id;不指定的话每次都是新的组id | |

| group-instance-id | 消费组实例ID,唯一值 | |

| --max-messages | 单次最大消费的消息数量 | |

| --enable-autocommit | 是否开启offset自动提交;默认为false | |

| --reset-policy | 当以前没有消费记录时,选择要拉取offset的策略,可以是earliest, latest,none。默认是earliest | |

| --assignment-strategy | consumer分配分区策略,默认是org.apache.kafka.clients.consumer.RangeAssignor | |

| --consumer.config | 指定consumer的配置文件 | |

9.生产者压力测试kafka-producer-perf-test.sh


1. 发送1024条消息--num-records 100并且每条消息大小为1KB--record-size 1024 最大吞吐量每秒10000条--throughput 100

sh bin/kafka-producer-perf-test.sh --topic test_create_topic4 --num-records 100 --throughput 100000 --producer-props bootstrap.servers=localhost:9092 --record-size 1024

你可以通过LogIKM查看分区是否增加了对应的数据大小

在这里插入图片描述

LogIKM 可以看到发送了1024条消息; 并且总数据量=1M; 1024条*1024byte = 1M;

2. 用指定消息文件--payload-file发送100条消息最大吞吐量每秒100条--throughput 100

  1. 先配置好消息文件batchmessage.txt

在这里插入图片描述

  1. 然后执行命令

发送的消息会从batchmessage.txt里面随机选择; 注意这里我们没有用参数--payload-delimeter指定分隔符,默认分隔符是\n换行;

bin/kafka-producer-perf-test.sh --topic test_create_topic4 --num-records 1024 --throughput 100 --producer-props bootstrap.servers=localhost:9090 --payload-file config/batchmessage.txt

  1. 验证消息,可以通过 LogIKM 查看发送的消息

在这里插入图片描述


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --topic | 指定消费的topic | |

| --num-records | 发送多少条消息 | |

| --throughput | 每秒消息最大吞吐量 | |

| --producer-props | 生产者配置, k1=v1,k2=v2 | --producer-props bootstrap.servers= localhost:9092,client.id=test_client |

| --producer.config | 生产者配置文件 | --producer.config config/producer.propeties |

| --print-metrics | 在test结束的时候打印监控信息,默认false | --print-metrics true |

| --transactional-id | 指定事务 ID,测试并发事务的性能时需要,只有在 --transaction-duration-ms > 0 时生效,默认值为 performance-producer-default-transactional-id | |

| --transaction-duration-ms | 指定事务持续的最长时间,超过这段时间后就会调用 commitTransaction 来提交事务,只有指定了 > 0 的值才会开启事务,默认值为 0 | |

| --record-size | 一条消息的大小byte; 和 --payload-file 两个中必须指定一个,但不能同时指定 | |

| --payload-file | 指定消息的来源文件,只支持 UTF-8 编码的文本文件,文件的消息分隔符通过 --payload-delimeter指定,默认是用换行\nl来分割的,和 --record-size 两个中必须指定一个,但不能同时指定 ; 如果提供的消息 | |

| --payload-delimeter | 如果通过 --payload-file 指定了从文件中获取消息内容,那么这个参数的意义是指定文件的消息分隔符,默认值为 \n,即文件的每一行视为一条消息;如果未指定--payload-file则此参数不生效;发送消息的时候是随机送文件里面选择消息发送的; | |

10.消费者压力测试kafka-consumer-perf-test.sh


消费100条消息--messages 100

sh bin/kafka-consumer-perf-test.sh -topic test_create_topic4 --bootstrap-server localhost:9090 --messages 100


相关可选参数

| 参数 | 描述 | 例子 |

| — | — | — |

| --bootstrap-server | | |

| --consumer.config | 消费者配置文件 | |

| --date-format | 结果打印出来的时间格式化 | 默认:yyyy-MM-dd HH:mm:ss:SSS |

| --fetch-size | 单次请求获取数据的大小 | 默认1048576 |

| --topic | 指定消费的topic | |

| --from-latest | | |

| --group | 消费组ID | |

| --hide-header | 如果设置了,则不打印header信息 | |

| --messages | 需要消费的数量 | |

| --num-fetch-threads | feth 数据的线程数(废弃无效) | 默认:1 |

| --print-metrics | 结束的时候打印监控数据 | |

| --show-detailed-stats | 如果设置,则按照--report_interval配置的方式报告每个报告间隔的统计信息 | |

| --threads | 消费线程数;(废弃无效) | 默认 10 |

| --reporting-interval | 打印进度信息的时间间隔(以毫秒为单位) | |

11.删除指定分区的消息kafka-delete-records.sh


删除指定topic的某个分区的消息删除至offset为1024

先配置json文件offset-json-file.json

{“partitions”:

[{“topic”: “test1”, “partition”: 0,

“offset”: 1024}],

“version”:1

}

在执行命令

sh bin/kafka-delete-records.sh --bootstrap-server 172.23.250.249:9090 --offset-json-file config/offset-json-file.json

验证 通过 LogIKM 查看发送的消息

在这里插入图片描述

从这里可以看出来,配置"offset": 1024 的意思是从最开始的地方删除消息到 1024的offset; 是从最前面开始删除的

12. 查看Broker磁盘信息kafka-log-dirs.sh


查询指定topic磁盘信息--topic-list topic1,topic2

sh bin/kafka-log-dirs.sh --bootstrap-server xxxx:9090 --describe --topic-list test2

查询指定Broker磁盘信息--broker-list 0 broker1,broker2

sh bin/kafka-log-dirs.sh --bootstrap-server xxxxx:9090 --describe --topic-list test2 --broker-list 0

例如我一个3分区3副本的Topic的查出来的信息

logDir Broker中配置的log.dir

{

“version”: 1,

“brokers”: [{

“broker”: 0,

“logDirs”: [{

“logDir”: “/Users/xxxx/work/IdeaPj/ss/kafka/kafka-logs-0”,

“error”: null,

“partitions”: [{

“partition”: “test2-1”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-0”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-2”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}]

}]

}, {

“broker”: 1,

“logDirs”: [{

“logDir”: “/Users/xxxx/work/IdeaPj/ss/kafka/kafka-logs-1”,

“error”: null,

“partitions”: [{

“partition”: “test2-1”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-0”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-2”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}]

}]

}, {

“broker”: 2,

“logDirs”: [{

“logDir”: “/Users/xxxx/work/IdeaPj/ss/kafka/kafka-logs-2”,

“error”: null,

“partitions”: [{

“partition”: “test2-1”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-0”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-2”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}]

}]

}, {

“broker”: 3,

“logDirs”: [{

“logDir”: “/Users/xxxx/work/IdeaPj/ss/kafka/kafka-logs-3”,

“error”: null,

“partitions”: []

}]

最后的话

最近很多小伙伴找我要Linux学习资料,于是我翻箱倒柜,整理了一些优质资源,涵盖视频、电子书、PPT等共享给大家!

资料预览

给大家整理的视频资料:

给大家整理的电子书资料:

如果本文对你有帮助,欢迎点赞、收藏、转发给朋友,让我有持续创作的动力!

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化的资料的朋友,可以添加V获取:vip1024b (备注运维)
img

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
ffsetLag": 0,

“isFuture”: false

}, {

“partition”: “test2-0”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-2”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}]

}]

}, {

“broker”: 2,

“logDirs”: [{

“logDir”: “/Users/xxxx/work/IdeaPj/ss/kafka/kafka-logs-2”,

“error”: null,

“partitions”: [{

“partition”: “test2-1”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-0”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}, {

“partition”: “test2-2”,

“size”: 0,

“offsetLag”: 0,

“isFuture”: false

}]

}]

}, {

“broker”: 3,

“logDirs”: [{

“logDir”: “/Users/xxxx/work/IdeaPj/ss/kafka/kafka-logs-3”,

“error”: null,

“partitions”: []

}]

最后的话

最近很多小伙伴找我要Linux学习资料,于是我翻箱倒柜,整理了一些优质资源,涵盖视频、电子书、PPT等共享给大家!

资料预览

给大家整理的视频资料:

[外链图片转存中…(img-ZPvQnPo8-1713458090618)]

给大家整理的电子书资料:

[外链图片转存中…(img-X7ujxC4D-1713458090619)]

如果本文对你有帮助,欢迎点赞、收藏、转发给朋友,让我有持续创作的动力!

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化的资料的朋友,可以添加V获取:vip1024b (备注运维)
[外链图片转存中…(img-FjZBkVHR-1713458090619)]

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Monodyee/article/detail/682254
推荐阅读
相关标签
  

闽ICP备14008679号