热门标签
热门文章
- 1JAVA开发（byte和string转换类型的坑）_java byte转string
- 2Docker概述
- 3java面试题：分布式和微服务的区别
- 4内核学习-系统调用上_反汇编 sysenter
- 5通过python实现企业微信公众号链接+图文推送_python 企业微信 get_token
- 6CrossOver2023虚拟机下载及如何安装软件教程_crossover下载安装教程
- 7Docker常用命令大全
- 8Python之pip命令指定安装源和版本_pip 指定版本
- 9从0到1，入门到进阶玩转AI——Stable Diffusion超详细教程（一）_stable diffusion 从入门到高端应用
- 10PyQt5教程：如何在PyCharm中添加Qt Designer、PyUIC、PyRcc外部工具？
当前位置: article > 正文
Kafka系列之：记录一次Kafka Topic分区扩容，但是下游flink消费者没有自动消费新的分区的解决方法_flume 感知kafka分区变化
作者：你好赵伟 | 2024-02-12 20:46:48
赞
踩
flume 感知kafka分区变化
Kafka系列之：记录一次Kafka Topic分区扩容，但是下游flink消费者没有自动消费新的分区的解决方法
一、背景
- 生产环境Kafka集群压力大，Topic读写压力大，消费的lag比较大，因此通过扩容Topic的分区，增大Topic的读写性能
- 理论上下游消费者应该能够自动消费到新的分区，例如flume消费到了新的分区，但是实际情况是存在flink消费者没有消费到新的分区
二、解决方法
出现无法消费topic新的分区这种情况，最简单的解决方法是
- 重启flink消费者程序
三、实现自动发现新的分区
flink程序增加自动发现分区参数：
- flink.partition-discovery.interval-millis是一个配置属性，用于设置Flink作业中的分区发现间隔时间（以毫秒为单位）。
- 在Flink作业中，数据源（例如Kafka或文件系统）的分区可能会发生变化。为了及时感知分区的变化情况，
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/你好赵伟/article/detail/78502
推荐阅读
- swagger：swagger 引入
[详细] 赞
踩
相关标签
