搜索
查看
编辑修改
首页
UNITY
NODEJS
PYTHON
AI
GIT
PHP
GO
CEF3
JAVA
HTML
CSS
搜索
weixin_40725706
这个屌丝很懒,什么也没留下!
关注作者
热门标签
jquery
HTML
CSS
PHP
ASP
PYTHON
GO
AI
C
C++
C#
PHOTOSHOP
UNITY
iOS
android
vue
xml
爬虫
SEO
LINUX
WINDOWS
JAVA
MFC
CEF3
CAD
NODEJS
GIT
Pyppeteer
article
热门文章
1
在Jetson Nano上学习ROS的记录(版本Ubuntu18.04,课程来源赵虚左老师的《ROS理论与实践》)第十一章-第一节 机器人系统仿真(URDF相关)_jetson nano启动rviz
2
基于springboot的邮件过滤系统的设计与实现_springboot email根据时间过滤邮件
3
ZooKeeper部署全攻略——TLS/SSL安全认证
4
谷歌创始人退位!印度籍 CEO 这是要“接管”美国科技圈?
5
Fastjson反序列化_fastjson反序列化什么时候去解析域名dns
6
两个C++编译错误及解决办法--does not name a type和field `XX' has incomplete type_i does not name a type
7
android studio2024最新详解(完全小白)安装-运行第一个程序_android studio24
8
Linux开源系统对比Windows闭源系统的优势解析
9
时域方法---自回归模型(Autoregressive (AR) Model)介绍,创新点(非线性时间序列分析代码提供),另有两个创新点在文章中总结标题中_autoregressive models
10
毕业工作5年被裁,Java开发了解这些自然无惧面试_java 5年 知乎
当前位置:
article
> 正文
kafka清理数据_log.segment.delete.delay.ms
作者:weixin_40725706 | 2024-08-15 04:33:03
赞
踩
log.segment.delete.delay.ms
默认配置server.conf里的核心配置项
#最大日志保留大小
log.retention.bytes=1073741824
#日志保留时间长度
log.retention.minutes=10
log.segment.delete.delay.ms=1000
#过期数据删除策略,最重要的配置
log.cleaner.enable=true
log.cleanup.policy=delete
#以上配置只对默认配置,属于全局配置,并不一定对全部topic起效
如果以上配置对你的topics不起效果,说明该topics有独立的特殊配置,用以下命令查询该topics的特殊配置(重载配置)
#localhost:2182是zookeeper的ip和端口,__consumer_offsets是要查询的topics
bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --describe
#假如结果如下:
Configs for topics:__consumer_offsets are segment.bytes=104857600,cleanup.policy=compact,compression.type=uncompressed
则说明segment.bytes、cleanup.policy、compression.type这三个配置项是针对topics的,server.conf配置log.cleanup.policy, log.segment.bytes 没有起效,如果想让该配置跟随server.conf配置,则执行以下命令,一个个删除特殊配置
bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --alter --delete-config cleanup.policy
如果想修改,则用以下命令
bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --alter --delete-config cleanup.policy=delete
具体配置项参考官方文档:
http://kafka.apache.org/documentation.html
然后你就会发现,日志基本被清空了!!!
声明:
本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:
https://www.wpsshop.cn/w/weixin_40725706/article/detail/982050
推荐阅读
article
Docker
-
Compose
配置
zookeeper
+KaFka+
CMAK
简单集群_
cmak
dock...
基于Ubuntu24.04 TLS稳定版进行测试安装,仅供参考学习。_
cmak
docker
cmak
docker
...
赞
踩
article
docker
-
compose
部署
kafka
集群
_
docker
-
compose
kafka
...
用于测试、开发环境部署
kafka
集群
,实际上也可以用于生产环境,但是需要调整
kafka
集群
参数、镜像系统参数,以达到ka...
赞
踩
article
03、
Kafka
------
CMAK
(
Kafka
图形界面
管理工具
)
下载
、安装、
启动
_kafk...
本文介绍了如何
下载
并安装
CMAK
,一款用于管理
Kafka
的Web界面工具。步骤包括
下载
最新版本的
CMAK
,修改配置文件以...
赞
踩
article
docker
安装
kafka
_
这几款
kafka
工具
,
值得了解下...
在 Kafka 集群运维过程中
,
我们通常会借用一些开源
工具
来完成
kafka
的日常运维需求和相关问题排查
,
接下来介绍几...
赞
踩
article
【
中间件
】
通过
docker
-
compose
快速
部署
Kafka
保姆级教程...
Kafka
是由Apache基金会开发的分布式流处理平台,采用发布-订阅模式,支持高吞吐量、低延迟的数据传输。主要用于处理...
赞
踩
article
docker
kafka
安装使用和可视化面板
CMAK
_
cmak
docker
...
一、下载镜像
docker
pull wurstmeister/zookeeper
docker
pull wurstmei...
赞
踩
article
2024年最全
docker
-
compose
部署
kafka
、
SASL
模式(密码校验模式)
_
system
...
Zookeeper作为Kafka的协调服务
,
负责管理集群的状态和配置。这个配置文件中
,
Zookeeper和Kafka都有...
赞
踩
article
docker
-
compose
部署
kafka
_
docker
compose
scale
kafka
=...
https://blog.csdn.net/Crystalqy/article/details/94006936用doc...
赞
踩
article
Docker
-
compose
部署
kafka
_
docker
-
compose
kafka
...
一、简写安装
Docker
及
docker
-
compose
1. 安装
Docker
# 安装依赖sudo yum instal...
赞
踩
article
Kafka
数据
丢失
与优化_
kafka
其中
的
一个
broker
没有
数据
...
本文探讨了
Kafka
在
broker
和consumer层面可能导致
数据
丢失
的
情况及其解决方案,并提供了
Kafka
性能调优
的
...
赞
踩
article
Kafka
丢
数据
问题...
Kafka
是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式...
赞
踩
article
Kafka
--
消息
丢失
--原因/
解决方案
/零
丢失
的配置_单机
kafka
为什么会
丢失
数据...
本文介绍
Kafka
什么时候
消息
会
丢失
、保证
消息
不
丢失
的
解决方案
、
消息
零
丢失
的配置。_单机
kafka
为什么会
丢失
数据单机k...
赞
踩
article
Kafka
消息
丢失
的原因分析_
kafka
消息
丢失
...
Kafka
消息
丢失
的原因通常涉及多个方面,包括生产者、消费者和
Kafka
服务端(Broker)的配置和行为。下面将围绕这...
赞
踩
article
面试官:
Kafka
会
不
会
丢
消息
?怎么
处理
的
?一篇文章带你学习_
kafka
会
丢
消息
吗...
在正常情况下,客户端
的
异步调用可以通过callback来
处理
消息
发送失败或者超时
的
情况,但是,一旦producer被非法...
赞
踩
article
Kafka
【应用
01
】
Offset
Explorer
Kafka
的
终极 UI 工具安装+简单上手...
well as the messages stored in the topics of the cluster. It...
赞
踩
article
kafka
tool
2.1
连接
kerberos
的
kafka
(
cdh6.3
.2)集群。_
kcat
t...
kafka
tool
2.1
连接
kerberos
的
kafka
(
cdh6.3
.2)集群。
kafka
tool
s 下载连接:...
赞
踩
article
在
Git
中,如何『
删除
』
commit
?_
git
delete
commit
...
在
Git
中,如何『
删除
』
commit
?本文主要参考 How can I
delete
a
commit
in
Git
? ...
赞
踩
article
Kafka
~
消息
系列问题解决:
重复
消费
问题、
消费
重试机制、
消息
积压问题_
kafka
重复
消费
...
那么这里会有个问题:什么时候提交 offset 合适?在
Kafka
中,有三种常见的
消息
传递语义:At-least-onc...
赞
踩
article
kafka
消费
过程中失败
,
kafka
重试
补偿
_go
kafka
程序
重启
了
补偿
...
在网上查询
了
很久
,
最终是在这个博客的引导下发现
了
问题:http://www.dalbll.com/Group/Topic...
赞
踩
article
Kafka
消费
端
消费
重试
和
死信
队列_
kafka
消费
重试
机制...
本文介绍了Spring-
Kafka
如何处理
消费
失败的情况,通过
消费
重试
机制和
死信
队列来管理无法成功
消费
的消息。当达到
重试
...
赞
踩
相关标签
docker
zookeeper
ubuntu
运维
容器
kafka
分布式
CMAK
docker 安装kafka
docker安装kafka
中间件
docker kafka 安装
大数据
面试
学习
php
开发语言
java