Kafka拦截器_kafka 拦截监听消息

作者：盐析白兔 | 2024-04-23 01:58:59

踩

kafka 拦截监听消息

对于 producer 而言，interceptor 使得用户在消息发送前以及 producer 回调逻辑前有机会

对消息做一些定制化需求，比如修改消息等。同时，producer 允许用户指定多个 interceptor

按序作用于同一条消息从而形成一个拦截链(interceptor chain)。Intercetpor 的实现接口是

org.apache.kafka.clients.producer.ProducerInterceptor，其定义的方法包括：

（1）configure(configs) 获取配置信息和初始化数据时调用。

（2）onSend(ProducerRecord)：

该方法封装进 KafkaProducer.send 方法中，即它运行在用户主线程中。Producer 确保在

消息被序列化以及计算分区前调用该方法。用户可以在该方法中对消息做任何操作，但最好

保证不要修改消息所属的 topic 和分区，否则会影响目标分区的计算。

（3）onAcknowledgement(RecordMetadata, Exception)：

该方法会在消息从 RecordAccumulator 成功发送到 Kafka Broker 之后，或者在发送过程

中失败时调用。并且通常都是在 producer 回调逻辑触发之前。onAcknowledgement 运行在

producer 的 IO 线程中，因此不要在该方法中放入很重的逻辑，否则会拖慢 producer 的消息

发送效率。

（4）close：

关闭 interceptor，主要用于执行一些资源清理工作

如前所述，interceptor 可能被运行在多个线程中，因此在具体实现时用户需要自行确保

线程安全。另外倘若指定了多个 interceptor，则 producer 将按照指定顺序调用它们，并仅仅

是捕获每个 interceptor 可能抛出的异常记录到错误日志中而非在向上传递。这在使用过程中

要特别留意。

案列：

实现一个简单的双 interceptor 组成的拦截链。第一个 interceptor 会在消息发送前将时间

戳信息加到消息 value 的最前部；第二个 interceptor 会在消息发送后更新成功发送消息数或

失败发送消息数。


package com.yrl.interceptor;
 
import org.apache.kafka.clients.producer.ProducerInterceptor;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;
 
import java.util.Map;
 
public class TimeInterceptor implements ProducerInterceptor<String,String> {
    @Override
    public void configure(Map<String, ?> map) {
 
    }
 
    @Override
    public ProducerRecord<String,String> onSend(ProducerRecord<String,String> producerRecord) {
        //取出数据
        String value = producerRecord.value();
 
        //添加时间戳
        ProducerRecord<String, String> record = new ProducerRecord<String, String>(producerRecord.topic(),producerRecord.partition(),
                producerRecord.key(),value+System.currentTimeMillis()+"");
 
        return record;
    }
 
    @Override
    public void onAcknowledgement(RecordMetadata recordMetadata, Exception e) {
 
    }
 
    @Override
    public void close() {
 
    }
 
 
}


package com.yrl.interceptor;
 
import org.apache.kafka.clients.producer.ProducerInterceptor;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;
 
import java.util.Map;
 
public class CountInterceptor implements ProducerInterceptor<String ,String> {
 
    int success = 0;
    int error = 0;
 
    @Override
    public void configure(Map<String, ?> map) {
 
    }
 
    @Override
    public ProducerRecord<String, String> onSend(ProducerRecord<String, String> producerRecord) {
        return producerRecord;
    }
 
    @Override
    public void onAcknowledgement(RecordMetadata recordMetadata, Exception e) {
        if(recordMetadata != null){
            success++;
        }else {
            error++;
        }
    }
 
    @Override
    public void close() {
        System.out.println("success="+success);
        System.out.println("error="+error);
    }
 
}


package com.yrl.producer;
 
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerConfig;
import org.apache.kafka.clients.producer.ProducerRecord;
 
import java.util.ArrayList;
import java.util.Properties;
 
public class MyProducer {
 
    public static void main(String[] args) {
        Properties props = new Properties();
        //kafka 集群，broker-list
        props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "hadoop112:9092,hadoop113:9092,hadoop114:9092");
//        props.put("bootstrap.servers", "hadoop112:9092");
        props.put("acks", "all");
        //重试次数
        props.put("retries", 3);
        //批次大小
        props.put("batch.size", 16384);
        //等待时间
        props.put("linger.ms", 1);
        //RecordAccumulator 缓冲区大小
        props.put("buffer.memory", 33554432);
        props.put("key.serializer",
                "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer",
                "org.apache.kafka.common.serialization.StringSerializer");
 
        //添加拦截器,注意顺序
        ArrayList<Object> interceptors = new ArrayList<>();
        interceptors.add("com.yrl.interceptor.TimeInterceptor");
        interceptors.add("com.yrl.interceptor.CountInterceptor");
        props.put(ProducerConfig.INTERCEPTOR_CLASSES_CONFIG,interceptors);
 
 
        KafkaProducer<String, String> producer = new KafkaProducer<>(props);
 
        for (int i = 0; i < 10; i++) {
            producer.send(new ProducerRecord<String, String>("first",
                    "yrl"+i));
        }
 
 
        producer.close();
    }
}

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/盐析白兔/article/detail/471577