当前位置:   article > 正文

SpringBoot整合kafka

SpringBoot整合kafka

SpringBoot整合kafka

1.引入kafka依赖 在Spring Boot项目的pom.xml或build.gradle文件中添加Spring Kafka的起步依赖

pom.xml

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-stream-kafka</artifactId>
 </dependency>
  • 1
  • 2
  • 3
  • 4

Gradle:

implementation 'org.springframework.kafka:spring-kafka'
  • 1

2.配置kafka连接 在application.properties或application.yml中配置Kafka Bootstrap Servers地址

spring:
    kafka:
        bootstrap-servers: 156.31.34:9092,163.36.45:9092 #指定kafka集群的地址 多个地址用 , 分隔
        listener:
            ack-mode: manual_immediate #设置消费者的确认模式为manual_immediate,表示消费者在接收到消息后立即手动确认。
            concurrency: 5 #设置消费者的并发数
            missing-topics-fatal: false #设置为false 表示如果消费者订阅的主题不存在 不会抛出异常
        producer: 
            key-serializer: org.apache.kafka.common.serialization.StringSerializer #设置消息键的序列化器
            value-serializer: org.apache.kafka.common.serialization.StringSerializer #设置消息值的序列化器
            acks: 1 #一般选择1 兼顾可靠性和吞吐量 如果想要更高的吞吐量设置为0,如果要求更高的可靠性就设置为-1
        consumer:
            auto-offset-reset: earliest #设置为"earliest"表示将从最早的可用消息开始消费 即从消费分区的起始位置开始读取消息
            enable-auto-commit: false #禁用了自动提交偏移量的功能 为了避免出现重复数据和数据丢失 一般都是手动提交
            key-deserializer: org.apache.kafka.common.serialization.StringDeserializer #设置消息键的反序列化器
            value-deserializer: org.apache.kafka.common.serialization.StringDeserializer #设置消息键的反序列器
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

3.创建主题(没有创建)

  • 自动创建(不推荐)
    在kafka的安装目录conf目录下找到该配置文件server.properties 添加配置:
num.partitions=3 #默认3个分区
auto.create.topics.enable=true #开启自动创建主题
default.replication.factor=3 #默认3个副本
  • 1
  • 2
  • 3
  • 手动创建手动创建有利于管理
在kafka的安装目录bin目录下,执行如下命令:
//创建一个有三个分区和三个副本 名为nuoci的主题
./kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 3 --partitions 3 --topic nuoci
  • 1
  • 2
  • 3

4.配置Kafka生产者(Producer): 创建一个配置类,注入KafkaTemplate,并配置生产者工厂

@Configuration
public class KafkaProducerConfig {

    @Value("${spring.kafka.bootstrap-servers}")
    private String bootstrapServers;

    @Bean
    public ProducerFactory<String, String> producerFactory() {
        Map<String, Object> configProps = new HashMap<>();
        configProps.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
        configProps.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
        configProps.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
        return new DefaultKafkaProducerFactory<>(configProps);
    }

    @Bean
    public KafkaTemplate<String, String> kafkaTemplate() {
        return new KafkaTemplate<>(producerFactory());
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20

5.创建生产者(Producer)服务: 创建一个服务类,注入KafkaTemplate,并实现发送消息的方法

@Service
public class KafkaProducerService {

    @Autowired
    private KafkaTemplate<String, String> kafkaTemplate;

    public void sendMessage(String topicName, String message) {
        this.kafkaTemplate.send(topicName, message);//(主题,发送的消息)
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

6.配置Kafka消费者(Consumer): 创建一个配置类,配置消费者工厂和监听容器

@Configuration
public class KafkaConsumerConfig {

    @Value("${spring.kafka.bootstrap-servers}")
    private String bootstrapServers;

    @Bean
    public ConsumerFactory<String, String> consumerFactory() {
        Map<String, Object> props = new HashMap<>();
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
        props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-consumer-group");
        props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
        props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
        return new DefaultKafkaConsumerFactory<>(props);
    }

    @Bean
    ConcurrentKafkaListenerContainerFactory<String, String> kafkaListenerContainerFactory() {
        ConcurrentKafkaListenerContainerFactory<String, String> factory =
                new ConcurrentKafkaListenerContainerFactory<>();
        factory.setConsumerFactory(consumerFactory());
        return factory;
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24

7.创建消费者(Consumer)服务: 创建一个服务类,使用@KafkaListener注解监听特定主题的消息

@Service
public class KafkaConsumerService {

    @KafkaListener(topics = "your-topic-name")
    public void listen(String message) {
        System.out.println("Received message: " + message);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

至此,已经在Spring Boot中完成了与Kafka的基本整合,可以进行消息的生产和消费。当然,根据实际需求,可能还需要进一步配置Kafka的各项参数,如重试、分区分配策略、offset管理策略等。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/菜鸟追梦旅行/article/detail/680491
推荐阅读
相关标签
  

闽ICP备14008679号