devbox
IT小白
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

Flink（16）：Flink之Connect Kafka API_flink-connector-kafka_2.12

作者：IT小白 | 2024-04-26 23:00:26

赞

踩

flink-connector-kafka_2.12

目录

​​​​​​0. 相关文章链接

1. pom依赖

2. 参数设置

3. 参数说明

3.1. 序列化和反序列化器

3.2. 消费者起始位置

3.3. 动态分区检测

3.4. Connect Kafka中的Checkpoint

4. Kafka中的部分命令

5. 代码实现 KafkaConsumer

6. 代码实现 KafkaProducer

7. KafkaUtil示例

​​​​​​0. 相关文章链接

Flink文章汇总

1. pom依赖

        Flink 里已经提供了一些绑定的 Connector，例如 kafka source 和 sink，Es sink 等。读写 kafka、es、rabbitMQ 时可以直接使用相应 connector 的 api 即可，虽然该部分是 Flink 项目源代码里的一部分，但是真正意义上不算作 Flink 引擎相关逻辑，并且该部分没有打包在二进制的发布包里面。所以在提交 Job 时候需要注意， job 代码 jar 包中一定要将相应的 connetor 相关类打包进去，否则在提交作业时就会失败，提示找不到相应的类，或初始化某些类异常。

//nightlies.apache.org/flink/flink-docs-release-1.14/docs/connectors/datastream/kafka/

具体依赖可以查看： Flink的API说明和pom文件汇总 

2. 参数设置

如下参数建议全部配置上：

  1. 1.订阅的主题
  2. 2.反序列化规则
  3. 3.消费者属性-集群地址
  4. 4.消费者属性-消费者组id(如果不设置,会有默认的,但是默认的不方便管理)
  5. 5.消费者属性-offset重置规则,如earliest/latest...
  6. 6.动态分区检测(当kafka的分区数变化/增加时,Flink能够检测到!)
  7. 7.如果没有设置Checkpoint,那么可以设置自动提交offset,后续学习了Checkpoint会把offset随着做Checkpoint的时候提交到Checkpoint和默认主题中

3. 参数说明

3.1. 序列化和反序列化器

3.2. 消费者起始位置

3.3. 动态分区检测

 关于动态分区的实际需求和解决方案：

  1. 场景一：有一个 Flink 作业需要将五份数据聚合到一起，五份数据对应五个 kafka topic，随着业务增长，新增一类数据，同时新增了一个 kafka topic，如何在不重启作业的情况下作业自动感知新的 topic。
  2.  
  3. 场景二：作业从一个固定的 kafka topic 读数据，开始该 topic 有 10 个 partition，但随着业务的增长数据量变大，需要对 kafka partition 个数进行扩容，由 10 个扩容到 20。
  4.  
  5. 该情况下如何在不重启作业情况下动态感知新扩容的 partition？
  6.  
  7. 针对上面的两种场景，首先需要在构建 FlinkKafkaConsumer 时的 properties 中设置 flink.partition-discovery.interval-millis 参数为非负值，表示开启动态发现的开关，以及设置的时间间隔。此时 FlinkKafkaConsumer 内部会启动一个单独的线程定期去 kafka 获取最新的 meta 信息。
  8.  
  9. 针对场景一，还需在构建 FlinkKafkaConsumer 时，topic 的描述可以传一个正则表达式描述的 pattern。每次获取最新 kafka meta 时获取正则匹配的最新 topic 列表。
  10.  
  11. 针对场景二，设置前面的动态发现参数，在定期获取 kafka 最新 meta 信息时会匹配新的 partition。为了保证数据的正确性，新发现的 partition 从最早的位置开始读取。

3.4. Connect Kafka中的Checkpoint

注意:

        开启 checkpoint 时 offset 是 Flink 通过状态 state 管理和恢复的，并不是从 kafka 的 offset 位置恢复。在 checkpoint 机制下，作业从最近一次checkpoint 恢复，本身是会回放部分历史数据，导致部分数据重复消费，Flink 引擎仅保证计算状态的精准一次，要想做到端到端精准一次需要依赖一些幂等的存储系统或者事务操作。

4. Kafka中的部分命令

  1. # 查看当前服务器中的所有topic
  2. /export/server/kafka/bin/kafka-topics.sh --list --zookeeper  node1:2181
  3.  
  4. # 创建topic
  5. /export/server/kafka/bin/kafka-topics.sh --create --zookeeper node1:2181 --replication-factor 2 --partitions 3 --topic flink_kafka
  6.  
  7. # 查看某个Topic的详情
  8. /export/server/kafka/bin/kafka-topics.sh --topic flink_kafka --describe --zookeeper node1:2181
  9.  
  10. # 删除topic
  11. /export/server/kafka/bin/kafka-topics.sh --delete --zookeeper node1:2181 --topic flink_kafka
  12.  
  13. # 通过shell命令发送消息
  14. /export/server/kafka/bin/kafka-console-producer.sh --broker-list node1:9092 --topic flink_kafka
  15.  
  16. # 通过shell消费消息
  17. /export/server/kafka/bin/kafka-console-consumer.sh --bootstrap-server node1:9092 --topic flink_kafka --from-beginning 
  18.  
  19. # 修改分区
  20.  /export/server/kafka/bin/kafka-topics.sh --alter --partitions 4 --topic flink_kafka --zookeeper node1:2181

5. 代码实现 KafkaConsumer

  1. import org.apache.flink.api.common.functions.FlatMapFunction;
  2. import org.apache.flink.api.common.serialization.SimpleStringSchema;
  3. import org.apache.flink.api.java.tuple.Tuple;
  4. import org.apache.flink.api.java.tuple.Tuple2;
  5. import org.apache.flink.streaming.api.datastream.DataStreamSource;
  6. import org.apache.flink.streaming.api.datastream.KeyedStream;
  7. import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
  8. import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
  9. import org.apache.flink.streaming.connectors.kafka.FlinkKafkaConsumer;
  10. import org.apache.flink.util.Collector;
  11.  
  12. import java.util.Properties;
  13.  
  14. /**
  15.  * Author itcast
  16.  * Desc
  17.  * 需求:使用flink-connector-kafka_2.12中的FlinkKafkaConsumer消费Kafka中的数据做WordCount
  18.  * 需要设置如下参数:
  19.  * 1.订阅的主题
  20.  * 2.反序列化规则
  21.  * 3.消费者属性-集群地址
  22.  * 4.消费者属性-消费者组id(如果不设置,会有默认的,但是默认的不方便管理)
  23.  * 5.消费者属性-offset重置规则,如earliest/latest...
  24.  * 6.动态分区检测(当kafka的分区数变化/增加时,Flink能够检测到!)
  25.  * 7.如果没有设置Checkpoint,那么可以设置自动提交offset,后续学习了Checkpoint会把offset随着做Checkpoint的时候提交到Checkpoint和默认主题中
  26.  */
  27. public class ConnectorsDemo_KafkaConsumer {
  28.     public static void main(String[] args) throws Exception {
  29.         //1.env
  30.         StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
  31.         //2.Source
  32.         Properties props  = new Properties();
  33.         props.setProperty("bootstrap.servers", "node1:9092");
  34.         props.setProperty("group.id", "flink");
  35.         props.setProperty("auto.offset.reset","latest");
  36.         props.setProperty("flink.partition-discovery.interval-millis","5000");//会开启一个后台线程每隔5s检测一下Kafka的分区情况
  37.         props.setProperty("enable.auto.commit", "true");
  38.         props.setProperty("auto.commit.interval.ms", "2000");
  39.         //kafkaSource就是KafkaConsumer
  40.         FlinkKafkaConsumer<String> kafkaSource = new FlinkKafkaConsumer<>("flink_kafka", new SimpleStringSchema(), props);
  41.         kafkaSource.setStartFromGroupOffsets();//设置从记录的offset开始消费,如果没有记录从auto.offset.reset配置开始消费
  42.         //kafkaSource.setStartFromEarliest();//设置直接从Earliest消费,和auto.offset.reset配置无关
  43.         DataStreamSource<String> kafkaDS = env.addSource(kafkaSource);
  44.  
  45.         //3.Transformation
  46.         //3.1切割并记为1
  47.         SingleOutputStreamOperator<Tuple2<String, Integer>> wordAndOneDS = kafkaDS.flatMap(new FlatMapFunction<String, Tuple2<String, Integer>>() {
  48.             @Override
  49.             public void flatMap(String value, Collector<Tuple2<String, Integer>> out) throws Exception {
  50.                 String[] words = value.split(" ");
  51.                 for (String word : words) {
  52.                     out.collect(Tuple2.of(word, 1));
  53.                 }
  54.             }
  55.         });
  56.         //3.2分组
  57.         KeyedStream<Tuple2<String, Integer>, Tuple> groupedDS = wordAndOneDS.keyBy(0);
  58.         //3.3聚合
  59.         SingleOutputStreamOperator<Tuple2<String, Integer>> result = groupedDS.sum(1);
  60.  
  61.         //4.Sink
  62.         result.print();
  63.  
  64.         //5.execute
  65.         env.execute();
  66.     }
  67. }

6. 代码实现 KafkaProducer

  1. import com.alibaba.fastjson.JSON;
  2. import lombok.AllArgsConstructor;
  3. import lombok.Data;
  4. import lombok.NoArgsConstructor;
  5. import org.apache.flink.api.common.functions.MapFunction;
  6. import org.apache.flink.api.common.serialization.SimpleStringSchema;
  7. import org.apache.flink.streaming.api.datastream.DataStreamSource;
  8. import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
  9. import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
  10. import org.apache.flink.streaming.connectors.kafka.FlinkKafkaProducer;
  11.  
  12. import java.util.Properties;
  13.  
  14. /**
  15.  * Author itcast
  16.  * Desc
  17.  * 使用自定义sink-官方提供的flink-connector-kafka_2.12-将数据保存到Kafka
  18.  */
  19. public class ConnectorsDemo_KafkaProducer {
  20.     public static void main(String[] args) throws Exception {
  21.         //1.env
  22.         StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
  23.         //2.Source
  24.         DataStreamSource<Student> studentDS = env.fromElements(new Student(1, "tonyma", 18));
  25.         //3.Transformation
  26.         //注意:目前来说我们使用Kafka使用的序列化和反序列化都是直接使用最简单的字符串,所以先将Student转为字符串
  27.         //可以直接调用Student的toString,也可以转为JSON
  28.         SingleOutputStreamOperator<String> jsonDS = studentDS.map(new MapFunction<Student, String>() {
  29.             @Override
  30.             public String map(Student value) throws Exception {
  31.                 //String str = value.toString();
  32.                 String jsonStr = JSON.toJSONString(value);
  33.                 return jsonStr;
  34.             }
  35.         });
  36.  
  37.         //4.Sink
  38.         jsonDS.print();
  39.         //根据参数创建KafkaProducer/KafkaSink
  40.         Properties props = new Properties();
  41.         props.setProperty("bootstrap.servers", "node1:9092");
  42.         FlinkKafkaProducer<String> kafkaSink = new FlinkKafkaProducer<>("flink_kafka",  new SimpleStringSchema(),  props);
  43.         jsonDS.addSink(kafkaSink);
  44.  
  45.         //5.execute
  46.         env.execute();
  47.  
  48.         // /export/server/kafka/bin/kafka-console-consumer.sh --bootstrap-server node1:9092 --topic flink_kafka
  49.     }
  50.     @Data
  51.     @NoArgsConstructor
  52.     @AllArgsConstructor
  53.     public static class Student {
  54.         private Integer id;
  55.         private String name;
  56.         private Integer age;
  57.     }
  58. }

7. KafkaUtil示例

其中包括如下方法：

方法一：通过消费者组id 获取对应的kafka配置

方法二：封装kafka消费者

方法三：封装kafka消费者（返回一个Tuple2，其中第一个元素为kafka的value值，第二个为该消息在kafka中对应的时间戳）

方法四：封装kafka消费者，从传入的时间戳开始消费（返回一个Tuple2，其中第一个元素为kafka的value值，第二个为该消息在kafka中对应的时间戳）

方法五：封装kafka消费者，从传入的时间戳开始消费

方法六：封装kafka生产者

方法七：封装 Kafka 生产者，动态指定多个不同主题，并使用精确一次语议

方法八：封装 Kafka 精确一次语议 生产者对象

  1. package com.ouyang.gmall.realtime.utils;
  2.  
  3. import com.alibaba.fastjson.JSON;
  4. import org.apache.flink.api.common.serialization.SimpleStringSchema;
  5. import org.apache.flink.api.common.typeinfo.TypeHint;
  6. import org.apache.flink.api.common.typeinfo.TypeInformation;
  7. import org.apache.flink.api.java.tuple.Tuple2;
  8. import org.apache.flink.streaming.connectors.kafka.*;
  9. import org.apache.kafka.clients.consumer.ConsumerConfig;
  10. import org.apache.kafka.clients.consumer.ConsumerRecord;
  11. import org.apache.kafka.clients.producer.ProducerConfig;
  12. import org.apache.kafka.clients.producer.ProducerRecord;
  13. import org.slf4j.Logger;
  14. import org.slf4j.LoggerFactory;
  15.  
  16. import javax.annotation.Nullable;
  17. import java.nio.charset.StandardCharsets;
  18. import java.util.Properties;
  19.  
  20. /**
  21.  * @date: 2022/1/14
  22.  * @author: yangshibiao
  23.  * @desc: Kafka工具类
  24.  * Kafka Consumer
  25.  * 1、创建 Kafka Consumer
  26.  * 2、使用 DeserializationSchema 对kafka中的消息值进行反序列化（TypeInformationSerializationSchema、JsonDeserializationSchema、AvroDeserializationSchema 或者 自定义）
  27.  * 3、配置 Kafka Consumer 开始消费的位置（通过 FlinkKafkaConsumer 来 setStartFromEarliest、setStartFromLatest、setStartFromTimestamp、setStartFromGroupOffsets）
  28.  * 4、Kafka Consumer 和容错，使用 flink 的 checkpointing ，或者使用 kafka其中的topic来存储offset
  29.  * 5、Kafka Consumer Topic 和分区发现（设置  flink.partition-discovery.interval-millis 大于0能自动发现kafka中的新分区，能使用正则表达式匹配topic）
  30.  * 6、Kafka Consumer 提交 Offset 的行为配置，注意：提交的 offset 只是一种方法，用于公开 consumer 的进度以便进行监控
  31.  *      6.1、 禁用 Checkpointing， 使用 Kafka client 自动定期 offset 提交功能，需要配置 enable.auto.commit 和 auto.commit.interval.ms
  32.  *      6.2、 启用 Checkpointing，那么 offset 会保存在 checkpointing 中， 同时可以使用 consumer 上的 setCommitOffsetsOnCheckpoints(boolean) 方法来禁用或启用 offset 对 kafka broker 的提交(默认情况下，这个值是 true )，注意，在这个场景中，Properties 中的自动定期 offset 提交设置会被完全忽略。
  33.  * 7、Kafka Consumer 和 时间戳抽取以及 watermark 发送 （使用 FlinkKafkaConsumer.assignTimestampsAndWatermarks ， 一般不用）
  34.  *
  35.  * Kafka Producer
  36.  * 1、创建 Kafka Producer （下述的 getKafkaProducer 系列方法）
  37.  * 2、SerializationSchema （自定义序列化器）
  38.  * 3、Kafka Producer 和容错（通过 Semantic.NONE 、 Semantic.AT_LEAST_ONCE 和 Semantic.EXACTLY_ONCE 配置， 但是需要启动flink的checkpointing）
  39.  *          当使用 Semantic.EXACTLY_ONCE 时，需要考虑到 Kafka broker 中的 transaction.max.timeout.ms （默认15分钟） 和 FlinkKafkaProducer 中的 transaction.timeout.ms（默认1小时）
  40.  *
  41.  */
  42. public class MyKafkaUtil {
  43.  
  44.     public static Logger logger = LoggerFactory.getLogger(MyKafkaUtil.class);
  45.  
  46.     /**
  47.      * 通过消费者组id 获取对应的kafka配置
  48.      *
  49.      * @param groupId 消费者组id
  50.      * @return 配置对象
  51.      */
  52.     public static Properties getKafkaProperties(String groupId) {
  53.  
  54.         // Kakfa的参数设置
  55.         Properties props = new Properties();
  56.  
  57.         // 集群地址 和 消费者组id（最基础的配置，必须要有）
  58.         props.setProperty(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, ModelUtil.getConfigValue("kafka.bootstrap.servers"));
  59.         props.setProperty(ConsumerConfig.GROUP_ID_CONFIG, groupId);
  60.  
  61.         // 开启 FlinkKafkaConsumer 的自动分区检测，用于检测kafka中topic的分区变更
  62.         props.setProperty(FlinkKafkaConsumerBase.KEY_PARTITION_DISCOVERY_INTERVAL_MILLIS, ModelUtil.getConfigValue("kafka.flink.partition-discovery.interval-millis"));
  63.  
  64.         // 偏移量自动提交，当checkpoint关闭时会启动此参数，当checkpoint开启时，并设置了setCommitOffsetsOnCheckpoints(true)（此参数默认为true）时，会根据checkpoint的时间向kafka.broker中提交offset
  65.         props.setProperty(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, ModelUtil.getConfigValue("kafka.enable.auto.commit"));
  66.         props.setProperty(ConsumerConfig.AUTO_COMMIT_INTERVAL_MS_CONFIG, ModelUtil.getConfigValue("kafka.auto.commit.interval.ms"));
  67.  
  68.         // 设置kafka消费者的事务级别
  69.         props.setProperty(ConsumerConfig.ISOLATION_LEVEL_CONFIG, ModelUtil.getConfigValue("kafka.isolation.level"));
  70.  
  71.         // 当在 FlinkKafkaConsumer 中没有设置消费级别，并在checkpoint中没有偏移量时，使用此设置来消费kafka中的数据
  72.         // 具体意义：当在kafka中保存偏移量的topic中有偏移量时从偏移量消费，没有从最新开始消费（其他还可以设置earliest，从最开始的数据开始消费等）
  73.         // 一般情况下，会直接在 FlinkKafkaConsumer 中设置消费属性
  74.         props.setProperty(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, ModelUtil.getConfigValue("kafka.auto.offset.reset"));
  75.  
  76.         // 返回参数设置对象
  77.         return props;
  78.  
  79.     }
  80.  
  81.     /**
  82.      * 封装kafka消费者
  83.      *
  84.      * @param topicName 主题名
  85.      * @param groupId   消费者组id
  86.      * @return 创建一个普通的Kafka消费者对象，其中的数据类型为String
  87.      */
  88.     public static FlinkKafkaConsumer<String> getKafkaConsumer(String topicName, String groupId) {
  89.  
  90.         // 获取kafka的配置对象
  91.         Properties props = MyKafkaUtil.getKafkaProperties(groupId);
  92.  
  93.         // 创建一个FlinkKafka的消费者
  94.         return new FlinkKafkaConsumer<String>(topicName, new SimpleStringSchema(), props);
  95.     }
  96.  
  97.     /**
  98.      * 封装kafka消费者，从传入的时间戳开始消费
  99.      *
  100.      * @param topicName 主题名
  101.      * @param groupId   消费者组id
  102.      * @param timestamp 13为长整形时间戳
  103.      * @return 消费者对象
  104.      */
  105.     public static FlinkKafkaConsumer<String> getKafkaConsumer(String topicName, String groupId, Long timestamp) {
  106.  
  107.         // 获取kafka的配置对象
  108.         Properties props = MyKafkaUtil.getKafkaProperties(groupId);
  109.  
  110.         // 创建一个FlinkKafka的消费者
  111.         FlinkKafkaConsumer<String> consumer = new FlinkKafkaConsumer<>(topicName, new SimpleStringSchema(), props);
  112.  
  113.         // 设置从指定时间戳开始消费
  114.         logger.info("从kafka的指定时间戳开始消费，时间戳：" + timestamp);
  115.         consumer.setStartFromTimestamp(timestamp);
  116.  
  117.         // 返回消费者对象
  118.         return consumer;
  119.  
  120.     }
  121.  
  122.     /**
  123.      * 封装kafka消费者（返回一个Tuple2，其中第一个元素为kafka的value值，第二个为该消息在kafka中对应的时间戳（注意：单位为毫秒））
  124.      *
  125.      * @param topicName 主题名
  126.      * @param groupId   消费者组id
  127.      * @return 消费者对象
  128.      */
  129.     public static FlinkKafkaConsumer<Tuple2<String, Long>> getKafkaConsumerContainTimestamp(String topicName, String groupId) {
  130.  
  131.         // 获取kafka的配置对象
  132.         Properties props = MyKafkaUtil.getKafkaProperties(groupId);
  133.  
  134.         // 自定义kafka的反序列化器
  135.         KafkaDeserializationSchema<Tuple2<String, Long>> deserializationSchema = new KafkaDeserializationSchema<Tuple2<String, Long>>() {
  136.  
  137.             @Override
  138.             public TypeInformation<Tuple2<String, Long>> getProducedType() {
  139.                 return TypeInformation.of(new TypeHint<Tuple2<String, Long>>() {
  140.                 });
  141.             }
  142.  
  143.             @Override
  144.             public boolean isEndOfStream(Tuple2<String, Long> nextElement) {
  145.                 return false;
  146.             }
  147.  
  148.             @Override
  149.             public Tuple2<String, Long> deserialize(ConsumerRecord<byte[], byte[]> record) throws Exception {
  150.                 String message = new String(record.value(), StandardCharsets.UTF_8);
  151.                 long timestamp = record.timestamp();
  152.                 return Tuple2.of(message, timestamp);
  153.             }
  154.         };
  155.  
  156.         // 创建一个FlinkKafka的消费者，其中包含kafka中的value和该条消息到kafka的时间
  157.         return new FlinkKafkaConsumer<>(topicName, deserializationSchema, props);
  158.     }
  159.  
  160.     /**
  161.      * 封装kafka消费者，从传入的时间戳开始消费（返回一个Tuple2，其中第一个元素为kafka的value值，第二个为该消息在kafka中对应的时间戳（注意：单位为毫秒））
  162.      *
  163.      * @param topicName 主题名
  164.      * @param groupId   消费者组id
  165.      * @param timestamp 13位长整形时间戳（毫秒）
  166.      * @return 消费者对象
  167.      */
  168.     public static FlinkKafkaConsumer<Tuple2<String, Long>> getKafkaConsumerContainTimestamp(String topicName, String groupId, Long timestamp) {
  169.  
  170.         // 获取kafka的配置对象
  171.         Properties props = MyKafkaUtil.getKafkaProperties(groupId);
  172.  
  173.         // 自定义kafka的反序列化器
  174.         KafkaDeserializationSchema<Tuple2<String, Long>> deserializationSchema = new KafkaDeserializationSchema<Tuple2<String, Long>>() {
  175.  
  176.             @Override
  177.             public TypeInformation<Tuple2<String, Long>> getProducedType() {
  178.                 return TypeInformation.of(new TypeHint<Tuple2<String, Long>>() {
  179.                 });
  180.             }
  181.  
  182.             @Override
  183.             public boolean isEndOfStream(Tuple2<String, Long> nextElement) {
  184.                 return false;
  185.             }
  186.  
  187.             @Override
  188.             public Tuple2<String, Long> deserialize(ConsumerRecord<byte[], byte[]> record) throws Exception {
  189.                 String message = new String(record.value(), StandardCharsets.UTF_8);
  190.                 long timestamp = record.timestamp();
  191.                 return Tuple2.of(message, timestamp);
  192.             }
  193.         };
  194.  
  195.         // 创建一个FlinkKafka的消费者，其中包含kafka中的value和该条消息到kafka的时间
  196.         FlinkKafkaConsumer<Tuple2<String, Long>> consumer = new FlinkKafkaConsumer<>(topicName, deserializationSchema, props);
  197.  
  198.         // 设置从指定时间戳开始消费
  199.         logger.info("从kafka的指定时间戳开始消费，时间戳：" + timestamp);
  200.         consumer.setStartFromTimestamp(timestamp);
  201.  
  202.         // 返回消费者对象
  203.         return consumer;
  204.     }
  205.  
  206.     /**
  207.      * 获取 kafka 生产者（ 普通kafka生产者，模式为 AT_LEAST_ONCE ）
  208.      *
  209.      * @param topicName 主题名
  210.      * @return 生产者对象
  211.      */
  212.     public static FlinkKafkaProducer<String> getKafkaProducer(String topicName) {
  213.         return new FlinkKafkaProducer<>(ModelUtil.getConfigValue("kafka.bootstrap.servers"), topicName, new SimpleStringSchema());
  214.     }
  215.  
  216.     /**
  217.      * 获取 Kafka 生产者，动态指定多个不同主题，并使用精确一次语议
  218.      *
  219.      * @param serializationSchema 序列化模式
  220.      * @param <T>                 来源数据类型
  221.      * @return FlinkKafkaProducer
  222.      */
  223.     public static <T> FlinkKafkaProducer<T> getKafkaProducerExactlyOnce(KafkaSerializationSchema<T> serializationSchema, String defaultTopicName) {
  224.  
  225.         Properties prop = new Properties();
  226.         // kafka的 bootstrap.servers
  227.         prop.setProperty(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, ModelUtil.getConfigValue("kafka.bootstrap.servers"));
  228.         //如果 10 分钟没有更新状态，则超时( 默认超时时间是1分钟)，表示已经提交事务到kafka，但10分钟还没有上传数据，结束事务
  229.         prop.setProperty(ProducerConfig.TRANSACTION_TIMEOUT_CONFIG, String.valueOf(10 * 60 * 1000));
  230.         // 配置生产者的kafka的单条消息的最大大小（ 默认为1M，这里设置为10M ）
  231.         prop.setProperty(ProducerConfig.MAX_REQUEST_SIZE_CONFIG, String.valueOf(10 * 1000 * 1000));
  232.  
  233.         return new FlinkKafkaProducer<>(defaultTopicName, serializationSchema, prop, FlinkKafkaProducer.Semantic.EXACTLY_ONCE);
  234.  
  235.     }
  236.  
  237.     /**
  238.      * 获取 Kafka 生产者，并使用精确一次语议
  239.      *
  240.      * @param topicName 主题名
  241.      * @param <T>       来源数据类型
  242.      * @return FlinkKafkaProducer
  243.      */
  244.     public static <T extends String> FlinkKafkaProducer<T> getKafkaProducerExactlyOnce(String topicName) {
  245.  
  246.         return MyKafkaUtil.getKafkaProducerExactlyOnce(
  247.                 new KafkaSerializationSchema<T>() {
  248.                     @Override
  249.                     public ProducerRecord<byte[], byte[]> serialize(T t, @Nullable Long aLong) {
  250.                         return new ProducerRecord<>(topicName, JSON.toJSONBytes(t));
  251.                     }
  252.                 },
  253.                 ModelUtil.getConfigValue("kafka.topic.default")
  254.         );
  255.  
  256.     }
  257.  
  258.  
  259. }
  260.

此博客根据某马2020年贺岁视频改编而来：【狂野大数据】Flink1.12从入门到精通#2021#流批一体#黑马程序员#大数据_哔哩哔哩_bilibili

注：其他相关文章链接由此进 -> Flink文章汇总

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/IT小白/article/detail/493553
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号