赞
踩
文章目录
Structured Streaming实时写入Iceberg
三、编写Structured Streaming读取Kafka数据实时写入Iceberg
目前Spark中Structured Streaming只支持实时向Iceberg中写入数据,不支持实时从Iceberg中读取数据,下面案例我们将使用Structured Streaming从Kafka中实时读取数据,然后将结果实时写入到Iceberg中。
启动Kafka集群,创建“kafka-iceberg-topic”
[root@node1 bin]# ./kafka-topics.sh --zookeeper node3:2181,node4:2181,node5:2181 --create --topic kafka-iceberg-topic --partitions 3 --replication-factor 3
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。