当前位置:   article > 正文

数据湖(十六):Structured Streaming实时写入Iceberg_structstreaming后如何实时可视化

structstreaming后如何实时可视化

文章目录

Structured Streaming实时写入Iceberg

一、创建Kafka topic

二、编写向Kafka生产数据代码

三、编写Structured Streaming读取Kafka数据实时写入Iceberg

四、查看Iceberg中数据结果


​​​​​​​Structured Streaming实时写入Iceberg

目前Spark中Structured Streaming只支持实时向Iceberg中写入数据,不支持实时从Iceberg中读取数据,下面案例我们将使用Structured Streaming从Kafka中实时读取数据,然后将结果实时写入到Iceberg中。

一、创建Kafka topic

启动Kafka集群,创建“kafka-iceberg-topic”

[root@node1 bin]# ./kafka-topics.sh  --zookeeper node3:2181,node4:2181,node5:2181  --create  --topic kafka-iceberg-topic  --partitions 3 --replication-factor 3
声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号