ApacheStreamPark2.1.0部署及执行flink-cdc任务同步mysql表的数据到es的实践_apache streampark

文章目录

• • @[toc]
• 1.ApacheStreamPark是什么？
• 2.介绍
• • 2.1 特性
  • 2.2 架构
  • 2.3 Zeppelin和StreamPark的对比
• 3.相关连接
• 4.部署
• • 4.1 二进制包编译构建
  • 4.2 镜像构建
  • 4.3 初始化sql
  • 4.4 部署
  • • 4.4.1 Docker-compose.yaml部署脚本
    • 4.4.2 配置文件准备
    • 4.4.3 flink启动配置
    • 4.4.4 streampark启动配置
    • 4.4.5 遇到的问题
• 5 cdc实践
• • 5.1 确定flink是否正常
  • 5.2 streampark管理端配置
  • • 5.2.1 flink-home配置
    • 5.2.2 flink-cluster配置
    • 5.2.3 新增cdc-sql和上传jar或添加依赖
  • 5.3 cdc执行成功实例
• 6.资料
• 7.streampark官方提供的最新的二进制试用包
• 8.总结

1.ApacheStreamPark是什么？

ApacheStreamPark是流处理极速开发框架，流批一体 & 湖仓一体的云原生平台，一站式流处理计算平台。

2.介绍

2.1 特性

  特性中的简单易用和文档详尽这两点我也是深有体会的，部署一点都不简单，照着官方文档都不一定能搞出来，下面部署环节慢慢来吐槽吧。

2.2 架构

2.3 Zeppelin和StreamPark的对比

  之前我们写 Flink SQL 基本上都是使用 Java 包装 SQL，打 jar 包，提交到 S3 平台上。通过命令行方式提交代码，但这种方式始终不友好，流程繁琐，开发和运维成本太大。我们希望能够进一步简化流程，将 Flink TableEnvironment 抽象出来，有平台负责初始化、打包运行 Flink 任务，实现 Flink 应用程序的构建、测试和部署自动化。

  这是个开源兴起的时代，我们自然而然的将目光投向开源领域中：在一众开源项目中，经过对比各个项目综合评估发现 Zeppelin 和 StreamPark 这两个项目对 Flink 的支持较为完善，都宣称支持 Flink on K8s ，最终进入到我们的目标选择范围中，以下是两者在 K8s 相关支持的简单比较。

3.相关连接

ApacheStreamPark官方文档

https://streampark.apache.org/zh-CN/
1

flink1.14.4官网

https://nightlies.apache.org/flink/flink-docs-release-1.14/zh
1

streampark2.1.0的gitHub地址

https://github.com/apache/incubator-streampark/tree/release-2.1.0
1

本地调试启动、编译指南

https://z87p7jn1yv.feishu.cn/docx/X4UfdZ8cdoeK8ExQ7sUc1UHknps
1

多业务聚合查询设计思路与实践

https://mp.weixin.qq.com/s/N1TqaLaqGCDRH9jnmhvlzg
1

4.部署

  官方提供的在源码文件的docker-compose.yam里面的镜像是apache/streampark:latest，但是这个镜像根本用不了，之前用这个和官方提供的那几个镜像2.1.0和2.1.0，这两个镜像版本可以在dockerHub的官网上搜索到，为啥用不了呢？因为我在部署的时候用的最新的镜像，然后将源码包中的脚本文件拉下来在本地数据库里面streampark库里面执行了，然后使用官网给的镜像部署yaml后，发现容器一直在重启，然后我就看了下容器的日志，发现有关于数据库的表字段确实的报错，然后我就很是好奇和纳闷，就将确实的子段在表里面补全了，然后重启后可以启动起来，但是还是用不了，然后我就联系到官方，才得知他们的最新的镜像apache/streampark:latest里里面的jar包使用的是开发分支的开发版本，所以才会有用不了的问题，官方在源码版本、镜像版本和sql版本这方面做的对应关系上还是做的不够的，这个也是让使用者很头疼的一个问题，明明是按照官网的文档来搞的，为啥都搞不通？所以说上面的特性中的易用性和文档详尽可以说是值得让人吐槽了。

  那如何解决呢？

  给官方反馈了这个问题，但是官方建议使用源码构建部署，然后我突发奇想，我自己构建一个二进制的源码包，然后在构建一个镜像试一下看看给的行，于是乎就就进行了漫长的尝试之路。

4.1 二进制包编译构建

  编译构建二进制可执行包，使用自己构建的二进制包构建Docker镜像，需要准备一台Linux的服务或者是虚拟机，可以正常上网即可，在该台机子上需要事先安装Git(拉取源码文件)，Maven和java环境（JDK1.8），我采用的是是上传的源码包：incubator-streampark-2.1.0.tar.gz，然后解压源码包：

tar -zxvf incubator-streampark-2.1.0.tar.gz 
1

  解压到服务器上，然后进入到解压路径里面：

  执行：

./build.sh
1

  编译构建会去下载很多的pom依赖，所以需要经过漫长的等待，如果你的网络速度够快的话，估计也挺快的，然后编译构建完成后会在当前目录下看到一个dist的目录，里面就生成了一个二进制的可执行部署的源码包了：apache-streampark_2.12-2.1.0-incubating-bin.tar.gz，这里源码编译构建就构建好了，下面构建镜像需要用到这个包。

4.2 镜像构建

  需要将Dockerfile文件和apache-streampark_2.12-2.1.0-incubating-bin.tar.gz放在同一个路径下（目录下）然后执行构建命令

  Dockerfile文件

FROM alpine:3.16 as deps-stage
COPY . /
WORKDIR /
RUN tar zxvf apache-streampark_2.12-2.1.0-incubating-bin.tar.gz \
&& mv apache-streampark_2.12-2.1.0-incubating-bin streampark

FROM docker:dind
WORKDIR /streampark
COPY --from=deps-stage /streampark /streampark

ENV NODE_VERSION=16.1.0
ENV NPM_VERSION=7.11.2

RUN apk add openjdk8 ; \ # 这里会报错，在windows环境用;在linux上使用&&
    apk add maven ; \
    apk add wget ; \
    apk add vim ; \
    apk add bash; \
    apk add curl

ENV JAVA_HOME=/usr/lib/jvm/java-1.8-openjdk
ENV MAVEN_HOME=/usr/share/java/maven-3
ENV PATH $JAVA_HOME/bin:$PATH
ENV PATH $MAVEN_HOME/bin:$PATH

RUN wget "https://nodejs.org/dist/v$NODE_VERSION/node-v$NODE_VERSION-linux-x64.tar.gz" \
    && tar zxvf "node-v$NODE_VERSION-linux-x64.tar.gz" -C /usr/local --strip-components=1 \
    && rm "node-v$NODE_VERSION-linux-x64.tar.gz" \
    && ln -s /usr/local/bin/node /usr/local/bin/nodejs \
    && curl -LO https://dl.k8s.io/release/v1.23.0/bin/linux/amd64/kubectl \
    && install -o root -g root -m 0755 kubectl /usr/local/bin/kubectl

RUN mkdir -p ~/.kube

EXPOSE 10000
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

  构建命令：

docker build -f Dockerfile -t my_streampark:2.1.0 .
#推送阿里云镜像仓库(略)
1
2

  这里给大家提供了我自己构建的镜像如下：

registry.cn-hangzhou.aliyuncs.com/bigfei/zlf:streampark2.1.0
1

4.3 初始化sql

  执行的过程会碰到两个错误：

-- 1.Unknown column !launch' in 't flink_app'
alter table "t flink_app'
-- drop index“inx state": 2.注释这个一行
-- 这个是在2.1.0的版本里面的flink_app这个表里面缺少的字段和索引，可以或略，或者是在表里加上launch字段，不影响我我们下面部署2.1.0来使用这个库里的sql数据的
1
2
3
4

  streampark库如下：

  可以使用资料里面的：streampark.sql，是我执行了官方的那个sql后将streampark库导出来的一个脚本，用我给的这个也是没有问题的。

4.4 部署

4.4.1 Docker-compose.yaml部署脚本

version: '2.1'
services:
  streampark-console:
    image: my_streampark:2.1.0
    command: ${RUN_COMMAND}
    ports:
      - 10000:10000
    env_file: .env
    volumes:
      - flink:/streampark/flink/${FLINK}
      - /var/run/docker.sock:/var/run/docker.sock
      - /etc/hosts:/etc/hosts:ro
      - ~/.kube:/root/.kube:ro
    privileged: true
    restart: unless-stopped
    
  jobmanager:
    image: apache/flink:1.14.4-scala_2.12-java8
    command: "jobmanager.sh start-foreground"
    ports:
      - 8081:8081
    volumes:
      - ./conf:/opt/flink/conf
      - /tmp/flink-checkpoints-directory:/tmp/flink-checkpoints-directory
      - /tmp/flink-savepoints-directory:/tmp/flink-savepoints-directory
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
  taskmanager:
    image: apache/flink:1.14.4-scala_2.12-java8
    depends_on:
      - jobmanager
    command: "taskmanager.sh start-foreground"
    volumes:
      - ./conf:/opt/flink/conf
      - /tmp/flink-checkpoints-directory:/tmp/flink-checkpoints-directory
      - /tmp/flink-savepoints-directory:/tmp/flink-savepoints-directory
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager

volumes:
  flink:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

  这个文件是我把flink的部署和streampark的部署合并修改了下，注意不要使用streampark官网的那种方式，搞了一个桥接的网络，否则有可能导致容器间的网络不通。

4.4.2 配置文件准备

  deplay文件夹下：

  conf文件夹如下：

  需要修改.env和conf里面的application.yaml文件里面streampark数据库相关的连接信息，这个application可以自己搞个目录挂载到容器的如下路径：

  把官方的那个拿出来改一改然后挂载，我这个好像是没有生效的，

  相关资料会在文末分享的。

4.4.3 flink启动配置

flink官网内存配置

https://nightlies.apache.org/flink/flink-docs-release-1.14/zh/docs/deployment/memory/mem_setup_tm/
1

4.4.4 streampark启动配置

  flink-conf.yaml文件配置

jobmanager.rpc.address: jobmanager
blob.server.port: 6124
query.server.port: 6125

state.backend: filesystem
state.checkpoints.dir: file:///tmp/flink-checkpoints-directory
state.savepoints.dir: file:///tmp/flink-savepoints-directory

heartbeat.interval: 1000
heartbeat.timeout: 5000

rest.flamegraph.enabled: true
web.backpressure.refresh-interval: 10000

classloader.resolve-order: parent-first

taskmanager.memory.managed.fraction: 0.1 
taskmanager.memory.process.size: 2048m 

jobmanager.memory.process.size: 7072m
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

4.4.5 遇到的问题

  由于我之前搞的flink部署有点问题，使用了桥接网络，导致直接使用flink的sql-client.sh执行之前的cdc失败了，报了如下的错误：

java.net,UnknownHostException: jobmanager: Temporary failure in name resolution
1

  然后我就把部署文件改成上面那种方式，后面把之前启动的容器全部删除，重新部署后就可以正常执行了。

  之前还遇到一个错误就是在cdc实践的时候会遇到的问题，streampark提交启动了cdc任务，但是flink的jobs里面这个任务执行失败了：

java.util.concurrent.CompletionException: java.util.concurrent.Completiotion: org.apache.flink.runtime.jobmanager.schedulerloResourceAvailableException: Could not acquire the minimurrequired resources.
1

  这个问题是之前flink采用桥接网络搭建的有问题，导致jobmanager启动不起来，使用上面正确的启动方式和flink-conf.yaml里面的配置，对taskmanager和jobmanager的资源配置和内存配置如下：

taskmanager.memory.managed.fraction: 0.1 
taskmanager.memory.process.size: 2048m 
jobmanager.memory.process.size: 7072m
1
2
3

  请根据官网先关flink的内存参数来设置，资源尽量给大点，然后把之前有问题的容器删除重新启动后，三个容器都正常启动了。

5 cdc实践

5.1 确定flink是否正常

  flink首页正常启动在没有任务执行的时候可以看到slot的数据量：

  正常启动taskManagers里面可以看到task的信息：

  job-manager的信息：

5.2 streampark管理端配置

  streampark的默认的用户名和密码是：admin/streampark

5.2.1 flink-home配置

5.2.2 flink-cluster配置

5.2.3 新增cdc-sql和上传jar或添加依赖

  flink的job-manager节点和task-manager节点的/opt/flink/lib节点下我都传了上面那几个jar包了，然后用这个streampark来管理你只要把你任务用到的jar的上或者是把jar的maven依赖填上去，然后任务在大包的时候会将这个这些依赖全部打包到任务的jar包中，最后提交给flink去执行，这种是不是更加的方便快捷高效的管理任务了呢。

5.3 cdc执行成功实例

  cdc相关的请看

  多业务聚合查询设计思路与实践

https://mp.weixin.qq.com/s/N1TqaLaqGCDRH9jnmhvlzg
1

  streampark端：

  streampark点击开始启任务的时候不选择savepoint了，不然flink那边会报错的

  flink端：

  需要容器一直运行中，如果重启后之前的savepoint和chackpoint就没了,这个感觉是flink的savepoint和checkpoint的配置没有生效，还得重新研究下，如果重启了，没有之前的任务了，需要在streampark启动下flink这边就又有了。

  发现一个问题就是：刚才我重新提交了，但是flink的jobmanager的时候报了这个savepoin持久化到/tmp/flink-checkpoints-directory/文件中失败了，这个有点离谱了嘛:

2023-06-14 15:48:58 2023-06-14 07:48:58,551 WARN  org.apache.flink.runtime.jobmaster.JobMaster                 [] - Error while processing AcknowledgeCheckpoint message
2023-06-14 15:48:58 org.apache.flink.runtime.checkpoint.CheckpointException: Could not finalize the pending checkpoint 3. Failure reason: Failure to finalize checkpoint.
2023-06-14 15:48:58     at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.completePendingCheckpoint(CheckpointCoordinator.java:1227) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.receiveAcknowledgeMessage(CheckpointCoordinator.java:1100) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.scheduler.ExecutionGraphHandler.lambda$acknowledgeCheckpoint$1(ExecutionGraphHandler.java:89) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.scheduler.ExecutionGraphHandler.lambda$processCheckpointCoordinatorMessage$3(ExecutionGraphHandler.java:119) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149) [?:1.8.0_322]
2023-06-14 15:48:58     at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624) [?:1.8.0_322]
2023-06-14 15:48:58     at java.lang.Thread.run(Thread.java:750) [?:1.8.0_322]
2023-06-14 15:48:58 Caused by: java.io.IOException: Mkdirs failed to create file:/tmp/flink-checkpoints-directory/acb95418d91e34f6cce478337154dd4f/chk-3
2023-06-14 15:48:58     at org.apache.flink.core.fs.local.LocalFileSystem.create(LocalFileSystem.java:262) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.state.filesystem.FsCheckpointMetadataOutputStream.<init>(FsCheckpointMetadataOutputStream.java:65) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.state.filesystem.FsCheckpointStorageLocation.createMetadataOutputStream(FsCheckpointStorageLocation.java:109) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.checkpoint.PendingCheckpoint.finalizeCheckpoint(PendingCheckpoint.java:323) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.completePendingCheckpoint(CheckpointCoordinator.java:1210) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:48:58     ... 6 more
2023-06-14 15:49:01 2023-06-14 07:49:01,533 INFO  org.apache.flink.runtime.checkpoint.CheckpointCoordinator    [] - Triggering checkpoint 4 (type=CHECKPOINT) @ 1686728941531 for job acb95418d91e34f6cce478337154dd4f.
2023-06-14 15:49:01 2023-06-14 07:49:01,557 WARN  org.apache.flink.runtime.jobmaster.JobMaster                 [] - Error while processing AcknowledgeCheckpoint message
2023-06-14 15:49:01 org.apache.flink.runtime.checkpoint.CheckpointException: Could not finalize the pending checkpoint 4. Failure reason: Failure to finalize checkpoint.
2023-06-14 15:49:01     at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.completePendingCheckpoint(CheckpointCoordinator.java:1227) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:49:01     at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.receiveAcknowledgeMessage(CheckpointCoordinator.java:1100) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:49:01     at org.apache.flink.runtime.scheduler.ExecutionGraphHandler.lambda$acknowledgeCheckpoint$1(ExecutionGraphHandler.java:89) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:49:01     at org.apache.flink.runtime.scheduler.ExecutionGraphHandler.lambda$processCheckpointCoordinatorMessage$3(ExecutionGraphHandler.java:119) ~[flink-dist_2.12-1.14.4.jar:1.14.4]
2023-06-14 15:49:01     at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149) [?:1.8.0_322]
2023-06-14 15:49:01     at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624) [?:1.8.0_322]
2023-06-14 15:49:01     at java.lang.Thread.run(Thread.java:750) [?:1.8.0_322]
2023-06-14 15:49:01 Caused by: java.io.IOException: Mkdirs failed to create file:/tmp/flink-checkpoints-directory/acb95418d91e34f6cce478337154dd4f/chk-4
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

  然后我将我wsl的/tmp路径下的flink-checkpoints-directory、flink-savepoints-directory的权限重新修改下：

  后面我又使用如下命令给两个文件夹下所有文件授权：

[root@DESKTOP-QF29H8K tmp]# chmod -R 777 flink-savepoints-directory/
[root@DESKTOP-QF29H8K tmp]# chmod -R 777 flink-checkpoints-directory/
1
2

  上面两种授权都试了下，但是还是报错了，这个不晓得是不是一个bug，还是我的checkpoints、savepoints有配置的有问题，这个问题我已经反馈给官方了，估计在Linux上就没有这个问题了，在windows上确实是奇葩的问题太多了。

  这个问题我知道是啥问题了，是挂载的问题，如果是linux系统是没有这个问题的，但是在windows上可以使用绝对路径和相当路径来挂载，那就跟wsl里面的文件路径没有关系了哈，然后修改部署文件docker-compose-windows.yaml 如下：

version: '2.1'
services:
  streampark-console:
    image: my_streampark:2.1.0
    command: ${RUN_COMMAND}
    ports:
      - 10000:10000
    env_file: .env
    volumes:
      - flink:/streampark/flink/${FLINK}
      - /var/run/docker.sock:/var/run/docker.sock
      - /etc/hosts:/etc/hosts:ro
      - ~/.kube:/root/.kube:ro
    privileged: true
    restart: unless-stopped
    
  jobmanager:
    image: apache/flink:1.14.4-scala_2.12-java8
    command: "jobmanager.sh start-foreground"
    ports:
      - 8081:8081
    volumes:
      - ./conf:/opt/flink/conf
      - ./tmp/flink-checkpoints-directory:/tmp/flink-checkpoints-directory
      - ./tmp/flink-savepoints-directory:/tmp/flink-savepoints-directory
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
  taskmanager:
    image: apache/flink:1.14.4-scala_2.12-java8
    depends_on:
      - jobmanager
    command: "taskmanager.sh start-foreground"
    volumes:
      - ./conf:/opt/flink/conf
      - ./tmp/flink-checkpoints-directory:/tmp/flink-checkpoints-directory
      - ./tmp/flink-savepoints-directory:/tmp/flink-savepoints-directory
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager

volumes:
  flink:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

  重新在当前部署路径下执行部署命令：

docker-compose -f docker-compose-windows.yaml up -d
1

  docker-compose 挂载目录

https://blog.csdn.net/SMILY12138/article/details/130305102
1

  可以看出在当前的deplay先会自动创建一个tmp文件夹，里面会自动创建flink-checkpoints-directory、flink-savepoints-directory

  然后上面那个错误就没有报了，就可以正常的创建写入文件到这个两个挂载的目录中了：

  这个挂载文集解决了之后，重新启动任务就会自动提示选择checkpoint了

  任务第一次启动的时候不设置savepoint，第一次就指定会找不到_meatedata报错，当停止任务的时候给一个savepoint的如下，然后重新启动就可以自动选择savepoint了：

# savepoint的写法是
file:/tmp/flink-savepoints-directory
1
2

  停止执行savepoint的位置：

  重启选择last-savepoint启动：

  由于Linux的/tmp下重启文件会被删除，所以我重新修改了docker-compose-windows.yaml 如下，这一版本也是最终的部署版本，windows环境下可以直接使用，Linux上稍微改下也是可以使用的：

version: '2.1'
services:
  streampark-console:
    image: my_streampark:2.1.0
    command: ${RUN_COMMAND}
    ports:
      - 10000:10000
    env_file: .env
    volumes:
      - flink:/streampark/flink/${FLINK}
      - /var/run/docker.sock:/var/run/docker.sock
      - /etc/hosts:/etc/hosts:ro
      - ~/.kube:/root/.kube:ro
    privileged: true
    restart: unless-stopped
    
  jobmanager:
    image: apache/flink:1.14.4-scala_2.12-java8
    command: "jobmanager.sh start-foreground"
    ports:
      - 8081:8081
    volumes:
      - ./webUpDir:/usr/local/flink/upload
      - ./webTepDir:/usr/local/flink/tmpdir
      - ./conf:/opt/flink/conf
      - ./tmp/flink-checkpoints-directory:/usr/local/flink/flink-checkpoints-directory
      - ./tmp/flink-savepoints-directory:/usr/local/flink/flink-savepoints-directory
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
  taskmanager:
    image: apache/flink:1.14.4-scala_2.12-java8
    depends_on:
      - jobmanager
    command: "taskmanager.sh start-foreground"
    volumes:
      - ./webUpDir:/usr/local/flink/upload
      - ./webTepDir:/usr/local/flink/tmpdir
      - ./conf:/opt/flink/conf
      - ./tmp/flink-checkpoints-directory:/usr/local/flink/flink-checkpoints-directory
      - ./tmp/flink-savepoints-directory:/usr/local/flink/flink-savepoints-directory
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager

volumes:
  flink:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45

  flink-conf.yaml新增两个配置：

jobmanager.rpc.address: jobmanager
blob.server.port: 6124
query.server.port: 6125

state.backend: filesystem
state.checkpoints.dir: file:///tmp/flink-checkpoints-directory
state.savepoints.dir: file:///tmp/flink-savepoints-directory

heartbeat.interval: 1000
heartbeat.timeout: 5000

rest.flamegraph.enabled: true
web.backpressure.refresh-interval: 10000

classloader.resolve-order: parent-first

taskmanager.memory.managed.fraction: 0.1 
taskmanager.memory.process.size: 2048m 

jobmanager.memory.process.size: 7072m
# 新增两个配置
web.upload.dir: /usr/local/flink/upload
web.tmpdir: /usr/local/flink/tmpdir
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

  这两个配置用于配置flink的webui端上传或者临时文件做一个持久化（或者通过http的方式）提交任务的jar，streampark提交的cdc的任务会构架一个jar包然后调用flink的接口给flink上传一个jar包来执行这个任务，所以这个任务的包需要做一个持久化：

  两参数的官方位置

https://nightlies.apache.org/flink/flink-docs-release-1.17/docs/deployment/config/
1

  Flink standalone集群问题记录

https://blog.csdn.net/LeoGanlin/article/details/124692129
1

  webTepDir:

  webUpDir:

  解决了savepoint和checkpoint的挂载问题和重启后flink的jar任务丢失，然后我们先停止三个容器，然后重新启动后，看flink里面的jar包任务还在的，streampark的界面的任务也是正常执行的，然后去验证cdc，去mysql客户端新增、修改和删除关联数据，在es中也是可以实时同步的；savepoint和checkpoint持久化可以使用fliesystem挂载到本机目录，或者是使用hdfs、oss、S3等等，官方都有文档说明的。

6.资料

链接：https://pan.baidu.com/s/1ajAAcjsMOxYR9-uQW0jzmw 
提取码：c3nv
1
2

  资料包内容：

  部署文件夹：

7.streampark官方提供的最新的二进制试用包

  试用版streampark二进制安装包:

apache-streampark 2.11: 
链接：https://pan.baidu.com/s/1O_YSE-7Jqb4O2A3H9lHT3A 
提取码：7cm6

apache-streampark 2.12: 
链接：https://pan.baidu.com/s/1pRqMXP1PbZcgSJ5Dt1g68A 
提取码：ce00
1
2
3
4
5
6
7

  官方虽然给我们重新搞了两个二进制试用包，不推荐使用最新的包，因为有想不到的bug和踩不完的坑，尝鲜使用下也是可以的。

8.总结

  到此我的分享就结束了，在实践的过程中也遇到了很多的问题，同时在解决问题的过程中也有很多的收获，也结识了一些大佬，在和大佬交流的过程中也得到了一些启发和学到了一些东西，希望我的分享能给你带来帮助，请一键三连，么么哒！