Flink 常见面试题_flink面试题

1. 讲⼀下Flink的运⾏架构

当 Flink 集群启动后，⾸先会启动⼀个 JobManger 和⼀个或多个的 TaskManager。由 Client 提交任务给

1、JobManager，JobManager 再调度任务到各个 TaskManager 去执⾏，然后 TaskManager 将⼼跳和统计信息汇报给 JobManager。TaskManager 之间以流的形式进⾏数据的传输。上述三者均为独⽴的 JVM 进程。

1.1、Client 为提交 Job 的客户端，可以是运⾏在任何机器上（与 JobManager 环境连通即可）。提交 Job 后，Client 可以结束进程（Streaming的任务），也可以不结束并等待结果返回。

1.2 、JobManager 主要负责调度 Job 并协调 Task 做 checkpoint，职责上很像 Storm 的 Nimbus。从 Client 处接收到 Job 和 JAR 包等资源后，会⽣成优化后的执⾏计划，并以 Task 的单元调度到各个 TaskManager 去执⾏。

1.3、TaskManager 在启动的时候就设置好了槽位数（Slot），每个 slot 能启动⼀个 Task，Task 为线程。从JobManager 处接收需要部署的 Task，部署启动后，与⾃⼰的上游建⽴ Netty 连接，接收数据并处理。

2. 讲⼀下Flink的作业执⾏流程

以yarn模式Per-job⽅式为例概述作业提交执⾏流程

1. 当执⾏executor() 之后,会⾸先在本地client 中将代码转化为可以提交的 JobGraph
   如果提交为Per-Job模式,则⾸先需要启动AM, client会⾸先向资源系统申请资源, 在yarn下即为申请container
   开启AM, 如果是Session模式的话则不需要这个步骤
2. Yarn分配资源, 开启AM
3. Client将Job提交给Dispatcher
4. Dispatcher 会开启⼀个新的 JobManager线程
5. JM 向Flink ⾃⼰的 Resourcemanager申请slot资源来执⾏任务
6. RM 向 Yarn申请资源来启动 TaskManger (Session模式跳过此步)
7. Yarn 分配 Container 来启动 taskManger (Session模式跳过此步)
8. Flink 的 RM 向 TM 申请 slot资源来启动 task
9. TM 将待分配的 slot 提供给 JM
10. JM 提交 task, TM 会启动新的线程来执⾏任务,开始启动后就可以通过 shuffle模块进⾏ task之间的数据交换

3. Flink的部署模式都有哪些

flink可以以多种⽅式部署,包括standlone模式/yarn/Mesos/Kubernetes/Docker/AWS/Google Compute
Engine/MAPR等

⼀般公司中主要采⽤ on yarn模式

4. 讲⼀下Flink on yarn的部署

Flink作业提交有两种类型:

5. Flink 的 state 是存储在哪⾥的

6. Flink 的 window 分类

7. Flink 的 window 实现机制

8. Flink具体是如何实现exactly once 语义

9. flink是如何实现反压的

10. flink中的时间概念 , eventTime 和 processTime的区别