赞
踩
1.谈谈flink集群中都有哪些角色?它们都有什么作用?
Flink运行时架构由两种类型的进程组成:一个JobManager,以及多个TaskManager以及提交任务的Client。
JobManager进程由3个不同的组件构成:ResourceManager、Dispatcher、JobMaster。
JobManager在集群中充当管理者Master的角色,是整个集群的协调者,负责接收Flink Job,协调检查点,Failover故障恢复等。
TaskManager是具体执行计算的Worker,在其上执行Flink Job的一组Task,每个TaskManager负责管理其所在节点上的资源,比如内存、磁盘、网络,并将资源的状态向JobManager汇报。
Client是用来提交Flink应用程序的。当用户提交Flink应用程序时,会首先创建一个Client,该Client首先会对用户提交的Flink程序进行预处理,并提交到Flink集群中,Client从用户提交的Flink程序配置中获取JobManager的地址,并建立到JobManager的连接,将Flink Job提交给JobManager。
2.slot和parallelism的关系以及并行度是如何设置的?
一个算子(operator)的子任务(subtask)数,称之为该算子的并行度(parallelism)。
Slot指的是TaskManager能够提供的并发执行能力,是静态的并行能力的概念。而Parallelism则是TaskManager 实际会使用的并发能力,
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。