当前位置:   article > 正文

Flink集群之Flink集群配置优化项_生产优化taskmanager.numberoftaskslots

生产优化taskmanager.numberoftaskslots

Flink中Jobmanager、TaskManager组件常用优化配置项

jobmanager.rpc.address

Jobmanager RPC通信地址,一般需要配置指定的Jobmanager的IP地址,默认的localhost不适合多节点集群模式

jobmanager.heap.mb

Jobmanager的JVM堆内存,默认为1024M,可以根据集群规模适当增加

taskmanager.heap.mb

TaskManager的JVM堆内存,默认为1024M,可以根据数据计算规模以及状态大小进行调整

taskmanager.numberOfTaskSlots

配置每个TaskManager能够提供的Slot数量,根据TaskManager所在机器能够提供给Flink的CPU数量决定

parallelism.default

Flink任务默认并行度,与整个集群的CPU数量有关,增加parallelism可以提高任务并行的计算的实例数,提升数据处理效率,但也会占用更过Slot

taskmanager.tmp.dirs

集群临时文件夹地址,Flink会将中间计算数据放置在相应的路径中

注:动态参数

默认配置项会在集群启动的时候加载到Flink集群中,当用户提交任务时,可以通过-D来动态设置系统参数,这样配置文件中的参数会被覆盖

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Li_阴宅/article/detail/941695
推荐阅读
相关标签
  

闽ICP备14008679号