当前位置:   article > 正文

spark.network.timeout参数入门

network.timeout

默认120s
所有网络交互的默认超时时间。 如果未配置,则将使用此配置代替spark.storage.blockManagerSlaveTimeoutMs,spark.shuffle.io.connectionTimeout,spark.rpc.askTimeout或spark.rpc.lookupTimeout。

用途

若如出现各种timeout,executor lost ,task lost
spark.network.timeout 根据情况改成300(5min)或更高

参考

Configuration - Spark 3.0.2 Documentation

关于配置:Spark心跳超时,执行程序自行退出 | 码农家园

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/人工智能uu/article/detail/853181
推荐阅读
相关标签
  

闽ICP备14008679号