当前位置:   article > 正文

hive集群tez引擎执行任务卡住_tez任务不终止

tez任务不终止

更换tez引擎后,如果执行任务卡住,修改调节容量调度器的资源调度策略,修改以下配置信息

cd /opt/module/hadoop-3.1.3/etc/hadoop/ 
vim tez-site.xml 
  • 1
  • 2
<!--容器给AM分配的资源-->
 <property>
      <name>tez.am.resource.memory.mb</name>
      <value>1024</value>
 </property>
 <property>
      <name>tez.am.resource.cpu.vcores</name>
      <value>1</value>
 </property>
 <!--堆占整个资源的占比 -->
 <property>
      <name>tez.container.max.java.heap.fraction</name>
      <value>0.4</value>
 </property>
 <!--容器给task分配的资源 -->
 <property>
      <name>tez.task.resource.memory.mb</name>
      <value>1024</value>
 </property>
 <property>
      <name>tez.task.resource.cpu.vcores</name>
      <value>1</value>
 </property>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
vim capacity-scheduler.xml
  • 1

将以下value调成1

 <!--AM所占集群最大资源占比-->
   <property>
     <name>yarn.scheduler.capacity.maximum-am-resource-percent</name>
     <value>1</value>
     <description>
       Maximum percent of resources in the cluster which can be used to run 
       application masters i.e. controls number of concurrent running
       applications.
     </description>
   </property>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

向集群分发capacity-scheduler.xml文件。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/532269
推荐阅读
相关标签
  

闽ICP备14008679号