当前位置:   article > 正文

Hive MR和Tez 启用Local模式_tez本地模式

tez本地模式

1.说明  

启动local模式,就是让hive的任务不运行在yarn上面。直接当前的服务器执行

2.优点

当我们对Hive的源码进行Debug,且代码需要Debug到每个task内部时,如果任务是执行在yarn模式的话,那么是无法打断点的,需要进入local模式才能打断点

3.MR

当引擎为MR时,需要修改以下参数,可以修改配置文件hive-site.xml,也可以通过set来生效

3.1 hive-site.xml

  1. <property>
  2.       <name>hive.exec.mode.local.auto</name>
  3.       <value>true</value>
  4. </property>
  5. <property>
  6.       <name>hive.exec.mode.local.auto.inputbytes.max</name>
  7.       <value>134217728</value>
  8. </property>
  9. <property>
  10.       <name>hive.exec.mode.local.auto.input.files.max</name>
  11.       <value>10</value>
  12. </property>

3.2 set模式

  1. -- 是否开启local模式
  2. set hive.exec.mode.local.auto=true;
  3. -- 输入最大数据量,默认128MB
  4. set hive.exec.mode.local.auto.inputbytes.max=134217728;
  5. -- 最大任务数
  6. set hive.exec.mode.local.auto.input.files.max=10;

4.Tez

当引擎为Tez时,需要修改tez的配置文件tez-site.xml,如果通过set来执行将不生效

4.1 tez-site.xml

  1. <property>
  2.       <name>tez.local.mode</name>
  3.       <value>true</value>
  4. </property>
  5. <property>
  6.       <name>tez.grouping.split-count</name>
  7.       <value>1</value>
  8. </property>

说明:tez.grouping.split-count和上面的hive.exec.mode.local.auto.input.files.max类似

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/人工智能uu/article/detail/833873
推荐阅读
相关标签
  

闽ICP备14008679号