赞
踩
FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
解决方案①:
hdfs dfsadmin -safemode leave
解决方案②:
set hive.exec.mode.local.auto=true;
以上的方法,我用了后成功之后,运行其他的任务又报同样的错误了。无解,上http://hadoop102:19888/jobhistory查看历史任务,查找最终原因!!!
beyond the ‘VIRTUAL’ memory limit
大致意思是从机上运行的Container试图使用更多的内存,而被NodeManager给kill掉了,OK,既然知道原因,就对症下药
解决方案③:
修改mapred-site.xml文件:添加以下配置
<property>
<name>mapreduce.map.memory.mb</name>
<value>1536</value>
</property>
<property>
<name>mapreduce.map.java.opts</name>
<value>-Xmx1024M</value>
</property>
<property>
<name>mapreduce.reduce.memory.mb</name>
<value>3072</value>
</property>
<property>
<name>mapreduce.reduce.java.opts</name>
<value>-Xmx2560M</value>
</property>
在重启服务器集群,即可解决
参考链接:
https://stackoverflow.com/questions/21005643/container-is-running-beyond-memory-limits
https://blog.csdn.net/cao1315020626/article/details/101712223
/blog.csdn.net/cao1315020626/article/details/101712223
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。