HIVE 语句执行 中报错:Java heap space_hive diagnostic messages for this task: error: jav
作者:花生_TL007 | 2024-05-05 15:45:51
赞
踩
hive diagnostic messages for this task: error: java heap space
1、报错信息
ask with the most failures(4):
-----
Task ID:
task_1472873234260_9322_m_000004
URL:
http://hadoop-namenode1:8088/taskdetails.jsp?jobid=job_1472873234260_9322&tipid=task_1472873234260_9322_m_000004
-----
Diagnostic Messages for this Task:
Error: Java heap space
FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
2、根据提示加大了 HADOOP_HEAP 设置,但是错误依旧;
3、后来测试中,设置 set io.sort.mb=10; 默认值是100,问题轻松解决;
其他几个参数: set hive.map.aggr=true; //在map端做部分聚合
set hive.groupby.skewindata=true;//解决数据倾斜问题