当前位置:   article > 正文

HiveOnSpark_如何kill掉hive on spark任务

如何kill掉hive on spark任务

链接:https://pan.baidu.com/s/1LgvdPWQ-VNMlRc2qV4EcRg?pwd=i8n8 
提取码:i8n8

1.Hive版本升级

1)上传编译后的apache-hive-3.1.2-bin.tar至集群

2)解压apache-hive-3.1.2-bin.tar.gz

tar -zxf apache-hive-3.1.2-bin.tar.gz -C /opt/module/

3)将原有的hive进行重命名

 mv hive/ hive_bak

4)将新安装的apache-hive-3.1.2-bin重命名为hive

mv apache-hive-3.1.2-bin/ hive

 5)将hive_bak中的配置文件拷贝到hive中

cp /opt/module/hive_bak/conf/hive-site.xml /opt/module/hive/conf/

 6)将hive_bak/lib目录下的MySQL驱动拷贝至hive/lib下

cp /opt/module/hive_bak/lib/mysql-connector-java-5.1.48.jar /opt/module/hive/lib/

 

2.Hive on Spark编译

1)从官网下载Spark源码并解压

下载地址: https://www.apache.org/dyn/closer.lua/spark/spark-2.4.5/spark-2.4.5.tgz

2)上传并解压spark

3)进入spark解压后的目录

4)执行编译命令

spark-2.4.5]$ ./dev/make-distribution.sh --name without-hive --tgz -Pyarn -Phadoop-3.1 -Dhadoop.version=3.1.3 -Pparquet-provided -Porc-provided -Phadoop-provided

5)等待编译完成,spark-2.4.5-bin-without-hive.tgz为最终文件

3.Hive on Spark配置

1)解压spark-2.4.5-bin-without-hive.tgz

  1. software]$ tar -zxf /opt/software/spark-2.4.5-bin-without-hive.tgz -C /opt/module
  2. software]$ mv /opt/module/spark-2.4.5-bin-without-hive /opt/module/spark
声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号