当前位置:   article > 正文

运行spark报JAVA_HOME is not set

运行spark报JAVA_HOME is not set

一、现象

二、解决

1、修改 虚拟机中 .bashrc文件: 
    vim ~/.bashrc
    添加
    export JAVA_HOME=/export/server/jdk1.8.0_241/
    export PYSPARK_PYTHON=/root/anaconda3/bin/python3

source ~/.bashrc
2、 需要在代码中添加以下内容,用于锁定远程版本 (放置在mian函数的上面)
    os.environ['SPARK_HOME'] = '/export/server/spark'
    os.environ['PYSPARK_PYTHON'] = '/root/anaconda3/bin/python3'
    os.environ['PYSPARK_DRIVER_PYTHON'] = '/root/anaconda3/bin/python3'

三、原因

1、运行spark程序时,部分python代码需要py4j转换为java代码,而远端设备找不到java环境。

2、找不到java环境,可能是配置了多个python 环境导致,【经检查/etc/profile有配置JAVA_HOME,可能因为优先级没访问到】,在~/.bashrc里面配置就ok了,【我初始化anaconda 是配置在bashrc的,使用的是anaconda的python解释器】

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/622935
推荐阅读
相关标签
  

闽ICP备14008679号