赞
踩
1、修改 虚拟机中 .bashrc文件:
vim ~/.bashrc
添加
export JAVA_HOME=/export/server/jdk1.8.0_241/
export PYSPARK_PYTHON=/root/anaconda3/bin/python3source ~/.bashrc
2、 需要在代码中添加以下内容,用于锁定远程版本 (放置在mian函数的上面)
os.environ['SPARK_HOME'] = '/export/server/spark'
os.environ['PYSPARK_PYTHON'] = '/root/anaconda3/bin/python3'
os.environ['PYSPARK_DRIVER_PYTHON'] = '/root/anaconda3/bin/python3'
1、运行spark程序时,部分python代码需要py4j转换为java代码,而远端设备找不到java环境。
2、找不到java环境,可能是配置了多个python 环境导致,【经检查/etc/profile有配置JAVA_HOME,可能因为优先级没访问到】,在~/.bashrc里面配置就ok了,【我初始化anaconda 是配置在bashrc的,使用的是anaconda的python解释器】
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。