当前位置:   article > 正文

Spark单机部署_sc和spark的区别

sc和spark的区别

spark版本选型:

spark2.1.2。依赖scala2.11.8;说明:在这里可以根据自己的需要去官网下载spark版本,spark版本下面会有scala版本依赖说   明;根据需要下载。

spark解压安装:

上传spark安装包

$cd /home/spark/soft (spark安装包存在路径)

$>tar -zxvf spark-2.1.2-bin-hadoop2.7.tgz    (解压)

$>ln -s spark-2.1.2-bin-hadoop2.7 spark  (方便起见可以创建软连接)

配置环境变量:

修改【~/.bash_profile】,在文件尾部追加以下内容:

#spark install
        export SPARK_HOME=/home/spark/soft/spark
        export PATH=$SPARK_HOME/bin:$SPARK_HOME/sbin:$PATH

 $>source ~/.bash_profile (刷新环境变量使其生效)

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/816374
推荐阅读
相关标签
  

闽ICP备14008679号