当前位置:   article > 正文

Spark submit 提交任务(四)_spark-submit命令最后面的数字是什么意思

spark-submit命令最后面的数字是什么意思

Spark基于应用作业的操作

Spark框架可借助spark-submit来提交一个编写好的Job应用到集群,从而完成Spark应用的分析和处理,这通常是生产场景中使用的一种操作方式。

spark-submit --class org.apache.spark.examples.JavaSparkPi --master spark://master002:7077 ../examples/jars/spark-examples_2.11-2.4.3.jar 1
  • 1

在这里插入图片描述
在这里插入图片描述
注释:

  1. –class 参数用于指定提交的JAR包中的运行主类
  2. 最后一个数字1代表运行的slices数量(即并行度),每一个slice都将启动一个Task来运行,每一个Task任务对应一个JVM进程
  3. .jar 是提交到Spark集群的Job作业打包JAR,这与Hadoop提交作业的方式是相同的

Spark操作的基础命令与开发工具介绍

  1. 在Spark的安装目录下的bin目录中有以下两个运行命令
  • Spark-submit:该命令用于提交Spark的Job应用,通常用于测试
  • Spark-shell:Spark交互式命令行工具,通常用于生产环境
  1. 开发Spark应用可使用IDEA或Eclipse
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/代码探险家/article/detail/835689
推荐阅读
相关标签
  

闽ICP备14008679号