当前位置:   article > 正文

【大数据头歌实验七】Spark相关编程 (Spark Shell基础)_头歌spark shell基础

头歌spark shell基础


第1关:Spark Shell

在右边命令行,逐个输入以下几个命令就ok了!

spark-shell
val textFile = spark.read.textFile("/data/workspace/myshixun/phone.txt")
val zt_ws_records = textFile.filter(line =>(line.contains("张涛") && line.contains("王世昌")) || (line.contains("王世昌") && line.contains("张涛")))
zt_ws_records.write.text("/root/re")
:quit

第2关:spark-submit提交

  1. #!/bin/bash
  2. cp -r Spark/SparkRDD/target/project.jar /root
  3. cd /opt/spark/dist/bin
  4. #********** Begin **********#
  5. ./spark-submit \
  6. --class Student \
  7. --master local \
  8. /root/project.jar
  9. #********** End **********#

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/黑客灵魂/article/detail/780747
推荐阅读
相关标签
  

闽ICP备14008679号