当前位置:   article > 正文

spark---dataFrame保存成表和csv文件

spark---dataFrame保存成表和csv文件

保存成表

dataFrame.write()
            .mode("overwrite")
            .saveAsTable("ads_huoyun.tmp_gxq_01");
    dataFrame.coalesce(1)
  • 1
  • 2
  • 3
  • 4

保存成csv文件

 dataFrame.coalesce(1)
 .write()
    .format("csv")
    .mode("overwrite")
    .option("header","true")
    .option("compression", "uncompressed")
        .save("/tmp/guoxinqing/test_sp");
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7

注意:保存成csv文件需要从hdfs get下来

hadoop fs -get "保存目录"
cd "保存目录"
mv 文件.csv 重命名.csv
iconv -f UTF-8 -t GBK -c test.csv >  test_p.csv
  • 1
  • 2
  • 3
  • 4
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/609228
推荐阅读
相关标签
  

闽ICP备14008679号