当前位置:   article > 正文

现有某地区出租车 GPS 定位数据 taxi.csv,部分数据见下图_taxi-cancellation-case.csv包含了从2011年至2013年期间的出租车预定数

taxi-cancellation-case.csv包含了从2011年至2013年期间的出租车预定数据

数据一共分为 4 列,每一列含义如下表所示

根据上述条件,参考 SparkRDD、wordcount、SparkDataFrame、SparkSQL 实验,编写代码实
现如下要求:

1、查询编号为 5 的出租车的 GPS 数据的前 10 行数据
2、统计共有多少辆不同的出租车(id为唯一标识)
3、分别统计每辆出租车的 GPS 点记录有多少条,这里只查看前10行数据

4、选出记录数量最多的3辆车

一、RDD实现

一、RDD实现
1.导入数据
rdd1=sc.textFile("/home/ubuntu/taxi.csv")
2.分割数据
rdd2=rdd1.map(lambda x:x.split(","))
3.查询某一列数据编号为几的前十行数据,调用filter()函数
rdd2.filter(lambda x:x[0]=='5').take(10)#1
4.统计某一列数据共有多少不同的数据,distinct()为去重函数,count()为计数数据
rdd2.map(lambda x:x[0]).distinct().count()#2   384
5.统计某一列数据的某个数据a的记录共有多少条࿰

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家自动化/article/detail/741875
推荐阅读
相关标签
  

闽ICP备14008679号