赞
踩
数据一共分为 4 列,每一列含义如下表所示
根据上述条件,参考 SparkRDD、wordcount、SparkDataFrame、SparkSQL 实验,编写代码实
现如下要求:
1、查询编号为 5 的出租车的 GPS 数据的前 10 行数据
2、统计共有多少辆不同的出租车(id为唯一标识)
3、分别统计每辆出租车的 GPS 点记录有多少条,这里只查看前10行数据
4、选出记录数量最多的3辆车
一、RDD实现
一、RDD实现
1.导入数据
rdd1=sc.textFile("/home/ubuntu/taxi.csv")
2.分割数据
rdd2=rdd1.map(lambda x:x.split(","))
3.查询某一列数据编号为几的前十行数据,调用filter()函数
rdd2.filter(lambda x:x[0]=='5').take(10)#1
4.统计某一列数据共有多少不同的数据,distinct()为去重函数,count()为计数数据
rdd2.map(lambda x:x[0]).distinct().count()#2 384
5.统计某一列数据的某个数据a的记录共有多少条
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。