赞
踩
本文用到的数据是之前在链家爬取的武汉二手房信息。这次我们来挖掘一下数据背后的秘密…
文中主要涉及的Python库:
pandas
:读取 csv 文件中的内容,并对数据进行处理。matplotlib
:它是基于 numpy 的一套 Python 工具包。这个包提供了丰富的数据绘图工具,主要用于绘制一些统计图形。seaborn
: seaborn 是基于 matplotlib 的图形可视化 python 包。是在 matplotlib 的基础上进行了更高级的 API 封装,使作图更加容易,相比于 matplotlib 中的一些图用 seaborn 做会更具有吸引力,但特色方面(绘图细节)不及 matplotlib 。一般将 seaborn 视为 matplotlib 的补充,而不是替代物。同时它能高度兼容 numpy 与 pandas 数据结构以及 scipy 与 statsmodels 等统计模式(后文中会体会到兼容 pandas 的好处的)。pyecharts
: pyecharts 是一个用于生成 Echarts 图表的类库。Echarts 是百度开源的一个数据可视化 JS 库。一般用它来绘制动态图,可视化效果非常好。jieba
:一款非常流行的中文分词包。主要有三种分词模式全模式、精确模式(本文使用)、搜索引擎模式。在分词前可以添加自定义词典来提升分词的准确率。collections
:主要使用 Counter 类,统计各值出现的次数。话不多说,进入正题。
首先读取 house_info.csv
文件,并查看数据集的结构信息。
- import pandas as pd
-
- df = pd.read_csv('house_info.csv')
- df.info()
根据上面的信息可以知道,数据集共 27 列,house_label
列中有较多的缺失值, floor
列和 house_area
的类型为 object
应将转成数值类型。
2.1缺失值处理
首先删除包含缺失值的行。删除后数据行数为 5108 行。
- df.dropna(inplace=True)
- df.reset_index(drop=True, inplace=True)
2.2列处理
由于后面需要通过 pyecharts
绘制地图,而 东湖高新区,沌口开发区 并未有详细经纬度划分,故根据大致地理位置,将其分别归属为 洪山区和汉南区 。
处理内容
floor
楼层中的数字- # 提取floor楼层中的数字
- df['floor'] = df['floor'].str.extract(r'(\d+)', expand=False).astype('int')
- # 将房价面积由“85.99m²”-->“85.99”
- df['house_area'] = df['house_area'].apply(lambda x: x[:-1]).astype('float')
-
- # 将东湖高新划分到洪山,沌口开发区划分到汉南
- df.loc[df['region'] == '东湖高新', 'region'] = '洪山'
- df.loc[df['region'] == '沌口开发区', 'region'] = '汉南'
- # 将region列中值后添加“区”,如“汉阳”-->“汉阳区”
- df['region'] = df['region'] + '区'
通过 describe()
函数查看数值列的属性描述。如果查看全部列可以将参数 include
指定为 all
(默认为 None
)。
df.describe()
图中显示武汉二手房平均关注人数为 17 人,平均总价 184 万,平均单价 19364 元/m²,平均楼层 22 层,平均房屋面积 95 m²。另还有标准差、最小值、四分之一分位数、二分之一分位数、四分之三分位数、最大值等信息。
获取数据中各区信息和对应区的房屋数量,绘制条形图。
- import pyecharts.options as opts
- from pyecharts.charts import Bar
- from pyecharts.globals import ThemeType
-
- region_list = df['region'].value_counts().index.tolist()
- house_count_list = df['region'].value_counts().values.tolist()
-
- c = Bar(init_opts=opts.InitOpts(theme=ThemeType.CHALK)
- c.add_xaxis(region_list)
- c.add_yaxis("武汉市", house_count_list)
- c.set_global_opts(title_opts=opts.TitleOpts(title="武汉各区二手房数量柱状图", subtitle=""),
- xaxis_opts=opts.AxisOpts(axislabel_opts=opts.LabelOpts(interval=0)))
- # c.render("武汉各区二手房数量柱状图.html")
- c.render_notebook()
尽管洪山区是将东湖高新区合并后统计的,但合并前二者二手房数量同样很多,其次为江岸区,江景独美。下面我们通过 2D地图 和 3D地图 的形式看各区房价在地图上的分布。
统计各区名称及对应的单价中位数(中位数受极值的影响很小)。加载本地的武汉市地图数据(各区经纬度信息)。绘制房价分布 2D 地图。
- region_list = df['region'].value_counts().index.tolist()
- median_unit_price = []
- for region in region_list:
- median_unit_price.append(df.loc[df['region'] == region, 'unit_price'].median())
-
- # 绘制2D地图
- from pyecharts.charts import Map
- # 加载武汉市地图数据
- json_data = json.load(open('武汉市.json', encoding='utf-8'))
-
- data_pair = [list(z) for z in zip(region_list, median_unit_price)]
-
- text_style = opts.TextStyleOpts(color='#fff')
- c = Map(init_opts=opts.InitOpts(width='1500px', height='700px', bg_color='#404a58'))
- c.add_js_funcs("echarts.registerMap('武汉市',{});".format(json_data))
- c.add(series_name="武汉市", data_pair=data_pair, maptype="武汉市", label_opts=opts.LabelOpts(color='#fff'))
- c.set_global_opts(legend_opts=opts.LegendOpts(textstyle_opts=text_style),
- title_opts=opts.TitleOpts(title="武汉", title_textstyle_opts=text_style)
- ,visualmap_opts=opts.VisualMapOpts(split_number=6, max_=30000, range_text=['高', '低'],
- textstyle_opts=text_style))
- # c.render("武汉市各区房价分布2D图.html")
- c.render_notebook()
根据地图的信息,房价较高的区域集中在武汉市中心区域,以武昌区为首房价单价为 24600 元/m²。其余中心城市房价也均在 15000 元/m²以上。最低房价为新洲区,房价中位数为 7806 元/m²。下面通过3D地图来观察一下。
所需要的数据与2D地图相同,代码较多这里就不在这里展示了(需要的朋友在文末获取)。
相比于2D,3D图中的各区房价差异会更加明显。看着也比较 NB!!
接下来通过箱型图详细看一下各区单价的异常值。
统计各区名称信息及对应单价信息,并绘制箱型图。
- # 统计各个区二手房单价信息
- unit_price_list = []
- for region in region_list:
- unit_price_list.append(df.loc[df['region'] == region, 'unit_price'].values.tolist())
-
- # 绘制箱型图
- from pyecharts.charts import Boxplot
-
- c = Boxplot(init_opts=opts.InitOpts(theme=ThemeType.CHALK))
- c.add_xaxis(region_list)
- c.add_yaxis("武汉市", c.prepare_data(unit_price_list))
- c.set_global_opts(title_opts=opts.TitleOpts(title="武汉各区二手房总价箱型图"),
- xaxis_opts=opts.AxisOpts(axislabel_opts=opts.LabelOpts(interval=0)))
- # c.render("boxplot_base.html")
- c.render_notebook()
pyecharts
中的箱型图的上下边界为最大值最小值,与标准箱型图中的最大观察值,最小观察值不同。我们根据上四分位数和下四分位数的分布,可以看出洪山区、江岸区、武昌区这些房价较高的区域成典型的 右偏态 (异常值集中在较大值的一侧,尾部很长)。这说明很多二手房的价格可能因为地段,装修等原因,单价严重偏离当地房价平均水平。
由于 pyecharts
中的散点图不太方便绘制趋势线,我们直接使用 seaborn
来绘制,二手房面积分布及面积与价格的相关性。
- import matplotlib.pyplot as plt
- import seaborn as sns
-
- f, [ax1,ax2] = plt.subplots(1, 2, figsize=(16, 6))
-
- # 房屋面积
- sns.distplot(df['house_area'], ax=ax1, color='r')
- sns.kdeplot(df['house_area'], shade=True, ax=ax1)
- ax1.set_xlabel('面积')
-
- # 房屋面积和价格的关系
- sns.regplot(x='house_area', y='total_price', data=df, ax=ax2)
- ax2.set_xlabel('面积')
- ax2.set_ylabel('总价')
-
- plt.show()
二手房面积主要分布在60 - 130m²之间。最吸引人的还是面积 400m² ,总价 2000 万的那个点,鹤立鸡群。声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。