赞
踩
我们知道爬虫的比较常见的应用都是应用在数据分析上,爬虫作为数据分析的前驱,它负责数据的收集。今天我们以python爬取链家二手房数据为例来进行一个python爬虫实战。(内附python爬虫源代码)
打开链家官网,进入二手房页面,选取某个城市,可以看到该城市房源总数以及房源列表数据。
某些网站的数据是存放在html中,而有些却api接口,甚至有些加密在js中,还好链家的房源数据是存放到html中:
通过requests请求页面,获取每页的html数据
- # 爬取的url,默认爬取的南京的链家房产信息
- url = 'https://nj.lianjia.com/ershoufang/pg{}/'.format(page)
- # 请求url
- resp = requests.get(url, headers=headers, timeout=10)
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。