赞
踩
这是一个用python开发的一个简单的爬虫,作用是抓取肯德基官方网站公布的门店列表,支持关键词搜索, 支持分页
先来看看效果:
请输入想要查询的城市:北京
抓取成功第1页成功!!!
抓取成功第2页成功!!!
抓取成功第3页成功!!!
抓取成功第4页成功!!!
抓取成功第5页成功!!!
抓取成功第6页成功!!!
抓取成功第7页成功!!!
抓取成功第8页成功!!!
抓取成功第9页成功!!!
抓取成功第10页成功!!!
抓取结束
运行程序后界面会先提示要查询的城市,输入后即会逐页抓取数据并分别保存到本地文件。
以下的代码需用到requests模块,如果未安装需要执行
pip3 install request
安装
import requests import json if __name__ == '__main__': url = 'http://www.kfc.com.cn/kfccda/ashx/GetStoreList.ashx?op=keyword' kw = input('请输入想要查询的城市:') page = 1 pageSize = 10 while True: params = { 'cname': '', 'pid': '', 'keyword': kw, 'pageIndex': page, 'pageSize': pageSize } header = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/103.0.0.0 Safari/537.36' } response = requests.post(url=url, data=params, headers=header) res = response.json() shopCount = len(res['Table1']) if shopCount > 0: fileName = kw + str(page) + '.json' fileIndex = open('./' + fileName, 'w', encoding='utf-8') json.dump(res, fp=fileIndex, ensure_ascii=False) print('抓取成功第' + str(page) + '页成功!!!') page = page+1 if shopCount < pageSize: print('抓取结束') break
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。