当前位置:   article > 正文

Python 爬取网页数据的两种方法

Python 爬取网页数据的两种方法

Python 爬取网页数据的两种方法

网络抓取是从任何网站或任何其他信息源中提取数据的过程,以你想要查看的格式保存在你的系统中;
包含格式很多,例如CSV、Excel等;文件、XML、JSON等等。Python是最常见的网页抓取语言之一;对于任何网络抓取活动,Python被认为是确保此过程无任何错误进行的最佳方法;

2. 使用pandas 爬取网页数据

2.1 打开网页

打开一个网页,将网址复制下来;

2.2 打开 PyCharm 编译器

    先下载pandas库,【文件】=>【设置】=>【项目:xxx】=>【项目解释器】(【File】=>【Settings…】=>【project:xxx】=>【Python Interpreter】),点击+号,在搜索框中输入“pandas”,在下方列表中选中“pandas”,点击安装,等待提示安装完成即可;

2.回到Pycharm输入以下代码

`import pandas as pd #导入pandas库

html = "mobile.anjuke.com/xf/fj-nn/20…" #将要爬取数据的网站网址复制到此 date = pd.read_html(html) #运用pd.read_html读取网站数据 print(date) #输出爬取到的数据 `

3.运行结果如下所示:

3.使用urllib爬取网页数据并写入Excel表


3.1 下载 urllib 库

与上述方法一致,这里就不赘述了

3.2 代码如下

`import urllib.request       #导入urllib库

url = urllib.request.urlopen("fangjia.gotohui.com/show-39181"…
data = url.read()
dt1 = open("D:/Code/data/2.xls","wb")       #xls表的位置,会自动生成xls表
dt1.write(data)   #将数据写入D:/Code/data/2.xls表中
dt1.close()
print(data)`

3.3 运行结果如下

打开目录下的2.xls表,即可看到爬取的数据;

   知道你对python感兴趣,所以给你准备了下面的资料~

 这份完整版的Python全套学习资料已经上传,朋友们如果需要可以点击链接免费领取或者滑到最后扫描二v码保证100%免费

python学习资源免费分享,保证100%免费!!!

需要的话可以点击这里声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:【wpsshop博客】

推荐阅读
相关标签