Python爬虫——用Pycharm写一个爬虫程序，Python开发了解这些自然无惧面试_pycharm爬虫教程

print(response_url_all)

新建一个image文件夹，存放爬取到的图片的数据

if not os.path.exists(‘image’):
os.mkdir(‘image’)

for items_image in response_url_all:

首先将爬取的字符串数据拼接成一个完整的网址，便于数据抓取

image_name = items_image.split(‘/’)[-1]

获取二进制图片数据

items_date = requests.get(url=items_image, headers=headers).content

保存图片

with open(‘image/’ + image_name, ‘wb’) as fp:
fp.write(items_date)
print(image_name, ‘下载成功！！！’)

if name == ‘main’:
main()

三、 爬取步骤

1. 我所使用的集成开发环境是Pycharm，首先新建一个.py文件，拥有编写代码：鼠标右键点击你的项目名称，然后new，python file ，输入自己的.py文件的名字，我的文件名字为Regular_expression_01，系统会自动加上.py 后缀。

2. 编写代码，代码已经在上面，同行可自取。
3. 在爬虫之前，我们需要对页面进行分析，进入糗图百科，点击热图，我们会发现这里面有我们所需要爬取的糗图。

4. 接下来我们对网页进行分析，浏览器单击鼠标右键，点击“检查”，点击"network"，再刷新页面

会出现下面的页面：

5. 接下来我们对图片地址进行分析，我们翻到第二页，看网址，发现https://www.qiushibaike.com/imgrank/page/是不变的，而后面会加个 “页数/”

6. 于是我们的url便可以使用如下语句写了：

这便是我们所有的网址啦，接下来就是分析每一页网页上图片的数据了

按照顺序点击：

7. 点击Headers，进入头部信息，往下拉，找到User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Safari/537.36这一行，这便是浏览器发给服务器的头信息，爬虫的时候需要用到。

8. 我们再进入Elements，对网站的信息进行分析，找到图片的路径，以便爬取网站信息：

9. 我们发现，所有的图片都在class = "thumb"标签下面的img标签里，有了这个信息，就可以用正则表达式提取图片的链接了！ 正则表达式见源码！

10. 接下来就是写程序了！程序就在源码里了，需要自取哦。

四、 总结

python爬虫是非常常见的数据抓取工具，用Python能够很快地爬取我们需要的数据。

五、 写在最后

作为一名新手，写的文章不好，希望大家能够多多批评指正，我将不胜感激。希望大家多多支持我哦，我会努力提高自己的编程能力，给大家奉上更加优质的内容。谢谢大家！

关于Python技术储备

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

包括：Python激活码+安装包、Python web开发，Python爬虫，Python数据分析，Python自动化测试学习等教程。带你从零基础系统性的学好Python！

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/599594