devbox
菜鸟追梦旅行
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

python自动从网页下载文件,python从网站下载文件_python爬虫下载文件

作者：菜鸟追梦旅行 | 2024-04-12 05:33:16

赞

踩

python爬虫下载文件

这篇文章主要介绍了python自动搜索爬取下载文件，具有一定借鉴价值，需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获，下面让小编带着大家一起了解一下。

其实在当今社会，网络上充斥着大量有用的数据，我们只需要耐心的观察，再加上一些技术手段，就可以获取到大量的有价值数据。这里的“技术手段”就是网络爬虫python自动化运维是干什么的。今天就给大家分享一篇爬虫基础知识和入门教程：

什么是爬虫？

爬虫就是自动获取网页内容的程序，例如搜索引擎，Google，Baidu 等，每天都运行着庞大的爬虫系统，从全世界的网站中爬虫数据，供用户检索时使用。

爬虫流程

其实把网络爬虫抽象开来看，它无外乎包含如下几个步骤

  • 模拟请求网页。模拟浏览器，打开目标网站。
  • 获取数据。打开网站之后，就可以自动化的获取我们所需要的网站数据。
  • 保存数据。拿到数据之后，需要持久化到本地文件或者数据库等存储设备中。

那么我们该如何使用 Python 来编写自己的爬虫程序呢，在这里我要重点介绍一个 Python 库：Requests。

Requests 使用

Requests 库是 Python 中发起 HTTP 请求的库，使用非常方便简单。

模拟发送 HTTP 请求

发送 GET 请求

当我们用浏览器打开豆瓣首页时，其实发送的最原始的请求就是 GET 请求

  1. import requests
  2. res = requests.get('http://www.douban.com')
  3. print(res)
  4. print(type(res))
  5. >>>
  6. <Response [200]>
  7. <class 'requests.models.Response'>
  8.  
  9.

可以看到，我们得到的是一个 Response 对象

如果我们要获取网站返回的数据，可以使用 text 或者 content 属性来获取

text：是以字符串的形式返回数据

content：是以二进制的方式返回数据

  1. print(type(res.text))
  2. print(res.text)
  3. >>>
  4. <class 'str'> <!DOCTYPE HTML>
  5. <html lang="zh-cmn-Hans" class="">
  6. <head>
  7. <meta charset="UTF-8">
  8. <meta name="google-site-verification" content="ok0wCgT20tBBgo9_zat2iAcimtN4Ftf5ccsh092Xeyw" />
  9. <meta name="deion" content="提供图书、电影、音乐唱片的推荐、评论和价格比较，以及城市独特的文化生活。">
  10. <meta name="keywords" content="豆瓣,广播,登陆豆瓣">.....
  11.  
  12.

发送 POST 请求

对于 POST 请求，一般就是提交一个表单

  1. r?=?requests.post('http://www.xxxx.com',?data={"key":?"value"})
  2.  
  3.

data 当中，就是需要传递的表单信息，是一个字典类型的数据。

header 增强

对于有些网站，会拒绝掉没有携带 header 的请求的，所以需要做一些 header 增强。比如：UA，Cookie，host 等等信息。

  1. header = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36",
  2.          "Cookie": "your cookie"}
  3.  
  4.

Python爬虫入门教程！手把手教会你爬取网页数据

数据分析不是个事儿

其实在当今社会，网络上充斥着大量有用的数据，我们只需要耐心的观察，再加上一些技术手段，就可以获取到大量的有价值数据。这里的“技术手段”就是网络爬虫。今天就给大家分享一篇爬虫基础知识和入门教程：

什么是爬虫？

爬虫就是自动获取网页内容的程序，例如搜索引擎，Google，Baidu 等，每天都运行着庞大的爬虫系统，从全世界的网站中爬虫数据，供用户检索时使用。

爬虫流程

其实把网络爬虫抽象开来看，它无外乎包含如下几个步骤

  • 模拟请求网页。模拟浏览器，打开目标网站。
  • 获取数据。打开网站之后，就可以自动化的获取我们所需要的网站数据。
  • 保存数据。拿到数据之后，需要持久化到本地文件或者数据库等存储设备中。

那么我们该如何使用 Python 来编写自己的爬虫程序呢，在这里我要重点介绍一个 Python 库：Requests。

Requests 使用

Requests 库是 Python 中发起 HTTP 请求的库，使用非常方便简单。

模拟发送 HTTP 请求

发送 GET 请求

当我们用浏览器打开豆瓣首页时，其实发送的最原始的请求就是 GET 请求

  1. import?requests
  2. res?=?requests.get('http://www.douban.com')
  3. print(res)
  4. print(type(res))
  5. >>>
  6. <Response?[200]>
  7. <class?'requests.models.Response'>
  8.  
  9.

可以看到，我们得到的是一个 Response 对象

如果我们要获取网站返回的数据，可以使用 text 或者 content 属性来获取

text：是以字符串的形式返回数据

content：是以二进制的方式返回数据

  1. print(type(res.text))
  2. print(res.text)
  3. >>>
  4. <class?'str'>?<!DOCTYPE?HTML>
  5. <html?lang="zh-cmn-Hans"?class="">
  6. <head>
  7. <meta?charset="UTF-8">
  8. <meta?name="google-site-verification"?content="ok0wCgT20tBBgo9_zat2iAcimtN4Ftf5ccsh092Xeyw"?/>
  9. <meta?name="deion"?content="提供图书、电影、音乐唱片的推荐、评论和价格比较，以及城市独特的文化生活。">
  10. <meta?name="keywords"?content="豆瓣,广播,登陆豆瓣">.....
  11.  
  12.

发送 POST 请求

对于 POST 请求，一般就是提交一个表单

  1. r?=?requests.post('http://www.xxxx.com',?data={"key":?"value"})
  2.  
  3.

data 当中，就是需要传递的表单信息，是一个字典类型的数据。

header 增强

对于有些网站，会拒绝掉没有携带 header 的请求的，所以需要做一些 header 增强。比如：UA，Cookie，host 等等信息。

  1. header?=?{"User-Agent":?"Mozilla/5.0?(Windows?NT?10.0;?Win64;?x64)?AppleWebKit/537.36?(KHTML,?like?Gecko)?Chrome/76.0.3809.100?Safari/537.36",
  2. ?????????"Cookie":?"your?cookie"}
  3. res?=?requests.get('http://www.xxx.com',?headers=header)

解析 HTML

现在我们已经获取到了网页返回的数据，即 HTML 代码，下面就需要解析 HTML，来提取其中有效的信息。

BeautifulSoup

BeautifulSoup 是 Python 的一个库，最主要的功能是从网页解析数据。

  1. from bs4 import BeautifulSoup  # 导入 BeautifulSoup 的方法
  2. # 可以传入一段字符串，或者传入一个文件句柄。一般都会先用 requests 库获取网页内容，然后使用 soup 解析。
  3. soup = BeautifulSoup(html_doc,'html.parser')  # 这里一定要指定解析器，可以使用默认的 html，也可以使用 lxml。
  4. print(soup.prettify())  # 按照标准的缩进格式输出获取的 soup 内容。
  5.  
  6.

BeautifulSoup 的一些简单用法

  1. print(soup.title)  # 获取文档的 title
  2. print(soup.title.name)  # 获取 title 的 name 属性
  3. print(soup.title.string)  # 获取 title 的内容
  4. print(soup.p)  # 获取文档中第一个 p 节点
  5. print(soup.p['class'])  # 获取第一个 p 节点的 class 内容
  6. print(soup.find_all('a'))  # 获取文档中所有的 a 节点，返回一个 list
  7. print(soup.find_all('span', attrs={'style': "color:#ff0000"}))  # 获取文档中所有的 span 且 style 符合规则的节点，返回一个 list
  8.  
  9.

具体的用法和效果，我会在后面的实战中详细说明。

XPath 定位

XPath 是 XML 的路径语言，是通过元素和属性进行导航定位的。几种常用的表达式

表达式含义node选择 node 节点的所有子节点/从根节点选取//选取所有当前节点.当前节点…父节点@属性选取text()当前路径下的文本内容

一些简单的例子

  1. xpath('node')  # 选取 node 节点的所有子节点
  2. xpath('/div')  # 从根节点上选取 div 元素
  3. xpath('//div')  # 选取所有 div 元素
  4. xpath('./div')  # 选取当前节点下的 div 元素
  5. xpath('//@id')  # 选取所有 id 属性的节点
  6.  
  7.

当然，XPath 非常强大，但是语法也相对复杂，不过我们可以通过 Chrome 的开发者工具来快速定位到元素的 xpath，如下图

得到的 xpath 为

  1. //*[@id="anony-nav"]/div[1]/ul/li[1]/a
  2.  
  3.

在实际的使用过程中，到底使用 BeautifulSoup 还是 XPath，完全取决于个人喜好，哪个用起来更加熟练方便，就使用哪个。

爬虫实战：爬取豆瓣海报

我们可以从豆瓣影人页，进入都影人对应的影人图片页面，比如以刘涛为例子，她的影人图片页面地址为

https://movie.douban.com/celebrity/1011562/photos/

下面我们就来分析下这个网页

目标网站页面分析

注意：网络上的网站页面构成总是会变化的，所以这里你需要学会分析的方法，以此类推到其他网站。正所谓授人以鱼不如授人以渔，就是这个原因。

Chrome 开发者工具

Chrome 开发者工具（按 F12 打开），是分析网页的绝佳利器，一定要好好使用。

我们在任意一张图片上右击鼠标，选择“检查”，可以看到同样打开了“开发者工具”，而且自动定位到了该图片所在的位置

可以清晰的看到，每张图片都是保存在 li 标签中的，图片的地址保存在 li 标签中的 img 中。

知道了这些规律后，我们就可以通过 BeautifulSoup 或者 XPath 来解析 HTML 页面，从而获取其中的图片地址。

代码编写

我们只需要短短的几行代码，就能完成图片 url 的提取

  1. import?requests
  2. from?bs4?import?BeautifulSoup?
  3.  
  4. url?=?'https://movie.douban.com/celebrity/1011562/photos/'
  5. res?=?requests.get(url).text
  6. content?=?BeautifulSoup(res,?"html.parser")
  7. data?=?content.find_all('div',?attrs={'class':?'cover'})
  8. picture_list?=?[]
  9. for?d?in?data:
  10. ????plist?=?d.find('img')['src']
  11. ????picture_list.append(plist)
  12. print(picture_list)
  13. >>>
  14. ['https://img1.doubanio.com/view/photo/m/public/p2564834267.jpg',?'https://img1.doubanio.com/view/photo/m/public/p860687617.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2174001857.jpg',?'https://img1.doubanio.com/view/photo/m/public/p1563789129.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2363429946.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2382591759.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2363269182.jpg',?'https://img1.doubanio.com/view/photo/m/public/p1959495269.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2356638830.jpg',?'https://img3.doubanio.com/view/photo/m/public/p1959495471.jpg',?'https://img3.doubanio.com/view/photo/m/public/p1834379290.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2325385303.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2361707270.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2325385321.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2196488184.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2186019528.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2363270277.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2325240501.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2258657168.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2319710627.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2319710591.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2311434791.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2363270708.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2258657185.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2166193915.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2363265595.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2312085755.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2311434790.jpg',?'https://img3.doubanio.com/view/photo/m/public/p2276569205.jpg',?'https://img1.doubanio.com/view/photo/m/public/p2165332728.jpg']
  15.  
  16.

可以看到，是非常干净的列表，里面存储了海报地址。
但是这里也只是一页海报的数据，我们观察页面发现它有好多分页，如何处理分页呢。

分页处理

我们点击第二页，看看浏览器 url 的变化

https://movie.douban.com/celebrity/1011562/photos/type=C&start=30&sortby=like&size=a&subtype=a

发现浏览器 url 增加了几个参数

再点击第三页，继续观察 url

https://movie.douban.com/celebrity/1011562/photos/type=C&start=60&sortby=like&size=a&subtype=a

通过观察可知，这里的参数，只有 start 是变化的，即为变量，其余参数都可以按照常理来处理

同时还可以知道，这个 start 参数应该是起到了类似于 page 的作用，start = 30 是第二页，start = 60 是第三页，依次类推，最后一页是 start = 420。

于是我们处理分页的代码也呼之欲出了

首先将上面处理 HTML 页面的代码封装成函数

  1. def?get_poster_url(res):
  2. ????content?=?BeautifulSoup(res,?"html.parser")
  3. ????data?=?content.find_all('div',?attrs={'class':?'cover'})
  4. ????picture_list?=?[]
  5. ????for?d?in?data:
  6. ????????plist?=?d.find('img')['src']
  7. ????????picture_list.append(plist)
  8. ????return?picture_list
  9.  
  10.

然后我们在另一个函数中处理分页和调用上面的函数

  1. def?fire():
  2. ????page?=?0
  3. ????for?i?in?range(0,?450,?30):
  4. ????????print("开始爬取第?%s 页"?%?page)
  5. ????????url?=?'https://movie.douban.com/celebrity/1011562/photos/?type=C&start={}&sortby=like&size=a&subtype=a'.format(i)
  6. ????????res?=?requests.get(url).text
  7. ????????data?=?get_poster_url(res)
  8. ????????page?+=?1
  9.  
  10.

此时，我们所有的海报数据都保存在了 data 变量中，现在就需要一个下载器来保存海报了

  1. def?download_picture(pic_l):
  2. ????if?not?os.path.exists(r'picture'):
  3. ????????os.mkdir(r'picture')
  4. ????for?i?in?pic_l:
  5. ????????pic?=?requests.get(i)
  6. ????????p_name?=?i.split('/')[7]
  7. ????????with?open('picture\'?+?p_name,?'wb')?as?f:
  8. ????????????f.write(pic.content)

再增加下载器到 fire 函数，此时为了不是请求过于频繁而影响豆瓣网的正常访问，设置 sleep time 为1秒

  1. def?fire():
  2. ????page?=?0
  3. ????for?i?in?range(0,?450,?30):
  4. ????????print("开始爬取第?%s 页"?%?page)
  5. ????????url?=?'https://movie.douban.com/celebrity/1011562/photos/?type=C&start={}&sortby=like&size=a&subtype=a'.format(i)
  6. ????????res?=?requests.get(url).text
  7. ????????data?=?get_poster_url(res)
  8. ????????download_picture(data)
  9. ????????page?+=?1
  10. ????????time.sleep(1)
  11.  
  12.

下面就执行 fire 函数，等待程序运行完成后，当前目录下会生成一个 picture 的文件夹，里面保存了我们下载的所有海报

核心代码讲解

下面再来看下完整的代码

  1. import?requests
  2. from?bs4?import?BeautifulSoup
  3. import?time
  4. import?osdef?fire():
  5. ????page?=?0
  6. ????for?i?in?range(0,?450,?30):
  7. ????????print("开始爬取第?%s 页"?%?page)
  8. ????????url?=?'https://movie.douban.com/celebrity/1011562/photos/?type=C&start={}&sortby=like&size=a&subtype=a'.format(i)
  9. ????????res?=?requests.get(url).text
  10. ????????data?=?get_poster_url(res)
  11. ????????download_picture(data)
  12. ????????page?+=?1
  13. ????????time.sleep(1)def?get_poster_url(res):
  14. ????content?=?BeautifulSoup(res,?"html.parser")
  15. ????data?=?content.find_all('div',?attrs={'class':?'cover'})
  16. ????picture_list?=?[]
  17. ????for?d?in?data:
  18. ????????plist?=?d.find('img')['src']
  19. ????????picture_list.append(plist)
  20. ????return?picture_listdef?download_picture(pic_l):
  21. ????if?not?os.path.exists(r'picture'):
  22. ????????os.mkdir(r'picture')
  23. ????for?i?in?pic_l:
  24. ????????pic?=?requests.get(i)
  25. ????????p_name?=?i.split('/')[7]
  26. ????????with?open('picture\'?+?p_name,?'wb')?as?f:
  27. ????????????f.write(pic.content)if?__name__?==?'__main__':
  28. ????fire()
  29.  
  30.

fire 函数

这是一个主执行函数，使用 range 函数来处理分页。

  • range 函数可以快速的创建整数列表，在 for 循环时及其好用。函数中的0代表从0开始计数，450代表一直迭代到450，不包含450，30代表步长，即每次递增的数字间隔。range(0, 450, 30)，依次会输出：0，30，60，90 …
  • format 函数，是一种字符串格式化方式
  • time.sleep(1) 即为暂停1秒钟

get_poster_url 函数

这个就是解析 HTML 的函数，使用的是 BeautifulSoup

  • 通过 find_all 方法查找所有 class 为 “cover” 的 div 元素，返回的是一个列表
  • 使用 for 循环，循环上一步拿到的列表，取出 src 的内容，append 到列表中
  • append 是列表的一个方法，可以在列表后面追加元素

download_picture 函数

简易图片下载器

  • 首先判断当前目录下是否存在 picture 文件夹，os.path.exists
  • os 库是非常常用用来操作系统相关的命令库，os.mkdir 就是创建文件夹
  • split 用于切割字符串，取出角标为7的元素，作为存储图片的名称
  • with 方法用来快速打开文件，打开的进程可以自行关闭文件句柄，而不再需要手动执行 f.close() 关闭文件

总结

如果是初学python爬虫，觉得自学比较难的，那么我接下来分享的这全套 Python 学习资料一定不要错过，希望能给那些想学习 Python 的小伙伴们带来帮助！

python学习路线

环境搭建

使用 Python 首先需要搭建 Python 环境，我们直接到 Python 官网 下载自己对应平台和版本的安装包进行安装即可

python开发工具

俗话说：工欲善其事，必先利其器，Python 的学习也是一样，新手建议首选 PyCharm，可以快速上手，减少配置时间。

学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

在这里插入图片描述

入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、清华编程大佬出品《漫画看学Python》

用通俗易懂的漫画，来教你学习Python，让你更容易记住，并且不会枯燥乏味。

在这里插入图片描述
配套600集视频：

在这里插入图片描述

六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。


文章知识点与官方知识档案匹配，可进一步学习相关知识
Python入门技能树人工智能机器学习工具包Scikit-learn410192 人正在系统学习中
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/菜鸟追梦旅行/article/detail/409357
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号