当前位置:   article > 正文

Python爬虫——简单网页抓取(实战案例)小白篇_python爬虫爬取网页数据_根据链接自动爬取网页代码

根据链接自动爬取网页代码

先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7

深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新Python全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img



既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上Python知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以添加V获取:vip1024c (备注Python)
img

正文

语法结构

urllib.request.urlopen(url,data = None,[ timeout,] *,cafile = None,capath = None,cadefault = False,context = None)

  • 1
  • 2

语法详解

  • url:传入的对象可以是url也可以是一个request的对象;
  • data:data必须是一个直接要发送搭服务器的其他数据的对象,如果没有data数据的话可以为None,也可以不写。
  • timeout:以秒为单位制定用于组织链接尝试之类的操作超时;

3)urllib.openurl:返回对象的方法

  # 设置一个url对象
  url = "百度一下,你就知道"
  #发送请求,打开url
  up = urllib.request.urlopen(url)
  print(type(up))
  
  #返回对象
>>> <class 'http.client.HTTPResponse'>

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

上面我们可以看出返回的对象是HTTPResponse类型的,下面一起来看一下HTTPResponse类的方法

发送GET请求:

from urllib import request
response = request.urlopen('百度一下,你就知道')
print(response.read().decode())

  • 1
  • 2
  • 3
  • 4

发送post请求:

from urllib import reuqest
response = 	request.urlopen('Method Not Allowed', data=b'word=hello')
print(response.read().decode())   #decode()解码

  • 1
  • 2
  • 3
  • 4

我们已经知道在讲urlopen中传入一个网址的时候他就会主动的去访问目标

本文内容由网友自发贡献,转载请注明出处:https://www.wpsshop.cn/w/羊村懒王/article/detail/720357
推荐阅读
相关标签
  

闽ICP备14008679号