当前位置:   article > 正文

吃瓜群众:Python爬取微博评论区_python爬取网页评论

python爬取网页评论

观察网页

网页地址:https://weibo.com/2871868031/MEhZwrDay

步骤:

1.进入微博首页,搜索相关内容,进入评论区,在此页面右键,点击“检查”

2.点击“网络”,然后刷新页面,搜索评论”如小斯赛前说的“,找到评论所在的真实网址

导入第三方库

import requests   import re   import csv   
  • 1

请求数据

点击标头,得知网站的请求方式为GET,使用requests请求数据

写入相关代码,如下:

url = "https://weibo.com/ajax/statuses/buildComments?is_reload=1&id=4896022826585426&is_show_bulletin=2&is_mix=0&count=10&uid=2871868031&fetch_level=0"   response = requests.get(url).json()   
  • 1

解析数据

1.我们需要获取的是“名字”、“评论”、“来源”、“时间”等四个信息,这四个信息分别位于,comments、more_info、user内

代码如下所示:

datas = []   for data in response['data']:       time_ = data['created_at']       name = data['user']['screen_name']       text = data['text']       text = re.sub(r'<.*?>', '', text)       source = data['source']       print(name, "\t", text, source, time_)       datas.append(["名字:", name, "评论", text, source, "时间", time_])   
  • 1

储存数据

将爬取的数据信息进行储存,代码如下:

with open("data.csv", mode='w') as f:       csvwriter = csv.writer(f)       csvwriter.writerows(datas)   
  • 1

全套代码及运行结果

1.全套代码如下:

import requests   import re   import csv   url = "https://weibo.com/ajax/statuses/buildComments?is_reload=1&id=4896022826585426&is_show_bulletin=2&is_mix=0&count=10&uid=2871868031&fetch_level=0"   response = requests.get(url).json()   datas = []   for data in response['data']:       time_ = data['created_at']       name = data['user']['screen_name']       text = data['text']       text = re.sub(r'<.*?>', '', text)       source = data['source']       print(name, "\t", text, source, time_)       datas.append(["名字:", name, "评论", text, source, "时间", time_])   with open("data.csv", mode='w') as f:       csvwriter = csv.writer(f)       csvwriter.writerows(datas)   
  • 1

2.运行结果如下:

以上就是“吃瓜群众:Python爬取微博评论区”的全部内容,希望对你有所帮助。

关于Python技术储备

学好 Python 不论是就业还是做副业赚钱都不错,但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!

一、Python所有方向的学习路线

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

二、Python必备开发工具

img

三、Python视频合集

观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

img

四、实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

img

五、Python练习题

检查学习结果。

img

六、面试资料

我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

img

最后祝大家天天进步!!

上面这份完整版的Python全套学习资料已经上传至CSDN官方,朋友如果需要可以直接微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】。

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号