当前位置:   article > 正文

【Python爬虫】一键获取微博评论,轻松实现舆情分析!_微博爬虫_微博评论数据预处理

微博评论数据预处理

难点:

1)受到请求频率的限制,需要采用一些方法来避免限制,例如:time.sleep等

2)通常来说,需要设置cookie,通过设置url,模拟网页发送请求,获得网页内容。缺点:需要对数据进行预处理,并且需要找到网页url的逻辑,cookie。

3)经过测试,当前微博的评论,不能全部提取。本文通过实验得到结果,微博评论通常只能抓到200条数据后,就会被限制。

基于上述问题,为了爬取到微博的评论,本文爬取的思路采取通过微博API进行调用相关接口,具体实现步骤如下:

三、
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/weixin_40725706/article/detail/481184

推荐阅读
相关标签