当前位置:   article > 正文

爬取内容到本地为乱码格式解决方案_爬取新浪新闻最后的数据是乱码怎么办?

爬取新浪新闻最后的数据是乱码怎么办?

爬取四大名著:

学习其他博主爬取四大名著下载到本地时发现是乱码格式,找到解决办法与大家分享

问题描述:

  1. 错误代码
 # 获取html
    def get_html(self, url):
        result = requests.get(url=url,headers=self.headers)
        return BeautifulSoup(result.text, 'lxml')
  • 1
  • 2
  • 3
  • 4
  1. 错误代码运行结果
    在这里插入图片描述

  2. 正确代码

 # 获取html
    def get_html(self, url):
        result = requests.get(url=url,headers=self.headers)
        # 注意,一定要加下面这一句,否则下载下来的内容会出现乱码,根据网页源码查看属于utf-8,所以要将其转化成和网页源码一样,下面就是一个转化方式
        result.encoding = "utf-8"
        return BeautifulSoup(result.text, 'lxml')
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  1. 正确代码运行结果
    在这里插入图片描述
    在这里插入图片描述

原因分析:

Requests推测的文本编码与源网页编码不一致,因此会导致乱码问题的出现

解决方案:

具体可见链接:https://www.cnblogs.com/tufeixiaopengyou/p/14385389.html

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/正经夜光杯/article/detail/751372
推荐阅读
相关标签
  

闽ICP备14008679号