当前位置:   article > 正文

5.python爬虫 - 简单动态网页爬(二)_"dom.xpath('//div[@class=\"comment-item\"]//span[@

"dom.xpath('//div[@class=\"comment-item\"]//span[@class=\"comment-info\"]/a/text("

这次将讲解如何将爬取的内容,保存到本地。

代码内容比较多,所需的库比较多,需要一定爬虫基础和pandas数据处理基础,建议用jupyter做

直接附上代码,代码有简单的备注:

1.引入所需的库:

  1. from selenium.webdriver.common.by import By # 寻找id、类等的库
  2. from selenium import webdriver
  3. from selenium.webdriver.support.ui import WebDriverWait # 显示等待:WebDriverWait()
  4. from selenium.webdriver.support import expected_conditions as EC # 判断一个元素是否存在,是否符合条件
  5. import pandas as pd
  6. from lxml import etree

2.设置相关参数:

  1. url = 'https://movie.douban.com/subject/26266893/comments?status=P'
  2. driver = webdriver.Chrome() # 实例化谷歌浏览器插件
  3. driver.get(url) # 打开网页
  4. all_data = pd.DataFrame() # 创建数据框存储数据
  5. wait = WebDriverWait(driver, 10) # 是等待变量

 这里会弹出网页界面,然后点击登录,运行下一步代码即可

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/396745?site
推荐阅读
相关标签
  

闽ICP备14008679号