当前位置:   article > 正文

Selenium 反反爬_selenium 报400

selenium 报400

最近发现在用Selenium请求某网站时一打开就闪退,打开其他网站没问题

于是加了一个time.sleep()等待,然后F12看了一下请求状态。是被拒绝,400 Bad Request

被服务器拒绝大概率是被反爬

于是试了一下添加headers,发现还是不行

  1. chrome_options.add_argument('Accept=text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9')
  2. chrome_options.add_argument('Accept-Encoding=gzip, deflate, br')
  3. chrome_options.add_argument('Accept-Language=zh-CN,zh;q=0.9')
  4. chrome_options.add_argument('Cache-Control=no-cache')
  5. chrome_options.add_argument('Connection=keep-alive')
  6. chrome_options.add_argument('User-Agent=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.0.0 Safari/537.36')

其实selenium本身就是一个浏览器,上面那些倒是不用加的,就UA可以弄一个UA池,随机抽取做更新

既然不是请求头,那就是其他原因,网上查了一下,找到了解决方法

解决方法

发现浏览器window对象有个属性window.navigator.webdriver

正常情况下为false(可以在console里打出来)

使用chromedriver时为true

使用下面的方法即可去除webdriver特征:

  1. chrome_options = Options()
  2. chrome_options.add_argument("--disable-blink-features")
  3. chrome_options.add_argument("--disable-blink-features=AutomationControlled")
  4. chrome_options.add_experimental_option("excludeSwitches", ["enable-automation"])
  5. chrome_options.add_experimental_option('useAutomationExtension', False)
  6. browser = webdriver.Chrome(executable_path=os.path.abspath('./My_Utils/chromedriver.exe') , options=chrome_options)
  7. browser.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
  8. "source": """
  9. Object.defineProperty(navigator, 'webdriver', {
  10. get: () => undefined
  11. })
  12. """})
  13. browser.get(url)
  14. time.sleep(20)

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/89844
推荐阅读
相关标签
  

闽ICP备14008679号