selenium 无头模式 以及防止被检测

一、无头模式

from selenium import webdriver
from selenium.webdriver.chrome.options import Options # => 引入Chrome的配置
import time

# 配置
ch_options = Options()
ch_options.add_argument("--headless")  # => 为Chrome配置无头模式

# 在启动浏览器时加入配置
driver = webdriver.Chrome(options=ch_options) # => 注意这里的参数

driver.get('http://baidu.com')
driver.find_element_by_id('kw').send_keys('测试')
driver.find_element_by_id('su').click()

time.sleep(2)

# 只有截图才能看到效果咯
driver.save_screenshot('./ch.png')

driver.quit()

二、防止被检测

防止网站识别Selenium代码（针对老版本）

from selenium.webdriver import Chrome
from selenium.webdriver import ChromeOptions

option = ChromeOptions()
option.add_experimental_option('excludeSwitches', ['enable-automation'])
bro = Chrome(options=option)

url = "fudan.bbs.kaoyan.com"  # 首页
bro.get("http://fudan.bbs.kaoyan.com/")
bro.implicitly_wait(10)

新版本如下：

from selenium.webdriver import Chrome
from selenium.webdriver import ChromeOptions

options = ChromeOptions()
options.add_experimental_option('excludeSwitches', ['enable-automation'])
options.add_experimental_option('useAutomationExtension', False)

bro = Chrome(options=options)
bro.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
  "source": """
    Object.defineProperty(navigator, 'webdriver', {
      get: () => undefined
    })
  """
})

url = "fudan.bbs.kaoyan.com"  # 首页
bro.get("http://fudan.bbs.kaoyan.com/")
bro.implicitly_wait(10)

它是怎么做的的呢？一般情况下，我们使用Selenium打开一个网页时，会有一个提示：Chrome正受到自动测试软件的控制。

然后打开调试工具，点击consile，输入代码

window.navigator.webdriver

结果如下：

以淘宝为首，众多网站都针对 Selenium的js监测机制，就是上面的方法实现的。

那么如何解决呢？

只需要设置Chromedriver的启动参数即可解决问题。

在启动Chromedriver之前，为Chrome开启实验性功能参数excludeSwitches，它的值为['enable-automation']，代码同上。

运行上面的代码，就没有Chrome正受到自动测试软件的控制的提示了。

再次js代码

 发现已经是undefined了，这样才是一个正常的浏览器了。

本文参考链接：

https://www.cnblogs.com/wukai66/p/12773479.html

https://zhuanlan.zhihu.com/p/117506307