selenium的检测与突破

转自: https://zhuanlan.zhihu.com/p/55956954

当使用selenium去某宝或其他网站进行爬虫或者模拟登陆时，会出现滑动验证码，并且无论是用ActionChains滑还是手动滑，都会很委婉的告诉你“哎呀网络错误，请刷新”等等。why？

经过科.xx学.xx上xx.网，查阅众多资料，发现seleniumyou 有一些特征值， 例如下面：

window.navigator.webdriver
window.navigator.languages
window.navigator.plugins.length

其中最主要的特征值就是webdriver这一项。

partial interface Navigator {
      readonly attribute boolean webdriver;
  };

Navigator接口的webdriver IDL属性必须返回webdriver-active标志的值，该标志默认值为false或者undefined。

此属性允许网站确定用户代理受WebDriver控制，并可用于帮助缓解压力，拒绝服务攻击。

直接取自2017 W3C Editor的WebDriver草案。这在很大程度上意味着，至少，未来selenium驱动程序迭代将被识别以防止滥用。

检测方法：

检查→Console→输入"window.navigator.webdriver"

正常情况下为false或者undefined（根据浏览器稳定）

如果我们使用selenium自动化运行浏览器，然后在利用上述检测方法，其值会是true

于是我开始摸索网站对于该特征值的检测方法：

通过F12全局搜索，我发现在index.js中有webdriver的字段：

另外，还有两个参数可以揭示使用了chromedriver：

1.“navigator.plugins.length”此参数可以检测selenium的headless模式，headless模式下为0，所以可以添加假的值来规避检测；

2.“navigator.languages”确保将此参数设置为chrome的默认值[“en-US”,“en”,"es"]

--------------------------------------------------------------------------------------------

ok，接下来我们要做的：

selenium被检测的突破——修改webdriver的特征值

通过科,学,上,网，有一个方法是：

通过16进制编辑工具将chromedirver的$cdc_和$wdc_这两个变量名称修改掉，但是我没有尝试，这里不做赘述，有兴趣可自行尝试。

我所使用的是利用mitmproxy通过代码注入的方式进行修改webdriver的值。

'Object.defineProperties(navigator,{webdriver:{get:() => false}});'

我们需要在index.js中的检测webdriver前面注入一段代码，将webdriver值改为替换为false。

1.为什么不使用selenium中的executeScript() 执行js代码呢？

因为executeScript()是在网页渲染完成后才执行。而检测webdriver是在网页渲染过程中检测。所以无效。

2.手动在console修改webdriver值？

此方法治标不治本。只是临时修改了webdriver值。并且，你需要在检测浏览器指纹的XHR之前修改，才能有效。

-----------------------------------------------------------------------------------------------

总结：

1.网站通过“navigator.webdriver，navigator.languages，navigator.plugins.length”等参数浏览器指纹来检测是否使用了selenium+webdriver。其中，之主要的特征为“webdriver”是否为true；

注意，在老版本的火狐浏览器会把webdriver直接用Attribute的形式写入，因此可以使用检测

window.document.documentElement.getAttribute(“webdriver”)

是否为true的方法，检测是否使用了selenium。

2.修改chromedriver源码；

3.使用mitmproxy或fiddler做代码注入；

4.使用其他方法拦截发送回浏览器指纹的XHR

-----------------------------------------------------------------------------------------------

附一些网站检测selenium的示例

runBotDetection = function () {
    var documentDetectionKeys = [
        "__webdriver_evaluate",
        "__selenium_evaluate",
        "__webdriver_script_function",
        "__webdriver_script_func",
        "__webdriver_script_fn",
        "__fxdriver_evaluate",
        "__driver_unwrapped",
        "__webdriver_unwrapped",
        "__driver_evaluate",
        "__selenium_unwrapped",
        "__fxdriver_unwrapped",
    ];

    var windowDetectionKeys = [
        "_phantom",
        "__nightmare",
        "_selenium",
        "callPhantom",
        "callSelenium",
        "_Selenium_IDE_Recorder",
    ];

    for (const windowDetectionKey in windowDetectionKeys) {
        const windowDetectionKeyValue = windowDetectionKeys[windowDetectionKey];
        if (window[windowDetectionKeyValue]) {
            return true;
        }
    };
    for (const documentDetectionKey in documentDetectionKeys) {
        const documentDetectionKeyValue = documentDetectionKeys[documentDetectionKey];
        if (window['document'][documentDetectionKeyValue]) {
            return true;
        }
    };

    for (const documentKey in window['document']) {
        if (documentKey.match(/$[a-z]dc_/) && window['document'][documentKey]['cache_']) {
            return true;
        }
    }

    if (window['external'] && window['external'].toString() && (window['external'].toString()['indexOf']('Sequentum') != -1)) return true;

    if (window['document']['documentElement']['getAttribute']('selenium')) return true;
    if (window['document']['documentElement']['getAttribute']('webdriver')) return true;
    if (window['document']['documentElement']['getAttribute']('driver')) return true;

    return false;
};

 

try {
 if (window.document.documentElement.getAttribute("webdriver")) return !+[]
} catch (IDLMrxxel) {}
try {
 if ("_Selenium_IDE_Recorder" in window) return !+""
} catch (KknKsUayS) {}
try {
 if ("__webdriver_script_fn" in document) return !+""

 

改写特征参数的js

// 改写 `languages` 
Object.defineProperty(navigator, "languages", {
  get: function() {
    return ["en", "es"];
  }
});

//改写 `plugins`
Object.defineProperty(navigator, "plugins", {
  get: () => new Array(Math.floor(Math.random() * 6) + 1),
});

// 改写`webdriver`
Object.defineProperty(navigator, "webdriver", {
  get: () => false,
});