zoukankan      html  css  js  c++  java
  • 各大搜索引擎的User-Agent

    baidu:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html) 
    Google:Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
    Sogou:Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    Yahoo:Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)
    百度网页搜索 User-agent
    Baiduspider 
    无线搜索 User-agent
    Baiduspider-mobile 
    图片搜索User-agent 
    Baiduspider-image 
    视频搜索 User-agent
    Baiduspider-video 
    新闻搜索 User-agent
    Baiduspider-news 
    百度搜藏 User-agent
    Baiduspider-favo 
    百度联盟 User-agent
    Baiduspider-cpro
    谷歌User-agent
    Googlebot
    MSN User-agent
    MSNBot
    有道User-agent
    YoudaoBot
    搜狗User-agent
    Sogou inst spider
    Sogou spider2
    Sogou blog
    Sogou News Spider
    Sogou Orion spider
    即刻User-agent
    JikeSpider
    搜搜User-agent
    Sosospider
    360User-agent
    360Spider
    
    百度爬虫,第二条为百度图片爬虫
    Baiduspider+(+http://www.baidu.com/search/spider.htm")
    Baiduspider-image
    google爬虫,最后一条为google图片搜索爬虫
    Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
    Googlebot/2.1 (+http://www.googlebot.com/bot.html)
    Googlebot/2.1 (+http://www.google.com/bot.html)
    Googlebot-Image/1.0
    即刻搜索爬虫
    Mozilla/5.0 (compatible; JikeSpider; +http://shoulu.jike.com/spider.html)
    雅虎爬虫(分别是雅虎中国和美国总部的爬虫)
    Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html")
    Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp")
    新浪爱问爬虫
    iaskspider/2.0(+http://iask.com/help/help_index.html")
    Mozilla/5.0 (compatible; iaskspider/1.0; MSIE 6.0)
    搜狗爬虫,第三条为搜狗图片爬虫
    Sogou web spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    Sogou Push Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    搜搜爬虫
    Sosospider+(+http://help.soso.com/webspider.htm)
    网易有道爬虫
    Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )
    MSN爬虫
    msnbot/1.0 (+http://search.msn.com/msnbot.htm)

     补充:

    1.百度Spider

  • 相关阅读:
    在github上面查到了,为什么需要这个padding
    Java 8 新语法习惯,新的函数特性和语法
    数据库连接池配置,获取连接的超时
    用函数式的方式思考,通常以命令式的方式
    centos7 yum方式安装,centos自带mariadb
    mac屏幕脏了怎么办?避免使用粗糙的布
    用 Arthas “庖丁解牛,强大的 Arthas法师来 carry
    图解Knative核心组件,Serving自动伸缩
    vim配置文件
    20200717模拟赛3题解
  • 原文地址:https://www.cnblogs.com/iack/p/3557371.html
Copyright © 2011-2022 走看看