zoukankan      html  css  js  c++  java
  • User-Agent

    在工作中进行爬虫时,经常会需要提供User-Agent,如果不提供User-Agent,会导致爬虫在请求网页时,请求失败,所以需要大量User-Agent。如何生成合法的User-Agent?

    使用fake-useragent库就可以解决该问题。

    安装:

    pip install fake-useragent

    使用:

    该模块使用非常简单。

    1.  
      from fake_useragent import UserAgent
    2.  
      ua = UserAgent()
    3.  
       
    4.  
      ua.ie
    5.  
      # Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US);
    6.  
      ua.msie
    7.  
      # Mozilla/5.0 (compatible; MSIE 10.0; Macintosh; Intel Mac OS X 10_7_3; Trident/6.0)'
    8.  
      ua['Internet Explorer']
    9.  
      # Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; GTB7.4; InfoPath.2; SV1; .NET CLR 3.3.69573; WOW64; en-US)
    10.  
      ua.opera
    11.  
      # Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11
    12.  
      ua.chrome
    13.  
      # Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.2 (KHTML, like Gecko) Chrome/22.0.1216.0 Safari/537.2'
    14.  
      ua.google
    15.  
      # Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_4) AppleWebKit/537.13 (KHTML, like Gecko) Chrome/24.0.1290.1 Safari/537.13
    16.  
      ua['google chrome']
    17.  
      # Mozilla/5.0 (X11; CrOS i686 2268.111.0) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.57 Safari/536.11
    18.  
      ua.firefox
    19.  
      # Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1
    20.  
      ua.ff
    21.  
      # Mozilla/5.0 (X11; Ubuntu; Linux i686; rv:15.0) Gecko/20100101 Firefox/15.0.1
    22.  
      ua.safari
    23.  
      # Mozilla/5.0 (iPad; CPU OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5355d Safari/8536.25
    24.  
       
    25.  
      # 最好的,通过真实世界的浏览器使用统计随机
    26.  
      ua.random
  • 相关阅读:
    xcode5.1上真机调试报告No architectures to compile for...的解决办法
    Altium Designer元件库--多单元元器件的制作
    COMS门电路的设计及其优化--以异或门为例
    从器件物理层面看MOSFET的内部结构
    VHDL与Verilog硬件描述语言TestBench的编写
    C语言求解Excel地址转换问题
    数字黑洞求解问题
    计算机显示电池出现问题
    Charles安装
    滑动窗口1——无重复字符的最长字串
  • 原文地址:https://www.cnblogs.com/gaosai/p/10319559.html
Copyright © 2011-2022 走看看