zoukankan      html  css  js  c++  java
  • from fake_useragent import UserAgent

    使用:
    from fake_useragent import UserAgent
    ua = UserAgent(verify_ssl=False)
    res = ua.random
    print(res)


    安装

    pip3 install fake_useragent
    

    各浏览器User-Agent的值

    from fake_useragent import UserAgent
    ua = UserAgent()
    # ie浏览器的user agent
    print(ua.ie)
    
    Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US)
    
    #opera浏览器
    print(ua.opera)
    
    Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11
    
    #chrome浏览器
    print(ua.chrome)
    
    Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.2 (KHTML, like Gecko) Chrome/22.0.1216.0 Safari/537.2
    #firefox浏览器
    
    #firefox浏览器
    print(ua.firefox)
    
    Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1
    
    #safri浏览器
    print(ua.safari)
    
    Mozilla/5.0 (iPad; CPU OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5355d Safari/8536.25
    

    实用性

    写到这里大家会发现写爬虫最实用的是可以随意变换headers,一定要有随机性。在这里我写了三个随机生成user agent,三次打印都不一样,随机性很强,十分方便。

    from fake_useragent import UserAgent
    ua = UserAgent()
    print(ua.random)
    print(ua.random)
    print(ua.random)
    
    Mozilla/5.0 (X11; Ubuntu; Linux i686; rv:15.0) Gecko/20100101 Firefox/15.0.1
    Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1
    Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11
    

    爬虫中具体使用方法

    import requests
    from fake_useragent import UserAgent
    ua = UserAgent()
    headers = {'User-Agent': ua.random}
    url = '待爬网页的url'
    resp = requests.get(url, headers=headers)
    #省略具体爬虫的解析代码,大家可以回去试试
    ...




    1. UserAgent 模块使用

    1
    2
    3
    4
    5
    6
    from fake_useragent import UserAgent
     
    ua = UserAgent()  # 实例化,实例化时需要联网但是网站不太稳定
     
    print(ua.ie)       # 随机打印一个 ie 浏览器的头
    print(ua.random)   # 随机打印 User-Agent

    2. 模块下载

    1
    pip install fake-useragent

    3. 查看 fake-useragent 模块下载 User-Agent 的下载地址

    1
    2
    3
    4
    5
    6
    7
    8
    下载地址:
        http://d2g6u4gh6d9rq0.cloudfront.net/browsers/fake_useragent_0.1.10.json
     
    最后的 fake_useragent_0.1.10.json 中的  0.1.10 指的是版本
     
    查看版本
        https://pypi.org/project/fake-useragent/
        // 也是模块,文档

    4. 查看 fake-useragent 模块下载 User-Agent 的下载地址

    1
    2
    3
    4
    5
    6
    7
    8
    下载地址:
        http://d2g6u4gh6d9rq0.cloudfront.net/browsers/fake_useragent_0.1.10.json
     
    最后的 fake_useragent_0.1.10.json 中的  0.1.10 指的是版本
     
    查看版本
        https://pypi.org/project/fake-useragent/
        // 也是模块,文档





  • 相关阅读:
    opencv 图片像素x,y 访问!!!
    python numpy 三维数组 排序问题
    python+opencv水表识别
    tesseractOCR安装
    cookie 的寻找和使用以及页面滚动(python+selenium)
    你还在用a标签吗?——用button替代a
    js正则高级函数(replace,matchAll用法),实现正则替换(实测很有效)
    腾讯云服务器centos7.2+nginx(开启gzip压缩)+uwsgi+Django+react
    轮播图采用js、jquery实现无缝滚动和非无缝滚动的四种案例实现,兼容ie低版本浏览器
    webstorm 添加css前缀(兼容)自动添加
  • 原文地址:https://www.cnblogs.com/xdlzs/p/11286627.html
Copyright © 2011-2022 走看看