zoukankan      html  css  js  c++  java
  • Python爬虫selenium中get_cookies()和add_cookie()的用法

    在用selenium爬取网页的时候,有时候需要登陆,这时候用selenium获取cookie和携带cookie是很方便的,获取cookie可以通过内置的函数get_cookies(),它得到的是一组cookie,是由cookie组成的列表。单个的cookie是字典组成的,所有get_cookies()返回值是由字典组成的列表。

    1
    2
    3
    4
    5
    dictCookies = browser.get_cookies()
    jsonCookies = json.dumps(dictCookies)
    # print(jsonCookies)
    with open('anquan.txt''w'as f:
       f.write(jsonCookies)

     注意:这个jsonCookies是一个列表,是一个完整的cookie。

    1
    2
    3
    4
    {'name''QCARJSESSIONID''value''BBmPcsfClCknfQX1cN2MLMgKXZGtFWqsBvjN9mbM9tmbL38hMmw4!1426878101''path''/''domain''qcar.apiins.com''secure': False, 'httpOnly': True}
    {'name''BIGipServercar_qcar_poool''value''1191316140.16671.0000''path''/''domain''qcar.apiins.com''secure': False, 'httpOnly': False}
    {'name''chinainsuranceJSESSIONID''value''rkgncsfG8pnrhh8x1CvNy46zHplyLkTjyv1LL2hk4wDrkD9Mjz9Y!2078734058''path''/''domain''qcar.apiins.com''secure': False, 'httpOnly': True}
    {'name''BIGipServercar_core_pool''value''1191316140.17951.0000''path''/''domain''qcar.apiins.com''secure': False, 'httpOnly': False}

    这样就获取到了cookie,那么如何使用呢,我们让浏览器对象携带cookies就行了,这时候用另外一个函数add_cookie()

    1
    2
    3
    4
    5
    6
    7
    8
    with open('anquan.txt''r', encoding='utf8') as f:
          listCookies = json.loads(f.read())
      print('%%%%%%%%%%%%%%%%%', listCookies)
      for cookie in listCookies:
          obj.add_cookie(cookie)
      obj.get('https://qcar.apiins.com/qcar')
      # 读取完cookie刷新页面
      obj.refresh()

     这样,我们就可以携带cookie,实现免登陆。有人说,你直接登陆不就完事了吗?有些应用场景还是用的到的,比如说验证码识别率不高,比如监视爬虫,定时爬虫,要求五分钟爬一次,两分钟爬一次,每次登陆会很麻烦。这个时候我们可以分开,一个专门登陆抓取cookie,30分钟更新一次cookie文件。另外一个读取cookie文件就ok了。

  • 相关阅读:
    如何在Ubuntu 20.04 LTS Focal Fossa上安装Webmin
    如何在Linux服务器上创建一个具有管理权限的新用户?
    如何在Ubuntu 20.04 LTS上安装Apache Subversion
    error more than one devices and emulator
    深度学习+CRF解决NER问题
    word2vec训练&IC分词(待)
    tensorflow基础
    (转)pycharm快捷键
    Python包的相对导入时出现问题解决
    python工具使用笔记
  • 原文地址:https://www.cnblogs.com/Summer-skr--blog/p/11663307.html
Copyright © 2011-2022 走看看