zoukankan      html  css  js  c++  java
  • python爬虫之反爬虫(随机user-agent,获取代理ip,检测代理ip可用性)

    本人对于Python学习创建了一个小小的学习圈子,为各位提供了一个平台,大家一起来讨论学习Python。欢迎各位到来Python学习群:960410445一起讨论视频分享学习。Python是未来的发展方向,正在挑战我们的分析能力及对世界的认知方式,因此,我们与时俱进,迎接变化,并不断的成长,掌握Python核心技术,才是掌握真正的价值所在。

    随机User-Agent

    fake_useragent库,伪装请求头



    获取代理ip

    在免费的代理网站爬取代理ip,免费代理的采集也很简单,无非就是:访问页面页面 —> 正则/xpath提取 —> 保存

    代理ip网站

    有代理:https://www.youdaili.net/Daili/guonei/

    66代理:http://www.66ip.cn/6.html

    西刺代理:https://www.xicidaili.com/

    快代理:https://www.kuaidaili.com/free/

    根据网页结果,适用正则表达式匹配

    这种方法适合翻页的网页



    先获取特定标签

    解析



    检测代理ip可用性

    第一种方法:通过返回的状态码判断





    第二种方法:使用requests包来进行验证





    第三种方法:使用telnet




    转载于:https://juejin.im/post/5c2d747a6fb9a049e702393b

  • 相关阅读:
    python自动化测试_6
    python自动化测试_5
    python自动化测试_4
    python自动化测试_3
    第一次个人编程作业
    第一次博客作业
    HangOver
    CSS实现动画特效导航栏
    CSS伪类整理笔记
    JavaScript闭包应用的整理
  • 原文地址:https://www.cnblogs.com/twodog/p/12135369.html
Copyright © 2011-2022 走看看