zoukankan      html  css  js  c++  java
  • Python爬虫技术:爬虫时如何知道是否代理ip伪装成功?

     

    前言
    本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

    python爬虫时如何知道是否代理ip伪装成功:

    有时候我们的爬虫程序添加了代理,但是我们不知道程序是否获取到了ip,尤其是动态转发模式的,这时候就需要进行检测了,以下是一种代理是否伪装成功的检测方式,这里推介使用亿牛云提供的代码示例。
    PS:如有需要Python爬虫+数据分析学习资料的粉丝可以点击下方链接自行获取
    http://note.youdao.com/noteshare?id=a3a533247e4c084a72c9ae88c271e3d1

    Python¶
    requests
     #! -*- encoding:utf-8 -*-
     import requests
     import random
     
     # 要访问的目标页面
     targetUrl = "http://httpbin.org/ip"
     # 要访问的目标HTTPS页面
     # targetUrl = "https://httpbin.org/ip"
     # 代理服务器
     proxyHost = "t.16yun.cn"
     proxyPort = "31111"
     # 代理隧道验证信息
     proxyUser = "16ZKBRLB"
     proxyPass = "234076"
     proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
     "host" : proxyHost,
     "port" : proxyPort,
     "user" : proxyUser,
     "pass" : proxyPass,
     }
     # 设置 http和https访问都是用HTTP代理
     proxies = {
     "http" : proxyMeta,
     "https" : proxyMeta,
     }
     # 设置IP切换头
     tunnel = random.randint(1,10000)
     headers = {"Proxy-Tunnel": str(tunnel)}
     resp = requests.get(targetUrl, proxies=proxies, headers=headers)
     print resp.status_code
     print resp.text

    要检测代理是否获取到,直接在配置代理后访http://httpbin.org/ip网站,获取到ip后再访问www.ip138.com就知道是否获取到了ip。

  • 相关阅读:
    svn使用总结
    捕获JS 错误日志
    致敬 54岁的刘德华
    Mac 下 命令收藏
    坑人的七牛CDN
    【No.1】监控Linux性能25个命令行工具
    PAC 自动代理
    jquery 事件 多次绑定,多次触发,怎么清除历史绑定事件
    Squid 操作实践
    ntpdate[16603]: the NTP socket is in use
  • 原文地址:https://www.cnblogs.com/chengxuyuanaa/p/11956917.html
Copyright © 2011-2022 走看看