zoukankan      html  css  js  c++  java
  • 代理的基本原理

    代理:防止ip被封,通过代理设置代理服务器频繁的更换ip地址,来解决ip会被封的问题。

    原理:。 如果设置了代理服务器, 实际上就是在本机和服务器之间搭建了一个 桥, 此时本机不是直接向 Web 服务器发起请求,而是向代理服务器发出请求,请求会发送给代理服务 器,然后由代理服务器再发送给 Web 服务器,接着由代理服务器再把 Web 服务器返回的响应转发给 木机。 这样我们同样可以正常访问网页,但这个过程中 Web 服务器识别出的真实 IP 就不再是我们本 机的 IP 了,就成功实现了 IP 伪装,这就是代理的基本原理。

    2.5.2代理的作用

    1.突破门身 IP访问限制,访问一些平时不能访问的站点(翻----墙)

    2.访问一些单位或团体内部资惊:比如使用教育网内地址段免费代理服务器,就可以用于对教 育网开放的各类 FTP下载上传,以及各类资料查询共享等服务。

    3.提高访问速度:通常代理服务器都设置一个较大的硬盘缓冲区,当有外界的信息通过时,同 时也将·其保存到缓冲区中,当其他用户再访问相同的信息时,则直接由缓冲区中取出信息, 传给用户,以提高访问速度。

    4.隐藏真实 IP: 上网者也可以通过这种方法隐藏自己的 ip, 免受攻击。 对于爬虫来说,我们用 代理就是为了隐藏自身 IP,防止 向身的 IP 被封锁。

    爬虫代理

    对于爬虫来说,由于爬虫爬取速度过快,在爬取过程中可能遇到同一个 IP 访问过于频繁的问题, 此时网站就会让我们输入验证码登录或者直接封锁 ,这样会给爬取带来极大的不便。

    使用代理隐藏真实的 IP,让服务器误以为是代理服务器在请求向己。 这样在爬取过程中通过不断 更换代理,就不会被封锁,可以达到很好的爬取效果。

    代理分类

    1.根据协议区分

    FTP 代理服务器: 主要用于访问FTP服务器,一般有上传、 下载以及缓存功能,端口一般为 21 、 2121 等
    
    HTTP 代理服务器: 主要用于访问网页,一般有内容过滤和缓存功能,端口一般为 80 、 8080、 3128 等。 SSL/TLS 代理: 主要用于访问加密网站, 一般有 SSL 或 TLS 加密功能(最高支持 128 位加密 强度),端口一般为 443。 RTSP 代理: 主要用于访问 Real 流媒体服务器, 一般有缓存功能,端口一般为 554。 Telnet代理: 主要用于telnet远程控制(黑客人侵计算机时常用于隐藏身份),端口一般为 23。 POP3/SMTP 代理: 主要用于 POP3/SMTP方式收发邮件, 一般有缓存功能,端口一般为 110/25 SOCKS 代理: 只是单纯传递数据包,不关心具体协议和用法,所以速度快很多, 一般有缓 存功能,端口一般为 1080。 SOCKS代理协议又分为 SOCKS4和 SOCKS5 ,前者只支持 TCP, 而后者支持 TCP 和 UDP ,还支持各种身份验证机制、服务器端域名解析等。 简单来说, SOCKS4 能做到的 SOCKS5 都可以做到,但 SOCKS5 能做到的 SOCKS4 不一定能做到。

    2.根据匿名程度区分

    高度匿名代理: 会将数据包原封不动地转发,在服务端看来就好像真的是一个普通客户端在 访问,而记录的 IP 是代理服务器的 IP。 
    
    普通匿名代理: 会在数据包上做一些改动, 服务端上有可能发现这是个代理服务器,也有一定几 率追查到客户端的真实E。 代理服务器通常会加入的Hπ?头有HTTP VIA和 HTTP X FOR帆DED FOR。 
    
    透明代理: 不但改动了数据包 还会告诉服务器客户端的真实 IP。 这种代理除了能用缓存技 术提高浏览速度,能用内容过滤提高安全性之外,并无其他显著作用,最常见的例子是内网 巾的硬件防火墙。 
    
    间谍代理: 指组织或个人创建的用于记录用户传输的数据,然后进行研究、 监控等 目的的代 理服务器。

    2.5.5 常见的代理设置

    使用网上的免费代理: 最好使用高匿代理, 另外可用的代理不多,需要在使用前筛选一下可 用代理,也可以进一步维护一个代理池
    
    使用付费代理服务: 互联网上存在许多代理商,可以付费使用, 质量比免费代理好很多。 
    
    ADSL 拨号:拨一次号换一次 E,稳定性高,也是一种比较有效的解决方案
    追求吾之所爱
  • 相关阅读:
    VisualSVN-Server windows 版安装时报错 "Service 'VisualSVN Server' failed to start. Please check VisualSVN Server log in Event Viewer for more details."
    Pytest 单元测试框架之初始化和清除环境
    Pytest 单元测试框架入门
    Python(email 邮件收发)
    Python(minidom 模块)
    Python(csv 模块)
    禅道简介
    2020年最好的WooCommerce主题
    Shopify网上开店教程(2020版)
    WooCommerce VS Magento 2020:哪个跨境电商自建站软件更好?
  • 原文地址:https://www.cnblogs.com/rstz/p/14391056.html
Copyright © 2011-2022 走看看