zoukankan      html  css  js  c++  java
  • SuperWebClient -一个基于CURL的.NET HTTP/HTTPS模拟神组件(2)

    今天我们讨论SuperWebClient组件使用中的几个简单主题

    1: UserAgent
    2: Cookies
    3: POST登录


    1:UserAgent
    这个是客户端标识信息,此信息是用于鉴别正在访问WEB服务的客户端的类型,下面我们通过抓包工具Fiddler,来获取几个典型浏览器
    的此项信息是怎么样的. Fiddler是一个.NET的开源HTTP/HTTPS协议分析软件,后来被收购后就没开源了好像。
    Fiddler 下载地址 http://www.telerik.com/fiddler,运行后如下所示

    首先我们打开IE浏览器-输入博客园网站,就会看到Fiddler抓到很多数据包,我们选取首页的那条就可以查看具体的http 请求信息

    我们可以知晓IE浏览器的userAgent信息如下
    User-Agent: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)
    (机器上IE版本和安装的软件不一样,USER-AGENT也会有些许差异)
    我们在看基于谷歌CHROME浏览器的类似下面
    User-Agent: Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/48.0.2564.48 Safari/537.36
    还有众多猎豹,火狐,遨游和其它都有自己的一些附加信息在User-Agent中,那这个东西可能会有哪些用途了。
    一般而言,WEB服务器并不看重这个信息,但有些也会检查,并根据不同的客户端给出适当的输出反馈,另外就是客户端JS脚本会根据
    这个信息做些兼容性的检查和调整。
            对于爬虫比如百度,谷歌或其它都有自己独特的userAgent信息,SuperWebClient默认模拟的是IE浏览器的,当然,你完全可以设置
    模拟任何信息,比如下面这样 SuperWebClient 应用代码示例如下
    注意代码红色区域的部分,本来是作为后面的主题来讨论的,现在是为了演示如何用FIDDLER抓取到SuperWebClient的请求包才会提前标注下
    默认是模拟的IE浏览器的,下面我修改这个User-Agent信息为 “i-love-you”

    1. // 首先构建一个 嗨 对象-也就是模拟访问的输入对象
    2.             HttpInput hi = new HttpInput();
    3.             // 需要初始化这个hi,设置是否启用HTTP 1.1,后面是连接和传输超时设定(秒)
    4.             HttpManager.Instance.InitWebClient(hi, true, 60, 60);
    复制代码

                               // 代理设置-不然FIDDLER是无法抓取到的
                                hi.EnableProxy = true;
                                hi.ProxyIP = "127.0.0.1";
                                hi.ProxyPort = 8888;

                               hi.UserAgent = "i-love-you";            
                             // 接下来就是设置访问的URL,和其它譬如UserAgent,Cookies,Proxy....等等各种特性的设置
                             // 一般,我们就设置Url 访问路径,其它都是在有需要的时候设置就可以了

      1.             hi.Url = "http://www.cnblogs.com/";
      2.             // 有输入对象,就有对应的输出对象-注意,这个方法是阻塞的,只到结果反馈回来
      3.             // 所以,你可以把代码放入独立的线程或是线程池中进行数据的采集
      4.             HttpOutput ho = HttpManager.Instance.ProcessRequest(hi);
      5.             if (ho.IsOK)
      6.             {
      7.                 // 如果HO的标志IsOK成立,则页面访问是成功的,否则就是页面访问失败
      8.                 // 遇到失败-你可以自己做后续处理,比如重发起请求或是写LOG
      9.                 richTextBox1.Text = ho.TxtData;
      10.             }
      11.             else
      12.             {
      13.                 richTextBox1.Text = "页面访问错误";
      14.             }
      15.             // 最后销毁对象
      16.             hi.Dispose();

    你可以根据需要伪装成任何需要的,比如微信,陌陌啥的特有的信息。
    2:Cookie
    SuperWebClient 默认处理WEB服务器发送来的COOKIE,无需你自己大费脑筋,那从服务器发来的COOKIE信息怎么读取呢

    HttpOutput ho = HttpManager.Instance.ProcessRequest(hi);
                if (ho.IsOK)
                {
                    richTextBox2.Text = ho.Cookies;
    
                    // 如果HO的标志IsOK成立,则页面访问是成功的,否则就是页面访问失败
                    // 遇到失败-你可以自己做后续处理,比如重发起请求或是写LOG
                    richTextBox1.Text = ho.TxtData;
                }
    

     在输出对象的ho.Cookies属性里面哦。

    比如访问C#蚁工窝 http://www.csharpworker.com/

    拿到的cookies是
    hTQ9_2132_pc_size_c=0;hTQ9_2132_onlineusernum=2;hTQ9_2132_lastact=1488261049%09forum.php%09;hTQ9_2132_sid=mRojS6;hTQ9_2132_lastvisit=1488257449;hTQ9_2132_saltkey=p7EgLlZg;
    WEB服务器会在不同的请求多次发送不同的cookies, SuperWebClient的输出对象httpoutput只是当次请求时的服务器发送COOKIES信息,不会累计,虽然SuperWebClient内部会累计所有从服务器发送的COOKIE并在向服务器提交时一并回传回去,但是目前并没有提供读取所有累计COOKIE的方法,你可以自己收集每次请求的反馈对象httpoutput中的COOKIES信息,一般而言,我不怎么理会这个东西,除非你是要保存COOKIES另做它用。


    3:POST登录
            一般情况下,如无意外,WEB服务的很多操作请求都是基于POST协议的,AJAX也是,极少是基于GET协议的,因为请求字符串是有长度限制的
    大量的参数需要通过POST来发送,接下来,我们看看SuperWebClient如何通过POST方式来登录一个网站,在展示之前,我们有必要分析网站登录
    的请求协议,然后使用SuperWebClient进行模拟。
    我们就以登录博客园的过程来说明下,首先我们用Fiddler进行抓取博客园的登录协议,注意,如果你抓取不到博客园的登录协议,请看如下2个FIDDLER中针对的两个最常见的问题,因为博客园登录是采用的HTTPS,所以需要开启FIDDLER中相应的HTTPS解码选项。
    点击FIDDLER菜单的 TOOL->TERERIK  FIDDLER OPTIONS

    如果你遇到可以抓取,但是发现无法解码的情况,那就是你的证书问题,证书问题-可以参阅http://blog.csdn.net/chjqxxxx/article/details/53666175 这里-重新构建证书-问题就会解决

    这里是博客园的登录协议

    POST https://passport.cnblogs.com/user/signin HTTP/1.1
    x-requested-with: XMLHttpRequest
    Accept-Language: zh-cn
    Referer: https://passport.cnblogs.com/user/signin?ReturnUrl=http%3A%2F%2Fwww.cnblogs.com%2F
    Accept: application/json, text/javascript, */*; q=0.01
    verificationtoken: _Q9B84azUZnUTIffmygxm8pONeAnXanp7gw7sqep3b3Lqk-opvj5wPgeAN6SM6lN1qFi6y8-36GAyjMDYYBuf_cy6iE1:fmSuVFj_iIGBnMV7N3TydHUuc8ORlIkNw7eSCsGqwV2BX7lM64bNoMV0X3S-t2-rlDcBpfuYnK3_In_fMNTFaPhE3Cw1
    Content-Type: application/json; charset=utf-8
    Accept-Encoding: gzip, deflate
    User-Agent: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)
    Host: passport.cnblogs.com
    Content-Length: 386
    Connection: Keep-Alive
    Cache-Control: no-cache
    Cookie: Hm_lvt_cc17b07fc9529e3d80b4482c9ce09086=1482645471; _ga=GA1.2.806287383.1482645352; __gads=ID=cde93307386572b7:T=1488262791:S=ALNI_MbB1oiDaPhuYt-REwWv3uYFQG8-AA; AspxAutoDetectCookieSupport=1; SERVERID=227b087667da6f8e99a1165002db93f6|1488285061|1488285061
    
    {"input1":"a9Q+6M4EwC0HlHafyL8GYvd5zcFP+tUMV+F2P+aF0FdzrtY9nqPdkjCDctPQlY37EI/VzpLc9z+SAKXaWpWa0yDUM3USN+b7W+m6t7p8qRS+nuHu1G6wJ34IyuAruQ5gE3+r30PKy65q9dD0F5ruOSZizIYgCvm2/WrQfQsdYiQ=","input2":"fGOIEUEG5HP6tt3c/q9z0DuLyc9qeq0GiJQyTGNhTL/sCriRomR2G8gtn+AurDFzH/dDzMOYrBfEJ97n454gg8Ppd5cRe3qaNBTPebCJrIK3chv/Mupe+liFvEu6MwOgPqFBRm6GQCSZBHaVfRpHBKYrQkEaWRZ6ItSjKCBKpQc=","remember":false}

    账号和密码都是经过加密处理的,至于加密过程,你需要仔细分析博客园的JS代码,这里我们仅仅是用来说明如何使用SuperWebClient进行
    POST表单登录,所以对于账号,密码的加密分析略过,如果后面特别有空闲,我会补充一篇文章分析博客园的账号,密码加密,主要是对相关
    JS代码的调试和分析。

    那么使用 SuperWebClient如何进行博客园登录了。很简单。

    HttpInput hi = new HttpInput();
              
                HttpManager.Instance.InitWebClient(hi, true, 60, 60);
                // 这里设置博客园登录URL
                hi.Url = "https://passport.cnblogs.com/user/signin";
                hi.Refer = "https://passport.cnblogs.com/user/signin?ReturnUrl=http%3A%2F%2Fwww.cnblogs.com%2F"; 
                // 我们伪造下来路,证明我们是从哪里来的,根据协议
                // POST数据
    
                hi.PostData = "input1=a9Q+6M4EwC0HlHafyL8GYvd5zcFP+tUMV+F2P+aF0FdzrtY9nqPdkjCDctPQlY37EI/Vzp"
                +"Lc9z+SAKXaWpWa0yDUM3USN+b7W+m6t7p8qRS+nuHu1G6wJ34IyuAruQ5gE3+r30PKy65q9dD0F5ruOSZizIYgCvm2/WrQfQsdYiQ="
                +"&input2=fGOIEUEG5HP6tt3c/q9z0DuLyc9qeq0GiJQyTGNhTL/sCriRomR2G8gtn+AurDFzH/dDzMOYrBfEJ97n454gg8Ppd5cRe3qa"
                +"NBTPebCJrIK3chv/Mupe+liFvEu6MwOgPqFBRm6GQCSZBHaVfRpHBKYrQkEaWRZ6ItSjKCBKpQc="
                +"&remember=false";
    
                HttpOutput ho = HttpManager.Instance.ProcessRequest(hi);
                if (ho.IsOK)
                {
                  
                    richTextBox1.Text = ho.TxtData;
                }
                else
                {
                    richTextBox1.Text = "页面访问错误";
                }
    
                // 最后销毁对象
                hi.Dispose();
    

     hi.PostData="设置POST表单数据"       格式是:   key1=value1&key2=value2.....依次若干

    今天的主题分享完了,有了今天的一些东西,你已经能处理大部分的模拟请求,SuperWebClient的大部分功能也是围绕目前的GET,POST服务。

  • 相关阅读:
    20169212《Linux内核原理与分析》第三周作业
    20169212《Linux内核原理与分析》第二周作业
    20169215 《Linux内核原理与分析》 第十一周作业
    20169215 《Linux内核原理与分析》 第十周作业
    20169215《Linux内核原理与分析》 第九周作业
    20169215《Linux内核原理与分析》第八周作业
    20169215《linux内核原理与分析》第七周作业
    20169215《Linux内核原理与分析》第六周作业
    20169215《Linux内核原理与分析》第五周作业
    20169215《Linux内核原理与分析》第四周作业
  • 原文地址:https://www.cnblogs.com/bytekiller/p/6480992.html
Copyright © 2011-2022 走看看