zoukankan      html  css  js  c++  java
  • 爬虫过程中获取不到列表页的url

    例1:

    采集某网站的时候根据网页页面显示的url链接提取的, 最后始终没有数据返回。

    主要原因是页面源码中标签的 href 属性值和页面上的不一样。

    页面上显示是‘http://www.xxx.org.cn/crs/xhjj/index.jhtml’

    源码中显示是‘http://www.xxx.org.cn:80/crs/xhjj/index.jhtml’

    对比就发现多了一个80:

    所以写正则的时候就一直没有匹配到,不能只看网页,需要在源码中看链接

    例2:

    采集某网站的时候也是根据网页上的信息定位文章内容标签的,

    在页面上内容包含在 tr【4】 下面, 用xpath helper也能在页面上显示出来,但是就是打印不出来,

    在页面的 tr【3】下面显示的是

    <tr>
        <td class="bt_content">
          <div id="zoom" style="text-align:left">
            <!--<$[信息内容]>begin--><!--ZJEG_RSS.content.begin--><meta name="ContentStart">
        </
    div>
      </
    td>
    </
    tr>

    原因是在源码中内容是在tr【3】下面显示的, 所以抓取页面信息的时候还是要根据源码来定位。

  • 相关阅读:
    设计模式之单例模式实践
    有关集合的foreach循环里的add/remove
    项目中常用的MySQL优化方法--壹拾玖条
    Solr
    Lucene补充
    Lucene
    一千行 MySQL 学习笔记
    Servlet
    CSS未知宽高元素水平垂直居中
    深拷贝和浅拷贝
  • 原文地址:https://www.cnblogs.com/kenD/p/11243907.html
Copyright © 2011-2022 走看看