zoukankan      html  css  js  c++  java
  • java爬取网页内容 简单例子(2)——附jsoup的select用法详解

    http://www.cnblogs.com/xiaoMzjm/p/3899366.html

    【背景】

      在上一篇博文 java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你会发现,一切都变得很容易。

    【准备工作】

    下载:jsoup-1.6.1.jar

    【先看效果】

    目标网站:中国天气 

    目的:获取今天的天气

    目标HTML代码:

     View Code

    解析的java代码:

    (1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中

    (2)“今天” 两字在<h1></h1>中

    (3)“8日” 两字在<h2></h2>中

    (4)“雷阵雨” 三字在 class="wea" 中

    (5)“33” 在第一个<span>中

    (6)“25” 在第二个<span>中

    (7)“微风” 两字在 第三个<i> 中

    有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:

     View Code

    结果打印出:

    1 今天
    2 8日
    3 雷阵雨
    4 33°C
    5 25°C
    6 微风

    【详解】

    附:

    java代码第13行:

      从文档中我们可用看出,获取数据源的方法有三:

    (1)从一段html代码字符串获取:  Document doc = Jsoup.parse(html);

    (2)从一个url获取:        Document doc = Jsoup.connect("http://example.com/").get();

    (3)从一个html文件获取      File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

    这里,我们采取了第二种方法,从url中获取。

    java代码第24、26、30、34、38行:

      Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

    注:以下表格的结果都是使用以下语句打印出来的

    for(Element e : elements) {
                System.out.println(e.text());
            }
    select详解
    描述 测试的HTML代码 select写法

    结果

    通过

    标签名

    来查找

    <span>33</span>
    <span>25</span>
    Elements elements = doc.select("span");
    注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。
    33
    25

    通过 

    id 

    来查找

    <span  id="mySpan">36</span>
    
    <span>20</span>
     
    Elements elements = doc.select("#mySpan");

     注:通过id来查找,使用方法跟css指定元素一样,用#

    36

     通过

     class名

     来查找

    <span class="myClass">36</span>
    <span>20</span>
     
    Elements elements = doc.select(".myClass");

    注:通过id来查找,使用方法跟css指定元素一样,用 

    36

     利用标签内 

    属性名

     查找元素

     
    <span class="class1" id="id1">36</span>
    <span class="class2" id="id2">36</span>
     
    Elements elements = doc.select("span[class=class1]span[id=id1]");

     注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。

     
    36

    利用标签内 

    属性名前缀 

    查找元素

     
    <span class="class1" >36</span>
    <span class="class2" >22</span>
     
    Elements elements = doc.select("span[^cl]");

     注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。

     
    36
    22

     利用标签内

    属性名+正则表达式

    查找元素

     
    <span class="ABC" >36</span>
    <span class="ADE" >22</span>
     
    Elements elements = doc.select("span[class~=^AB]");

     注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】

     
    36

     利用标签

    文本包含某些内容

    来查找

     
    <span>36</span>
    <span>22</span>
     
    Elements elements = doc.select("span:contains(3)");
    

     注:规则为 标签名:contains(文本值)

     
    36

     利用标签

    文本包含某些内容+正则表达式

    来查找

     
    <span>36</span>
    <span>22</span>
     
    Elements elements = doc.select("span:matchesOwn(^3)");

     注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签

     
    36

    关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。

    select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。

    而想得到节点的其他属性,可以看API的介绍。

    【结语】

    jsoup还有其他强大的功能,在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。

  • 相关阅读:
    iStylePDF c#集成开发示例
    纯js 实现 HTML 元素拖拽,
    前端自动滚动
    双向选择排序(暂定)
    uniapp 分享链接
    Could not find a declaration file for module 'vue-xxx'.
    精通JavaScript(重点内容笔记)更新中...
    如何让DIV模块随着页面固定和不固定
    序列不包含任何匹配元素
    PHPStorm配置Apache服务器(wampServer 版)
  • 原文地址:https://www.cnblogs.com/kennyliu/p/3928876.html
Copyright © 2011-2022 走看看