zoukankan      html  css  js  c++  java
  • pyspider中内容选择器常用方法汇总

    pyspider 的内容选择器默认已经实例化一个pyquery对象,可以直接使用pyquery的api来获取自己需要的内容。

    如果你英文基础好可以直接查看pyquery的官方文档。https://pythonhosted.org/pyquery/

    在pyspider中常用案例:

    1.在pyquery中使用response.doc就可以直接实例化一个pyquery对象,就可以直接在里面使用pyquery方法了,

    2.html()和text() ——获取相应的HTML块或文本块,

    例:html:"<head><title>hello</title></head>"
    response.doc('head').html()#返回<title>hello</title>
    response.doc('head').text()#返回hello

    3.根据HTML标签来获取元素,

    例:html:'<div><p>test 1</p><p>test 2</p></div>'

    response.doc('p')#返回[<p>,<p>]

    print response.doc('p')#返回<p>test 1</p><p>test 2</p>

    print response.doc('p').html()#返回test 1

    注意:当获取到的元素不只一个时,html()、text()方法只返回首个元素的相应内容块

    4.eq(index) ——根据给定的索引号得到指定元素
    接上例,若想得到第二个p标签内的内容,则可以:
    print response.doc('p').eq(1).html() #返回test 2

    5.filter() ——根据类名、id名得到指定元素,

    例:html:"<div><p id='1'>test 1</p><p class='2'>test 2</p></div>"
    response.doc('p').filter('#1') #返回[<p#1>]
    response.doc('p').filter('.2') #返回[<p.2>]

    6.find() ——查找嵌套元素,

    例:html:"<div><p id='1'>test 1</p><p class='2'>test 2</p></div>"
    response.doc('div').find('p')#返回[<p#1>, <p.2>]
    response.doc('div').find('p').eq(0)#返回[<p#1>]

    7.直接根据类名、id名获取元素,

    例:html:"<div><p id='1'>test 1</p><p class='2'>test 2</p></div>"
    response.doc('#1').html()#返回test 1
    response.doc('.2').html()#返回test 2

    8.获取属性值,

    例:html:"<p id='my_id'><a href='http://hello.com'>hello</a></p>"
    response.doc('a').attr('href')#返回http://hello.com
    response.doc('p').attr('id')#返回my_id

    9.获取内容的一部分可以用分割字符串法:

    例:html:"<p id='my_tel'>姓名 电话</p>"

    response.doc('#my_tel').text().split(' ')[0]用来取“姓名” response.doc('#my_tel').text().split(' ')[0]用来取“电话”

    pyquery还有其他一些用法,这里没有一一整理出来,更多更全的方法可以直接去看它的文档。

  • 相关阅读:
    查看Oracle的redo日志切换频率
    MySQL 5.6 my.cnf 参数说明(转)
    MySQL性能优化之参数配置
    centos7安装mysql(MariaDB)
    centos6.5安装sendmail
    zabbix安装配置
    linux设置安全连接设置(私钥)
    linux本机root账户无法登录,但是远程ssh可登录
    ORACLE AWR
    maven 依赖(依赖范围,聚合,继承等)
  • 原文地址:https://www.cnblogs.com/shiluoliming/p/8379533.html
Copyright © 2011-2022 走看看