zoukankan      html  css  js  c++  java
  • Spider -- re 正则解析模块

    re模块使用流程

    • 方法一

      r_list=re.findall('正则表达式',html,re.S)    
      ​
      # 如果不使用re.S参数,则只在每一行内进行匹配,如果一行没有,就换下一行重新开始。
      # 而使用re.S参数以后,正则表达式会将这个字符串作为一个整体,在整体中进行匹配。
    • 方法二

    # 1、创建正则编译对象
    pattern = re.compile(r'正则表达式',re.S)
    r_list = pattern.findall(html)

    正则表达式元字符

    字符描述

    将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如,'n' 匹配字符 "n"。' ' 匹配一个换行符。序列 '\' 匹配 "" 而 "(" 则匹配 "("。

    ^

    匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 ' ' 或 ' ' 之后的位置。

    $

    匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 ' ' 或 ' ' 之前的位置。

    *

    匹配前面的子表达式零次或多次。例如,zo* 能匹配 "z" 以及 "zoo"。* 等价于{0,}。

    +

    匹配前面的子表达式一次或多次。例如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等价于 {1,}。

    ?

    匹配前面的子表达式零次或一次。例如,"do(es)?" 可以匹配 "do" 或 "does" 。? 等价于 {0,1}。

    {n}

    n 是一个非负整数。匹配确定的 n 次。例如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food" 中的两个 o。

    {n,}

    n 是一个非负整数。至少匹配n 次。例如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。

    {n,m}

    m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。例如,"o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。

    ?

    当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 "oooo",'o+?' 将匹配单个 "o",而 'o+' 将匹配所有 'o'。

    .

    匹配除换行符( 、 )之外的任何单个字符。要匹配包括 ' ' 在内的任何字符,请使用像"(.| )"的模式。

    (pattern)

    匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在JScript 中则使用 $0…$9 属性。要匹配圆括号字符,请使用 '(' 或 ')'。

    (?:pattern)

    匹配 pattern 但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如, 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。

    (?=pattern)

    正向肯定预查(look ahead positive assert),在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,"Windows(?=95|98|NT|2000)"能匹配"Windows2000"中的"Windows",但不能匹配"Windows3.1"中的"Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。

    (?!pattern)

    正向否定预查(negative assert),在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如"Windows(?!95|98|NT|2000)"能匹配"Windows3.1"中的"Windows",但不能匹配"Windows2000"中的"Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。

    (?<=pattern) 反向(look behind)肯定预查,与正向肯定预查类似,只是方向相反。例如,"(?<=95|98|NT|2000)Windows"能匹配"2000Windows"中的"Windows",但不能匹配"3.1Windows"中的"Windows"。
    (?<!pattern) 反向否定预查,与正向否定预查类似,只是方向相反。例如"(?<!95|98|NT|2000)Windows"能匹配"3.1Windows"中的"Windows",但不能匹配"2000Windows"中的"Windows"。
    x|y

    匹配 x 或 y。例如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。

    [xyz]

    字符集合。匹配所包含的任意一个字符。例如, '[abc]' 可以匹配 "plain" 中的 'a'。

    [^xyz]

    负值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 "plain" 中的'p'、'l'、'i'、'n'。

    [a-z]

    字符范围。匹配指定范围内的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。

    [^a-z]

    负值字符范围。匹配任何不在指定范围内的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。

    

    匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。

    B

    匹配非单词边界。'erB' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。

    cx

    匹配由 x 指明的控制字符。例如, cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。

    d

    匹配一个数字字符。等价于 [0-9]。

    D

    匹配一个非数字字符。等价于 [^0-9]。

    f

    匹配一个换页符。等价于 x0c 和 cL。

    匹配一个换行符。等价于 x0a 和 cJ。

    匹配一个回车符。等价于 x0d 和 cM。

    s

    匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ f v]。

    S

    匹配任何非空白字符。等价于 [^ f v]。

    匹配一个制表符。等价于 x09 和 cI。

    v

    匹配一个垂直制表符。等价于 x0b 和 cK。

    w

    匹配字母、数字、下划线。等价于'[A-Za-z0-9_]'。

    W

    匹配非字母、数字、下划线。等价于 '[^A-Za-z0-9_]'。

    xn

    匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如,'x41' 匹配 "A"。'x041' 则等价于 'x04' & "1"。正则表达式中可以使用 ASCII 编码。

    um

    匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,'(.)1' 匹配两个连续的相同字符。

    标识一个八进制转义值或一个向后引用。如果 之前至少 n 个获取的子表达式,则 n 为向后引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。

    m

    标识一个八进制转义值或一个向后引用。如果 m 之前至少有 nm 个获得子表达式,则 nm 为向后引用。如果 m 之前至少有 n 个获取,则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 m 将匹配八进制转义值 nm。

    ml

    如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。

    un

    匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, u00A9 匹配版权符号 (?)。

    贪婪匹配和非贪婪匹配

    • 贪婪匹配(默认)

    1、在整个表达式匹配成功的前提下,尽可能多的匹配 *
    2、表示方式: .*
    • 非贪婪匹配

    1、在整个表达式匹配成功的前提下,尽可能少的匹配 *
    2、表示方式:.*?

    示例代码 - 05_re_greed.py

    import re
    ​
    html = '''
    <div><p>九霄龙吟惊天变</p></div>
    <div><p>风云际汇潜水游</p></div>
    '''
    # 贪婪匹配 : .*
    pattern = re.compile('<div><p>.*</p></div>',re.S)
    r_list = pattern.findall(html)
    print(r_list)
    ​
    # 非贪婪匹配 :.*?
    pattern = re.compile('<div><p>.*?</p></div>',re.S)
    r_list = pattern.findall(html)
    print(r_list)

    正则表达式分组

    • 作用

        在完整的模式中定义子模式,将每个圆括号中子模式匹配出来的结果提取出来

    • 示例

    import re
    ​
    s = 'A B C D'
    p1 = re.compile('w+s+w+')
    print(p1.findall(s))
    # 结果: ['A B','C D']
    ​
    p2 = re.compile('(w+)s+w+')
    print(p2.findall(s))
    # 第一步:匹配完整正则表达式--》['A B', 'C D']
    # 第二步:匹配()中的元素--》 ['A', 'C']
    # 结果: ['A','C']
    ​
    p3 = re.compile('(w+)s+(w+)')
    print(p3.findall(s))
    # 结果: [('A','B'),('C','D')]
    • 分组总结

    1、在网页中,想要什么内容,就加()
    2、先按整体正则匹配,然后再提取分组()中的内容
      如果有2个及以上分组(),则结果中以元组形式显示 [('小区1','500万'),('小区2','600万'),()]

     

    • 练习:

      页面结构如下:

    # <div class="animal">.*?title="(.*?)".*?
    <div class="animal">
        <p class="name">
            <a title="Tiger"></a>
        </p>
        <p class="content">
            Two tigers two tigers run fast
        </p>
    </div><div class="animal">
        <p class="name">
            <a title="Rabbit"></a>
        </p><p class="content">
            Small white rabbit white and white
        </p>
    </div>

    从以上html代码结构中完成如下内容信息的提取:

    # 问题1
    [('Tiger',' Two...'),('Rabbit','Small..')]
    # 问题2
    动物名称 :Tiger
    动物描述 :Two tigers two tigers run fast
    ***************************************
    动物名称 :Rabbit
    动物描述 :Small white rabbit white and white

    代码实现 - 06_re_exercise.py

    import re
    ​
    html = '''
    <div class="animal">
        <p class="name">
              <a title="Tiger"></a>
        </p>
        <p class="content">
              Two tigers two tigers run fast
        </p>
    </div>
    ​
    <div class="animal">
        <p class="name">
              <a title="Rabbit"></a>
        </p>
    ​
        <p class="content">
              Small white rabbit white and white
        </p>
    </div>
    '''
    pattern = re.compile(r'<div class="animal">.*?<a title="(.*?)".*?content">(.*?)</p>',re.S)
    r_list = pattern.findall(html)
    # 问题1
    if r_list:
      print(r_list)
    # r_list: [('Tiger','
    		 Two tigers xxx'),()]
    # 问题2
    if r_list:
        for r in r_list:
          print('动物名称:',r[0].strip())
          print('动物描述:',r[1].strip())
          print('*' * 50)
    else:
        print('未匹配到数据')
  • 相关阅读:
    利用国内的源安装 Python第三方库
    Python 算法(1) 快速排序
    Python 算法(2) 哈夫曼编码 Huffman Encoding
    Python sql注入 过滤字符串的非法字符
    tesseract中文语言文件包 下载
    python 多线程爬虫 实例
    Python 爬虫实例(5)—— 爬取爱奇艺视频电视剧的链接(2017-06-30 10:37)
    Django的ORM中如何判断查询结果是否为空,判断django中的orm为空
    Python 爬虫实例(4)—— 爬取网易新闻
    NLTK在自然语言处理
  • 原文地址:https://www.cnblogs.com/gengyufei/p/12642518.html
Copyright © 2011-2022 走看看