zoukankan      html  css  js  c++  java
  • Python实践:提取文章摘要

    一、概述

    在博客系统的文章列表中,为了更有效地呈现文章内容,从而让读者更有针对性地选择阅读,通常会同时提供文章的标题和摘要。

    一篇文章的内容可以是纯文本格式的,但在网络盛行的当今,更多是HTML格式的。无论是哪种格式,摘要 一般都是文章 开头部分 的内容,可以按照指定的 字数 来提取。

    二、纯文本摘要

    纯文本文档 就是一个长字符串,很容易实现对它的摘要提取:

    #!/usr/bin/env python
    # -*- coding: utf-8 -*-
    
    """Get a summary of the TEXT-format document"""
    
    def get_summary(text, count):
        u"""Get the first `count` characters from `text`
    
            >>> text = u'Welcome 这是一篇关于Python的文章'
            >>> get_summary(text, 12) == u'Welcome 这是一篇'
            True
        """
        assert(isinstance(text, unicode))
        return text[0:count]
    
    if __name__ == '__main__':
        import doctest
        doctest.testmod()
    

    三、HTML摘要

    HTML文档 中包含大量标记符(如<h1>、<p>、<a>等等),这些字符都是标记指令,并且通常是成对出现的,简单的文本截取会破坏HTML的文档结构,进而导致摘要在浏览器中显示不当。

    在遵循HTML文档结构的同时,又要对内容进行截取,就需要解析HTML文档。在Python中,可以借助标准库 HTMLParser 来完成。

    一个最简单的摘要提取功能,是忽略HTML标记符而只提取标记内部的原生文本。如果您不明白我说的意思,可以看看 博客园 的摘要功能,以下就是类似该功能的Python实现:

    #!/usr/bin/env python
    # -*- coding: utf-8 -*-
    
    """Get a raw summary of the HTML-format document"""
    
    from HTMLParser import HTMLParser
    
    class SummaryHTMLParser(HTMLParser):
        """Parse HTML text to get a summary
    
            >>> text = u'<p>Hi guys:</p><p>This is a example using SummaryHTMLParser.</p>'
            >>> parser = SummaryHTMLParser(10)
            >>> parser.feed(text)
            >>> parser.get_summary(u'...')
            u'<p>Higuys:Thi...</p>'
        """
        def __init__(self, count):
            HTMLParser.__init__(self)
            self.count = count
            self.summary = u''
    
        def feed(self, data):
            """Only accept unicode `data`"""
            assert(isinstance(data, unicode))
            HTMLParser.feed(self, data)
    
        def handle_data(self, data):
            more = self.count - len(self.summary)
            if more > 0:
                # Remove possible whitespaces in `data`
                data_without_whitespace = u''.join(data.split())
    
                self.summary += data_without_whitespace[0:more]
    
        def get_summary(self, suffix=u'', wrapper=u'p'):
            return u'<{0}>{1}{2}</{0}>'.format(wrapper, self.summary, suffix)
    
    if __name__ == '__main__':
        import doctest
        doctest.testmod()
    

    ========== 更新 ==========

    HTMLParser(或者 BeautifulSoup 等等)更适合完成复杂的HTML摘要提取功能,对于上述简单的HTML摘要提取功能,其实有更简洁的实现方案(相比 SummaryHTMLParser 而言):

    #!/usr/bin/env python
    # -*- coding: utf-8 -*-
    
    """Get a raw summary of the HTML-format document"""
    
    import re
    
    def get_summary(text, count, suffix=u'', wrapper=u'p'):
        """A simpler implementation (vs `SummaryHTMLParser`).
    
            >>> text = u'<p>Hi guys:</p><p>This is a example using SummaryHTMLParser.</p>'
            >>> get_summary(text, 10, u'...')
            u'<p>Higuys:Thi...</p>'
        """
        assert(isinstance(text, unicode))
        summary = re.sub(r'<.*?>', u'', text) # key difference: use regex
        summary = u''.join(summary.split())[0:count]
        return u'<{0}>{1}{2}</{0}>'.format(wrapper, summary, suffix)
    
    if __name__ == '__main__':
        import doctest
        doctest.testmod()
    
  • 相关阅读:
    主从复制之GTID(全局事务标识符)
    mysql8之MGR
    Headless Services无头服务
    面试题 01.01. 判定字符是否唯一
    344. 反转字符串
    1299. 将每个元素替换为右侧最大元素
    1528. 重新排列字符串
    832. 翻转图像
    1748. 唯一元素的和
    1365. 有多少小于当前数字的数字
  • 原文地址:https://www.cnblogs.com/russellluo/p/3372699.html
Copyright © 2011-2022 走看看