zoukankan      html  css  js  c++  java
  • Python 开发者应该知道的 7 个开发库

    本文由 OSChina 译自 7 Python Libraries you should know about

    在我多年的 Python 编程经历以及在 Github 上的探索漫游过程中,我发掘到一些很不错的 Python 开发包,这些包大大简化了开发过程,而本文就是为了向大家推荐这些开发包。

    请注意我特别排除了像 SQLAlchemy 和 Flask 这样的库,因为其实在太优秀了,无需多提。

    下面开始:

    1. PyQuery (with lxml)

    安装方法 pip install pyquery

    Python 解析 HTML 时最经常被推荐的是 Beautiful Soup ,而且它的确也表现很好。提供良好的 Python 风格的 API,而且很容易在网上找到相关的资料文档,但是当你需要在短时间内解析大量文档时便会碰到性能的问题,简单,但是真的非常慢。

    下图是 08 年的一份性能比较图:

    http://blog.ianbicking.org/wp-content/uploads/images/parsing-results.png

    这个图里我们发现 lxml 的性能是如此之好,不过文档就很少,而且使用上相当的笨拙!那么是选择一个使用简单但是速度奇慢的库呢,还是选择一个速度飞快但是用起来巨复杂的库呢?

    谁说二者一定要选其一呢,我们要的是用起来方便,速度也一样飞快的 XML/HTML 解析库!

    而 PyQuery 就可以同时满足你的易用性和解析速度方面的苛刻要求。

    看看下面这几行代码:

    1 from pyquery import PyQuery
    2 page = PyQuery(some_html)
    3  
    4 last_red_anchor = page('#container > a.red:last')

    很简单吧,很像是 jQuery,但它却是 Python。

    不过也有一些不足,在使用迭代时需要对文本进行重新封装:

    1 for paragraph in page('#container > p'):
    2     paragraph = PyQuery(paragraph)
    3     text = paragraph.text()

    2. dateutil

    安装方法:pip install dateutil

    处理日期很痛苦,多亏有了 dateutil

    01 from dateutil.parser import parse
    02  
    03 >>> parse('Mon, 11 Jul 2011 10:01:56 +0200 (CEST)')
    04 datetime.datetime(201171110156, tzinfo=tzlocal())
    05  
    06 # fuzzy ignores unknown tokens
    07  
    08 >>> s = """Today is 25 of September of 2003, exactly
    09 ...        at 10:49:41 with timezone -03:00."""
    10 >>> parse(s, fuzzy=True)
    11 datetime.datetime(2003925104941,
    12                   tzinfo=tzoffset(None-10800))

    3. fuzzywuzzy

    安装方法:pip install fuzzywuzzy

    fuzzywuzzy 可以让你对两个字符串进行模糊比较,当你需要处理一些人类产生的数据时,这非常有用。下面代码使用Levenshtein 距离比较方法来匹配用户输入数组和可能的选择。

    01 from Levenshtein import distance
    02  
    03 countries = ['Canada''Antarctica''Togo', ...]
    04  
    05 def choose_least_distant(element, choices):
    06     'Return the one element of choices that is most similar to element'
    07     return min(choices, key=lambda s: distance(element, s))
    08  
    09 user_input = 'canaderp'
    10 choose_least_distant(user_input, countries)
    11 >>> 'Canada'

    这已经不错了,但还可以做的更好:

    1 from fuzzywuzzy import process
    2  
    3 process.extractOne("canaderp", countries)
    4 >>> ("Canada"97)

    4. watchdog

    安装方法:pip install watchdog

    watchdog 是一个用来监控文件系统事件的 Python API和shell实用工具。

    5. sh

    安装方法:pip install sh

    sh 可让你调用任意程序,就好象是一个函数一般:

    01 from sh import git, ls, wc
    02  
    03 # checkout master branch
    04 git(checkout="master")
    05  
    06 # print(the contents of this directory
    07 print(ls("-l"))
    08  
    09 # get the longest line of this file
    10 longest_line = wc(__file__, "-L")

    6. pattern

    安装方法:pip install pattern

    Pattern 是 Python 的一个 Web 数据挖掘模块。可用于数据挖掘、自然语言处理、机器学习和网络分析。

    7. path.py

    安装方法:pip install path.py

    当我开始学习 Python 时,os.path 是我最不喜欢的 stdlib 的一部分。尽管在一个目录下创建一组文件很简单。

    1 import os
    2  
    3 some_dir = '/some_dir'
    4 files = []
    5  
    6 for in os.listdir(some_dir):
    7     files.append(os.path.joinpath(some_dir, f))

    但 listdir 在 os 而不是 os.path 中。

    而有了 path.py ,处理文件路径变得简单:

    1 from path import path
    2  
    3 some_dir = path('/some_dir')
    4  
    5 files = some_dir.files()

    其他的用法:

    01 >>> path('/').owner
    02 'root'
    03  
    04 >>> path('a/b/c').splitall()
    05 [path(''), 'a', 'b', 'c']
    06  
    07 # overriding __div__
    08 >>> path('a'/ 'b' / 'c'
    09 path('a/b/c')
    10  
    11 >>> path('ab/c').relpathto('ab/d/f')
    12 path('../d/f')

    是不是要好很多?

  • 相关阅读:
    kubernetes入门(03)kubernetes的基本概念
    洛谷P3245 [HNOI2016]大数(莫队)
    洛谷P4462 [CQOI2018]异或序列(莫队)
    cf997C. Sky Full of Stars(组合数 容斥)
    cf1121F. Compress String(后缀自动机)
    洛谷P4704 太极剑(乱搞)
    洛谷P4926 [1007]倍杀测量者(差分约束)
    洛谷P4590 [TJOI2018]游园会(状压dp LCS)
    洛谷P4588 [TJOI2018]数学计算(线段树)
    洛谷P4592 [TJOI2018]异或(可持久化01Trie)
  • 原文地址:https://www.cnblogs.com/hnrainll/p/2767434.html
Copyright © 2011-2022 走看看