zoukankan      html  css  js  c++  java
  • 编辑距离算法(Levenshtein)

    编辑距离定义

    编辑距离,又称Levenshtein距离,是指两个字串之间,由一个转成另一个所需的最少编辑操作次数。

    许可的编辑操作包括:将一个字符替换成另一个字符,插入一个字符,删除一个字符。

    例如将eeba转变成abac:

    1. eba(删除第一个e)
    2. aba(将剩下的e替换成a)
    3. abac(在末尾插入c)

    所以eeba和abac的编辑距离就是3

    俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。

    算法

    算法就是简单的线性动态规划(最长上升子序列就属于线性动态规划)。

    设我们要将s1变成s2

    定义状态矩阵edit[len1][len2],len1和len2分别是要比较的字符串s1和字符串s2的长度+1(+1是考虑到动归中,一个串为空的情况)

    然后,定义edit[i][j]是s1中前i个字符组成的串,和s2中前j个字符组成的串的编辑距离

    具体思想是,对于每个i,j从0开始依次递增,对于每一次j++,由于前j-1个字符跟i的编辑距离已经求出,所以只用考虑新加进来的第j个字符即可

    插入操作:在s1的前i个字符后插入一个字符ch,使得ch等于新加入的s2[j]。于是插入字符ch的编辑距离就是edit[i][j-1]+1

    删除操作:删除s1[i],以期望s1[i-1]能与s2[j]匹配(如果s1[i-1]前边的几个字符能与s2[j]前边的几个字符有较好的匹配,那么这么做就能得到更好的结果)。另外,对于s1[i-1]之前的字符跟s2[j]匹配的情况,edit[i-1][j]中已经考虑过。于是删除字符ch的编辑距离就是edit[i-1][j]+1

    替换操作:期望s1[i]与s2[j]匹配,或者将s1[i]替换成s2[j]后匹配。于是替换操作的编辑距离就是edit[i-1][j-1]+f(i,j)。其中,当s1[i]==s2[j]时,f(i,j)为0;反之为1

    于是动态规划公式如下:

    • if i == 0 且 j == 0,edit(i, j) = 0
    • if i == 0 且 j > 0,edit(i, j) = j
    • if i > 0 且j == 0,edit(i, j) = i
    • if 0 < i ≤ 1  且 0 < j ≤ 1 ,edit(i, j) == min{ edit(i-1, j) + 1, edit(i, j-1) + 1, edit(i-1, j-1) + f(i, j) },当第一个字符串的第i个字符不等于第二个字符串的第j个字符时,f(i, j) = 1;否则,f(i, j) = 0。

    Python实现:

    官方扩展包:

    python有一个官方扩展包(在pypi里面,即python package index),叫做python-Levenshtein,这个包不仅可以计算编辑距离,还能计算hamming(汉明)距离,Jaro-Winkler距离等,链接如下:

    https://pypi.python.org/pypi/python-Levenshtein

    下载python-Levenshtein-0.10.2.tar.gz,解压后,cd到解压后的文件夹,执行:

    python setup.py build

    python setup.py install

    即可。

    注意:如果没有安装setuptools的话要先安装setuptools,链接如下:

    https://pypi.python.org/pypi/setuptools/

    下载setuptools 0.6c11即可,解压后,cd到对应目录,执行:

    python setup.py build

    python setup.py install

    即可。

    检查是否安装成功:进入python,执行from Levenshtein import *,如果没有报错则安装成功

    具体使用方法见如下博文(这边博文下方还有完整的使用文档的连接):

    http://www.cnblogs.com/kaituorensheng/archive/2013/05/18/3085653.html

    注意:如果采用from Levenshtein import *导入,则调用函数的时候不用加Levenshtein.

    例如:直接调用distance(str1, str2)即可计算编辑距离

    简单的实现代码:

    如果你想要更加轻量级的实现的话,就用下面的代码吧:

    (选自边苏涛的博客,http://biansutao.iteye.com/blog/326008

    [python] view plain copy
     
      1. #!/user/bin/env python  
      2. # -*- coding: utf-8 -*-  
      3.   
      4. class arithmetic():  
      5.       
      6.     def __init__(self):  
      7.         pass  
      8.     ''''' 【编辑距离算法】 【levenshtein distance】 【字符串相似度算法】 '''  
      9.     def levenshtein(self,first,second):  
      10.         if len(first) > len(second):  
      11.             first,second = second,first  
      12.         if len(first) == 0:  
      13.             return len(second)  
      14.         if len(second) == 0:  
      15.             return len(first)  
      16.         first_length = len(first) + 1  
      17.         second_length = len(second) + 1  
      18.         distance_matrix = [range(second_length) for x in range(first_length)]   
      19.         #print distance_matrix  
      20.         for i in range(1,first_length):  
      21.             for j in range(1,second_length):  
      22.                 deletion = distance_matrix[i-1][j] + 1  
      23.                 insertion = distance_matrix[i][j-1] + 1  
      24.                 substitution = distance_matrix[i-1][j-1]  
      25.                 if first[i-1] != second[j-1]:  
      26.                     substitution += 1  
      27.                 distance_matrix[i][j] = min(insertion,deletion,substitution)  
      28.         print distance_matrix  
      29.         return distance_matrix[first_length-1][second_length-1]  
      30.       
      31. if __name__ == "__main__":  
      32.     arith = arithmetic()  
      33.     print arith.levenshtein('GUMBOsdafsadfdsafsafsadfasfadsfasdfasdfs','GAMBOL00000000000dfasfasfdafsaf
  • 相关阅读:
    SPAN和DIV的区别
    利用XMLHTTP无刷新添加数据之Post篇
    在Asp.net中上传大文件的解决方法
    在事务中执行批量复制操作
    Microsoft Visual SourceSafe 使用指南
    恢复只有MDF文件的MS SQL数据库
    配置sql server 2000以允许远程访问
    转: Bill Gates 哈佛大学毕业典礼演讲1
    用于对数据库进行操作的类库经验的总结
    用于对数据库进行操作的类库经验的总结 (二)
  • 原文地址:https://www.cnblogs.com/bincoding/p/6842766.html
Copyright © 2011-2022 走看看