zoukankan      html  css  js  c++  java
  • 字符串相似度算法-LEVENSHTEIN DISTANCE算法

    Levenshtein Distance 算法,又叫 Edit Distance 算法,是指两个字符串之间,由一个转成另一个所需的最少编辑操作次数。许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。一般来说,编辑距离越小,两个串的相似度越大。

    算法实现原理图解:

    a.首先是有两个字符串,这里写一个简单的 abc 和 abe

    b.将字符串想象成下面的结构。

    A 处 是一个标记,为了方便讲解,不是这个表的内容。

      abc a b c
    abe 0 1 2 3
    a 1 A处    
    b 2      
    e 3      

    c.来计算 A 处 出得值

    它的值取决于:左边的 1、上边的 1、左上角的 0。

    按照 Levenshtein distance 的意思:

    上面的值加 1 ,得到 1+1=2 ,

    左面的值加 1 ,得到 1+1=2 ,

    左上角的值根据字符是否相同,相同加 0 ,不同加 1 。A 处由于是两个 a 相同,左上角的值加 0 ,得到 0+0=0 。

    然后从我们上面计算出来的 2,2,0 三个值中选取最小值,所以 A 处的值为 0 。

    d.于是表成为下面的样子

      abc a b c
    abe 0 1 2 3
    a 1 0    
    b 2 B处    
    e 3      

    在 B 处 会同样得到三个值,左边计算后为 3 ,上边计算后为 1 ,在 B 处 由于对应的字符为 a、b ,不相等,所以左上角应该在当前值的基础上加 1 ,这样得到 1+1=2 ,在(3,1,2)中选出最小的为 B 处的值。

    e.于是表就更新了

      abc a b c
    abe 0 1 2 3
    a 1 0    
    b 2 1    
    e 3 C处    

    C 处 计算后:上面的值为 2 ,左边的值为 4 ,左上角的:a 和 e 不相同,所以加 1 ,即 2+1 ,左上角的为 3 。

    在(2,4,3)中取最小的为 C 处的值。

    f.于是依次推得到

        a b c
      0 1 2 3
    a 1 A处 0 D处 1 G处 2
    b 2 B处 1 E处 0 H处 1
    e 3 C处 2 F处 1 I处 1

    I 处: 表示 abc 和 abe 有1个需要编辑的操作( c 替换成 e )。这个是需要计算出来的。

    同时,也获得一些额外的信息:

    A处: 表示a      和a       需要有0个操作。字符串一样

    B处: 表示ab    和a       需要有1个操作。

    C处: 表示abe  和a       需要有2个操作。

    D处: 表示a      和ab     需要有1个操作。

    E处: 表示ab    和ab     需要有0个操作。字符串一样

    F处: 表示abe  和ab     需要有1个操作。

    G处: 表示a      和abc   需要有2个操作。

    H处: 表示ab    和abc   需要有1个操作。

    I处: 表示abe   和abc    需要有1个操作。

    g.计算相似度

    先取两个字符串长度的最大值 maxLen,用 1-(需要操作数 除 maxLen),得到相似度。

    例如 abc 和  abe  一个操作,长度为 3 ,所以相似度为 1-1/3=0.666 。

      

    最近需要对文本内容进行对比计算相似度,找了很久还真的让我找到个现成的模块 python-Levenshtein ,这个模块用法直接用help看吧,我主要用到里面的distance和ratio,其它的暂时还不知道有什么功能。

  • 相关阅读:
    IGS_学习笔记09_IREP生成服务后台工具Soagenerate.sh
    PLSQL_PLSQL调优健康检查脚本SQLHC(案例)
    IGS_学习笔记08_IREP通过soapUI测试客户化Web Service调用(案例)
    IGS_学习笔记07_IREP通过页面测试客户化Web Service调用(案例)
    PLSQL_Oracle簇表和簇表管理Index clustered tables(案例)
    IGS_学习笔记06_IREP发布客户化集成接口为Web Service(案例)
    PLSQL_Oracle外部表的概念和使用(案例)
    DBA_Oracle Erp加密和解密账户密码(案例)
    IGS_学习笔记05_IREP开发Concurrent Program为客户化集合接口(案例)
    PLSQL_Oracle物化视图Material View的基本概念和用法 (概念)
  • 原文地址:https://www.cnblogs.com/jingsupo/p/python-Levenshtein.html
Copyright © 2011-2022 走看看