zoukankan      html  css  js  c++  java
  • Levenshtein Distance莱文斯坦距离算法来计算字符串的相似度

    Levenshtein Distance莱文斯坦距离定义:

    数学上,两个字符串a、b之间的莱文斯坦距离表示为levab(|a|, |b|)。

    levab(i, j) = max(i, j)  如果min(i, j) = 0;

                   =  min(levab(i - 1, j) + 1, levab(i, j-1) + 1, levab(i - 1, j - 1) + 1)     (ai != bj)

     否则其中ai != bj 是指示函数,当ai != bj 时为1, 否则为0。

    核心公式就是下面:

                (1)

    1.百度百科介绍:

    Levenshtein 距离,又称编辑距离,指的是两个字符串之间,由一个转换成另一个所需的最少编辑操作次数。

    许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。

    编辑距离的算法是首先由俄国科学家Levenshtein提出的,故又叫Levenshtein Distance。

    2.用途

    模糊查询

    3.实现过程

    a.首先是有两个字符串,这里写一个简单的 abc和abe

    b.将字符串想象成下面的结构。

    A处 是一个标记,为了方便讲解,不是这个表的内容。

      abc a b c
    abe 0 1 2 3
    a 1 A处    
    b 2      
    e 3      

    c.来计算A处 出得值

    它的值取决于:左边的1、上边的1、左上角的0.

    按照Levenshtein distance的意思:

    上面的值和左面的值都要求加1,这样得到1+1=2。

    A处 由于是两个a相同,左上角的值加0.这样得到0+0=0。

    这是后有三个值,左边的计算后为2,上边的计算后为2,左上角的计算为0,所以A处 取他们里面最小的0.

    d.于是表成为下面的样子

      abc a b c
    abe 0 1 2 3
    a 1 0    
    b 2 B处    
    e 3      

    在B处 会同样得到三个值,左边计算后为3,上边计算后为1,在B处 由于对应的字符为a、b,不相等,所以左上角应该在当前值的基础上加1,这样得到1+1=2,在(3,1,2)中选出最小的为B处的值。

    e.于是表就更新了

      abc a b c
    abe 0 1 2 3
    a 1 0    
    b 2 1    
    e 3 C处    

    C处 计算后:上面的值为2,左边的值为4,左上角的:a和e不相同,所以加1,即2+1,左上角的为3。

    在(2,4,3)中取最小的为C处 的值。

    f.于是依次推得到

        a b c
      0 1 2 3
    a 1 A处 0 D处 1 G处 2
    b 2 B处 1 E处 0 H处 1
    e 3 C处 2 F处 1 I处 1

    I处: 表示abc 和abe 有1个需要编辑的操作。这个是需要计算出来的。

    同时,也获得一些额外的信息。

    A处: 表示a      和a      需要有0个操作。字符串一样

    B处: 表示ab    和a      需要有1个操作。

    C处: 表示abe  和a      需要有2个操作。

    D处: 表示a      和ab    需要有1个操作。

    E处: 表示ab    和ab    需要有0个操作。字符串一样

    F处: 表示abe  和ab    需要有1个操作。

    G处: 表示a      和abc   需要有2个操作。

    H处: 表示ab    和abc    需要有1个操作。

    I处: 表示abe   和abc    需要有1个操作。

    g.计算相似度

    先取两个字符串长度的最大值maxLen,用 1-(需要操作数/maxLen),得到相似度。

    例如abc 和abe 一个操作,长度为3,所以相似度为1-1/3=0.666。

    4.代码实现

    直接能运行, 复制过去就行。

    Java代码如下:
     
    package code;
    
    /**
     * @className:MyLevenshtein.java
     * @classDescription:Levenshtein Distance 算法实现
     * 可以使用的地方:DNA分析   拼字检查   语音辨识   抄袭侦测
     * @author:donghai.wan
     * @createTime:2012-1-12
     */
    public class MyLevenshtein {
    
        public static void main(String[] args) {
            //要比较的两个字符串
            String str1 = "今天星期四";
            String str2 = "今天是星期五";
            levenshtein(str1,str2);
        }
    
        /**
         *   DNA分析   拼字检查   语音辨识   抄袭侦测
         * 
         * @createTime 2012-1-12
         */
        public static void levenshtein(String str1,String str2) {
            //计算两个字符串的长度。
            int len1 = str1.length();
            int len2 = str2.length();
            //建立上面说的数组,比字符长度大一个空间
            int[][] dif = new int[len1 + 1][len2 + 1];
            //赋初值,步骤B。
            for (int a = 0; a <= len1; a++) {
                dif[a][0] = a;
            }
            for (int a = 0; a <= len2; a++) {
                dif[0][a] = a;
            }
            //计算两个字符是否一样,计算左上的值
            int temp;
            for (int i = 1; i <= len1; i++) {
                for (int j = 1; j <= len2; j++) {
                    if (str1.charAt(i - 1) == str2.charAt(j - 1)) {
                        temp = 0;
                    } else {
                        temp = 1;
                    }
                    //取三个值中最小的
                    dif[i][j] = min(dif[i - 1][j - 1] + temp, dif[i][j - 1] + 1,
                            dif[i - 1][j] + 1);
                }
            }
            System.out.println("字符串""+str1+""与""+str2+""的比较");
            //取数组右下角的值,同样不同位置代表不同字符串的比较
            System.out.println("差异步骤:"+dif[len1][len2]);
            //计算相似度
            float similarity =1 - (float) dif[len1][len2] / Math.max(str1.length(), str2.length());
            System.out.println("相似度:"+similarity);
        }
    
        //得到最小值
        private static int min(int... is) {
            int min = Integer.MAX_VALUE;
            for (int i : is) {
                if (min > i) {
                    min = i;
                }
            }
            return min;
        }
    
    }

    5.猜测原理

    为什么这样就能算出相似度了?

    首先在连续相等的字符就可以考虑到

    红色是取值的顺序。

    1.今天周一    天周一

       
      0 1 2 3
    1 1 2 3
    2 1 2 3
    3 2 1 3
    4 3 3 1

    实现是去掉“今”,一步完成。

    2.听说马上就要放假了 你听说要放假了

       
      0 1 2 3 4 5 6 7
    1 1 1 2 3 4 5 6
    2 2 2 1 2 3 4 5
    3 3 3 2 2 3 4 5
    4 4 4 3 3 3 4 5
    5 5 5 4 4 4 4 5
    6 6 6 5 4 5 5 5
    7 7 7 6 5 4 5 6
    8 8 8 7 6 5 4 6
    9 9 9 8 7 6 6 4

    这两个字符串是:

    去掉“你”,加上“马上就”,总共四步操作。

     

     

  • 相关阅读:
    自定义input file样式
    input text 不显示输入的历史记录
    白话 P-value
    R博客
    安装NXNET
    形象的解释神经网络激活函数的作用是什么?
    嵌入式选择与L1正则化
    “梯度下降法”理解
    控制台乱码
    R语言快捷键
  • 原文地址:https://www.cnblogs.com/babyfei/p/7451767.html
Copyright © 2011-2022 走看看