字符串相似度算法——Levenshtein Distance算法

Levenshtein Distance 算法,又叫 Edit Distance 算法,是指两个字符串之间,由一个转成另一个所需的最少编辑操作次数。许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。一般来说,编辑距离越小,两个串的相似度越大。

算法实现原理图解:

a.首先是有两个字符串,这里写一个简单的 abc 和 abe

b.将字符串想象成下面的结构。

A 处 是一个标记,为了方便讲解,不是这个表的内容。

  abc a b c
abe 0 1 2 3
a 1 A处    
b 2      
e 3      

c.来计算 A 处 出得值

它的值取决于:左边的 1、上边的 1、左上角的 0。

按照 Levenshtein distance 的意思:

上面的值加 1 ,得到 1+1=2 ,

左面的值加 1 ,得到 1+1=2 ,

左上角的值根据字符是否相同,相同加 0 ,不同加 1 。A 处由于是两个 a 相同,左上角的值加 0 ,得到 0+0=0 。

然后从我们上面计算出来的 2,2,0 三个值中选取最小值,所以 A 处的值为 0 。

d.于是表成为下面的样子

  abc a b c
abe 0 1 2 3
a 1 0    
b 2 B处    
e 3      

在 B 处 会同样得到三个值,左边计算后为 3 ,上边计算后为 1 ,在 B 处 由于对应的字符为 a、b ,不相等,所以左上角应该在当前值的基础上加 1 ,这样得到 1+1=2 ,在(3,1,2)中选出最小的为 B 处的值。

e.于是表就更新了

  abc a b c
abe 0 1 2 3
a 1 0    
b 2 1    
e 3 C处    

C 处 计算后:上面的值为 2 ,左边的值为 4 ,左上角的:a 和 e 不相同,所以加 1 ,即 2+1 ,左上角的为 3 。

在(2,4,3)中取最小的为 C 处的值。

f.于是依次推得到

    a b c
  0 1 2 3
a 1 A处 0 D处 1 G处 2
b 2 B处 1 E处 0 H处 1
e 3 C处 2 F处 1 I处 1

I 处: 表示 abc 和 abe 有1个需要编辑的操作( c 替换成 e )。这个是需要计算出来的。

同时,也获得一些额外的信息:

A处: 表示a      和a       需要有0个操作。字符串一样

B处: 表示ab    和a       需要有1个操作。

C处: 表示abe  和a       需要有2个操作。

D处: 表示a      和ab     需要有1个操作。

E处: 表示ab    和ab     需要有0个操作。字符串一样

F处: 表示abe  和ab     需要有1个操作。

G处: 表示a      和abc   需要有2个操作。

H处: 表示ab    和abc   需要有1个操作。

I处: 表示abe   和abc    需要有1个操作。

g.计算相似度

先取两个字符串长度的最大值 maxLen,用 1-(需要操作数 除 maxLen),得到相似度。

例如 abc 和  abe  一个操作,长度为 3 ,所以相似度为 1-1/3=0.666 。

以上就是整个算法的推导过程,但是至于为什么能算出相似度,还是不太懂。而且我发现这个算法有个很坑的地方,就是有时候根据算法推算出的结果,会和我们想象中的不一样:

例如:字符串 abcd 和字符串 def ,根据算法算出来的相似度为 0,可是明明是由一个相同字符 d 的,至少应该是有一定相似度,即使很相似度很低,但是也不应该为0才对。但是字符串 abcd 和字符串 aert ,同样是只有一个相同字符 a ,但是根据算法算出来的相似度却为 0.25 。

根据最开始对算法的介绍,使用替换、删除、插入这三种操作方式,字符串 abcd 和字符串 aert 最少需要 3 步就能完成转变,而字符串 abcd 和字符串 def 却最少需要4步才能完成转变,两个字符串的最大长度才为 4 ,而完成转换却至少需要 4 步,相似度为 0 好像也能说的通,但是从表面来看,明明有一个相同的字符d,相似度为0,让我觉得很怪异,所以我认为再使用的时候需要慎重。

下面是我的 C# 代码实现:

 1 using UnityEngine;
 2 using System.Collections;
 3 using System;
 4
 5 public class EditorDistance
 6 {
 7     /// <summary>
 8     /// 比较两个字符串的相似度,并返回相似率。
 9     /// </summary>
10     /// <param name="str1"></param>
11     /// <param name="str2"></param>
12     /// <returns></returns>
13     public static float Levenshtein(string str1, string str2)
14     {
15         char[] char1 = str1.ToCharArray();
16         char[] char2 = str2.ToCharArray();
17         //计算两个字符串的长度。
18         int len1 = char1.Length;
19         int len2 = char2.Length;
20         //建二维数组,比字符长度大一个空间
21         int[,] dif = new int[len1 + 1, len2 + 1];
22         //赋初值
23         for (int a = 0; a <= len1; a++)
24         {
25             dif[a, 0] = a;
26         }
27         for (int a = 0; a <= len2; a++)
28         {
29             dif[0, a] = a;
30         }
31         //计算两个字符是否一样,计算左上的值
32         int temp;
33         for (int i = 1; i <= len1; i++)
34         {
35             for (int j = 1; j <= len2; j++)
36             {
37                 if (char1[i - 1] == char2[j - 1])
38                 {
39                     temp = 0;
40                 }
41                 else
42                 {
43                     temp = 1;
44                 }
45                 //取三个值中最小的
46                 dif[i, j] = Min(dif[i - 1, j - 1] + temp, dif[i, j - 1] + 1, dif[i - 1, j] + 1);
47             }
48         }
49         //计算相似度
50         float similarity = 1 - (float)dif[len1, len2] / Math.Max(len1, len2);
51         return similarity;
52     }
53
54     /// <summary>
55     /// 求最小值
56     /// </summary>
57     /// <param name="nums"></param>
58     /// <returns></returns>
59     private static int Min(params int[] nums)
60     {
61         int min = int.MaxValue;
62         foreach (int item in nums)
63         {
64             if (min > item)
65             {
66                 min = item;
67             }
68         }
69         return min;
70     }
71 }

原文地址:https://www.cnblogs.com/xiaoyulong/p/8846745.html

时间: 2024-12-07 18:36:11

字符串相似度算法——Levenshtein Distance算法的相关文章

java文本相似度计算(Levenshtein Distance算法(中文翻译:编辑距离算法))----代码和详解

算法代码实现: package com.util; public class SimFeatureUtil { private static int min(int one, int two, int three) { int min = one; if (two < min) { min = two; } if (three < min) { min = three; } return min; } public static int ld(String str1, String str2)

Magic Number(Levenshtein distance算法)

Magic Number Time Limit:1000MS     Memory Limit:65536KB     64bit IO Format:%I64d & %I64u Submit Status Practice HDU 4323 Description There are many magic numbers whose lengths are less than 10. Given some queries, each contains a single number, if t

字符串相似度算法(编辑距离算法 Levenshtein Distance)(转)

在搞验证码识别的时候需要比较字符代码的相似度用到“编辑距离算法”,关于原理和C#实现做个记录. 据百度百科介绍: 编辑距离,又称Levenshtein距离(也叫做Edit Distance),是指两个字串之间,由一个转成另一个所需的最少编辑操作次数,如果它们的距离越大,说明它们越是不同.许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符. 例如将kitten一字转成sitting: sitten (k→s) sittin (e→i) sitting (→g) 俄罗斯科学家V

计算两组标签相似度算法——levenshtein distance 编辑距离算法

标签在数据分析中起到很重要的作用,给用户打标签,给商品打标签,给新闻打标签,好的标签可以为我们后期分析数据时提供很大的便利.有时我们需要计算两个对象之间标签的相似度.目前学习的算法是levenshtein distance 编辑距离算法. 代码示例: //标签相似度 public static double levenshtein(String s1, String s2) { System.out.println("levenshtein str1:"+s1+" str2:

编辑距离算法详解:Levenshtein Distance算法

算法基本原理:假设我们可以使用d[ i , j ]个步骤(可以使用一个二维数组保存这个值),表示将串s[ 1…i ] 转换为 串t [ 1…j ]所需要的最少步骤个数,那么,在最基本的情况下,即在i等于0时,也就是说串s为空,那么对应的d[0,j] 就是 增加j个字符,使得s转化为t,在j等于0时,也就是说串t为空,那么对应的d[i,0] 就是 减少 i个字符,使得s转化为t. 然后我们考虑一般情况,加一点动态规划的想法,我们要想得到将s[1..i]经过最少次数的增加,删除,或者替换操作就转变为

Levenshtein Distance莱文斯坦距离算法来计算字符串的相似度

转 理解起来不难,但是很实用. 核心公式就是下面:             (1) 1.百度百科介绍: Levenshtein 距离,又称编辑距离,指的是两个字符串之间,由一个转换成另一个所需的最少编辑操作次数. 许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符. 编辑距离的算法是首先由俄国科学家Levenshtein提出的,故又叫Levenshtein Distance. 2.用途 模糊查询 3.实现过程 a.首先是有两个字符串,这里写一个简单的 abc和abe b.将

计算字符串相似度算法——Levenshtein http://wdhdmx.iteye.com/blog/1343856

0.这个算法实现起来很简单 1.百度百科介绍: Levenshtein 距离,又称编辑距离,指的是两个字符串之间,由一个转换成另一个所需的最少编辑操作次数. 许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符. 编辑距离的算法是首先由俄国科学家Levenshtein提出的,故又叫Levenshtein Distance. 2.用途 模糊查询 3.实现过程 a.首先是有两个字符串,这里写一个简单的 abc和abe b.将字符串想象成下面的结构. A处 是一个标记,为了方便讲解

Levenshtein distance 编辑距离算法

这几天再看 virtrual-dom,关于两个列表的对比,讲到了 Levenshtein distance 距离,周末抽空做一下总结. Levenshtein Distance 介绍 在信息理论和计算机科学中,Levenshtein 距离是用于测量两个序列之间的差异量(即编辑距离)的度量.两个字符串之间的 Levenshtein 距离定义为将一个字符串转换为另一个字符串所需的最小编辑数,允许的编辑操作是单个字符的插入,删除或替换. 例子 ‘kitten’和’sitten’之间的 Levensht

优化后的Levensthein distance算法实现

在上一篇文章Levenshtein distance算法实现中,笔者已经讲解了一般最小编辑距离的算法.该算法采用动态规划,时间复杂度是O(m*n),m,n分别为两个字符串的长度,而空间复杂度也是O(m*n),如果使用int作为矩阵元素的类型,则矩阵的占用空间大小为sizeof(int)*m*n,假如两个字符串的长度均为10000个字符,则矩阵大小为400MB,相当可观.参考一个快速.高效的Levenshtein算法实现,笔者重新实现了一遍Levenshtein distance算法,其主要思想就