php根据用户输入单词，匹配相似单词

最近在使用一款app背单词的时候，会在某个单词下面，列出与之相类似的单词。于是我在想这个功能是如何做的，自己使用php版本，做了个简单的例子。

大致思路如下：

1、生成英文单词库，并将单词放置redis里（当然放数据库也可以）

首先我们看第一步，我的做法是，从网上找一个很大的文本，big.txt。这个文本包含了几万个单词，然后利用正则，将里面的单词，拿出来并存到redis库里面。但问题是，我们在使用php读取大文件时，并还要利用正则去匹配单词的话，这个动作是非常消耗内存的，于是我的做法是，一行一行的去读取文本，并把这行里面的单词，在取出来，存到库里。

核心代码如下：

public function word($perLine){		
	preg_match_all('/[a-z]+/i',$perLine,$matches);
	if($matches[0]){
		foreach ($matches[0] as $key => $value) {
			$word = strtolower($value);
			if($this -> redisObj->exists($word)){
				$this -> redisObj->incr($word);

			}else{

				$this -> redisObj->set($word, 1);
			}
		}
	}
}

/** 
 * 返回文件从X行到Y行的内容(支持php5、php4)  
 * @param string $filename 文件名
 * @param int $startLine 开始的行数
 * @param int $endLine 结束的行数
 * @return string
 */
public function getFileLines($filename, $startLine = 1, $endLine=50, $method='rb') {
    $content = array();
    $count = $endLine - $startLine;  
    // 判断php版本（因为要用到SplFileObject，PHP>=5.1.0）
    if(version_compare(PHP_VERSION, '5.1.0', '>=')){
        $fp = new SplFileObject($filename, $method);
        $fp->seek($startLine-1);// 转到第N行, seek方法参数从0开始计数
        for($i = 0; $i <= $count; ++$i) {
            $lineContent=$fp->current();// current()获取当前行内容
            $this -> word($lineContent);
            $fp->next();// 下一行
        }
    }
} 

　　

这个程序代码，可能要执行比较长的时间，根据个人电脑而定，反正我的电脑执行了差不多有个把小时。好吧，总之这样，我们自己就制作了个词库，虽然并没有包含所有单词，不过至少测试是可以的啦。

2、得到用户单词，生成与之相类似的单词

我们开始处理第二步，我们需要得到用户单词，生成"编辑距离"为1的所有单词。

那么什么是"编辑距离"为1的单词呢？大概有如下几种情况

（1）deletes：依次删除word的每一位后、所形成的所有新词。比如，'abc'对应的deletes就是 ['bc', 'ac', 'ab'] 。

（2）transposes：依次交换word的邻近两位，所形成的所有新词。比如，'abc'对应的transposes就是 ['bac', 'acb'] 。

（3）replaces：将word的每一位依次替换成其他25个字母，所形成的所有新词。比如，'abc'对应的replaces就是 ['abc', 'bbc', 'cbc', ... , 'abx', ' aby', 'abz' ] ，一共包含78个词（26 × 3）。

（4）inserts：在word的邻近两位之间依次插入一个字母，所形成的所有新词。比如，'abc' 对应的inserts就是['aabc', 'babc', 'cabc', ..., 'abcx', 'abcy', 'abcz']，一共包含104个词（26 × 4）。

有了思路后，代码如下：

public function getSimilarWord_1($word){
	if(trim($word)){
		$word = strtolower($word);

		for($i=0; $i<strlen($word);$i++){
			$deletes[] = substr_replace($word,'',$i,1);
		}
		for($i=0; $i<strlen($word)-1;$i++){
			$transposes[] = substr_replace($word,$word[$i+1],$i,1);
		}
		for($i=0; $i<strlen($word);$i++){
			for($j=0;$j<strlen($this -> alphabet);$j++){
				$replaces[] = substr_replace($word,$this -> alphabet[$j],$i,1);
			}
		}
		for($j=0;$j<strlen($this -> alphabet);$j++){
			$inserts[] = $this -> alphabet[$j] . $word;
		}
		
		for($i=0; $i<strlen($word)-1;$i++){
			for($j=0;$j<strlen($this -> alphabet);$j++){
				$inserts[] = substr($word,0,$i+1) . $this -> alphabet[$j] . substr($word,-(strlen($word)-$i-1));
			}

		}
		
		for($j=0;$j<strlen($this -> alphabet);$j++){
			$inserts[] = $word . $this -> alphabet[$j];
		}
		$rs = array_unique(array_merge($deletes, $transposes, $replaces, $inserts));
		echo count($rs);
		$realWords = $this -> getRealWord($rs);
		print_r($realWords);
		return $realWords;
		
	}
}

好了，上面是一个简单的例子，实际生产环境中，还要考虑"编辑距离"为2的单词，而且上面这个程序是每次都要去库里面查找近似单词的，实际上，我们也可以再建张表，然后把所有单词的对应关系，跑出来，并存到对应关系表里面。这样用户输入一个单词之后，我们就可以直接查找出近似单词了。

当然这个程序再改改的话，也可以做成纠正用户输错单词的程序了。

完整代码：

http://git.oschina.net/kjr/kangjianrong_public/tree/master/similarWord?dir=1&filepath=similarWord&oid=3af896968d7c31003cfdfb06675ce0aa9f46e9c9&sha=f90f85b3c9dda717593e74f05053c5525b2cf710

欢迎转载，请注明出处：

http://www.cnblogs.com/kangjianrong/p/5818738.html

参考：

http://www.ruanyifeng.com/blog/2012/10/spelling_corrector.html

http://www.cnblogs.com/whoamme/p/3522467.html