Lucene实践之中文分词IKAalyzer

做检索怎么都绕不过中文分词去，学习一下用IKAnalyzer分词器做中文分词。

Game Starts

参考文档

　　1） 中文分词之Java实现使用IK Analyzer实现

　　2） IKAnalyzer 独立使用 配置扩展词典

依赖jar包

　　1） IKAnalyzer2012FF_u1.jar 最好使用这个版本下面说 [百度网盘下载]

　　2） IKAnalyzer.cfg.xml [百度网盘下载]

　　3） keyWord.dic,stopWord.dic 字典

主要的类

　　1） IKAnalyzer , new IKAnalyzer(boolean useSmart); @param userSmart 是否智能分词，用性能换分词效果

What's Up

　　1）分词成功了，但是查不出来

　　　　分词成功了只是一个假象，建索引的时候Field用了StringField,但是却忽略了一个问题StringField不分词。换成TextField就OK了

　　2） keyWord.dic 里添加了关键词‘高铁’，但还是分词 ‘高’ ‘铁’

　　　　IKAnalyzer的配置文件必须满足3个条件：

　　　　　　a)必须以.dic结尾

　　　　　　b)IKAnalyzer.cfg.xml必须放在src目录下，.dic文件没有要求，但是要在IKAnalyzer.cfg.xml下配置正确

　　　　　　c).dic必须要以无BOM的UTF-8编码

　　src
   　　 keyWord.dic
    　　IKAnalyzer.cfg.xml

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">  
<properties>  
    <comment>IK Analyzer 扩展配置</comment>
    <!--用户可以在这里配置自己的扩展字典-->
    <entry key="ext_dict">keyWord.dic</entry> 
    
    <!--用户可以在这里配置自己的扩展停止词字典
    <entry key="ext_stopwords">stopword.dic;</entry> 
    -->
</properties>

　　我把keyWord.dic 和 IKAnalyzer.cfg.xml 都放在了src下

Always Be Coding

查看分词效果

IKAnalyzer analyzer = new IKAnalyzer(true);
TokenStream ts = analyzer.tokenStream("keyWord", "高铁");
CharTermAttribute termAtt = ts.addAttribute(CharTermAttribute.class);
try {
    ts.reset(); // Resets this stream to the beginning. (Required)
    while (ts.incrementToken()) {
        System.out.println("words: " + termAtt.toString());
    }
    ts.end();   // Perform end-of-stream operations, e.g. set the final offset.
} finally {
    ts.close(); // Release resources associated with this stream.
}    

不加载字典
<!--用户可以在这里配置自己的扩展字典
<entry key="ext_dict">dic.dic</entry> 
-->

words: 高
words: 铁
——————————————————————————————————————————————————————————————————————
加载字典
<entry key="ext_dict">dic.dic</entry>

加载扩展词典：dic.dic
words: 高铁

索引

Directory indexDir = FSDirectory.open(new File("E:/data/index"));
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_46, new IKAnalyzer(true));
IndexWriter indexWriter = new IndexWriter(indexDir, config);
indexWriter.deleteAll();
Document doc = new Document();
doc.add(new StringField("name", "爸爸去哪儿", Store.YES));
System.out.println(doc);
indexWriter.addDocument(doc);
indexWriter.close();

搜索

long start = System.currentTimeMillis();
IndexReader indexReader = DirectoryReader.open(FSDirectory.open(new File(E:/data/index)));
indexSearcher = new IndexSearcher(indexReader);
QueryParser parser = new QueryParser(Version.LUCENE_46, "content", new IKAnalyzer(true));
Query query = parser.parse("爸爸"); 
TopDocs results = indexSearcher.search(query, 10); 
ScoreDoc[] hits = results.scoreDocs; 
int totalHits = results.totalHits; 
for(int i = 0; i < totalHits; i++) { 
　　Document doc = indexSearcher.doc(hits[i].doc); 
　　System.out.println("["+doc.get("name")+"] "); 
　　System.out.println(); 
} 
long end = System.currentTimeMillis(); 
System.out.println("找到"+totalHits+"条记录，耗时："+(end-start)+"ms");

TO BE CONTINUED……