zoukankan      html  css  js  c++  java
  • 发布了一个基于jieba分词的ElasticSearch插件

    github地址: https://github.com/hongfuli/elasticsearch-analysis-jieba

    基于 jiebaelasticsearch 中文分词插件。

    集成到ElasticSearch

    git clone git@github.com:hongfuli/elasticsearch-analysis-jieba.git
    cd elasticsearch-analysis-jieba
    mvn package
    

    把release/elasticsearch-analysis-jieba-{version}.zip文件解压到 elasticsearch 的 plugins 目录下,重启elasticsearch即可。

    直接使用Tokenizer分词

    可直接使用 com.github.hongfuli.jieba.Tokenizer 对文本字符进行分词,方法参数完全和 jieba python 一致。

    imort com.github.hongfuli.jieba.Tokenizer
    
    Tokenizer t = new Tokenizer();
    t.cut("这是一个伸手不见五指的黑夜。我叫孙悟空,我爱北京,我爱Python和C++。", false, true);
    

    集成到Lucene

    import com.github.hongfuli.jieba.lucene.JiebaAnalyzer;
    
    Analyzer analyzer = new JiebaAnalyzer();
    try(TokenStream ts = analyzer.tokenStream("field", "这是一个伸手不见五指的黑夜。我叫孙悟空,我爱北京,我爱Python和C++。")) {
          StringBuilder b = new StringBuilder();
          CharTermAttribute termAtt = ts.getAttribute(CharTermAttribute.class);
          PositionIncrementAttribute posIncAtt = ts.getAttribute(PositionIncrementAttribute.class);
          PositionLengthAttribute posLengthAtt = ts.getAttribute(PositionLengthAttribute.class);
          OffsetAttribute offsetAtt = ts.getAttribute(OffsetAttribute.class);
          assertNotNull(offsetAtt);
          ts.reset();
          int pos = -1;
          while (ts.incrementToken()) {
            pos += posIncAtt.getPositionIncrement();
            b.append(termAtt);
            b.append(" at pos=");
            b.append(pos);
            if (posLengthAtt != null) {
              b.append(" to pos=");
              b.append(pos + posLengthAtt.getPositionLength());
            }
            b.append(" offsets=");
            b.append(offsetAtt.startOffset());
            b.append('-');
            b.append(offsetAtt.endOffset());
            b.append('
    ');
          }
          ts.end();
          return b.toString();
        }
    
  • 相关阅读:
    ubuntu系统安装微信小程序开发工具
    【工具】vscode-代码编辑器详解
    微信小程序开发
    webpack基本配置
    vue相关知识
    史上最强vue总结~万字长文---面试开发全靠它了
    ES6——字符串
    ES6——Proxy与Reflect
    ES6——Map与Set
    ES6——Symbol
  • 原文地址:https://www.cnblogs.com/jcli/p/elasticsearch_analysis_jieba.html
Copyright © 2011-2022 走看看