前些日子做了个 apache solr 应用的入门介绍,也在博客记录下,方便新手看看。以搜索论坛帖子为示例。
1、先下载 Apache Solr 1.3 http://apache.etoak.com/lucene/solr/1.3.0/apache-solr-1.3.0.zip,解压到如 E:\apache-solr-1.3.0。
2、下载 Apache Tomcat 6.0.18 http://labs.xiaonei.com/apache-mirror/tomcat/tomcat-6/v6.0.18/bin/apache-tomcat-6.0.18.zip,解压到如 E:\apache-tomcat-6.0.18。
3、solr 安装到 tomcat。修改 E:\apache-tomcat-6.0.18\conf\server.xml,加个 URIEncoding="UTF-8",把 8080 的那一块改为:
- <Connector port="8080" protocol="HTTP/1.1"
- connectionTimeout="20000"
- redirectPort="8443" URIEncoding="UTF-8"/>
把下面的内容保存到 E:\apache-tomcat-6.0.18\conf\Catalina\localhost\solr.xml,没有这个目录自行创建。
- <Context docBase="E:/apache-solr-1.3.0/dist/apache-solr-1.3.0.war" reloadable="true" >
- <Environment name="solr/home" type="java.lang.String" value="E:/apache-solr-1.3.0/example/solr" override="true" />
- </Context>
solr 的更多方式请看:solr install
4、现在安装好,启动 tomcat,并打开 http://localhost:8080/solr/admin/ 看看界面。
5、为搜索论坛帖子应用设计索引结构:
字段 | 说明 |
---|---|
id | 帖子 id |
user | 发表用户名或UserId |
title | 标题 |
content | 内容 |
timestamp | 发表时间 |
text | 把标题和内容放到这里,可以用同时搜索这些内容。 |
6、上面的索引结构告诉 solr,把下面的内容覆盖 E:\apache-solr-1.3.0\example\solr\conf\scheam.xml,(可以先备份这文件,方便以后看官方示例):
- <?xml version="1.0" encoding="UTF-8" ?>
- <schema name="example" version="1.1">
- <types>
- <fieldType name="string" class="solr.StrField" sortMissingLast="true" omitNorms="true"/>
- <fieldType name="sint" class="solr.SortableIntField" sortMissingLast="true" omitNorms="true"/>
- <!-- The format for this date field is of the form 1995-12-31T23:59:59Z, and
- is a more restricted form of the canonical representation of dateTime
- http://www.w3.org/TR/xmlschema-2/#dateTime
- The trailing "Z" designates UTC time and is mandatory.
- Optional fractional seconds are allowed: 1995-12-31T23:59:59.999Z
- All other components are mandatory.
- Expressions can also be used to denote calculations that should be
- performed relative to "NOW" to determine the value, ie...
- NOW/HOUR
- ... Round to the start of the current hour
- NOW-1DAY
- ... Exactly 1 day prior to now
- NOW/DAY+6MONTHS+3DAYS
- ... 6 months and 3 days in the future from the start of
- the current day
- Consult the DateField javadocs for more information.
- -->
- <fieldType name="date" class="solr.DateField" sortMissingLast="true" omitNorms="true"/>
- <fieldType name="text" class="solr.TextField" positionIncrementGap="100">
- <analyzer>
- <tokenizer class="solr.CJKTokenizerFactory"/>
- </analyzer>
- </fieldType>
- </types>
- <fields>
- <field name="id" type="sint" indexed="true" stored="true" required="true" />
- <field name="user" type="string" indexed="true" stored="true"/>
- <field name="title" type="text" indexed="true" stored="true"/>
- <field name="content" type="text" indexed="true" stored="true" />
- <field name="timestamp" type="date" indexed="true" stored="true" default="NOW"/>
- <!-- catchall field, containing all other searchable text fields (implemented
- via copyField further on in this schema -->
- <field name="text" type="text" indexed="true" stored="false" multiValued="true"/>
- </fields>
- <!-- Field to use to determine and enforce document uniqueness.
- Unless this field is marked with required="false", it will be a required field
- -->
- <uniqueKey>id</uniqueKey>
- <!-- field for the QueryParser to use when an explicit fieldname is absent -->
- <defaultSearchField>text</defaultSearchField>
- <!-- SolrQueryParser configuration: defaultOperator="AND|OR" -->
- <solrQueryParser defaultOperator="AND"/>
- <!-- copyField commands copy one field to another at the time a document
- is added to the index. It's used either to index the same field differently,
- or to add multiple fields to the same field for easier/faster searching. -->
- <!-- -->
- <copyField source="title" dest="text"/>
- <copyField source="content" dest="text"/>
- </schema>
7、重启 tomcat,然后手动在 E:\apache-solr-1.3.0\example\exampledocs 创建两个 xml 数据文件。分别保存为 demo-doc1.xml 和 demo-doc2.xml:
- <?xml version="1.0" encoding="UTF-8" ?>
- <add>
- <doc>
- <field name="id">1</field>
- <field name="user">chenlb</field>
- <field name="title">solr 应用演讲</field>
- <field name="content">这一小节是讲提交数据给服务器做索引,这里有一些数据,如:服务器,可以试查找它。</field>
- </doc>
- </add>
- <?xml version="1.0" encoding="UTF-8" ?>
- <add>
- <doc>
- <field name="id">2</field>
- <field name="user">bory.chan</field>
- <field name="title">搜索引擎</field>
- <field name="content">搜索服务器那边有很多数据。</field>
- <field name="timestamp">2009-02-18T00:00:00Z</field>
- </doc>
- <doc>
- <field name="id">3</field>
- <field name="user">other</field>
- <field name="title">这是什么</field>
- <field name="content">你喜欢什么运动?篮球?</field>
- <field name="timestamp">2009-02-18T12:33:05.123Z</field>
- </doc>
- </add>
8、提交数据做索引,到 E:\apache-solr-1.3.0\example\exampledocs,运行:
E:\apache-solr-1.3.0\example\exampledocs>java -Durl=http://localhost:8080/solr/update -Dcommit=yes -jar post.jar demo-doc*.xml SimplePostTool: version 1.2 SimplePostTool: WARNING: Make sure your XML documents are encoded in UTF-8, other encodings are not currently supported SimplePostTool: POSTing files to http://localhost:8080/solr/update.. SimplePostTool: POSTing file demo-doc1.xml SimplePostTool: POSTing file demo-doc2.xml SimplePostTool: COMMITting Solr index changes..
9、查看搜索结果:
所有内容 http://localhost:8080/solr/select/?q=*%3A*&version=2.2&start=0&rows=10&indent=on
- <?xml version="1.0" encoding="UTF-8"?>
- <response>
- <lst name="responseHeader">
- <int name="status">0</int>
- <int name="QTime">0</int>
- <lst name="params">
- <str name="indent">on</str>
- <str name="start">0</str>
- <str name="q">*:*</str>
- <str name="rows">10</str>
- <str name="version">2.2</str>
- </lst>
- </lst>
- <result name="response" numFound="3" start="0">
- <doc>
- <str name="content">这一小节是讲提交数据给服务器做索引,这里有一些数据,如:服务器,可以试查找它。</str>
- <int name="id">1</int>
- <date name="timestamp">2009-05-27T04:07:54.89Z</date>
- <str name="title">solr 应用演讲</str>
- <str name="user">chenlb</str>
- </doc>
- <doc>
- <str name="content">搜索服务器那边有很多数据。</str>
- <int name="id">2</int>
- <date name="timestamp">2009-02-18T00:00:00Z</date>
- <str name="title">搜索引擎</str>
- <str name="user">bory.chan</str>
- </doc>
- <doc>
- <str name="content">你喜欢什么运动?篮球?</str>
- <int name="id">3</int>
- <date name="timestamp">2009-02-18T12:33:05.123Z</date>
- <str name="title">这是什么</str>
- <str name="user">other</str>
- </doc>
- </result>
- </response>
bory.chan 用户的:http://localhost:8080/solr/select/?q=user%3Abory.chan&version=2.2&start=0&rows=10&indent=on
- <?xml version="1.0" encoding="UTF-8"?>
- <response>
- <lst name="responseHeader">
- <int name="status">0</int>
- <int name="QTime">0</int>
- <lst name="params">
- <str name="indent">on</str>
- <str name="start">0</str>
- <str name="q">user:bory.chan</str>
- <str name="rows">10</str>
- <str name="version">2.2</str>
- </lst>
- </lst>
- <result name="response" numFound="1" start="0">
- <doc>
- <str name="content">搜索服务器那边有很多数据。</str>
- <int name="id">2</int>
- <date name="timestamp">2009-02-18T00:00:00Z</date>
- <str name="title">搜索引擎</str>
- <str name="user">bory.chan</str>
- </doc>
- </result>
- </response>
- <?xml version="1.0" encoding="UTF-8"?>
- <response>
- <lst name="responseHeader">
- <int name="status">0</int>
- <int name="QTime">16</int>
- <lst name="params">
- <str name="indent">on</str>
- <str name="start">0</str>
- <str name="q">timestamp:["2009-02-18T00:00:00Z" TO "2009-02-19T00:00:00Z"]</str>
- <str name="rows">10</str>
- <str name="version">2.2</str>
- </lst>
- </lst>
- <result name="response" numFound="2" start="0">
- <doc>
- <str name="content">搜索服务器那边有很多数据。</str>
- <int name="id">2</int>
- <date name="timestamp">2009-02-18T00:00:00Z</date>
- <str name="title">搜索引擎</str>
- <str name="user">bory.chan</str>
- </doc>
- <doc>
- <str name="content">你喜欢什么运动?篮球?</str>
- <int name="id">3</int>
- <date name="timestamp">2009-02-18T12:33:05.123Z</date>
- <str name="title">这是什么</str>
- <str name="user">other</str>
- </doc>
- </result>
- </response>
常用的 solr 查询参数请看:solr 查询参数说明
简单的示例已经完成了,索引文件(默认)会在 CWD/solr/data/index 目录下,要改为 solr.home/data目录下,在 F:\apache-solr-1.3.0\example\solr\conf\solrconfig.xml 把 dataDir 注释掉,如:
- <!--
- <dataDir>${solr.data.dir:./solr/data}</dataDir>
- -->
<!-- <dataDir>${solr.data.dir:./solr/data}</dataDir> -->
说明:上面没有使用中文分词,用官方的 CJK 分词,另外有 mmseg4j 中文分词的示例,请看:solr 中文分词 mmseg4j 使用例子
lemonhall 于 2009-06-02 @ 13:48:07 留言 :
看了很长时间你的博客了,中文的SOLR资料太少了。
下载了MM,用JAVA -JAR的方式运行分词没有问题。
但在UBUNTU 9.10,JETTY方式下,不会安装MM....
这个步骤总是语焉不详。
系统提示无法加载COM.CHENLB.COM.MM......................
我把所有的JAR包都放在CMD/EXAMPLE/LIB下面了。JETTY可以看见这些JAR文件,但总是说无法加载。
1.6.2,好多个JAR包,我不知道该怎么放,只好把全部的JAR包都解压到同一个目录下了。
回复
chenlb 回复: on June 2nd, 2009@15:09
solr 1.3 新的加载 lib 方式, 把 mmseg4j 相关的 *.jar 放到 solr.home/lib 目录下,solr 会正确加载。
回复
chenlb 回复: on June 2nd, 2009@15:14
如果是 solr 1.3 就可以只要 mmseg4j-all-1.6.2.jar 放到 solr.home/lib 就行了。
回复
lemonhall 于 2009-06-02 @ 15:52:12 留言 :
多谢你的快速回复,但是发觉还是不行。
我是用JETTY哪个测试用的容器做得。
apache-solr-1.3.0/lib
apache-solr-1.3.0/example/lib
这两个LIB我都放上了MMSEG和DATA文件,使用默认的目录树,这回变成报错无法启动SOLR。。。
我再调调吧,新手的痛苦。
另外我看到一篇帖子是讲默认的CJK的,那个倒是很好配置。以下引用我找到的一个配置实例,因为你的配置文件我配好后分词无法运行。他还提到某个报错,死马当火马医吧。
==============================
默认情况下 Apache Solr 是不支持中文检索的,如果文档中包含中文,必须用完整的一句中文才能检索出内容。
下面以 Apache Solr 的演示程序为例,注意:粗体部分是需要修改的地方。
找到如下三行:
修改为:
找到如下两行:
修改为:
修改完毕,重新运行 Apache Solr 就可以对中文进行检索了,原先已经导入的文档需要重新导入。
记住原先的配置中有个 positionIncrementGap="100" 一定要删除了,否则会有异常。
回复
chenlb 回复: on June 2nd, 2009@16:04
F:\apache-solr-1.3.0\example\solr 作为 solr.home 的话
是 F:\apache-solr-1.3.0\example\solr\lib, 没有这个目录的,自己创建,不是放到
apache-solr-1.3.0/lib
apache-solr-1.3.0/example/lib
如果 直接用 <analyzer class="com.chenlb.mmseg4j.analysis.MMSegAnalyzer" /> (也即是说 用 Analyzer 类的话),positionIncrementGap="100" 是一定要删除,
回复
chenlb 回复: on June 2nd, 2009@16:06
这里: http://blog.chenlb.com/2009/04/solr-chinese-segment-mmseg4j-use-demo.html
回复
lemonhall 于 2009-06-02 @ 16:16:15 留言 :
哈哈,非常感谢,搞定了。确实是不理解什么是SOLR.HOME这个东西。竟然在这里卡了半天时间。。。
调试通过了,分词正确。
再次感谢,准备在企业环境下部署SOLR。
中文这下子不怕了。
回复
lemonhall 于 2009-06-03 @ 13:31:41 留言 :
又来讨饶作者了,想问一下,据您所知
现有的、正在使用中的最大的词库,大概有多大?
我现在加载了一个50W的医学名词词库~~速度有些慢了。当然和测试用机器不好可能也有关系。
发觉词库是中文搜索的最大的关键点。
回复
chenlb 回复: on June 3rd, 2009@15:50
不是专业/业行词库 22W
回复