solr集群的搭建教程和使用入门

1 什么是SolrCloud?

            SolrCloud(solr 云)是Solr提供的分布式搜索方案，当你需要大规模，容错，分布式索引和检索能力时使用 SolrCloud。

当一个系统的索引数据量少的时候是不需要使用SolrCloud的，当索引量很大，搜索请求并发很高，这时需要使用SolrCloud来满足这些需求。

           SolrCloud是基于Solr和Zookeeper的分布式搜索方案，它的主要思想是使用Zookeeper作为集群的配置信息中心。

它有几个特色功能：

1）集中式的配置信息

2）自动容错

3）近实时搜索

4）查询时自动负载均衡

2 Solr集群的系统架构

1 物理结构

  三个Solr实例（ 每个实例包括两个Core），组成一个SolrCloud。

2 逻辑结构

索引集合包括两个Shard（shard1和shard2），shard1和shard2分别由三个Core组成，

其中一个Leader两个Replication，Leader是由zookeeper选举产生，zookeeper控制

每个shard上三个Core的索引数据一致，解决高可用问题。
用户发起索引请求分别从shard1和shard2上获取，解决高并发问题。

collection
Collection在SolrCloud集群中是一个逻辑意义上的完整的索引结构。它常常被划分为一个或多个Shard（分片），它们使用相同的配置信息。
比如：针对商品信息搜索可以创建一个collection。
collection=shard1+shard2+....+shardX

Core
每个Core是Solr中一个独立运行单位，提供 索引和搜索服务。一个shard需要由一个Core或多个Core组成。由于collection由多个shard组成所以collection一般由多个core组成。
Master或Slave
Master是master-slave结构中的主结点（通常说主服务器），Slave是master-slave结构中的从结点（通常说从服务器或备服务器）。同一个Shard下master和slave存储的数据是一致的，这是为了达到高可用目的。

Shard
Collection的逻辑分片。每个Shard被化成一个或者多个replication，通过选举确定哪个是Leader。

3  需要实现的solr集群架构

Zookeeper作为集群的管理工具。
1、集群管理：容错、负载均衡。
2、配置文件的集中管理
3、集群的入口

需要实现zookeeper 高可用。需要搭建集群。建议是奇数节点。需要三个zookeeper服务器。

搭建solr集群需要7台服务器。

搭建伪分布式：
需要三个zookeeper节点
需要四个tomcat节点。

建议虚拟机的内容1G以上。

4 环境准备

CentOS-6.5-i386-bin-DVD1.iso
jdk-7u72-linux-i586.tar.gz
apache-tomcat-7.0.47.tar.gz
zookeeper-3.4.6.tar.gz
solr-4.10.3.tgz

5 安装单机版Zookeeper

参照教程：http://www.cnblogs.com/jepson6669/p/9094101.html

1 上传文件到Linux上
2 解压到/usr/local目录下
3.进入zookeeper目录，创建data文件夹
4.进入conf目录把zoo_sample.cfg 改名为zoo.cfg.

5.进入zoo.cfg修改快照保存的目录为上面创建的data目录

dataDir=/usr/local/solr-cloud/zookeeper01/data

6  Zookeeper集群搭建

第一步：需要安装jdk环境。

没有安装的可以参考教程：http://www.cnblogs.com/jepson6669/p/8374699.html

第二步：在/usr/local/创建目录solr-cloud

第三步：将第5部分中安装的单机版zookeeper,复制三分到solr-cloud目录下，分别为zookeeper01，zookeeper02，zookeeper03

# cp -r zookeeper-3.4.6/ /usr/local/solr-cloud/zookeeper02
# cp -r zookeeper-3.4.6/ /usr/local/solr-cloud/zookeeper02
# cp -r zookeeper-3.4.6/ /usr/local/solr-cloud/zookeeper03

第四步：在zookeeper01，zookeeper02，zookeeper03的目录下的data目录中分别创建myid文件，

内容就是每个实例的id。例如1、2、3

# echo 1 > ./zookeeper01/data/myid
# echo 2 > ./zookeeper02/data/myid
# echo 3 > ./zookeeper03/data/myid

 使用echo命令创建文件

# echo 2 > myid 创建一个文件名叫myid 的文件内容为2

第五步：修改zookeeper01,zookeeper02,zookeeper03的zoo.cfg文件。

1.修改数据保存的目录

2.修改客户端连接zookeeper的端口号

3.添加集群中的节点列表

下面是zookeeper01/conf/zoo.cfg实例。

 第六步：启动三个zookeeper实例，修改编写一个批处理脚本，启动之后需要等待一会，然后在查看状态。

 查看服务的状态同样可以写一个批处理脚本

 可以看到状态如下：

7 Solr集群的搭建

【说明：因为第一次安装失败了，笔记是两次安装综合到一起的，所以ip地址有的地方是192.128.25.128

有的地方又是192.168.25.130】

第一步：创建四个tomcat实例。直接复制tomcat 四分到/usr/local/solr-cloud/目录下，分别命名为tomcat01,tomcat02,tomcat03,tomcat04.

第二步：往四个tomcat实例里面部署solr实例。这里直接使用之前单机版配置好的solr

单机版的solr搭建可以参考：http://www.cnblogs.com/jepson6669/p/9053880.html

第三步：修改四个tomcat实例的端口号8180，8280，8380，8480

下面给出tomcat01的修改示例：

其它三个tomcat的修改依次类推。

 第四步：为每个solr实例创建一个对应的solrhome。使用单机版的solrhome复制四份。

 

第五步：需要修改solr的web.xml文件。把solrhome关联起来。

以tomcat02为例：

 

第六步：配置solrCloud相关的配置。每个solrhome下都有一个solr.xml，把其中的ip及端口号配置好。

 

第七步：修改tomcat/bin目录下的catalina.sh 文件，关联solr和zookeeper

把此配置添加到配置文件中：
JAVA_OPTS="-DzkHost=192.168.25.128:2181,192.168.25.128:2182,192.168.25.128:2183"

四个tomcat实例都需要做下面的修改。

 

第八步： 让zookeeper统一管理配置文件。需要把solrhome/collection1/conf目录上传到zookeeper。上传任意一个solrhome中的配置文件即可。

 工具的位置在：解压solr-4.10.3.tgz.tgz得到solr-4.10.3里面的example/scripts/cloud-scripts/zkcli.sh

 

我们使用zkcli.sh这个工具，把我们的配置文件上传到zookeeper。

使用下面的命令：

./zkcli.sh -zkhost 192.168.25.130:2181,192.168.25.130:2182,192.168.25.130:2183 -cmd upconfig -confdir /usr/local/solr-cloud/solrhome01/collection1/conf -confname myconf

查看zookeeper上的配置文件：
使用zookeeper目录下的bin/zkCli.sh命令查看zookeeper上的配置文件：

直接使用命令./zkCli.sh就可以连接上，

但是直接连接上的是localhost:2181这个zookeeper。

默认连接的就是2181这个zookeeper。

输入quit退出

连接指定端口的zookeeper使用下面的命名

[root@admin bin]# ./zkCli.sh -server 192.168.25.130:2182

这个时候我们连接的就是192.168.25.130：2182的zookeeper。

连接到集群中的任何节点，都可以使用下面命令查看根目录下有多少个配置文件

# ls /

可以看到里面有一个configs,执行命令 ls /configs 可以看到下面有一个myconf

这个myconf也就是我们执行下面这条命令的时候指定的

 ./zkcli.sh -zkhost 192.168.25.130:2181,192.168.25.130:2182,192.168.25.130:2183 -cmd upconfig -confdir /usr/local/solr-cloud/solrhome01/collection1/conf -confname myconf 

 执行命令 ls /configs/myconf ,可以看到里面就有我们上传上来的配置文件

这就表示我们把配置文件上传到了zookeeper里面了。

使用命令quit推出去。

 

第九步：启动每个tomcat实例。要保证zookeeper集群是启动状态。

 同样我们可以写一个批处理start-tomcat-all.sh,内容如下

授予所有用户执行的权限

[root@admin solr-cloud]# chmod a+x start-tomcat-all.sh

然后执行批处理命令，启动所有的tomcat

查看tomcat日志，确认是否启动起来了，如果虚拟机的内存小的话，需要等待特别长的时间，才能够启动起来。

第十步：访问集群

 

8 solrcloud的collection管理

1 创建新的collection进行分片处理

在浏览器中的输入下面的命令，然后按回车。

http://192.168.25.130:8180/solr/admin/collections?action=CREATE&name=collection3&numShards=2&replicationFactor=2

解释：创建一个collection名称叫做collection3(name=collection3),分配的数量为1（numshard=2),有2个备份机(replicationFactor=2)，每片都是一主一备，所有总的有两个备份机。

 

然后我们在查看一下cloud,效果如下

2 删除不用的collection

在浏览器中输入下面的命令，然后回车

http://192.168.25.130:8180/solr/admin/collections?action=DELETE&name=collection1

然后查看一下cloud,效果如下

9 使用solrJ管理集群

1 使用步骤

第一步：把solrJ相关的jar包添加到工程中。

maven工程中添加下面的依赖

第二步：创建一个SolrServer对象，需要使用CloudSolrServer子类。构造方法的参数是zookeeper的地址列表。
第三步：需要设置DefaultCollection属性。
第四步：创建一SolrInputDocument对象。
第五步：向文档对象中添加域
第六步：把文档对象写入索引库。
第七步：提交。

2 添加文档

//集群版添加文档
    @Test
    public void testSolrCloudAddDocument() throws Exception {
        // 第一步：把solrJ相关的jar包添加到工程中。
        // 第二步：创建一个SolrServer对象，需要使用CloudSolrServer子类。构造方法的参数是zookeeper的地址列表。
        // 参数是zookeeper的地址列表，使用逗号分隔
        CloudSolrServer solrServer = new CloudSolrServer("192.168.25.130:2181,192.168.25.130:2182,192.168.25.130:2183");
        // 第三步：需要设置DefaultCollection属性。
        solrServer.setDefaultCollection("collection3");
        // 第四步：创建一SolrInputDocument对象。
        SolrInputDocument document = new SolrInputDocument();
        // 第五步：向文档对象中添加域
        document.addField("item_title", "测试商品");
        document.addField("item_price", "100");
        document.addField("id", "test001");
        // 第六步：把文档对象写入索引库。
        solrServer.add(document);
        // 第七步：提交。
        solrServer.commit();
    }

3 查询文档

//集群版查询文档
    @Test
    public void testSolrCloudQueryDocument() throws Exception {
        //创建一个CloudSolrServer对象
        CloudSolrServer cloudSolrServer = new CloudSolrServer("192.168.25.130:2181,192.168.25.130:2182,192.168.25.130:2183");
        //设置默认的Collection
        cloudSolrServer.setDefaultCollection("collection3");
        //创建一个查询对象
        SolrQuery query = new SolrQuery();
        //设置查询条件
        query.set("q", "*:*"); //*:*查询所有
        //query.setQuery("*:*");
        //执行查询
        QueryResponse queryResponse = cloudSolrServer.query(query);
        //取查询结果
        SolrDocumentList solrDocumentList = queryResponse.getResults();
        System.out.println("总共查询到"+solrDocumentList.getNumFound()+"条记录");
        //遍历结果，打印
        for (SolrDocument solrDocument : solrDocumentList) {
            System.out.println(solrDocument.get("id"));
            System.out.println(solrDocument.get("item_title"));
            System.out.println(solrDocument.get("item_price"));
        }
        
    }

10 单机版和集群版solr的applicationContext.xml配置文件

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:context="http://www.springframework.org/schema/context" 
       xmlns:p="http://www.springframework.org/schema/p"
       xmlns:aop="http://www.springframework.org/schema/aop" 
       xmlns:tx="http://www.springframework.org/schema/tx"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
       xsi:schemaLocation="http://www.springframework.org/schema/beans 
                           http://www.springframework.org/schema/beans/spring-beans-4.2.xsd
                           http://www.springframework.org/schema/context 
                           http://www.springframework.org/schema/context/spring-context-4.2.xsd
                           http://www.springframework.org/schema/aop 
                           http://www.springframework.org/schema/aop/spring-aop-4.2.xsd 
                           http://www.springframework.org/schema/tx 
                           http://www.springframework.org/schema/tx/spring-tx-4.2.xsd
                           http://www.springframework.org/schema/util 
                           http://www.springframework.org/schema/util/spring-util-4.2.xsd">

    <!-- 单机版solr服务配置 -->
    <!-- <bean id="httpSolrServer" class="org.apache.solr.client.solrj.impl.HttpSolrServer">
         <constructor-arg index="0" value="http://47.93.53.127:18080/solr/collection1"></constructor-arg>
    </bean> -->
    
    <!-- 集群版solr服务 -->
    <bean id="cloudSolrServer" class="org.apache.solr.client.solrj.impl.CloudSolrServer">
        <constructor-arg name="zkHost" value="192.168.25.130:2181,192.168.25.130:2182,192.168.25.130:2183"></constructor-arg>    
        <property name="defaultCollection" value="collection2"></property>
    </bean>
</beans>

 通过上面的配置文件可以很方便的在单机版和集群版之间切换。