tomcat集群

 

概述

Tomcat是J2EE开发当中使用最多的应用服务器，本章就来介绍一下使用Apache2应用服务器加上Tomcat6一起实现应用集群与负载均衡。这里我们使用的Tomcat为7.0.26；Apache版本为2.2，如果您机器上没有，请到www.apache.org上下载，Tomcat7.0.26有两个，我们这里称之为tomcat1和tomcat2,下文中如果没特指tomcat1还是tomcat2，那么tomcat1和tomcat2都要进行操作,apache2.2只有一个。所以都准备好之后，接下来我们就来看看如何进行配置。

配置Tomcat集群

打开tomcat下conf/server.xml文件，找到<Engine name="Catalina" defaultHost="localhost">，增加jvmRoute属性，以支持AJP负载均衡。
tomcat1改为<Engine name="Catalina" defaultHost="localhost" jvmRoute="jvm1">
tomcat2改为<Engine name="Catalina" defaultHost="localhost" jvmRoute="jvm2">
因为我们的两个Tomcat在是一台机器上运行，所以我们有必要修改其中一个Tomcat采用端口，以保证两个同时运行时不会产生冲突(当然，如果两个tomcat不在一台机器上运行，那么这个步骤就可以省略)。我们这里修改的是tomcat2,打开tomcat2下conf/server.xml文件，修改如下：

<Server port="8005"shutdown="SHUTDOWN">

修改为

<Server port="9005"shutdown="SHUTDOWN">

<Connector port="8080"protocol="HTTP/1.1" connectionTimeout="20000"redirectPort="8443"/>

修改为

<Connector port="9080"protocol="HTTP/1.1"    connectionTimeout="20000" redirectPort="9443"/>。

<Connector port="8009"protocol="AJP/1.3"redirectPort="8443"/>

修改为

<Connector port="9009"protocol="AJP/1.3"redirectPort="9443"/>

端口修改完成，我们需要来配置一个集群环境中的session复制，打开tomcat下conf/server.xml文件，在<Engine></Engine>节点内加入下面代码：

  <Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"

                 channelSendOptions="6">

 

          <Manager className="org.apache.catalina.ha.session.BackupManager"

                   expireSessionsOnShutdown="false"

                   notifyListenersOnReplication="true"

                   mapSendOptions="6"/>

          <!--

          <Manager className="org.apache.catalina.ha.session.DeltaManager"

                   expireSessionsOnShutdown="false"

                   notifyListenersOnReplication="true"/>

          -->

          <Channel className="org.apache.catalina.tribes.group.GroupChannel">

            <Membership className="org.apache.catalina.tribes.membership.McastService"

                        address="228.0.0.4"

                        port="45564"

                        frequency="500"

                        dropTime="3000"/>

            <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"

                      address="auto"

                      port="5000"

                      selectorTimeout="100"

                      maxThreads="6"/>

 

            <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">

              <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>

            </Sender>

            <Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>

            <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>

            <Interceptor className="org.apache.catalina.tribes.group.interceptors.ThroughputInterceptor"/>

          </Channel>

 

          <Valve className="org.apache.catalina.ha.tcp.ReplicationValve"

                 filter=".*.gif|.*.js|.*.jpeg|.*.jpg|.*.png|.*.htm|.*.html|.*.css|.*.txt"/>

 

          <Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"

                    tempDir="/tmp/war-temp/"

                    deployDir="/tmp/war-deploy/"

                    watchDir="/tmp/war-listen/"

                    watchEnabled="false"/>

 

          <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>

</Cluster>

其中同台机器上的TCP端口不能有冲突，所以在上面的配置当中，对于Tomcat2需要修改节点Culster->Channel->Reciver的port属性，默认为5000,tomcat识别的范围为4000-4100,这里把tomcat2的这个port属性修改为4001。

这些配置都完成后，接下来我们就可以在这两个Tomcat当中添加一个简单应用来实际测试一下集群效果。

测试Tomcat集群

在tomcat/webapps下，新建一文件夹为test，test文件夹下创建WEB-INF目录，创建标准web.xml文件，文件中一定要加入<distributable/>标签以支持分布式应用。

web.xml文件内容如下：

<?xml version="1.0"encoding="ISO-8859-1"?> <web-app xmlns="<a href="http://java.sun.com/xml/ns/javaee" "="">http://java.sun.com/xml/ns/javaee"  xmlns:xsi="<a href="http://www.w3.org/2001/XMLSchema-instance" "="">http://www.w3.org/2001/XMLSchema-instance"  xsi:schemaLocation="http://java.sun.com/xml/ns/javaee                       <a href="http://java.sun.com/xml/ns/javaee/web-app_3_0.xsd" "="">http://java.sun.com/xml/ns/javaee/web-app_3_0.xsd"   version="3.0"   metadata-complete="true">

    <display-name>Welcome to Test Tomcat7 Cluster</display-name>  

    <description>Welcome to Test Tomcat7 Cluster</description>

    <distributable/>

</web-app>

在test文件夹下建立test.jsp文件，文件内容如下：

<%@ page contentType="text/html; charset=UTF-8"%>

<%@ page import="java.util.*"%>

<html><head><title>Cluster App Test</title></head>

<body>

Server Info:

<%

out.println(request.getLocalAddr() +" : " + request.getLocalPort()+"<br>");%>

<%

  out.println("<br> ID "+ session.getId()+"<br>");

  // 如果有新的 Session 属性设置

  String dataName = request.getParameter("dataName");

  if(dataName != null&& dataName.length() > 0) {

     String dataValue = request.getParameter("dataValue");

     session.setAttribute(dataName, dataValue);

  }

  out.println("<b>Session 列表</b><br>");

  System.out.println("============================");

  Enumeration e = session.getAttributeNames();

  while(e.hasMoreElements()) {

     String name = (String)e.nextElement();

     String value = session.getAttribute(name).toString();

     out.println( name +" = " + value+"<br>");

         System.out.println( name +" = " + value);

   }

%>

  <form action="index.jsp"method="POST">

    名称:<input type=text size=20name="dataName">

     <br>

    值:<input type=text size=20name="dataValue">

     <br>

    <input type=submit>

   </form>

</body>

</html>

这个简单的JSP可以把提交的值保存到Session当中，同时显示出来。

启动tomcat1,等tomcat1启动完成后，启动tomcat2。先访问tomcat1对应的test工程http://localhost:8080/test.jsp页面，输入值并提交，然后把链接转到tomcat2对应的test工程http://localhost:9080/test.jsp页面，看看session内容是否相同，如果相同则说明session复制成功，也就是群集成功。
接下来我们在这两个Tomcat前端添加一个Apache Http Server，所有访问请求通过这个Http Server进行转发，根据tomcat1或2的忙碌情况决定转发给tomcat1或者是tomcat2去处理用户请求。

Apache负载均衡

打开并修改apache安装目录下conf/httpd.conf文件，找到下面这些内容：

#LoadModule negotiation_module modules/mod_negotiation.so

#LoadModule proxy_module modules/mod_proxy.so

#LoadModule proxy_ajp_module modules/mod_proxy_ajp.so

#LoadModule proxy_balancer_module modules/mod_proxy_balancer.so

#LoadModule proxy_connect_module modules/mod_proxy_connect.so

#LoadModule proxy_ftp_module modules/mod_proxy_ftp.so

#LoadModule proxy_http_module modules/mod_proxy_http.so

去掉这些#，也就是启用这些被注释掉的功能，并且在文件的未尾处添加下面这些内容：

ProxyPass / balancer://cluster/ stickysession=JSESSIONID

 

ProxyPassReverse / balancer://cluster/

<proxy balancer://cluster>

          BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=jvm1

          BalancerMember ajp://127.0.0.1:9009 loadfactor=1 route=jvm2

</proxy>

重新启动apache,以apache作为负载均衡器的tomcat集群建立完成，所有请求都可以通过请求apache http server，通过这个http server转发到具体的tomcat服务器。

Tomcat集群和Session复制详解

Cluster

<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"

                 channelSendOptions="8">

Tomcat集群的主元素，在Cluster元素里面配置了集群的详细信息。目前Tomcat仅提供了org.apache.catalina.ha.tcp.SimpleTcpCluste作为唯一的实现类。下面是Cluster详细属性：

属性	描述
className	Cluste的实现类，当前org.apache.catalina.ha.tcp.SimpleTcpCluste作为唯一的实现类。
channelSendOptions	Session发送方式，默认值为:8。当消息通过SimpleTcpCluster发送时，用来决定如何发送信息。 int options= Channel.SEND_OPTIONS_ASYNCHRONOUS | Channel.SEND_OPTIONS_SYNCHRONIZED_ACK | Channel.SEND_OPTIONS_USE_ACK; Channel.SEND_OPTIONS_SYNCHRONIZED_ACK =0x0004 Channel.SEND_OPTIONS_ASYNCHRONOUS =0x0008 Channel.SEND_OPTIONS_USE_ACK =0x0002 如果使用异步(ASYNCHRONOUS)加应答(USE_ACK)方式来发送消息，那么值应该是10(8+2)或者0x000B。

Manager

<Manager className="org.apache.catalina.ha.session.DeltaManager"

                  expireSessionsOnShutdown="false"

                  notifyListenersOnReplication="true"/>

Manager用来在Tomcat节点之前复制Session，当前有两个实现类，分别为：org.apache.catalina.ha.session.DeltaManagert和org.apache.catalina.ha.session.BackupManager。DeltaManager调用SimpleTcpCluster.send方法来发送信息，复制并发送Session到集群下所有的节点，不管这个节点有没有部署当前程序。
BackupManager通过自己直接调用channel来发送信息，复制并发送Session到集群下部署了当前程序的节点。
DaltaManager的优点是经过实践确认和证明的，非常可靠，而BackupManager在可靠性上不如DaltaManager。DaltaManager缺点是要求集群节点必须部署了同样的程序，节点必须是同种类的。
下面是Manager的属性描述：

属性	描述
className	Manager的实现类。
notifyListenersOnReplication	如果设置为true,当session属性被复制和移动的时候，session listener被通知
expireSessionsOnShutdown	当一个web程序被结束时，tomcat分发销毁命令到每个Session，并通知所有session listener执行。当集群下某个节点被停止时，如果想销毁所有节点下的的Session，设置为true，默认为false 。

BackupManager属性：

属性	描述
mapSendOptions	BackupManager通过一个可复制的map来实现session接受和发送，通过设置mapSendOptions来设定这个map以何种方式来发送信息，默认为:6(asynchronous)。

Channel

<Channel className="org.apache.catalina.tribes.group.GroupChannel">

Channel是Apache Tribes的主组件，channel管理一组子组件，并和它们一起组成了tomcat实例间的通讯框架。在tomcat集群中，DeltaManager通过SimpleTcpCluster调用channel来实现信息传递，而BackupManager自己调用channel以及子组件这些组件来实现信息传递。ReplicatedContext也会调用channel传递context属性。
下面是channel子组件
*MemberShip
MemberShip组件自动检索发现集群里的新节点或已经停止工作的节点，并发出相应的通知。默认使用组播（Multicast）实现。
*Sender
Sender组件管理从一个节点发送到另外一个节点的出站连接和数据信息，允许信息并行发送。默认使用TCP Client Sockets。
*Receiver
Receiver组件负责监听接收其他节点传送过来的数据。默认使用non-blocking TCP Server sockets。
*Interceptor
Channel通过Interceptor堆栈进行消息传递，在这里可以自定义消息的发送和接收方式，甚至MemberShip的处理方式。

Value

<Valve className="org.apache.catalina.ha.tcp.ReplicationValve"filter=" .*.gif;.*.js;.*.jpg;.*.png;.*.css;.*.txt; "/>

<Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>

Cluster下的Value同其他tomcat value一样，value在调用Http Request 链中起着拦截器的作用，用来决定什么情况下数据需要被复制。
org.apache.catalina.ha.tcp.ReplicationValve，ReplicationValue在Http Request结尾判断当前数据是否需要被复制。它的具体属性描述如下表所示：

属性	描述
className	org.apache.catalina.ha.tcp.ReplicationValve，ReplicationValue
filter	Filter内容为url或者文件结尾，当访问链接配置filter时，不论实际session有没有改变，集群会认为session没有任何变化，从而不会复制和发送改变的session属性。Filter写法如下：filter=" ..gif;..js;..jpg;..png;..css;..txt; "。filter使用正则表达式，每个url或者后缀以逗号分开。

Deployer

使集群支持farmed deployment。这个功能还很弱，在变化和更改中。

ClusterListener

<ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>

<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/></Cluster>

Clusterlistener用来追踪信息发送和接收。JvmRouteSessionIDBinderListener用来监听session id的变化。这个listener仅当使用mod_jk并且属性有jvmRoute时才起作用。当session id 改变后，JvmRouteBinderValve将广播这个信息并被此listener捕获。ClusterSessionListener用来监听集群组件接收信息，当使用DeltaManager的时候，信息被集群接收，并通过ClusterSessionListener传递给Session Manager。

Apache负载均衡详解

ProxyPass / balancer://cluster/ stickysession=JSESSIONID

 

ProxyPassReverse / balancer://cluster/

<proxy balancer://cluster>

          BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=jvm1

          BalancerMember ajp://127.0.0.1:9009 loadfactor=1 route=jvm2

</proxy>

通过Apache自带的mod_proxy某块来使用代理技术连接tomcat， ajp_proxy需要tomcat提供ajp服务。