Tomcat调优

由于Tomcat的运行依赖于JVM，从虚拟机的角度我们把Tomcat的调整分为外部环境调优和自身调优两类来描述。

 

一外部调优 整Tomcat运行环境的操作系统参数和运行Tomcat的java虚拟机参数

虚拟机可通过命令行的方式改变虚拟机使用内存的大小。如下表所示有两个参数用来设置虚拟机使用内存的大小。

参数	描述
-Xms<size>	JVM初始化堆的大小
-Xmx<size>	JVM堆的最大值

JAVA_OPTS=‘-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】‘

如果堆的空间很大，那么完全垃圾收集（FULL GC）就会很慢，但是频度会降低。如果在客户系统中把堆的大小和内存的需要一致，完全收集就很快，但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间，以在特定的时间内最大化处理客户的请求。对于SUN和HP等虚拟机，推荐将最小堆大小和最大堆大小设置为同一值，因为这样可以避免浪费用于时常调整堆大小所需的 VM 资源。

 

二 内部调优

 

1禁用DNS查询

当web应用程序要记录客户端的信息时，它也会记录客户端的IP地址或者通过域名服务器查找机器名转换为IP地址。DNS查询需要占用网络，并且包括可能从很多很远的服务器或者不起作用的服务器上去获取对应的IP的过程，这样会消耗一定的时间。为了消除DNS查询对性能的影响我们可以关闭DNS查询，方式是修改server.xml 文件中的enableLookups参数值：

 

不同的tomcat版本稍有不同。

 

 

Tomcat4

 

 

<Connector className=“org.apache.coyote.tomcat4.CoyoteConnector”port=“80” minProcessors=“5” maxProcessors=“75” enableLookups=“false” redirectPort=“8443” acceptCount=“100” debug=“0” connectionTimeout=“20000” useURIValidationHack=“false” disableUploadTimeout=“true” />

 

 

 

 

 

 

 

Tomcat5

 

<Connector port=“80” maxThreads=“150” minSpareThreads=“25” maxSpareThreads=“75” enableLookups=“false” redirectPort=“8443” acceptCount=“100” debug=“0” connectionTimeout=“20000” disableUploadTimeout=“true”/>

 

 

2调整线程数

另外一个可通过应用程序的连接器（Connector）进行性能控制的参数是创建的处理请求的线程数。Tomcat使用线程池加速响应速度来处理请求。在Java中线程是程序运行时的路径，是在一个程序中与其它控制线程无关的、能够独立运行的代码段。它们共享相同的地址空间。多线程帮助程序员写出CPU最大利用率的高效程序，使空闲时间保持最低，从而接受更多的请求。

 

 

 

Tomcat4中可以通过修改minProcessors和maxProcessors的值来控制线程数。这些值在安装后就已经设定为默认值并且是足够使用的，但是随着站点的扩容而改大这些值。minProcessors服务器启动时创建的处理请求的线程数应该足够处理一个小量的负载。也就是说，如果一天内每秒仅发生5次单击事件，并且每个请求任务处理需要1秒钟，那么预先设置线程数为5就足够了。但在你的站点访问量较大时就需要设置更大的线程数，指定为参数maxProcessors的值。maxProcessors的值也是有上限的，应防止流量不可控制（或者恶意的服务攻击），从而导致超出了虚拟机使用内存的大小。如果要加大并发连接数，应同时加大这两个参数。web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。

 

 

 

在Tomcat5对这些参数进行了调整，请看下表：

 

属性名

 描述

 

maxThreads

 Tomcat使用线程来处理接收的每个请求。这个值表示Tomcat可创建的最大的线程数。

 

acceptCount

 指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理。

 

connnectionTimeout

 网络连接超时，单位：毫秒。设置为0表示永不超时，这样设置有隐患的。通常可设置为30000毫秒。

 

minSpareThreads

 Tomcat初始化时创建的线程数。

 

maxSpareThreads

 一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。

 3  加速JSP编译速度

当第一次访问一个JSP文件时，它会被转换为Java servlet源码，接着被编译成Java字节码。客户工程师可以控制使用哪个编译器，默认情况下，Tomcat使用命令行javac进行使用的编译器。也可以使用更快的编译器，这里将介绍如何优化它们。

 

    [LD4] 另外一种方法是不要把所有的实现都使用JSP页面，而是使用一些不同的java模板引擎变量。

 

     在Tomcat 4.0中可以使用流行而且免费的Jikes编译器。Jikes编译器的速度要高于Sun的Java编译器。首先要安装Jikes（可访问http://oss.software.ibm.com/pub/jikes 获得更多的信息），接着需要在环境变量中设置JIKESPATH包含系统运行时所需的JAR文件。装好Jikes以后还需要设置让JSP编译servlet使用Jikes，需要修改web.xml文件中jspCompilerPlugin的值：

 

<servlet>

 

<servlet-name>jsp</servlet-name>

 

<servlet-class>

 

org.apache.jasper.servlet.JspServlet

 

</servlet-class>

 

<init-param>

 

<param-name>logVerbosityLevel</param-name>

 

<param-value>WARNING</param-value>

 

</init-param>

 

<init-param>

 

<param-name>jspCompilerPlugin</param-name>

 

<param-value>org.apache.jasper.compiler.JikesJavaCompiler</param-value>

 

</init-param>

 

<init-param>

 

<!-- <param-name>org.apache.catalina.jsp_classpath</param-name> -->

 

<param-name>classpath</param-name>

 

<param-value>

 

/usr/local/jdk1.3.1-linux/jre/lib/rt.jar:

 

/usr/local/lib/java/servletapi/servlet.jar

 

</param-value>

 

</init-param>

 

<load-on-startup>3</load-on-startup>

 

</servlet>

 

 

 

在Tomcat 4.1（或更高版本），JSP的编译由包含在Tomcat里面的Ant程序控制器直接执行。客户开发人员需要在元素中定义一个名字叫”compiler”，并且在value中有一个支持编译的编译器名字，示例如下：

 

<servlet>

 

<servlet-name>jsp</servlet-name>

 

<servlet-class>

 

org.apache.jasper.servlet.JspServlet

 

</servlet-class>

 

<init-param>

 

<param-name>logVerbosityLevel</param-name>

 

<param-value>WARNING</param-value>

 

</init-param>

 

<init-param>

 

<param-name>compiler</param-name>

 

<param-value>jikes</param-value>

 

</init-param>

 

<load-on-startup>3</load-on-startup>

 

4 NIO 配置

NIO （No-blocking I/O）从JDK 1.4起，NIO API作为一个基于缓冲区，并能提供非阻塞I/O操作的API被引入[LD6] 。

 

       TOMCAT可以支持高并发的企业级应用。其中有个很大的原因就是，配置良好的tomcat都会使用APR(Apache Portable Runtime),APR是Apache HTTP Server2.x的核心，它是高度可移植的本地库，它使用高性能的UXIN I/O操作，低性能的java io操作，但是APR对客户开发人员而言可能稍稍有点难度，在很多OS平台上，可能需要重新编译APR。但是从Tomcat6.0以后, 客户开发人员很容易就可以用NIO的技术来提升tomcat的并发处理能力。但是为什么NIO可以提升tomcat的并发处理能力呢，我们先来看一下java 传统io与 java NIO的差别。

    Java 传统的IO操作都是阻塞式的(blocking I/O), 如果有socket的编程基础，你会接触过堵塞socket和非堵塞socket，堵塞socket就是在accept、read、write等IO操作的时候，如果没有可用符合条件的资源，不马上返回，一直等待直到有资源为止。而非堵塞socket则是在执行select的时候，当没有资源的时候堵塞，当有符合资源的时候，返回一个信号，然后程序就可以执行accept、read、write等操作，一般来说，如果使用堵塞socket，通常我们通常开一个线程accept socket，当读完这次socket请求的时候，开一个单独的线程处理这个socket请求；如果使用非堵塞socket，通常是只有一个线程，一开始是select状，当有信号的时候可以通过多路复用（Multiplexing)技术传递给一个指定的线程池来处理请求，然后原来的线程继续select状态。 最简单的多路复用技术可以通过java管道(Pipe)来实现。换句话说，如果客户端的并发请求很大的时候，客户系统可以使用少于客户端并发请求的线程数来处理这些请求，而这些来不及立即处理的请求会被阻塞在java管道或者队列里面，等待线程池的处理。

 

 

      在web服务器上阻塞IO(BIO)与NIO一个比较重要的不同是，客户系统使用BIO的时候往往会为每一个web请求引入多线程，每个web请求一个单独的线程，所以并发量一旦上去了，线程数就上去了，CPU就忙着线程切换，所以BIO不合适高吞吐量、高可伸缩的web服务器；而NIO则是使用单线程(单个CPU)或者只使用少量的多线程(多CPU)来接受Socket，而由线程池来处理堵塞在pipe或者队列里的请求.这样的话，只要OS可以接受TCP的连接，web服务器就可以处理该请求。大大提高了web服务器的可伸缩性。

 

   客户只需要在server.xml里把 HTTP Connector做如下更改，

 

    <Connector port="8080" protocol="HTTP/1.1"

connectionTimeout="20000"

       redirectPort="8443" />

    改为

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"

               connectionTimeout="20000"

               redirectPort="8443" />

 

然后启动服务器，如果出现org.apache.coyote.http11.Http11NioProtocol start的提示信息，表示NIO已经启动。其他的配置请参考官方配置文档

 

三  负载均衡

在负载均衡的思路下，多台服务器为对等方式，每台服务器都具有同等的地位，可以单独对外提供服务而无须其他服务器的辅助。通过负载分担技术，将外部发送来的请求按一定规则分配到对称结构中的某一台服务器上，而接收到请求的服务器都独立回应客户机的请求。

 

提供服务的一组服务器组成了一个应用服务器集群(cluster)，集群下的对等多机环境可以增加系统的并发处理能力，和单台机器出现故障系统的错误冗余能力；同时实现了负载均衡和系统高可靠性。

 

四种实现负载均衡的方式：

 

第一是通过DNS，但只能实现简单的轮流分配，不能处理故障；

 

第二如果是基于MS IIS，Windows 2003 server本身就带了负载均衡服务；

 

第三是硬件方式，通过交换机的功能或专门的负载均衡设备可以实现；

 

第四种是软件方式，通过一台负载均衡服务器进行，上面安装软件。使用Apache Httpd Server做负载平衡器。

 

客户系统一般采用Apache httpd作为web服务器，即作为Tomcat的前端处理器，根据具体情况而定，有些情况下是不需要Apache httpd作为 web 服务器的，如系统展现没有静态页面那就不需要Apache httpd，那时可以直接使用Tomcat作为web 服务器来使用。使用Apache httpd主要是它在处理静态页面方面的能力比Tomcat强多了。如下图：

 

 

 

 

 

 

 

3.1.1        配置负载均衡器

在apache下配置负载均衡器分为三步，注意每次修改httpd.conf和workers2.properties时不要忘了重新启动apache。

 

第一步，安装和调试apache

 

负载均衡器jk2模块是apache www 服务的插件，所以配置负载均衡器就得先安装apache。假设客户下载的是windows版本 2.0.43，执行setup.exe并回答一些简单问题就可完成apache的任务。值得注意的是，安装并启动apache后如果apache对http://localhost/ 地址没反应，你得修改apache安装路径下htdocs目录下的index.html.xx文件，比如把index.html.en改成index.html。

 

第二步，安装jk2

 

把下载到的 mod_jk2-2.0.43.dll改成mod_jk2.dll 放到apache的modules目录下，修改apache的httpd.conf，即在LoadModule foo_module modules/mod_foo.so 行下插入mod_jk2模块的装载信息[LD7] ：

 

          # Example:         # LoadModule foo_module modules/mod_foo.so         #            LoadModule jk2_module modules/mod_jk2.dll                                                    

 

 

 

 

第三步，配置jk2

 

jk2的配置全在一个配置文件中，文件名为workers2.properties，和apache 的httpd.conf放在同一个目录下。以下是这个文件的内容：

 

   #++++++++++++++++++++++++++++++++++++# only at beginnin. In production uncomment it out[logger.apache2]level=DEBUG#shm必须配[shm]file=D:/Program Files/Apache Group/Apache2/logs/shm.filesize=1048576# 第一个tomcat 的地址# Example socket channel, override port and host.[channel.socket:tomcat1]port=11009host=127.0.0.1# 定义第一个工作者指向第一个tomcat# define the worker[ajp13:tomcat1]channel=channel.socket:tomcat1#第二个tomcat 得地址# Example socket channel, override port and host.[channel.socket:tomcat2]port=12009host=10.1.36.123# 定义第二个工作者指向第二个tomcat# define the worker[ajp13:tomcat2]channel=channel.socket:tomcat2#定义负载均衡器，使其包含两个工作者[lb:lb1]worker=ajp13:tomcat2worker=ajp13:tomcat1#指定负载均衡器完成单一地址映射，使得apache 服务所在的uri全部指向 两个tomcat 上的 root# Uri mapping[uri:/*]group=lb:lb1#++++++++++++++++++++++++++++++++++++++++++                                                    

 

 

 

 

 

 

 

 

3.1.2        配置tomcat

同属于一个集群下的两个服务实体，要求功能的同一性，所以我们可先安装和配置第一个tomcat，接着拷贝形成第二个tomcat，最后配置第二个tomcat。

 

 

 

安装tomcat 非常简单，本文就不再描述。我们假设第一个tomcat的安装路径为d:/tomcat1。

 

 

 

配置第一个tomcat：

 

tomcat 中的jk2 connector缺省端口为8009，为了在一台机器上运行两个tomcat，修改D:/Tomcat1/conf/jk2.properties，设置jk2 connector的端口为11009，整个文件内容如下：

 

 

 

              #++++++++++++++

 

                                                channelSocket.port=11009

 

                #++++++++++++++

 

                                               

 

 

 

 

 

为了让一台机器上运行两个tomcat，修改server.conf的tomcat 停止指令监听端口：

 

 

 

     <Server port="8005" shutdown="SHUTDOWN" debug="0"> 改为

 

     <Server port="11005" shutdown="SHUTDOWN" debug="0">

 

                                               

 

 

 

然后打开JK2 AJP connector ，关闭其它connector，下面是JK2 AJP 1.3的样子，这里已把它的端口改为11009：

 

 

 

     <!-- Define a Coyote/JK2 AJP 1.3 Connector on port 8009 -->

 

     <Connector className="org.apache.coyote.tomcat4.CoyoteConnector"

 

     port="11009" minProcessors="5" maxProcessors="75"

 

     enableLookups="true" redirectPort="8443"

 

     acceptCount="10" debug="0" connectionTimeout="20000"

 

     useURIValidationHack="false"

 

                                         protocolHandlerClassName="org.apache.jk.server.JkCoyoteHandler"/>

 

 

 

 

 

接着配置需要集群支持的webapp（比如examples） 的context，添加如下manager：

 

 

 

<Manager

 

className="org.apache.catalina.session.InMemoryReplicationManager"

 

                                                protocolStack="UDP(mcast_addr=228.1.2.3;mcast_port=45566;ip_ttl=32)

 

:PING(timeout=3000;

 

                                                num_initial_members=6):FD(timeout=5000):VERIFY_SUSPECT(timeout=1500):

 

                                                pbcast.STABLE(desired_avg_gossip=10000):pbcast.NAKACK(gc_lag=10;

 

                                                retransmit_timeout=3000):UNICAST(timeout=5000;min_wait_time=2000):

 

                                                MERGE2:FRAG:pbcast.GMS(join_timeout=5000;join_retry_timeout=2000;

 

                                                shun=false;print_local_addr=false)">

 

                                                </Manager>

 

 

 

 

 

注意protocolStack的值必须在一行内写完。

 

配置第二个tomcat：

 

把已经配好的第一个tomcat复制一份，形成第二个tomcat，假设路径为d:/tomcat2。

 

修改D:/Tomcat2/conf/jk2.properties，设置jk2 connector的端口12009，整个文件内容如下：

 

                                                #++++++++++++++

 

channelSocket.port=12009

 

                                                #++++++++++++++

 

 

 

修改server.conf

 

有了第一个tomcat的配置我们只需修改server.conf的tomcat 停止指令监听端口：

 

<Server port="11005" shutdown="SHUTDOWN" debug="0"> 改为

 

<Server port="12005" shutdown="SHUTDOWN" debug="0">

 

 

 

 

 

 

 

然后设置JK2 AJP connector 端口为12009。

 

 

 

本文来自CSDN博客，转载请标明出处：http://blog.csdn.net/woohooli/archive/2009/03/04/3954792.aspx。