Tomcat-8 性能监控及调优

一、下载地址

https://tomcat.apache.org/download-80.cgi

二、安装步骤

将安装包 apache-tomcat-8.5.39.tar.gz 上传至服务器 /usr/local 目录下，再执行如下步骤：

[root@admin local]# cd /usr/local
[root@admin local]# tar -zxvf apache-tomcat-8.5.39.tar.gz          // 解压压缩包 
[root@admin local]# mv apache-tomcat-8.5.39  tomcat-8.5.39         // 重命名tomcat目录

启动tomcat（JDK已经安装好并配置了环境变量）：

[root@admin local]# cd ./tomcat-8.5.39/bin
[root@admin bin]# ./startup.sh   // 启动tomcat

启动成功，如下图：

三、监控

通过以下网址打开tomcat管理页面，默认端口为8080（如果不能打开则关闭服务器防火墙或者开放8080端口）

右侧的 Server Status  Manager APP 和 Host Manager代表tomcat的管理页面，想要进入这三个页面首先需要配置服务器上tomcat安装目录下的conf/tomcat-users.xml文件，如果不做配置则会返回403页面，如下：

在conf/tomcat-users.xml添加如下配置，再重启tomcat

<role rolename="admin"/>
<role rolename="admin-gui"/>
<role rolename="admin-script"/>
<role rolename="manager-gui"/>
<role rolename="manager-script"/>
<role rolename="manager-jmx"/>
<role rolename="manager-status"/>
<user username="admin" password="admin" roles="admin,admin-gui,admin-script,manager-gui,manager-script,manager-jmx,manager-status"/>

Tomcat8如果在上面配置的基础上，访问时会报403错误，所以需要修改conf/Catalina/localhost/manager.xml 文件（如果没有的话新建）。 配置内容如下：

<Context privileged="true" antiResourceLocking="false"
         docBase="${catalina.home}/webapps/manager">
    <Valve className="org.apache.catalina.valves.RemoteAddrValve" allow="^.*$" />
</Context>

再次重启tomcat后，就能进入Server Status  Manager APP 和 Host Manager这三个页面了。

Server Status

Status-JVM

• Free memory：剩余内存；
• Total menory：总内存；
• Max menory：最大内存；

Status-HTTP

•     Max threads：最大线程数；
•     Current thread count：当前线程数；
•     Current thread busy：当前忙碌线程数；
•     Max processing time：最大处理时间；
•     ms Processing time：最短处理时间；
•     Request count：请求数；
•     Error count：错误数；
•     Bytes received：接受字节；
•     Bytes sent：发送字节；

Manager APP

该页面用来管理Web项目，部署在Tomcat下的项目可以通过该页面来管理，如下：

Host Manager

该页面用于管理主机 

四、调优

1、Tomcat的运行模式有三种：

BIO

性能比较低下，没有经过任何优化处理和支持。一个线程处理一个请求。缺点：并发量高时，线程数较多，浪费资源。Tomcat7或以下，在Linux系统中默认使用这种方式。

NIO

nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。

利用Java的异步IO处理，可以通过少量的线程处理大量的请求。

Tomcat8在Linux系统中默认使用这种方式。

Tomcat7必须修改Connector配置来启动：

 <Connector port="8080"protocol="org.apache.coyote.http11.Http11NioProtocol"
        connectionTimeout="20000" redirectPort="8443"/>

APR

安装起来最困难，但是从操作系统级别来解决异步的IO问题，能够大幅度的提高性能。即Apache PortableRuntime，从操作系统层面解决IO阻塞问题。

Tomcat7或Tomcat8在Win7或以上的系统中启动默认使用这种方式。

Linux如果安装了apr和native，Tomcat直接启动就支持apr。

具体安装办法 参见这个地址：https://my.oschina.net/lsw90/blog/181161

Tomcat启动的时候，可以通过log看到Connector使用的是哪一种运行模式：

StartingProtocolHandler ["http-bio-8080"]

StartingProtocolHandler ["http-nio-8080"]

StartingProtocolHandler ["http-apr-8080"]

Tomcat7及以下版本启动启动NIO模式：

修改server.xml里的Connector节点,修改protocol为：org.apache.coyote.http11.Http11NioProtocol，如下：

修改前：

修改后：

为什么它不直接改成NIO的形式呢？

这个方式是利用了jdk 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)为桥梁实现的，不改成这种优化方式就是为了兼容1.4之前的JAVA项目也能跑起来。

2、线程池（执行器）

Connector节点：

官方文档：https://tomcat.apache.org/tomcat-8.5-doc/config/http.html

默认的tomcat没有启用线程池，在tomcat中每一个用户请求都是一个线程，所以可以使用线程池提高性能。这里前台其实有一个调度线程，然后调度线程会放入线程池内，然后到到一定的时候线程池的任务变成工作线程。

开启线程池：

maxThreads配置为500，但显示为-1，查询官方文档发现：

意思是该属性配置处理并发请求的最大线程数，如果不配置默认值是200。 如果配置了executor属性，这个属性会被忽略。注意斜体部分提到：如果executor设置了值，使用JMX查看的时候这个值会是-1，这是正常的。

详细参数解释如下：

将原有的Executor标签内容替换成如下内容
<Executor name="tomcatThreadPool" --线程池名
     namePrefix="catalina-exec-"
     maxThreads="500"
     minSpareThreads="30"
     maxIdleTime="60000"
     prestartminSpareThreads = "true"
     maxQueueSize = "100"/>


maxThreads：最大并发数，默认设置 200，一般建议在 500 ~ 800，根据硬件设施和业务来判断
minSpareThreads：Tomcat 初始化时创建的线程数，默认设置 25
maxIdleTime：如果当前线程大于初始化线程，那空闲线程存活的时间，单位毫秒，默认60000=60秒=1分钟。
prestartminSpareThreads：在 Tomcat 初始化的时候就初始化 minSpareThreads 的参数值，如果不等于 true，minSpareThreads 的值就没啥效果了
maxQueueSize：最大的等待队列数，超过则拒绝请求

将原有的Connector标签内容替换成如下内容
<Connector executor="tomcatThreadPool"
     port="8080"
     protocol="org.apache.coyote.http11.Http11AprProtocol"
     connectionTimeout="60000"
     maxConnections="10000"
     redirectPort="8443"
     enableLookups="false"
     acceptCount="100"
     maxPostSize="10485760"
     maxHttpHeaderSize="8192"
     compression="on"
     disableUploadTimeout="true"
     compressionMinSize="2048"
     acceptorThreadCount="2"
     compressableMimeType="text/html,text/plain,text/css,application/javascript,application/json,application/x-font-ttf,application/x-font-otf,image/svg+xml,image/jpeg,image/png,image/gif,audio/mpeg,video/mp4"
     URIEncoding="utf-8"
     processorCache="20000"
     tcpNoDelay="true"
     connectionLinger="5"
     server="Server Version 11.0"/>

替换后访问速度肯定会比以前快

protocol：Tomcat 8 设置 nio2 更好：org.apache.coyote.http11.Http11Nio2Protocol
protocol：Tomcat 6 设置 nio 更好：org.apache.coyote.http11.Http11NioProtocol
protocol：Tomcat 8 设置 APR 性能飞快：org.apache.coyote.http11.Http11AprProtocol

connectionTimeout：Connector接受一个连接后等待的时间(milliseconds)，默认值是60000。
maxConnections：这个值表示最多可以有多少个socket连接到tomcat上
enableLookups：禁用DNS查询
acceptCount：当tomcat起动的线程数达到最大时，接受排队的请求个数，默认值为100。
maxPostSize：设置由容器解析的URL参数的最大长度，-1(小于0)为禁用这个属性，默认为2097152(2M) 请注意， FailedRequestFilter 过滤器可以用来拒绝达到了极限值的请求。
maxHttpHeaderSize：http请求头信息的最大程度，超过此长度的部分不予处理。一般8K。
compression：是否启用GZIP压缩 on为启用（文本数据压缩） off为不启用， force 压缩所有数据
disableUploadTimeout：这个标志允许servlet容器使用一个不同的,通常长在数据上传连接超时。 如果不指定,这个属性被设置为true,表示禁用该时间超时。
compressionMinSize：当超过最小数据大小才进行压缩
acceptorThreadCount：用于接受连接的线程数量。增加这个值在多CPU的机器上,尽管你永远不会真正需要超过2。 也有很多非维持连接,您可能希望增加这个值。默认值是1。
compressableMimeType：配置想压缩的数据类型
URIEncoding：网站一般采用UTF-8作为默认编码。
processorCache：协议处理器缓存的处理器对象来提高性能。 该设置决定多少这些对象的缓存。-1意味着无限的,默认是200。 如果不使用Servlet 3.0异步处理,默认是使用一样的maxThreads设置。 如果使用Servlet 3.0异步处理,默认是使用大maxThreads和预期的并发请求的最大数量(同步和异步)。
tcpNoDelay：如果设置为true,TCP_NO_DELAY选项将被设置在服务器套接字,而在大多数情况下提高性能。这是默认设置为true。
connectionLinger：秒数在这个连接器将持续使用的套接字时关闭。默认值是 -1,禁用socket 延迟时间。
server：隐藏Tomcat版本信息，首先隐藏HTTP头中的版本信息

Executor节点：

官方文档：https://tomcat.apache.org/tomcat-8.5-doc/config/executor.html

五、AJP协议

Tomcat最主要的功能是提供Servlet/JSP容器，尽管它也可以作为独立的Java Web服务器，但它对静态资源（如HTML文件或图像文件）的处理速度，以及提供的Web服务器管理功能方面都不如其他专业的HTTP服务器，如IIS和Apache服务器。因此在实际应用中，常常把Tomcat与其他HTTP服务器集成。对于不支持Servlet/JSP的HTTP服务器，可以通过Tomcat服务器来运行Servlet/JSP组件。

Tomcat服务器通过Connector连接器组件与客户程序建立连接，Connector组件负责接收客户的请求，以及把Tomcat服务器的响应结果发送给客户。默认情况下，Tomcat在server.xml中配置了两种连接器：

• 第一个连接器监听8080端口，负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时，使用的就是这个连接器。
• 第二个连接器监听8009端口，负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时，就需要用到这个连接器。

在实际应用中，如果网站的访问量非常大，为了提高访问速度，可以将多个Tomcat服务器与Apache集成，让它们共同分担运行Servlet/JSP组件的任务。 JK插件的loadbalancer（负载平衡器）负责根据在workers.properties文件中预先配置的lbfactor（负载平衡因数）为这些Tomcat服务器分配工作负荷，实现负载平衡。那么，Apache和Tomcat结合的时候，会有如下现象：

• Apache会拦截所有请求，将servlet和JSP（.jsp结尾）请求通过AJP交给Tomcat处理，然后再把结果拿到Apache然后返回；
• Apache将静态资源的访问，（类似html/css/jpg等类型的文件）自己直接处理不交给Tomcat，直接返回；
• Apache和Tomcat结合之后，Tomcat的HTTP Connector永远不会被用到了，而是用AJP Connector；