【Tomcat】性能优化

jqkyp

　　一、JVM优化
　　1、内存优化。
　　2、垃圾回收策略优化。
　　二、server.xml的connector优化（connector是与HTTP请求处理相关的容器，三个容器的初始化顺序为：Server->Service->Connector）
　　（1）指定使用NIO模型来接受HTTP请求
　　（2）http connector的优化，指定处理线程数目
　　（3）线程池
　　（4）其他常规设置
　　三、设置session过期时间
　　四、apr插件提高tomcat性能
　　五、集群
　　六、问题定位

一、JVM优化
　　linux修改TOMCAT_HOME/bin/catalina.sh，在前面加入
　　

JAVA_OPTS="-XX:PermSize=64M -XX:MaxPermSize=128m -Xms512m -Xmx1024m -Duser.timezone=Asia/Shanghai"　　

　　windows修改TOMCAT_HOME/bin/catalina.bat，在前面加入
　　

set JAVA_OPTS=-XX:PermSize=64M -XX:MaxPermSize=128m -Xms512m -Xmx1024m　　

　　1.内存调优
　　内存方式的设置是在catalina.sh中，调整一下JAVA_OPTS变量即可，因为后面的启动参数会把JAVA_OPTS作为JVM的启动参数来处理。
　　具体设置如下：
　　JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4"
　　其各项参数如下：

　　-Xmx3550m：设置JVM最大可用内存为3550M。 Heap>　　-Xms3550m：设置JVM促使内存为3550m。此值可以设置与-Xmx相同，以避免每次垃圾回收完成后JVM重新分配内存。
　　-Xmn2g：设置年轻代大小为2G。整个堆大小=年轻代大小 + 年老代大小 + 持久代大小。持久代一般固定大小为64m，所以增大年轻代后，将会减小年老代大小。此值对系统性能影响较大，Sun官方推荐配置为整个堆的3/8。
　　-Xss128k：设置每个线程的堆栈大小。JDK5.0以后每个线程堆栈大小为1M，以前每个线程堆栈大小为256K。更具应用的线程所需内存大小进行调整。在相同物理内存下，减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的，不能无限生成，经验值在3000~5000左右。
　　-XX:NewRatio=4:设置年轻代（包括Eden和两个Survivor区）与年老代的比值（除去持久代）。设置为4，则年轻代与年老代所占比值为1：4，年轻代占整个堆栈的1/5
　　-XX:SurvivorRatio=4：设置年轻代中Eden区与Survivor区的大小比值。设置为4，则两个Survivor区与一个Eden区的比值为2:4，一个Survivor区占整个年轻代的1/6
　　-XX:MaxPermSize=16m:设置持久代大小为16m。
　　-XX:MaxTenuringThreshold=0：设置垃圾最大年龄。如果设置为0的话，则年轻代对象不经过Survivor区，直接进入年老代。对于年老代比较多的应用，可以提高效率。如果将此值设置为一个较大值，则年轻代对象会在Survivor区进行多次复制，这样可以增加对象再年轻代的存活时间，增加在年轻代即被回收的概论。
　　2.垃圾回收策略调优
　　垃圾回收的设置也是在catalina.sh中，调整JAVA_OPTS变量。
　　具体设置如下：
　　JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:+UseParallelGC  -XX:MaxGCPauseMillis=100"
　　具体的垃圾回收策略及相应策略的各项参数如下：
　　串行收集器（JDK1.5以前主要的回收方式）
　　-XX:+UseSerialGC:设置串行收集器
　　并行收集器（吞吐量优先）
　　java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC  -XX:MaxGCPauseMillis=100
　　-XX:+UseParallelGC：选择垃圾收集器为并行收集器。此配置仅对年轻代有效。即上述配置下，年轻代使用并发收集，而年老代仍旧使用串行收集。
　　-XX:ParallelGCThreads=20：配置并行收集器的线程数，即：同时多少个线程一起进行垃圾回收。此值最好配置与处理器数目相等。
　　-XX:+UseParallelOldGC：配置年老代垃圾收集方式为并行收集。JDK6.0支持对年老代并行收集
　　-XX:MaxGCPauseMillis=100:设置每次年轻代垃圾回收的最长时间，如果无法满足此时间，JVM会自动调整年轻代大小，以满足此值。
　　-XX:+UseAdaptiveSizePolicy：设置此选项后，并行收集器会自动选择年轻代区大小和相应的Survivor区比例，以达到目标系统规定的最低相应时间或者收集频率等，此值建议使用并行收集器时，一直打开。
　　并发收集器（响应时间优先）
　　示例：java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC
　　-XX:+UseConcMarkSweepGC：设置年老代为并发收集。测试中配置这个以后，-XX:NewRatio=4的配置失效了，原因不明。所以，此时年轻代大小最好用-Xmn设置。
　　-XX:+UseParNewGC: 设置年轻代为并行收集。可与CMS收集同时使用。JDK5.0以上，JVM会根据系统配置自行设置，所以无需再设置此值。
　　-XX:CMSFullGCsBeforeCompaction：由于并发收集器不对内存空间进行压缩、整理，所以运行一段时间以后会产生“碎片”，使得运行效率降低。此值设置运行多少次GC以后对内存空间进行压缩、整理。
　　-XX:+UseCMSCompactAtFullCollection：打开对年老代的压缩。可能会影响性能，但是可以消除碎片
　　3.小结
　　在内存设置中需要做一下权衡
　　1)内存越大，一般情况下处理的效率也越高，但同时在做垃圾回收的时候所需要的时间也就越长，在这段时间内的处理效率是必然要受影响的。
　　2)在大多数的网络文章中都推荐 Xmx和Xms设置为一致，说是避免频繁的回收，这个在测试的时候没有看到明显的效果，内存的占用情况基本都是锯齿状的效果，所以这个还要根据实际情况来定。

二、Server.xml的Connection优化

提高Tomcat的并发能力一些方法
　　1、Apache + Tomcat 结合起来用Apache 负责静态页面，Tomcat负责动态页面，同时减少connectionTimeout的时间，以应对并发量大线程回收来不及的情况。
　　2、压力过大的问题，可以做负载均衡，一个TOMCAT无论如何也不可能担当如此多的线程负载，而且JVM过大，其内存管理成本将显著加大。2G的内存，做3-4个TOMCAT实例（512RAM*4），更为科学合理。
　　3、数据库连接池，不少人，都推荐使用C3P0，能提高访问数据库的并发性能好几倍。（有博文称使用tomcat自带的jdbc-pool更好，还没试过）
　　4、采用Tomcat集群可以最大程度的发挥服务器的性能，可以在配置较高的服务器上部署多个Tomcat，也可以在多台服务器上分别部署 Tomcat，Apache和Tomcat整合的方式还是JK方式。经过验证，系统对大用户量使用的响应方面，Apache+3Tomccat集群> Apache+2Tomcat集群> Apache集成Tomcat >单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时，如果一个Tomcat出现宕机，系统可以继续使用，所以在硬件系统性能足够优越的情况下，需要尽量发挥软件的性能，可以采用增加Tomcat集群的方式。
　　5. 打开KeepAlive支持
　　KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000
　　根据实际经验，通过Apache和Tomcat集群的方式提高系统性能的效果十分明显，这种方式可以最大化的利用硬件资源，通过多个Tomcat的处理来分担单Tomcat时的压力。
　　web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。
　　1.指定使用NIO模型来接受HTTP请求
　　protocol="org.apache.coyote.http11.Http11NioProtocol" 指定使用NIO模型来接受HTTP请求。默认是BlockingIO，配置为protocol="HTTP/1.1"
　　acceptorThreadCount="2"使用NIO模型时接收线程的数目
　　2、指定处理线程数目
　　

<Connector port="80" protocol="HTTP/1.1" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700"　　
connectionTimeout="20000" redirectPort="8443" />
　　

　　maxThreads="600"       ///最大线程数
　　minSpareThreads="100"///初始化时创建的线程数
　　maxSpareThreads="500"///一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。
　　acceptCount="700"//指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理
　　这里是http connector的优化，如果使用apache和tomcat做集群的负载均衡，并且使用ajp协议做apache和tomcat的协议转发，那么还需要优化ajp connector。
　　

<Connector port="8009" protocol="AJP/1.3" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700"　　
connectionTimeout="20000" redirectPort="8443" />
　　

　　3、线程池
　　由于tomcat有多个connector，所以tomcat线程的配置，又支持多个connector共享一个线程池。
　　首先。打开/conf/server.xml，增加
　　

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="500" minSpareThreads="20" maxIdleTime="60000" />　　

　　最大线程500（一般服务器足以），最小空闲线程数20，线程最大空闲时间60秒。
　　然后，修改<Connector ...>节点，增加executor属性，executor设置为线程池的名字：
　　

<Connector executor="tomcatThreadPool" port="80" protocol="HTTP/1.1"  connectionTimeout="60000" keepAliveTimeout="15000" maxKeepAliveRequests="1"  redirectPort="443" />　　

　　可以多个connector公用1个线程池，所以ajp connector也同样可以设置使用tomcatThreadPool线程池。
　　4.其它常用设置
　　maxHttpHeaderSize="8192"http请求头信息的最大程度，超过此长度的部分不予处理。一般8K。
　　URIEncoding="UTF-8"指定Tomcat容器的URL编码格式。不要遗漏URIEncoding=”GBK”，能使页面url传递中文参数时保证正确。
　　disableUploadTimeout="true"上传时是否使用超时机制
　　enableLookups="false"--是否反查域名，默认值为true。为了提高处理能力，应设置为false
　　compression="on"   打开压缩功能 。压缩会增加Tomcat负担，最好采用Nginx + Tomcat 或者 Apache + Tomcat 方式，压缩交由Nginx/Apache 去做。
　　compressionMinSize="10240"启用压缩的输出内容大小，默认为2KB
　　noCompressionUserAgents="gozilla, traviata"   对于以下的浏览器，不启用压缩
　　compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain" 哪些资源类型需要压缩
　　5.小结
　　关于Tomcat的Nio和ThreadPool，本身的引入就提高了处理的复杂性，所以对于效率的提高有多少，需要实际验证一下。

三、设置session过期时间
　　conf\web.xml中通过参数指定：
　　

    <session-config>　　<session-timeout>180</session-timeout>
　　</session-config>
　　
单位为分钟。
　　


四、Apr插件提高Tomcat性能
　　Tomcat可以使用APR来提供超强的可伸缩性和性能，更好地集成本地服务器技术.
　　APR(Apache Portable Runtime)是一个高可移植库，它是Apache HTTP Server 2.x的核心。APR有很多用途，包括访问高级IO功能(例如sendfile,epoll和OpenSSL)，OS级别功能(随机数生成，系统状态等等)，本地进程管理(共享内存，NT管道和UNIX sockets)。这些功能可以使Tomcat作为一个通常的前台WEB服务器，能更好地和其它本地web技术集成，总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器。
　　在产品环境中，特别是直接使用Tomcat做WEB服务器的时候，应该使用Tomcat Native来提高其性能
　　要测APR给tomcat带来的好处最好的方法是在慢速网络上（模拟Internet），将Tomcat线程数开到300以上的水平，然后模拟一大堆并发请求。
　　如果不配APR，基本上300个线程狠快就会用满，以后的请求就只好等待。但是配上APR之后，并发的线程数量明显下降，从原来的300可能会马上下降到只有几十，新的请求会毫无阻塞的进来。
　　在局域网环境测，就算是400个并发，也是一瞬间就处理/传输完毕，但是在真实的Internet环境下，页面处理时间只占0.1%都不到，绝大部分时间都用来页面传输。如果不用APR，一个线程同一时间只能处理一个用户，势必会造成阻塞。所以生产环境下用apr是非常必要的。
　　

(1)安装APR tomcat-native　　apr
-1.3.8.tar.gz   安装在/usr/local/apr　　#tar zxvf apr
-1.3.8.tar.gz　　#cd apr
-1.3.8　　#.
/configure;make;make install　　apr
-util-1.3.9.tar.gz  安装在/usr/local/apr/lib　　#tar zxvf apr
-util-1.3.9.tar.gz　　#cd apr
-util-1.3.9　　#.
/configure --with-apr=/usr/local/apr ----with-java-home=JDK;make;make install　　#cd apache
-tomcat-6.0.20/bin　　#tar zxvf tomcat
-native.tar.gz　　#cd tomcat
-native/jni/native　　#.
/configure --with-apr=/usr/local/apr;make;make install　　(
2)设置 Tomcat 整合 APR　　修改 tomcat 的启动 shell （startup.sh），在该文件中加入启动参数：
　　CATALINA_OPTS
="$CATALINA_OPTS -Djava.library.path=/usr/local/apr/lib" 。　　(
3)判断安装成功:　　如果看到下面的启动日志，表示成功。
2007-4-26 15:34:32 org.apache.coyote.http11.Http11AprProtocol init　　


五、集群方案
　　单个Tomcat的处理性能是有限的，当并发量较大的时候，就需要有部署多套来进行负载均衡了。
　　集群的关键点有以下几点：
　　1.引入负载端
　　软负载可以使用nginx或者apache来进行，主要是使用一个分发的功能
　　参考：
　　http://ajita.iteye.com/blog/1715312（nginx负载）
　　http://ajita.iteye.com/blog/1717121（apache负载）
　　2.共享session处理
　　目前的处理方式有如下几种：
　　1).使用Tomcat本身的Session复制功能
　　参考http://ajita.iteye.com/blog/1715312（Session复制的配置）
　　方案的有点是配置简单，缺点是当集群数量较多时，Session复制的时间会比较长，影响响应的效率
　　2).使用第三方来存放共享Session
　　目前用的较多的是使用memcached来管理共享Session，借助于memcached-sesson-manager来进行Tomcat的Session管理
　　参考http://ajita.iteye.com/blog/1716320（使用MSM管理Tomcat集群session）
　　3).使用黏性session的策略
　　对于会话要求不太强（不涉及到计费，失败了允许重新请求下等）的场合，同一个用户的session可以由nginx或者apache交给同一个Tomcat来处理，这就是所谓的session sticky策略，目前应用也比较多
　　参考：http://ajita.iteye.com/blog/1848665（tomcat session sticky）
　　nginx默认不包含session sticky模块，需要重新编译才行（windows下我也不知道怎么重新编译）
　　优点是处理效率高多了，缺点是强会话要求的场合不合适
　　3、每个站点一个实例。启动多个tomcat.
　　不要使用Tomcat的虚拟主机，每个站点一个实例。即，启动多个tomcat.
　　这也是PHP运维在这里常犯的错误，PHP的做法是一个Web下面放置多个虚拟主机，而不是每个主机启动一个web服务器。Tomcat 是多线程,共享内存，任何一个虚拟主机中的应用出现崩溃，会影响到所有应用程序。采用多个实例方式虽然开销比较大，但保证了应用程序隔离与安全。
　　4.小结
　　以上是实现集群的要点，其中1和2可以组合使用，具体场景具体分析吧~

六、问题定位
　　对于Tomcat的处理耗时较长的问题主要有当时的并发量、session数、内存及内存的回收等几个方面造成的。出现问题之后就要进行分析了。
　　1.关于Tomcat的session数目
　　这个可以直接从Tomcat的web管理界面去查看即可
　　或者借助于第三方工具Lambda Probe来查看，它相对于Tomcat自带的管理稍微多了点功能，但也不多
　　2.监视Tomcat的内存使用情况
　　使用JDK自带的jconsole可以比较明了的看到内存的使用情况，线程的状态，当前加载的类的总量等
　　JDK自带的jvisualvm可以下载插件（如GC等），可以查看更丰富的信息。如果是分析本地的Tomcat的话，还可以进行内存抽样等，检查每个类的使用情况
　　3.打印类的加载情况及对象的回收情况
　　这个可以通过配置JVM的启动参数，打印这些信息（到屏幕（默认也会到catalina.log中）或者文件），具体参数如下：
　　-XX:+PrintGC：输出形式：[GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]
　　-XX:+PrintGCDetails：输出形式：[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]
　　-XX:+PrintGCTimeStamps -XX:+PrintGC：PrintGCTimeStamps可与上面两个混合使用，输出形式：11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]
　　-XX:+PrintGCApplicationConcurrentTime：打印每次垃圾回收前，程序未中断的执行时间。可与上面混合使用。输出形式：Application time: 0.5291524 seconds
　　-XX:+PrintGCApplicationStoppedTime：打印垃圾回收期间程序暂停的时间。可与上面混合使用。输出形式：Total time for which application threads were stopped: 0.0468229 seconds
　　-XX:PrintHeapAtGC: 打印GC前后的详细堆栈信息
　　-Xloggc:filename:与上面几个配合使用，把相关日志信息记录到文件以便分析
　　-verbose:class 监视加载的类的情况
　　-verbose:gc 在虚拟机发生内存回收时在输出设备显示信息
　　-verbose:jni 输出native方法调用的相关情况，一般用于诊断jni调用错误信息
　　4.添加JMS远程监控
　　对于部署在局域网内其它机器上的Tomcat，可以打开JMX监控端口，局域网其它机器就可以通过这个端口查看一些常用的参数（但一些比较复杂的功能不支持），同样是在JVM启动参数中配置即可，配置如下：
　　-Dcom.sun.management.jmxremote.ssl=false  -Dcom.sun.management.jmxremote.authenticate=false
　　-Djava.rmi.server.hostname=192.168.71.38 设置JVM的JMS监控监听的IP地址，主要是为了防止错误的监听成127.0.0.1这个内网地址
　　-Dcom.sun.management.jmxremote.port=1090 设置JVM的JMS监控的端口
　　-Dcom.sun.management.jmxremote.ssl=false 设置JVM的JMS监控不实用SSL
　　-Dcom.sun.management.jmxremote.authenticate=false 设置JVM的JMS监控不需要认证
　　5.专业点的分析工具有
　　IBM ISA，JProfiler等，具体监控及分析方式去网上搜索即可。