Tomcat7调优及JVM性能优化for Linux环境

7564321

该优化针对Linux X86_X64环境Tomcat的三种模式及并发优化

Tomcat的运行模式有3种

1. bio

默认的模式,性能非常低下,没有经过任何优化处理和支持.

2. nio

利用java的异步io护理技术,noblocking IO技术

想运行在该模式下，直接修改server.xml里的Connector节点,修改protocol为

• <Connector port="80″
  
• protocol="org.apache.coyote.http11.Http11NioProtocol"
  
• connectionTimeout="20000"
  
• URIEncoding=”UTF-8″
  
• useBodyEncodingForURI="true"
  
• enableLookups="false"
  
• redirectPort="8443">
  
  

启动后,就可以生效。

3. apr

从操作系统级别来解决异步的IO问题,大幅度的提高性能。

必须要安装apr和native，直接启动就支持apr

修改protocol为org.apache.coyote.http11.Http11AprProtocol

安装apr

• yum -y install apr apr-devel
  
  

安装native

进入tomcat/bin目录，比如：

• cd /usr/local/tomcat/bin/
  
• tar xzfv tomcat-native.tar.gz
  
• cd tomcat-native-1.1.32-src/jni/native/
  
• ./configure --with-apr=/usr/bin/apr-1-config
  
• make && make install
  
  

安装完成之后 会出现如下提示信息

• Libraries have been installed in:
  
•    /usr/local/apr/lib
  
  

安装成功后还需要对tomcat设置环境变量，方法是在catalina.sh文件中增加1行：

• CATALINA_OPTS="-Djava.library.path=/usr/local/apr/lib"
  
  

修改8080端对应的conf/server.xml

• protocol="org.apache.coyote.http11.Http11AprProtocol"
  
  

启动tomcat之后，查看日志会有这一行信息，说明已经是APR模式启动了

• INFO: APR capabilities: IPv6 [true], sendfile [true], accept filters [false], random [true].
  
  

1. Tomcat优化其实就是对server.xml优化（开启线程池，调整http connector参数）

搜索【<Executor name="tomcatThreadPool"】，开启并调整为

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"

maxThreads="1000" maxIdleTime="60000"

minSpareThreads="20"/>

搜索【port="8080"】，调整为

<Connector executor=" tomcatThreadPool " port="8080" //开启线程池

protocol="org.apache.coyote.http11. Http11AprProtocol " //开启Apr协议，需要安装Apr支持

maxHttpHeaderSize="8192" maxThreads="1000" processorCache="1000" acceptCount="1000"

minSpareThreads="100"

acceptorThreadCount="8" URIEncoding="UTF-8"

enableLookups ="false" redirectPort="8443" //关闭反向查询

connectionTimeout="120000" keepAliveTimeout="120000"

maxKeepAliveRequests="65535" disableUploadTimeout="true"

compression ="on" compressionMinSize="4096" //开启静态文件压缩

noCompressionUserAgents ="gozilla, traviata" //开启静态文件压缩

compressableMimeType ="text/html,text/xml,text/javascript,text/css,text/plain,application/json,application/x-javascript " //开启静态文件压缩

/>

URIEncoding=”UTF-8”

使得tomcat可以解析含有中文名的文件的url，真方便，不像apache里还有搞个mod_encoding，还要手工编译

ü   maxSpareThreads

maxSpareThreads 的意思就是如果空闲状态的线程数多于设置的数目，则将这些线程中止，减少这个池中的线程总数。

ü   minSpareThreads

最小备用线程数，tomcat启动时的初始化的线程数。

ü   enableLookups

这个功效和Apache中的HostnameLookups一样，设为关闭。

ü   connectionTimeout

connectionTimeout为网络连接超时时间毫秒数。

ü   maxThreads

maxThreads Tomcat使用线程来处理接收的每个请求。这个值表示Tomcat可创建的最大的线程数，即最大并发数。

ü   acceptCount

acceptCount是当线程数达到maxThreads后，后续请求会被放入一个等待队列，这个acceptCount是这个队列的大小，如果这个队列也满了，就直接refuse connection

ü   maxProcessors与minProcessors

在 Java中线程是程序运行时的路径，是在一个程序中与其它控制线程无关的、能够独立运行的代码段。它们共享相同的地址空间。多线程帮助程序员写出CPU最 大利用率的高效程序，使空闲时间保持最低，从而接受更多的请求。

通常Windows是1000个左右，Linux是2000个左右。

可以看到如果把useURIValidationHack设成"false"，可以减少它对一些url的不必要的检查从而减省开销。

ü   enableLookups="false"

为了消除DNS查询对性能的影响我们可以关闭DNS查询，方式是修改server.xml文件中的enableLookups参数值。

ü   disableUploadTimeout

类似于Apache中的keeyalive一样

ü   给Tomcat配置gzip压缩(HTTP压缩)功能

compression="on" compressionMinSize="2048"             compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"

HTTP 压缩可以大大提高浏览网站的速度，它的原理是，在客户端请求网页后，从服务器端将网页文件压缩，再下载到客户端，由客户端的浏览器负责解压缩并浏览。相对 于普通的浏览过程HTML,CSS,Javascript , Text ，它可以节省40%左右的流量。更为重要的是，它可以对动态生成的，包括CGI、PHP , JSP , ASP , Servlet,SHTML等输出的网页也能进行压缩，压缩效率惊人。

1)compression="on" 打开压缩功能

2)compressionMinSize="2048" 启用压缩的输出内容大小，这里面默认为2KB

3)noCompressionUserAgents="gozilla, traviata" 对于以下的浏览器，不启用压缩

4)compressableMimeType="text/html,text/xml"　压缩类型

最后不要忘了把8443端口的地方也加上同样的配置，因为如果我们走https协议的话，我们将会用到8443端口这个段的配置，对吧？

<connector port="8443" protocol="HTTP/1.1" <="" p="" style="word-wrap: break-word;">                URIEncoding="UTF-8"  minSpareThreads="25" maxSpareThreads="75"           enableLookups="false" disableUploadTimeout="true" connectionTimeout="20000"           acceptCount="300"  maxThreads="300" maxProcessors="1000" minProcessors="5"           useURIValidationHack="false"                     compression="on" compressionMinSize="2048"                     compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"                 SSLEnabled="true"            scheme="https" secure="true"            clientAuth="false" sslProtocol="TLS"            keystoreFile="d:/tomcat2/conf/shnlap93.jks" keystorePass="aaaaaa"       />

好了，所有的Tomcat优化的地方都加上了。结合第三天中的Apache的性能优化，我们这个架构可以“飞奔”起来了，当然这边把有提及任何关于数据库优化的步骤，但仅凭这两步，我们的系统已经有了很大的提升。

2. 对catalina.sh优化JVM

打开 Tomcat路径\bin\ catalina.sh，在最顶部加入,红色部分请根据实际情况调整

JAVA_OPTS="-server -showversion -Xms12g -Xmx12g -XX:PermSize=256m -XX:MaxPermSize=256m"

JAVA_OPTS="$JAVA_OPTS -d64 -XX:CICompilerCount=8 -XX:+UseCompressedOops"

JAVA_OPTS="$JAVA_OPTS -XX:SurvivorRatio=4 -XX:TargetSurvivorRatio=90"

JAVA_OPTS="$JAVA_OPTS -XX:ReservedCodeCacheSize=256m -XX:-UseAdaptiveSizePolicy"

JAVA_OPTS="$JAVA_OPTS -Duser.timezone=Asia/Shanghai -XX:-DontCompileHugeMethods"

JAVA_OPTS="$JAVA_OPTS -Xss256k -XX:+AggressiveOpts -XX:+UseBiasedLocking"

JAVA_OPTS="$JAVA_OPTS -XX:MaxTenuringThreshold=31 -XX:+CMSParallelRemarkEnabled "

JAVA_OPTS="$JAVA_OPTS -XX:+UseCMSCompactAtFullCollection -XX:LargePageSizeInBytes=256m -XX:+UseFastAccessorMethods"

JAVA_OPTS="$JAVA_OPTS -XX:+UseCMSInitiatingOccupancyOnly -Djava.awt.headless=true"

JAVA_OPTS="$JAVA_OPTS -XX:+UseGCOverheadLimit -XX:AllocatePrefetchDistance=256 -XX:AllocatePrefetchStyle=1"

JAVA_OPTS="$JAVA_OPTS -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:MaxGCPauseMillis=200"

【注意】

1.-Xms=-Xmx=服务器内存*70%,如部署tomcat,jboss在同一台服务器-Xms=-Xmx=服务器内存*80%*1/4

2. 添加的参数建议要自己明白是什么意思，可以参考JVM参数列表

1.基本概念。
JAVA_MEM_OPTS=" -server -Xmx2g -Xms2g -Xmn512m -XX:PermSize=128m -Xss256k -XX:+DisableExplicitGC -XX:+UseConcMarkSweepGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:+UseCompressedOops

-server 启用能够执行优化的编译器。

-Xss 单个线程堆栈大小值。

-Xms 启动应用时，JVM堆空间的初始大小值。

-Xmx 应用运行中，JVM堆空间的极限值。

-Xmn 堆空间的新生代空间大小。

-XX:PermSize永久存储区的大小
-Xms JVM初始化堆内存大小
-Xmx JVM堆的最大内存
-Xss 线程栈大小
-XX:PermSize JVM非堆区初始内存分配大小
-XX:MaxPermSize JVM非堆区最大内存

-XX:+DisableExplicitGC

在 程序代码中不允许有显示的调用”System.gc()”。看到过有两个极品工程中每次在DAO操作结束时手动调用System.gc()一下，觉得这样 做好像能够解决它们的out ofmemory问题一样，付出的代价就是系统响应时间严重降低，就和我在关于Xms,Xmx里的解释的原理一样，这样去调用GC导致系统的JVM大起大 落，性能不到什么地方去哟！

ü   -XX:+UseParNewGC

对年轻代采用多线程并行回收，这样收得快。

ü   -XX:+UseConcMarkSweepGC

即CMS gc，这一特性只有jdk1.5即后续版本才具有的功能，它使用的是gc估算触发和heap占用触发。

我们知道频频繁的GC会造面JVM的大起大落从而影响到系统的效率，因此使用了CMS GC后可以在GC次数增多的情况下，每次GC的响应时间却很短，比如说使用了CMS GC后经过jprofiler的观察，GC被触发次数非常多，而每次GC耗时仅为几毫秒。

ü   -XX:MaxTenuringThreshold

设 置垃圾最大年龄。如果设置为0的话，则年轻代对象不经过Survivor区，直接进入年老代。对于年老代比较多的应用，可以提高效率。如果将此值设置为一 个较大值，则年轻代对象会在Survivor区进行多次复制，这样可以增加对象再年轻代的存活时间，增加在年轻代即被回收的概率。

这个值的设置是根据本地的jprofiler监控后得到的一个理想的值，不能一概而论原搬照抄。

ü   -XX:+CMSParallelRemarkEnabled

在使用UseParNewGC 的情况下, 尽量减少 mark 的时间

ü   -XX:+UseCMSCompactAtFullCollection

在使用concurrent gc 的情况下, 防止 memoryfragmention, 对live object 进行整理, 使 memory 碎片减少。

ü   -XX:LargePageSizeInBytes

指定 Java heap的分页页面大小

ü   -XX:+UseFastAccessorMethods

get,set 方法转成本地代码

ü   -XX:+UseCMSInitiatingOccupancyOnly

指示只有在 oldgeneration 在使用了初始化的比例后concurrent collector 启动收集

ü   -XX:CMSInitiatingOccupancyFraction=70

CMSInitiatingOccupancyFraction，这个参数设置有很大技巧，基本上满足(Xmx-Xmn)*(100- CMSInitiatingOccupancyFraction)/100>=Xmn就 不会出现promotion failed。在我的应用中Xmx是6000，Xmn是512，那么Xmx-Xmn是5488兆，也就是年老代有5488 兆，CMSInitiatingOccupancyFraction=90说明年老代到90%满的时候开始执行对年老代的并发垃圾回收（CMS），这时还 剩10%的空间是5488*10%=548兆，所以即使Xmn（也就是年轻代共512兆）里所有对象都搬到年老代里，548兆的空间也足够了，所以只要满 足上面的公式，就不会出现垃圾回收时的promotion failed；

因此这个参数的设置必须与Xmn关联在一起。

ü   -Djava.awt.headless=true

这 个参数一般我们都是放在最后使用的，这全参数的作用是这样的，有时我们会在我们的J2EE工程中使用一些图表工具如：jfreechart，用于在web 网页输出GIF/JPG等流，在winodws环境下，一般我们的app server在输出图形时不会碰到什么问题，但是在linux/unix环境下经常会碰到一个exception导致你在winodws开发环境下图片显 示的好好可是在linux/unix下却显示不出来，因此加上这个参数以免避这样的情况出现。