Tomcat并发优化

小雪崩

　　测试软件：
　　1、JMeter
　　参考：http://www.ltesting.net/ceshi/open/kyxncsgj/jmeter/2013/0517/206265.html
　　Label：每个 JMeter 的 element (例如 HTTP Request )都有一个 Name 属性，这里显示的就是 Name 属性的值
　　#Samples：表示你这次测试中一共发出了多少个请求，如果测试计划模拟10个用户，每个用户迭代10次，这里就会显示100
　　Average：平均响应时间 — 默认情况下是单个 Request 的平均响应时间，当使用了事务控制器时，也可以以事务为单位显示平均响应时间 都是毫秒
　　Median：中位数，也就是 50 %用户的响应时间
　　90% Line： 90 %用户的响应时间
　　Min：最小响应时间
　　Max：最大响应时间
　　Error%：错误率，本次测试中出现错误的请求的数量 / 请求的总数
　　Throughput：吞吐量 —— 默认情况下表示每秒完成的请求数( Request per Second )
　　KB/Sec：每秒从服务器端接收到的数据量
　　出现错误：jmeter.protocol.http.control.HC3CookieHandler: Not storing invalid cookie
　　CookieManager.check.cookies=false
　　2、Badboy
　　3、tomcat默认配置时：
　　maxThreads默认是200，
　　<Connector port="8080" 
maxThreads="150" 
minSpareThreads="25"默认为10
maxSpareThreads="75" tomcat7 不支持
acceptCount="100" 
/>   
    
　　答曰：
　　maxThreads="150" 表示最多同时处理150个连接 
minSpareThreads="25" 表示即使没有人使用也开这么多空线程等待 
maxSpareThreads="75" 表示如果最多可以空75个线程，例如某时刻有80人访问，之后没有人访问了，则tomcat不会保留80个空线程，而是关闭5个空的。 

acceptCount="100" 当同时连接的人数达到maxThreads时，还可以接收排队的连接，超过这个连接的则直接返回拒绝连接
　　在tomcat配置文件server.xml中的<Connector ... />配置中，和连接数相关的参数有： 
minProcessors：最小空闲连接线程数，用于提高系统处理性能，默认值为10tomcat7 不支持
maxProcessors：最大连接线程数，即：并发处理的最大请求数，默认值为75tomcat7 不支持
acceptCount：允许的最大连接数，应大于等于maxProcessors，默认值为100 
enableLookups：是否反查域名，取值为：true或false。为了提高处理能力，应设置为false 
connectionTimeout：网络连接超时，单位：毫秒。设置为0表示永不超时，这样设置有隐患的。通常可设置为30000毫秒。
其中和最大连接数相关的参数为maxProcessors和acceptCount。如果要加大并发连接数，应同时加大这两个参数
　　web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。Unix中如何设置这些参数，请参阅Unix常用监控和管理命令
　　tomcat4中的配置示例：
port="8080" minProcessors="10" maxProcessors="1024"
enableLookups="false" redirectPort="8443"
acceptCount="1024" debug="0" connectionTimeout="30000" />
　　对于其他端口的侦听配置，以此类推。
　　不启用nginx：
　　1）测试程序sleep（500）
　　单线程测试，则时间消耗是约510ms；
　　sleep(10000)
　　设定响应超时15000ms；发送201个线程，则首先200ok，后面剩一个。
　　修改maxThread=150后，有了响应后，首先成功150，后续51个失败
　　2）单个并发极限测试maxThreads的最大有效值
　　4000、5000-ok；10000，有部分失败，
　　原因分析：感觉是与1tomcat连接的超时时间（20s），2testweb应用的响应的耗时（10s），3Jmeter等待响应时间（15s）都有关系，
　　如果我10000个用户并发，由于系统和网络等因素，造成平均耗时为9816ms，最高为17358>15000，那么就会出现失败现象，
　　如果我把3关闭，则没有失败。
　　如果我把1调成15s呢？通过，调成10s，通过；调成1s，通过；调整10ms？少量失败，感觉是创建连接的超时值
　　3）connectiontimeout测试无效；采用sleep测试失败，网上有
　　http://zhumeng8337797.blog.163.com/blog/static/100768914201292510310239/
　　4）

• bufferSize Connector创建的输入流的大小，默认值是2048 bytes，提高这个值可以提升性能，增加内存消耗。
  

　　5、测试Nginx：
　　 worker_processes 工作进程，一般参考CPU数量：：n个则进程中有n+1个nginx
　　 worker_connections 1024
　　  超过500并发时，出现
　　ERROR - jmeter.protocol.http.sampler.HTTPJavaImpl: Cause: java.io.IOException: Server returned HTTP response code: 500 for URL
　　查看发现worker_processes=1 修改为2则500正常，发现nginx死机，修改成1试试，512并发时开始出错

　　把tomcat并发修改为200试试？无效
　　调整了connections=102400并发超过511时，还是有一个io错误
　　添加了第三台，不同ip的tomcat还是512时，出现一个io错误
　　换了机器运行nginx还是出现同样的错误，怀疑jmeter的错误
　　最后发现是windows2008 最大打开文件句柄数509+2=511个
　　ulimit ???
　　tomcat1、2=200并发，共计500并发，12068ms
　　单点时500并发平均17726ms。提速很明显。
　　nginx,1.5.2中已经解决了仅能设置一个 worker_processes的问题
　　但是还是无法解决windows句柄的问题，所以还是用linux吧