Tomcat并发优化
测试软件：1、JMeter
参考：http://www.ltesting.net/ceshi/open/kyxncsgj/jmeter/2013/0517/206265.html
Label：每个 JMeter 的 element (例如 HTTP Request )都有一个 Name 属性，这里显示的就是 Name 属性的值
#Samples：表示你这次测试中一共发出了多少个请求，如果测试计划模拟10个用户，每个用户迭代10次，这里就会显示100
Average：平均响应时间 — 默认情况下是单个 Request 的平均响应时间，当使用了事务控制器时，也可以以事务为单位显示平均响应时间 都是毫秒
Median：中位数，也就是 50 %用户的响应时间
90% Line： 90 %用户的响应时间
Min：最小响应时间
Max：最大响应时间
Error%：错误率，本次测试中出现错误的请求的数量 / 请求的总数
Throughput：吞吐量 —— 默认情况下表示每秒完成的请求数( Request per Second )
KB/Sec：每秒从服务器端接收到的数据量
出现错误：jmeter.protocol.http.control.HC3CookieHandler: Not storing invalid cookie
CookieManager.check.cookies=false
2、Badboy
3、tomcat默认配置时：
maxThreads默认是200，
<Connector port="8080"
maxThreads="150"
minSpareThreads="25"默认为10
maxSpareThreads="75" tomcat7 不支持
acceptCount="100"
/>
答曰：
maxThreads="150" 表示最多同时处理150个连接
minSpareThreads="25" 表示即使没有人使用也开这么多空线程等待
maxSpareThreads="75" 表示如果最多可以空75个线程，例如某时刻有80人访问，之后没有人访问了，则tomcat不会保留80个空线程，而是关闭5个空的。
acceptCount="100" 当同时连接的人数达到maxThreads时，还可以接收排队的连接，超过这个连接的则直接返回拒绝连接
在tomcat配置文件server.xml中的<Connector ... />配置中，和连接数相关的参数有：
minProcessors：最小空闲连接线程数，用于提高系统处理性能，默认值为10tomcat7 不支持
maxProcessors：最大连接线程数，即：并发处理的最大请求数，默认值为75tomcat7 不支持
acceptCount：允许的最大连接数，应大于等于maxProcessors，默认值为100
enableLookups：是否反查域名，取值为：true或false。为了提高处理能力，应设置为false
connectionTimeout：网络连接超时，单位：毫秒。设置为0表示永不超时，这样设置有隐患的。通常可设置为30000毫秒。
其中和最大连接数相关的参数为maxProcessors和acceptCount。如果要加大并发连接数，应同时加大这两个参数
web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。Unix中如何设置这些参数，请参阅Unix常用监控和管理命令
tomcat4中的配置示例：
port="8080" minProcessors="10" maxProcessors="1024"
enableLookups="false" redirectPort="8443"
acceptCount="1024" debug="0" connectionTimeout="30000" />
对于其他端口的侦听配置，以此类推。
不启用nginx：
1）测试程序sleep（500）
单线程测试，则时间消耗是约510ms；
sleep(10000)
设定响应超时15000ms；发送201个线程，则首先200ok，后面剩一个。
修改maxThread=150后，有了响应后，首先成功150，后续51个失败
2）单个并发极限测试maxThreads的最大有效值
4000、5000-ok；10000，有部分失败，
原因分析：感觉是与1tomcat连接的超时时间（20s），2testweb应用的响应的耗时（10s），3Jmeter等待响应时间（15s）都有关系，
如果我10000个用户并发，由于系统和网络等因素，造成平均耗时为9816ms，最高为17358>15000，那么就会出现失败现象，
如果我把3关闭，则没有失败。
如果我把1调成15s呢？通过，调成10s，通过；调成1s，通过；调整10ms？少量失败，感觉是创建连接的超时值
3）connectiontimeout测试无效；采用sleep测试失败，网上有
http://zhumeng8337797.blog.163.com/blog/static/100768914201292510310239/
4）
[*]bufferSize Connector创建的输入流的大小，默认值是2048 bytes，提高这个值可以提升性能，增加内存消耗。
5、测试Nginx：
worker_processes 工作进程，一般参考CPU数量：：n个则进程中有n+1个nginx
worker_connections 1024
超过500并发时，出现
ERROR - jmeter.protocol.http.sampler.HTTPJavaImpl: Cause: java.io.IOException: Server returned HTTP response code: 500 for URL
查看发现worker_processes=1 修改为2则500正常，发现nginx死机，修改成1试试，512并发时开始出错
把tomcat并发修改为200试试？无效
调整了connections=102400并发超过511时，还是有一个io错误
添加了第三台，不同ip的tomcat还是512时，出现一个io错误
换了机器运行nginx还是出现同样的错误，怀疑jmeter的错误
最后发现是windows2008 最大打开文件句柄数509+2=511个
ulimit ???
tomcat1、2=200并发，共计500并发，12068ms
单点时500并发平均17726ms。提速很明显。
nginx,1.5.2中已经解决了仅能设置一个 worker_processes的问题
但是还是无法解决windows句柄的问题，所以还是用linux吧
页:
[1]