中小企业web集群方案 haproxy+varnish+LNMP+memcached配置
前段时间帮一个中型企业做了一个集群方案配置，目前已经安全运行了一个月，而且速度非常快，稳定性也很强，作为一般中型企业负载均衡的方案，非常的合适。但是由于资本有限，没有做到高可用性方案。一，拓扑图如下：
二，架构说明及配置
1, haproxy 服务器： 192.168.1.5
2, varnish服务器集群：192.168.1.20;192.168.1.21
3, nginx+fastcgi 服务器：192.168.1.50
4, memcached 服务器：memcached我是装在nginx+fastcgi服务器上的，192.168.1.50
5, mysql服务器：192.168.1.60
三，具体配置以下我们来一个个讲解，我们先从后端来个个讲解，
1，在192.168.1.60 服务器上安装 mysql
2,在192.168.1.50 服务器上安装 nginx+fastcgi.
mysql+nginx+fastcgi 配置，这里不讲解了，网上包括我的博客里面都有讲解如何时安装。
3，memcached安装配置。
这里的memcached 我安装在192.168.1.50 服务器上 安装步骤如下：
（1）下载所需要的软件 (memcached 目前最新版本为1.4.13)
安装memcached需要libevent库支持，我们下载libevent1.3版本即可
[*]#wgethttp://memcached.googlecode.com/files/memcached-1.4.13.tar.gz
[*]#wgethttp://www.monkey.org/~provos/libevent-1.3.tar.gz
（2）先安装libevent：
[*]# tar zxvf libevent-1.3.tar.gz
[*]# cd libevent-1.3
[*]# ./configure --prefix=/usr
[*]# make
[*]# make install
（3）安装memcached，同时需要安装中指定libevent的安装位置：
[*]# cd /tmp
[*]# tar zxvf memcached-1.4.13.tar.gz
[*]# cd memcached-1.4.13
[*]# ./configure --with-libevent=/usr
[*]# make
[*]# make install
安装完成后会把memcached放到 /usr/local/bin/memcached
（4）fastcgi 安装memcache扩展模块，让php支持memcached
1.在http://pecl.php.net/package/memcache 选择相应想要下载的memcache版本。
2.安装PHP的memcache扩展
[*]#tar vxzf memcache-2.2.1.tgz
[*]#cd memcache-2.2.1
[*]#/usr/local/webserver/php/bin/phpize
[*]#./configure--enable-memcache --with-php-config=/usr/local/webserver/php/bin/php-config --with-zlib-dir
[*]#make
[*]#make install
3.上述安装完后会有类似这样的提示：
[*]Installing shared extensions: /usr/local/webserver/php/lib/php/extensions/no-debug-non-zts-20060613/
4,在php.ini 添加一行来载入memcache扩展：
[*]#extension = "memcache.so"
如下图
5,重新加载php 配置文件
启动memcached
[*]# /usr/local/bin/memcached -d -m 1024 -u root -l 127.0.0.1 -p 11211 -c 10240 -P /tmp/memcached.pid
我们来看一下是否正常启动
端口已正常启动。
[*]memcache启动参数备注：
[*]-d选项是启动一个守护进程，
[*]-m是分配给Memcache使用的内存数量，单位是MB，我这里是10MB，
[*]-u是运行Memcache的用户，我这里是root，
[*]-l是监听的服务器IP地址，为了安全我这里指定了 127.0.0.1，
[*]-p是设置Memcache监听的端口，我这里设置了11211，最好是1024以上的端口，
[*]-c选项是最大运行的并发连接数，默认是1024，我这里设置10240，按照你服务器的负载量来设定
[*]-P是设置保存Memcache的pid文件，我这里是保存在 /tmp/memcached.pid，
[*]
Memcached安装完毕。我们来测试一下是否能缓存mysql数据
我们在此服务器上架设一个php网站，此处我先用的是占用资源比较大的magento程序网站，调试好配置文件，绑定一下host文件。看网站是否能正常打开。
好，网站打开正常，接下来我们看一下，memcached是否发挥了他的作用
这里我们用一个软件 memadmin （网上可以下载到） 来监控一下memcached的缓存命中率，如下图：
命中率还是挺高的。
4，varnish服务器安装
以下在192.168.1.20 和 192.168.1.21 上操作
下载varnish软件（此处下载3.0版本）
[*]#wget http://repo.varnish-cache.org/source/varnish-3.0.0.tar.gz
[*]#tar -xvf varnish-3.0.0.tar.gz
[*]#cd varnish-3.0.0
[*]#./configure --prefix=/usr/local/varnish
[*]#make &&make install
至此安装完成。
我们来配置一下
[*]#vim /usr/local/varnish/etc/varnish/vcl.conf
以下为配置代码：(除backend 及vcl_recv外，其他地方无需更改，这里是更改其访问的主机名，及定义后端服务器地址，字数有限，其他代码这里就不解释了)
[*]#Cache for linuxtone sites
[*]#backend vhost
[*]backendwwwyaozhibingceshicom {
[*].host = "www.yaozhibingceshi.com";
[*].port = "80";
[*]}
[*]#acl
[*]acl purge {
[*]"localhost";
[*]"127.0.0.1";
[*]"192.168.0.0"/24;
[*]}
[*]sub vcl_recv {
[*] if (req.http.Accept-Encoding) {
[*] if (req.url ~ "\.(jpg|png|gif|jpeg|flv)$" ) {
[*] remove req.http.Accept-Encoding;
[*] remove req.http.Cookie;
[*] } else if (req.http.Accept-Encoding ~ "gzip") {
[*] set req.http.Accept-Encoding = "gzip";
[*] } else if (req.http.Accept-Encoding ~ "deflate") {
[*] set req.http.Accept-Encoding = "deflate";
[*] } else {
[*] remove req.http.Accept-Encoding;
[*] }
[*] }
[*] if (req.http.host ~"(.*)yaozhibingceshi.com") {
[*] set req.backend = wwwyaozhibingceshicom;
[*] }
[*] else {
[*] error 404 "This website is maintaining or not exist！";
[*] }
[*]if (req.request == "PURGE") {
[*] if (!client.ip ~purge) {
[*] error 405 "Not Allowed";
[*] }
[*]#.dd.....
[*] return(lookup);
[*]}
[*]#...GET...url...jpg,png,gif. ..cookie
[*]if (req.request == "GET"&& req.url ~ "\.(png|gif|jpeg|jpg|ico|swf|css|js|html|htm|gz|tgz|bz2|tbz|mp3|ogg|mp4|flv|f4v|pdf)$") {
[*] unset req.http.cookie;
[*]}
[*]#..GET...url.php....cache....
[*]if (req.request =="GET"&&req.url ~ "\.php($|\?)"){
[*] return (pass);
[*]}
[*]# if (req.restarts == 0) {
[*] if (req.http.x-forwarded-for) {
[*] set req.http.X-Forwarded-For =
[*] req.http.X-Forwarded-For + ", " + client.ip;
[*] } else {
[*] set req.http.X-Forwarded-For = client.ip;
[*] }
[*]# }
[*]#........pipe..
[*] if (req.request != "GET" &&
[*] req.request != "HEAD" &&
[*] req.request != "PUT" &&
[*] req.request != "POST" &&
[*] req.request != "TRACE" &&
[*] req.request != "OPTIONS" &&
[*] req.request != "DELETE") {
[*] return (pipe);
[*] }
[*]#..GET .HEAD.....
[*] if (req.request != "GET" && req.request != "HEAD") {
[*] return (pass);
[*] }
[*] if (req.http.Authorization) {
[*] return (pass);
[*] }
[*] return (lookup);
[*]}
[*]#..url+host hash......
[*]sub vcl_hash {
[*] hash_data(req.url);
[*] if (req.http.host) {
[*] hash_data(req.http.host);
[*] } else {
[*] hash_data(server.ip);
[*] }
[*] return (hash);
[*]}
[*]# .....purge .....
[*]sub vcl_hit {
[*] if (req.request == "PURGE") {
[*] set obj.ttl = 0s;
[*] error 200 "Purged";
[*] }
[*] return (deliver);
[*]}
[*]sub vcl_fetch {
[*] if (req.url ~ "\.(jpeg|jpg|png|gif|gz|tgz|bz2|tbz|mp3|ogg|ico|swf|flv|dmg|js|css|html|htm)$") {
[*] set beresp.ttl = 2d;
[*] set beresp.http.expires = beresp.ttl;
[*] set beresp.http.Cache-Control = "max-age=172800";
[*] unset beresp.http.set-cookie;
[*] }
[*] if (req.url ~ "\.(dmg|js|css|html|htm)$") {
[*] set beresp.do_gzip = true;
[*] }
[*] if (beresp.status == 503) {
[*] set beresp.saintmode = 15s;
[*] }
[*]}
[*]sub vcl_deliver {
[*] set resp.http.x-hits = obj.hits ;
[*] if (obj.hits > 0) {
[*] set resp.http.X-Cache = "HIT You!";
[*] } else {
[*] set resp.http.X-Cache = "MISS Me!";
[*] }
[*]}
配置文件保存退出 ,并启动 varnish,如下图
由于我这域名没有注册，所以我们在这两台机器的hosts文件里绑定一下
另外一台机器我们同样配置
Varnish 已经成功启动了,我们来分别把域名在本地绑定一下，直接访问varnish服务器，看是否能正常打开网站，并查看缓存合中率
从上图可以看出来，绑定varnish 服务器网站是可以正常打开，而且从varnish自带的命令 varnishstat 来看，平均缓存命中率能达到 92%，命中率也是非常的高！另一台同样的测试方法
至此，varnish 服务器集群安装配置完成。
5，Haproxy 服务器安装配置
以下配置在 192.168.1.5;192.168.1.6 服务器上运行
下载 haproxy 软件 （目前最新版本为1.4.19）
[*]wget http://haproxy.1wt.eu/download/1.4/src/haproxy-1.4.19.tar.gz
[*]#tar -xvf haproxy-1.4.19.tar.gz
[*]#cd haproxy-1.4.19
[*]#make TARGET=linux26 PREFIX=/usr/local/haproxy
[*]#make install PREFIX=/usr/local/haproxy
安装完成，接下来配置一下 我解析几个比较重要的参数
[*]# cd /usr/local/haproxy
[*]# vim haproxy.conf
[*]global
[*] maxconn 5120
[*] chroot /usr/local/haproxy
[*] uid 99
[*] gid 99
[*] daemon
[*] quiet
[*] nbproc2
[*] pidfile /usr/local/haproxy/haproxy.pid
[*]defaults
[*] log global
[*] mode http
[*] optionhttplog
[*] optiondontlognull
[*] log 127.0.0.1 local3
[*] retries 3
[*] option redispatch
[*] maxconn 20000
[*] contimeout 5000
[*] clitimeout 50000
[*] srvtimeout 50000
[*]listen www.yaozhibingceshi.com 0.0.0.0:80
[*] mode http
[*] stats uri /status (后端服务器状态查看地址)
[*] stats realm Haproxy\ statistics
[*] stats auth admin:admin （状态查看页面登陆帐号密码）
[*] balance source （调度算法，调度算法有很多，我这里用source是和nginx的ip_hash同理，解决session问题)
[*] option httpclose
[*] option forwardfor
[*]server app1_1 192.168.1.20:80 cookie app1inst1 check inter 2000 rise 2 fall 5
[*]server app1_2 192.168.1.21:80 cookie app1inst2 check inter 2000 rise 2 fall 5
最下面两行，定义了后端的两台服务器，如果有更多，再另起一行，根据上面的格式写上即可。
配置好后，启动haproxy并查看是否启动成功
这样看，是启动成功了的
好的，我们来把域名。绑定到这台haproxy服务器上看网站是否能正常打开。
我们发现，网站也是可以正常打开的，
haproxy 有宕机检测功能，当后端服务器宕机后，他能自动检测，并禁止链接再发往宕机的机器.
注：haproxy 后端服务器状态查看方法
配置文件里注明了 stats uri /status即访问 www.域名.com/status 即可查看后端服务器状态
如图：
这次方案由于资本有限，所以在服务器这块，大大的减少了。如果做到高可用性，
应该要做到 haproxy 集群，nginx+fastcgi集群，以及数据库这块的集群。
但是道理都是一样的，只是多加一些服务器，要达到千万级PV的网站，借用老男孩的一句来说，就是“把所有的用户访问请求都尽量往前推 ”。
QQ：410018348
页:
[1]