LVS+Keepalived负载均衡高可用如此简单？

王艳玲

　　     今天简单写下lvs+keepalive实现负载均衡和高可用的功能，仅供参考！关于它们的详细介绍这里就不描述了，大家可以自行搜索下！
　　     lvs+keepalived网络拓扑图：
　　
　　一、准备一个vip和4台虚拟机：
　　

vip:192.168.1.100	向外提供服务的ip,一般是绑定域名的
192.168.1.10	LB1_master调度器IP
192.168.1.13	LB2_slave调度器IP
192.168.1.11	nginx服务器IP
192.168.1.12	apache服务器IP

　　
　　二、安装准备工作
lsmod|grep ip_vs
cat /etc/redhat-release
uname –rm
ln –s /usr/src/kernels/内核版本  /usr/src/linux
ln -s /usr/src/kernels/2.6.32-504.12.2.el6.x86_64/ /usr/src/linux
#若tab没有内核版本号出来，安装kernel-devel
yum install kernel-devel  libnl* popt* –y　　#ipvsadm下载地址(注意版本)
　　http://www.linuxvirtualserver.org/software/ipvs.html
　　#安装LVS命令
tar zxvf ipvsadm-1.26.tar.gz
cd ipvsadm-1.26
make && make install
#将ipvsadm加入内核模块的方法有以下两种
modprobe ip_vs
/sbin/ipvsadm
#查看下是否加载成功，若有以下内容表示安装成功
[root@php ipvsadm-1.26]# lsmod |grep ip_vs
ip_vs                 125694  0
libcrc32c               1246  1 ip_vs
ipv6                  334932  25 ip_vs　　三、LB添加LVS转发
　　1.如果有域名的话，将域名解析到公网IP
　　2.配置LVS虚拟IP，就是我们所谓的VIP

ifconfig eth0:0 192.168.1.100/24 up
route add -host 192.168.1.100 dev eth0　　3.检查结果
ifconfig
eth0:0    Link encap:Ethernet  HWaddr 08:00:27:03:F9:0D  
inet addr:192.168.1.100  Bcast:192.168.1.255  Mask:255.255.255.0
UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1　　4.配置添加LVS服务并添加RS
　　  在这里，有必要介绍下添加集群服务的规则：
　　  格式： ipvsadm -A|E -t|u|f service-address [-s scheduler]
　　  参数：
　　[-p [timeout]] [-M netmask]
　　-A：                  表示添加一个新的集群服务(add)
　　-E：                  编辑一个集群服务(edit)
　　-t：                  表示tcp协议(tcp)
　　-u：                  表示udp协议(udp)
　　-f：                  表示firewall-Mark,防火墙标记(firewall)
　　service-address：     集群服务的IP地址，即VIP
　　-s                    指定调度算法
　　-p                    持久连接时长，如#ipvsadm -Lcn ，查看持久连接状态
　　-M                    定义掩码(netmask)
　　ipvsadm -D -t|u|f service-address      删除一个集群服务(delete)
　　ipvsadm -C                             清空所有的规则(clean)
　　ipvsadm -R                             重新载入规则(reload)
　　ipvsadm -S [-n]                        保存规则(save)
　　
　　
　　向集群服务添加RealServer规则：
　　  添加RealServer规则
　　  格式：ipvsadm -a|e -t|u|f service-address -r server-address
　　  参数：
　　  [-g|i|m] [-w weight]
　　-a                 添加一个新的realserver规则
　　-e                 编辑realserver规则
　　-t                 tcp协议
　　-u                 udp协议
　　-f                 firewall-Mark，防火墙标记
　　service-address    realserver的IP地址(真实服务器的IP)
　　-g                表示定义为LVS-DR模型
　　-i                 表示定义为LVS-TUN模型
　　-m               表示定义为LVS-NAT模型
　　-w                定义权重，后面跟具体的权值
　　ipvsadm -d -t|u|f service-address -r server-address          --删除一个realserver
　　
#设置超时(可选)
ipvsadm --set 30 5 60
#添加一个实例(类似虚拟主机)用-A
ipvsadm -A -t 192.168.1.100:80 -s wrr –p 20
ipvsadm -a -t 192.168.1.100:80 -r 192.168.1.11 -g -w 1
ipvsadm -a -t 192.168.1.100:80 -r 192.168.1.12 -g -w 1　　5.检查结果
ipvsadm -L　　四、LB删除LVS方法
#删除virtual server用ipvsadm –D
ipvsadm –D –t 192.168.1.10 –s wrr
#删除节点用ipvsadm -d
ipvsadm -d -t 192.168.1.100:80 -r 192.168.1.12:80　　五、RS配置lo,并且绑定vip
ifconfig lo:0 192.168.1.100/32 up
route add –host 192.168.1.100 dev lo　　 1.RS端抑制arp广播
echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" > /proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/all/arp_announce　　
　　六、KeepAlived服务高可用
安装方法一：
yum install openssl* -y
yum install kernel-devel  libnl* popt* –y
ln -s /usr/src/kernels/2.6.32-504.8.1.el6.x86_64/ /usr/src/linux
tar zxvf keepalived-1.1.19.tar.gz
cd keepalived-1.1.19
./configure
make && make install安装方法二：
tar zxvf keepalived-1.1.19.tar.gz
cd keepalived-1.1.19
./configure \
--mandir=/usr/loacl/share/man \
--with-kernel-dir=/usr/src/kernels/2.6.32-504.8.1.el6.x86_64/
make && make install　　操作命令：
/bin/cp /usr/local/etc/rc.d/init.d/keepalived /etc/init.d/
/bin/cp /usr/local/etc/sysconfig/keepalived /etc/sysconfig/
mkdir /etc/keepalived –p
/bin/cp /usr/local/etc/keepalived/keepalived.conf /etc/keepalived/
/bin/cp /usr/local/sbin/keepalived /usr/sbin/
/etc/init.d/keepalived start
[root@apache ~]# /etc/init.d/keepalived start
Starting keepalived:                                       [  OK  ]
[root@apache ~]#ps -ef|grep keep
root      2864     1  0 07:58 ?        00:00:00 keepalived -D
root      2866  2864  0 07:58 ?        00:00:00 keepalived -D
root      2867  2864  0 07:58 ?        00:00:00 keepalived -D
root      2871  1101  0 07:58 pts/0    00:00:00 grep keep
[root@apache ~]# /etc/init.d/keepalived stop  =è成功后停止keepalived服务
Stopping keepalived:                                       [  OK  ]　　七、在主(master)keepalived配置keepalived.conf配置文件
! Configuration File for keepalived
global_defs {
   notification_email {
   291406980@qq.com
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1
   smtp_connect_timeout 30
   router_id LVS_7
}
vrrp_instance VI_1 {
    state MASTER  #因为这里是主，所以选用MASTER                    
    interface eth0
    virtual_router_id 55
    priority 150  #这个值一定要比从(slave)的大
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.1.100/24  #vip
    }
}　　八、在从（slave）的keepalived配置keepalived.conf文件
! Configuration File for keepalived
global_defs {
   notification_email {
   291406980@qq.com
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1
   smtp_connect_timeout 30
   router_id LVS_2
}
vrrp_instance VI_1 {
    state BACKUP     #这里是从(slave)，选用BACKUP
    interface eth0
    virtual_router_id 55
    priority 100     #这个值小于主(master)的150
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.1.100/24  #vip
    }
}　　 九、最后主从都需重启keepalived
/etc/init.d/keepalived start　　我这里分别是两个站点：apache和nginx！在输入192.168.1.100这个vip的时候，会调度到不同的站点上面！以下是截图：

　　十、LVS集群分发请求RS负载不均的问题
　　主要有以下几点：
　　  1.会话保持的原因，尽量不要在负载均衡器上做会话保持
　　  2.LVS自身的会话保持参数设置问题，要优化，尽量用cookies或者session替代
　　  3.LVS调度算法设置问题，例如rr wrr wlc lc 算法
　　  4.后端RS节点的会话保持参数，例如apache的keealive参数
　　  5.访问量少的情况，不均衡的现象比较明显
　　  6.用户发送的请求时间长短，和请求资源多少有关