LVS+keepalived实现负载

zhangpengfei00

一、为什么要使 用负载均衡技术？
1、系统高可用性
2、  系统可扩展性
3、  负载均衡能力
LVS+keepalived能很好的实现以上的要求，LVS提 供负载均衡，keepalived提供健康检查，故障转移，提高系统的可用性！采用这样的架构以后 很容易对现有系统进行扩展，只要在后端添加或者减少realserver，只要更改lvs的 配置文件，并能实现无缝配置变更！

二、LVS+Keepalived介绍
1、  LVS
LVS是一个开源的软件，可以实现LINUX平台下的简单负载均衡。LVS是Linux Virtual Server的缩写，意思是Linux虚拟服务器。目前有三种IP负 载均衡技术（VS/NAT、VS/TUN和VS/DR）；八种调度算法（rr,wrr,lc,wlc,lblc,lblcr,dh,sh）。
2、  keepalived

Keepalived 是运行在lvs 之上，它的主要功能是实现真实机的故障隔离及负载均衡器间的失败 切换，提高系统的可用性

　　file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-8541.png

1，四台测试电脑，为了测试方便，关闭了firewall和selinux
2，两台做负载，两台web服务器。
3，第一台主负载的名称：LVSM ，IP：172.17.94.16 操作系统：centos5.6 x86_64 2.6.18-274.el5
第二台主负载的名称：LVSB， IP：172.17.94.21 操作系统：centos 5.6 X86_64 2.6.18-274.el5
第一台web服务器名称：webone IP：172.17.94.234 操作系统: centos 5.6 i686
第二台 web服务器名称：webtwo IP：172.17.94.95 操作系统: centos 5.6 x86_x64 2.6.18-274.el5
VIP:172.17.94.18
4，安装LVS和keepalived前的准备
内核一定要注意，非常的注意。
一共三台电脑的系统是centos 5.6 x86_64 2.6.18-274.el5,其实最开始的内核是2.6.18-238.el5,但是我发现在/usr/src/kernels里面没有2.6.18-238.el6的包。
使用centos系统，直接采用yum来更新。
本来是准备使用编译安装的，发现kernel.org在维护。
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-7722.png#yum -y install kernel-devel
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-9057.png#yum -y update kernel
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-24396.png#modprobe ip_vs //内核加载ip_vs模块
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-8968.png#lsmod |grep ip_vs //查看是否加载成功。
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-8907.png#ln -s /usr/src/kernerls/2.6.18-274.el5-x86_64/ /usr/src/linux //生成一个链接文件
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-28237.png#cp /usr/src/kernels/2.6.18-274.el5/include/net/ip_vs.h /usr/inclide/net/ //这个很重要，否则在安装ipvsadm的时候会提示缺少*.h文件
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-26712.png#yum -y install openssl openssl-devel //安装keepalived需要
前期准备工作完成，有些安装软件的依赖文件请慢慢琢磨着安装吧。比如gcc gcc-c++之类的。现在准备下载ipvsadm和keepalived了
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-28086.png#wget http://www.linuxvirtualserver.org/software/kernel-2.6/ipvsadm-1.24.tar.gz
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-10128.png#wget http://www.keepalived.org/software/keepalived-1.1.20.tar.gz
5,下载完毕，安装之
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-28371.png# tar xzvf ipvsadm-1.24.tar.gz
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-647.png#cd ipvsadm-1.24
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-29478.png#make && make install
安装完成，会多出以下文件。
/sbin/ipvsadm
/sbin/ipvsadm-save
/sbin/ipvsadm-restore
/usr/man/man8/ipvsadm.8
/usr/man/man8/ipvsadm-save.8
/usr/man/man8/ipvsadm-restore.8
/etc/rc.d/init.d/ipvsadm
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-9608.png#tar xzvf keepalived-1.1.20.tar.gz
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-11093.png#cd keepalived-1.1.20
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-1538.png#./configure --prefix=/usr/local/keepalived
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-10479.png#make && make install
正确完成安装会显示如下信息：
Keepalived configuration
------------------------
Keepalived version : 1.1.20
Compiler : gcc
Compiler flags : -g -O2
Extra Lib : -lpopt -lssl -lcrypto
Use IPVS Framework : Yes
IPVS sync daemon support : Yes
Use VRRP Framework : Yes
Use Debug flags : No
然后对keepalived做以下操作：
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-445.png#cp /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/rc.d/init.d/
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-25412.png#cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-10439.png#mkdir /etc/keepalived
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-20520.png#cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-4025.png#cp /usr/local/keepalived/sbin/keepalived /usr/sbin/
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-6036.png#check --add keepalived
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-13643.png#check --level 2345 keepalived on
安装完成，开始配置keepalived.conf
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-24959.png#vi /etc/keepalived/keepalived.conf
! Configuration File for keepalived
global_defs {
notification_email {
#acassen@firewall.loc
#failover@firewall.loc
#sysadmin@firewall.loc
zjj@xxxxxx.com
}
# notification_email_from Alexandre.Cassen@firewall.loc
notification_email_from zjj@xxxxxx.com
smtp_server 127.0.0.1
smtp_connect_timeout 30
#router_id LVS_DEVEL
router_id LVS_MASTER //从负载机器需要修改的地方，我改成LVS_BACKUP
}
vrrp_instance VI_1 {
state MASTER //从负载机器需要修改的地方，我改成BACKUP
interface eth0
virtual_router_id 51
priority 100 //从服务器需要修改的地方改成比100小的数字，改成99
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
#192.168.200.16
#192.168.200.17
#192.168.200.18
172.17.94.18
}
}
#virtual_server 192.168.200.100 443 {
virtual_server 172.17.94.18 80 {
delay_loop 6
lb_algo wrr
#lb_kind NAT
lb_kind DR
nat_mask 255.255.224.0
persistence_timeout 50
protocol TCP
# real_server 192.168.201.100 443 {
real_server 172.17.94.234 80 {
weight 1
TCP_CHECK {
connect_timeout 10
nb_get_retry 3
delay_before_retry 3
connect_port 80
}
}
real_server 172.17.94.95 80 {
weight 1
TCP_CHECK {
connect_timeout 10
nb_get_retry 3
delay_before_retry 3
connect_port 80
}
}
}
上面的配置地方主从都差不多，需要修改的地方'//'符号标出了。
非常注意的地方，注意"{"是否和"}"配对，注意"{"和前面的字符串需要有1个空格，比如"VI_1 {"不要写成了"VI_1{"，否则查看日志
#tail -f /var/log/messages
你会看到keepalived 一直提示需要设置VI_1.
主从完成配置
两台负载的机器都需要做以上操作。
真实的web服务器配置。非常简单，就是一个脚本，我取名为real.sh
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-7497.png#vi real.sh
#!/bin/bash
#filename:real.sh
VIP=172.17.94.18
. /etc/rc.d/init.d/functions
case "$1" in
start)
ifconfig lo:0 $VIP broadcast $VIP netmask 255.255.255.255 up
/sbin/route add -host $VIP dev lo:0
echo "1">/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2">/proc/sys/net/ipv4/conf/lo/arp_announce
echo "1">/proc/sys/net/ipv4/conf/all/arp_ignore
echo "2">/proc/sys/net/ipv4/conf/all/arp_announce
sysctl -p >/dev/null 2>&1
echo "realServer Start ok"
;;
stop)
ifconfig lo:0 down
route del $VIP >/dev/null 2>&1
echo "0">/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "0">/proc/sys/net/ipv4/conf/lo/arp_announce
echo "0">/proc/sys/net/ipv4/conf/all/arp_ignore
echo "0">/proc/sys/net/ipv4/conf/all/arp_announce
echo "realServer Stoped"
;;
*)
echo "Usage:$0{start|stop}"
exit 1
esac
exit 0
上面这个脚本没什么好修改的，注意你自己的VIP输入正确就好了。其他的都可以照抄。
分别在2台web服务器上启动这个脚本。
然后再输入
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-30573.png#ifconfig
eth0 Link encap:Ethernet HWaddr 00:50:8D:58:A8:DF
inet addr:172.17.94.234 Bcast:172.17.255.255 Mask:255.255.0.0
inet6 addr: fe80::250:8dff:fe58:a8df/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
RX packets:19707 errors:0 dropped:0 overruns:0 frame:0
TX packets:2457 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:2164485 (2.0 MiB) TX bytes:206181 (201.3 KiB)
Interrupt:169 Base address:0x2000
lo Link encap:Local Loopback
inet addr:127.0.0.1 Mask:255.0.0.0
inet6 addr: ::1/128 Scope:Host
UP LOOPBACK RUNNING MTU:16436 Metric:1
RX packets:14 errors:0 dropped:0 overruns:0 frame:0
TX packets:14 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:0
RX bytes:1008 (1008.0 b) TX bytes:1008 (1008.0 b)
lo:0 Link encap:Local Loopback  #出现这个才正常，没有出现这个，允许real.sh脚本
inet addr:172.17.94.18 Mask:255.255.255.255
UP LOOPBACK RUNNING MTU:16436 Metric:1
出来的就是这个样子。
注意在主负载服务器和从负载服务器输入以下命令
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-5220.png[root@LVSM keepalived]# ip add list
1: lo:  mtu 16436 qdisc noqueue
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
2: eth0:  mtu 1500 qdisc pfifo_fast qlen 1000
link/ether 00:0c:29:0f:94:2f brd ff:ff:ff:ff:ff:ff
inet 172.17.94.16/19 brd 172.17.95.255 scope global eth0
inet 172.17.94.18/32 scope global eth0
3: eth1:  mtu 1500 qdisc noop qlen 1000
link/ether 00:0c:29:0f:94:39 brd ff:ff:ff:ff:ff:ff
上面的输出是主负载机器的
下面看看从负载的输出
#ip add list
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-32645.png[root@LVSB keepalived]# ip add list
1: lo:  mtu 16436 qdisc noqueue
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
2: eth0:  mtu 1500 qdisc pfifo_fast qlen 1000
link/ether 00:0c:29:78:c6:35 brd ff:ff:ff:ff:ff:ff
inet 172.17.94.21/19 brd 172.17.95.255 scope global eth0
3: eth1:  mtu 1500 qdisc noop qlen 1000
link/ether 00:0c:29:78:c6:3f brd ff:ff:ff:ff:ff:ff
注意到差别没有。
现在如果关闭主负载，那么VIP会自动切换到从负载上来。
再输入以下命令查看
file:///C:/DOCUME~1/ADMINI~1/LOCALS~1/Temp/ksohtml/wps_clip_image-27521.png[root@LVSM keepalived]# ipvsadm
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 172.17.94.18:http wrr persistent 50
-> 172.17.94.95:http Route 1 0 0
-> 172.17.94.234:http Route 1 0 0
#出现上面的才是正常的
ActiveConn和InActConn为0，是因为现在没有链接。