|
|
使用keepalived实现HA Cluster集群，下面以示例来演示keepalived的使用和keepalived的相关知识
HA Cluster配置前提：
1、本机的主机名，要与hostname(uname-n)获得的名称保持一致；
CentOS6: /etc/sysconfig/network
CentOS7: hostnamectl set-hostname HOSTNAME
各节点要能互相解析主机名；一般建议通过hosts文件进行解析；
修改主机名为centos7和centos6.1.com，然后修改hosts文件，能让两边能相互解析到
2、各节点时间同步；ntpdate 172.16.249.195把这个主机当成时间服务器，然后进行时间同步
设置ntp时间同步服务器
修改/etc/ntp.conf文件
内容如下：
driftfile /var/lib/ntp/drift
restrict 127.0.0.1
restrict ::1
restrict 172.16.0.0 mask 255.255.0.0nomodify notrap
server 127.127.1.0
fudge 127.127.1.0 stratum 8
includefile /etc/ntp/crypto/pw
keys /etc/ntp/keys
disable monitor
3、确保iptables及selinux不会成为服务阻碍；
nopreempt：非抢占模式；默认为抢占模式；
在调度器上，首先安装keepalived程序，然后把时间同步成一样的
ntpdate 172.16.249.195
检查iptables和selinux是否开启了
然后在CentOS7中进行实验
yum install keepalived
用两台机器一台CentOS7，一台CentOS6看是否有问题
CentOS7中
修改位置文件（/etc/keepalived/keepalived.conf）
首先把“virtual_server 192.168.200.100 443 {”这一行以下的全部注释掉
然后修改内容如下
为了完整，把这后面的信息补全
然后复制这个文件到另一个主机
scp keepalived.conf 172.16.249.147:/etc/keepalived/
然后稍微修改下
这样就可以了，这样就可以启动测试了
systemctl start keepalived.service;ssh172.16.249.147 'service keepalivedstart' 因为我使用的是一个centos7和一个centos6，所以前后的启动命令不一样，如果使用的是同样的就不需这样了
使用 ps aux 查看keepalived是否启动
然后在centos7上使用ifconfig进行查看，可以看到地址加上来了
然后我们把centos7下的keepalived关闭，然后查看地址
地址没有了，去centos6上查看会发现地址在6上看，这就是高可用了，就是当一台负载均衡器下线时，另一台能立即启用，实现高可用
没有日志信息，我们自己定义一个
首先修改/etc/sysconfig/keepalived这个文件，
然后修改/etc/rsyslog.conf这个文件
然后使用systemctl restart rsyslog.service重启日志服务
另一个主机同样修改重启日志服务使用（service rsyslog restart）
然后重启keepalived服务查看日志就有了
然后做两个虚拟路由，即双主模式
修改keepalived的配置文件,增加下面一段
然后另一台主机修改keepalived的配置文件为下面一段
然后重启服务就可以查看了（如果因为网络环境比较复杂的话，等的时间可能要长一点）
如果停掉一台的keepalived服务，另一台会包括所有的地址
这样停服务在生产中，是不行的，下面来添加脚本实现动态切换
修改配置文件，添加下面配置
这一段要加在vrrp_instance 字段外面
另一个主机也做这样的配置
这就可以启用了
然后在172.16.249.195的/etc/keepalived目录下创建一个down文件，然后查看地址
另一台主机上就有两个地址了
定义邮件的发送，需要自行定义，需要自己写一个脚本
脚本内容：
#!/bin/bash
#Author: MageEdu
#description: An example of notify script
#
vip=172.16.100.88
contact='root@localhost'
notify(){
mailsubject="`hostname` to be $1: $vipfloating"
mailbody="`date '+%F %H:%M:%S'`: vrrptransition, `hostname` changed to be $1"
echo $mailbody | mail -s"$mailsubject" $contact
}
case"$1" in
master)
notify master
exit 0
;;
backup)
notify backup
exit 0
;;
fault)
notify fault
exit 0
;;
*)
echo 'Usage: `basename $0`{master|backup|fault}'
exit 1
;;
esac
在/etc/keepalived/目录下创建一个名为notify.sh的脚本
给这个脚本一个执行权限chmod +x notify.sh
配置文件中vrrp_instance VI_1这一段里写入下面三行
notify_master"/etc/keepalived/notify.sh master"
notify_backup"/etc/keepalived/notify.sh backup"
notify_fault"/etc/keepalived/notify.shfault"
验证下，
然后把这个脚本复制到另一个负载均衡器上，然后修改配置文件
scp -rp notify.sh172.16.249.147:/etc/keepalived/
这样邮件的发送就弄好了
另一个虚拟路由就不再演示了，跟这个步骤一样
我们加入lvs和nginx来实现高可用的负载均衡器的实现（做的是双主模型）
下面先以lvs做负载均衡器，进行高可用负载均衡，以lvs的DR模式为例，规划如下
首先两个RS打开web服务，配好测试页，访问测试以下，没问题了，
然后配置第一个Director（负载均衡器），安装ipvsadm，配置lvs规则（如果不会配置可以上网搜索，或者查看本人的lvs的博客），首先测试是能正常工作的
首先加入VIP，
用其他主机ping测试一下，这个地址通不通，通了就没问题了，就差lvs规则了，
然后配置两个RS，首先配置arp_ignore和arp_annoce，然后配置VIP和路由
写一个脚本实现一些功能，然后直接在两台RS上运行一下，就可以了
然后 bash set.sh start 然后cat看一下是否成功了；把这个脚本复制给另一台RS执行一次
然后添加地址和路由
ifconfig lo:0 172.16.249.18 netmask255.255.255.255 broadcast 172.16.249.18
route add -host 172.16.249.18 dev lo:0
ifconfig lo:1 172.16.249.19 netmask255.255.255.255 broadcast 172.16.249.19
route add -host 172.16.249.19 dev lo:1
另一台RS也添加地址和路由
ifconfig lo:0 172.16.249.18 netmask255.255.255.255 broadcast 172.16.249.18
route add -host 172.16.249.18 dev lo:0
ifconfig lo:1 172.16.249.19 netmask255.255.255.255 broadcast 172.16.249.19
route add -host 172.16.249.19 dev lo:1
因为做的是两个虚拟路由器的即双主的，就是通过DNS在前面分流，一部分走172.16.249.18这个地址一部分走172.16.249.19，所以RS要配置两个VIP
然后RS的配置就做完了，然后回到Director上写入ipvs规则
ipvsadm -A -t 172.16.249.18:80 -s rr
ipvsadm -a -t 172.16.249.18:80 -r172.16.249.116 -g
ipvsadm -a -t 172.16.249.18:80 -r172.16.249.123 -g
然后测试是否能正常轮调
如果用物理机的浏览器访问不轮调，是网络的影响，开一个虚拟机进行测试，如果没有问题，就证明lvs的dr模式的负载均衡做好了
另一台lvs服务器也做一下这个规则，然后测试一下，证明lvs的负载均衡没有问题了
然后我们把lvs服务器上的规则清掉，地址删除
然后在两台lvs上做sorry server 启动httpd服务，然后写一个页面，然后访问
测试没问题，就可以了
下面做keepalived高可用的负载均衡器（安装keepalived）
直接做成两台虚拟路由器的，
修改第一台lvs主机的keepalived的配置文件如下
global_defs {
notification_email {
root@localhost
}
notification_email_from kaadmin@localhost
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id centos7
}
vrrp_script chk_schedown {
script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
interval 1
weight -2
}
vrrp_instance VI_1 {
state MASTER
interface eth0
virtual_router_id 51
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 5b03429a7cf5
}
virtual_ipaddress {
172.16.249.18/16dev eth0 label eth0:0
}
track_script {
chk_schedown
}
notify_master "/etc/keepalived/notify.sh master"
notify_backup "/etc/keepalived/notify.sh backup"
notify_fault "/etc/keepalived/notify.sh fault
}
vrrp_instance VI_2 {
state BACKUP
interface eth0
virtual_router_id 61
priority 99
advert_int 1
authentication {
auth_type PASS
auth_pass 20b662c6c06d
}
virtual_ipaddress {
172.16.249.19/16dev eth0 label eth0:1
}
}
virtual_server 172.16.249.18 80 {
delay_loop 6
lb_algo wrr
lb_kind DR
nat_mask 255.255.0.0
protocol TCP
real_server 172.16.249.116 80 {
weight 1
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 172.16.249.123 80 {
weight 2
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
virtual_server 172.16.249.19 80 {
delay_loop 6
lb_algo wrr
lb_kind DR
nat_mask 255.255.0.0
protocol TCP
real_server 172.16.249.116 80 {
weight 1
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 172.16.249.123 80 {
weight 2
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
然后配置另一台lvs主机中的的keepalived如下：
global_defs {
notification_email {
root@localhost
}
notification_email_from kaadmin@localhost
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id centos6.1.com
}
vrrp_script chk_schedown {
script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
interval 1
weight -2
}
vrrp_instance VI_1 {
state BACKUP
interface eth0
virtual_router_id 51
priority 99
advert_int 1
authentication {
auth_type PASS
auth_pass 5b03429a7cf5
}
virtual_ipaddress {
172.16.249.18/16dev eth0 label eth0:0
}
track_script {
chk_schedown
}
notify_master "/etc/keepalived/notify.sh master"
notify_backup "/etc/keepalived/notify.sh backup"
notify_fault "/etc/keepalived/notify.sh fault"
}
vrrp_instance VI_2 {
state MASTER
interface eth0
virtual_router_id 61
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 20b662c6c06d
}
virtual_ipaddress {
172.16.249.19/16 dev eth0 label eth0:1
}
}
virtual_server 172.16.249.18 80 {
delay_loop 6
lb_algo wrr
lb_kind DR
nat_mask 255.255.0.0
protocol TCP
real_server 172.16.249.116 80 {
weight 1
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 172.16.249.123 80 {
weight 2
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
virtual_server 172.16.249.19 80 {
delay_loop 6
lb_algo wrr
lb_kind DR
nat_mask 255.255.0.0
protocol TCP
real_server 172.16.249.116 80 {
weight 1
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 172.16.249.123 80 {
weight 2
HTTP_GET {
url {
path /
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
这只在第一个虚拟路由器中做脚本，第二个没有做，要想做了，跟第一个的一样
然后就可以启动keepalived服务了
然后访问测试一下
可以看到两个地址都能负载均衡
下面让一台lvs的keepalived下线
这样两个地址都在一台lvs上了，访问测试下
可以看到也没有问题，
如果把一台RS下线，所有请求就都在一个RS上了；如果RS都下线，sorry server就可以发挥作用了。（这里不再演示了）
这样高可用的lvs的负载均衡就做好了
下面做下nginx的高可用的负载均衡，就是用nginx做负载均衡器
使用nginx做负载均衡器，架构如下：
安装nginx，然后启动起来，配置成负载均衡服务器
修改/etc/nginx/nginx.conf
另一台负载均衡器同样这样配置
然后修改这一台nginx的keepalived的配置文件
global_defs {
notification_email {
root@localhost
}
notification_email_from kaadmin@localhost
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id centos7
}
vrrp_script chk_nginx {
script "killall -0 nginx &> /dev/null"
interval 1
weight -10
}
vrrp_instance VI_1 {
state MASTER
interface eth0
virtual_router_id 51
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 5b03429a7cf5
}
virtual_ipaddress {
172.16.249.18/16dev eth0 label eth0:0
}
track_script {
chk_nginx
}
notify_master "/etc/keepalived/notify.sh master"
notify_backup "/etc/keepalived/notify.sh backup"
notify_fault "/etc/keepalived/notify.sh fault
}
另一台nginx的keepalived配置文件为
global_defs {
notification_email {
root@localhost
}
notification_email_from kaadmin@localhost
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id centos6.1.com
}
vrrp_script chk_nginx {
script "killall -0 nginx &> /dev/null"
interval 1
weight -10
}
vrrp_instance VI_1 {
state BACKUP
interface eth0
virtual_router_id 51
priority 99
advert_int 1
authentication {
auth_type PASS
auth_pass 5b03429a7cf5
}
virtual_ipaddress {
172.16.249.18/16dev eth0 label eth0:0
}
track_script {
chk_nginx
}
notify_master "/etc/keepalived/notify.sh master"
notify_backup "/etc/keepalived/notify.sh backup"
notify_fault "/etc/keepalived/notify.sh fault"
}
然后启动keepalived
可以看到地址配好了，测试下
可以看到做好了，然后把一台nginx的nginx服务停掉，看另一台能否上线
访问也没有问题，这样nginx的高可用就做好了，
做双主模式的，只需要在keepalived配置文件里加入下面这些内容就行了
第一台（172.16.249.195）
第二台（172.16.249.147）
然后重启keepalived服务
查看ip
访问测试，
让一台的nginx服务停掉
可以看到能正常切换，这样nginx高可用的双主模式就做好了
|
|
|
|
|
|
|
|
|
QQ群⑧：
窥视卡
雷达卡
发表于 2018-12-31 06:39:52
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡