keepalived的脑裂问题

coverl

　　1、什么是脑裂
　　脑裂（split-brain）：指在一个高可用（HA）系统中，当联系着的两个节点断开联系时，本来为一个整体的系统，分裂为两个独立节点，这时两个节点开始争抢共享资源，结果会导致系统混乱，数据损坏。
　　对于无状态服务的HA，无所谓脑裂不脑裂；但对有状态服务(比如MySQL)的HA，必须要严格防止脑裂。
　　2、解决keepalived脑裂问题
　　检测思路：正常情况下keepalived的VIP地址是在主节点上的，如果在从节点发现了VIP，就设置报警信息。脚本（在从节点上）如下：
　　vim split-brainc_check.sh
　　#!/bin/bash
　　# 检查脑裂的脚本，在备节点上进行部署
　　LB01_VIP=192.168.1.229
　　LB01_IP=192.168.1.129
　　LB02_IP=192.168.1.130
　　while true
　　do
　　ping -c 2 -W 3 $LB01_VIP &>/dev/null
　　if [ $? -eq 0 -a `ip add|grep "$LB01_VIP"|wc -l` -eq 1 ];then
　　echo "ha is brain."
　　else
　　echo "ha is ok"
　　fi
　　sleep 5
　　done
　　3、曾经碰到的一个keepalived脑裂的问题（如果启用了iptables，不设置"系统接收VRRP协议"的规则，就会出现脑裂）
　　曾经在做keepalived+Nginx主备架构的环境时，当重启了备用机器后，发现两台机器都拿到了VIP。这也就是意味着出现了keepalived的脑裂现象，检查了两台主机的网络连通状态，发现网络是好的。然后在备机上抓包：
　　# tcpdump -i eth0|grep VRRP
　　tcpdump: verbose output suppressed, use -v or -vv for full protocol decode

　　listening on eth0, link-type EN10MB (Ethernet), capture>　　22:10:17.146322 IP 192.168.1.54 > vrrp.mcast.net: VRRPv2, Advertisement, vrid 51, prio 160, authtype simple, intvl 1s, length 20
　　22:10:17.146577 IP 192.168.1.96 > vrrp.mcast.net: VRRPv2, Advertisement, vrid 51, prio 50, authtype simple, intvl 1s, length 20
　　22:10:17.146972 IP 192.168.1.54 > vrrp.mcast.net: VRRPv2, Advertisement, vrid 51, prio 160, authtype simple, intvl 1s, length 20
　　22:10:18.147136 IP 192.168.1.96 > vrrp.mcast.net: VRRPv2, Advertisement, vrid 51, prio 50, authtype simple, intvl 1s, length 20
　　抓包发现备机能接收到master发过来的VRRP广播，那为什么还会有脑裂现象？
　　接着发现iptables开启着，检查了防火墙配置。发现系统不接收VRRP协议。于是修改iptables，添加允许系统接收VRRP协议的配置：
　　-A INPUT -i lo -j ACCEPT
　　-----------------------------------------------------------------------------------------
　　自己添加了下面的iptables规则：
　　-A INPUT -s 192.168.1.0/24 -d 224.0.0.18 -j ACCEPT       #允许组播地址通信
　　-A INPUT -s 192.168.1.0/24 -p vrrp -j ACCEPT             #允许VRRP（虚拟路由器冗余协）通信
　　-----------------------------------------------------------------------------------------
　　最后重启iptables，发现备机上的VIP没了。
　　虽然问题解决了，但备机明明能抓到master发来的VRRP广播包，却无法改变自身状态。只能说明网卡接收到数据包是在iptables处理数据包之前。
　　4、预防keepalived脑裂问题
　　（1）可以采用第三方仲裁的方法。由于keepalived体系中主备两台机器所处的状态与对方有关。如果主备机器之间的通信出了网题，就会发生脑裂，此时keepalived体系中会出现双主的情况，产生资源竞争。
　　（2）一般可以引入仲裁来解决这个问题，即每个节点必须判断自身的状态。最简单的一种操作方法是，在主备的keepalived的配置文件中增加check配置，服务器周期性地ping一下网关，如果ping不通则认为自身有问题 。
　　（3）最容易的是借助keepalived提供的vrrp_script及track_script实现。如下所示：
　　#vim /etc/keepalived/keepalived.conf
　　......
　　vrrp_script check_local {
　　script "/root/check_gateway.sh"
　　interval 5
　　}
　　......
　　track_script {
　　check_local
　　}
　　脚本内容：
　　# cat /root/check_gateway.sh
　　#!/bin/sh
　　VIP=$1
　　GATEWAY=192.168.1.1
　　/sbin/arping -I em1 -c 5 -s $VIP $GATEWAY &>/dev/null
　　check_gateway.sh 就是我们的仲裁逻辑，发现ping不通网关，则关闭keepalived。
　　5、推荐自己写脚本
　　写一个while循环，每轮ping网关，累计连续失败的次数，当连续失败达到一定次数则运行service keepalived stop关闭keepalived服务。
　　如果发现又能够ping通网关，再重启keepalived服务。最后在脚本开头再加上脚本是否已经运行的判断逻辑，将该脚本加到crontab里面。