集群介绍，keepalived介绍，使用keepalived配置高可用集群

hghgfg

笔记内容：

• 18.1 集群介绍
  
• 18.2 keepalived介绍
  
• 18.3 用keepalived配置高可用集群（上）
  
• 18.4 用keepalived配置高可用集群（中）
  
• 18.5 用keepalived配置高可用集群（下）
  
  

笔记日期：2017-11-10

18.1 集群介绍

集群或者说是群集：其目的是为了实现将多台计算机组合以来完成特定的任务，比如天气预报，大型网络游戏，这些都需要很大的运算量，单台计算机实现成本太高，而且不现实。那么就需要通过集群的方式，将闲置的或者正在使用的计算机联合起来，结合整体的力量来解决这些问题，其实就是多个计算机组合成一个大的计算机罢了。
集群的类型大致分为三类：
1.LB Load Balancing（负载均衡集群）
2.HA High Availability（高可用性集群）
3.HP High Performance（高性能集群）

简单说明下这三种类型的集群：
1. 负载均衡型的集群目的是为了提高服务的并发能力，比如三台WEB服务器组合成一个集群，我们就需要用这种类型的集群来实现负载均衡，既让这三台WEB服务器的负载平均一些，不至于有很空闲的服务器。
2. 高可用性的集群目的是为了提供7*24小时服务的能力，通过提供冗余服务器，来防止宏机造成的服务中断
3. 高性能集群目的是为了在短期内解决大量复杂的计算，常见的天气预报系统，科学勘探，人口普查等等
同时，集群提供了非常好的扩展/缩减性非常，可以方便的增加或者减少服务器。



18.2 keepalived介绍

Keepalived是Linux下一个轻量级别的高可用解决方案。高可用(High Avalilability,HA)，其实两种不同的含义：广义来讲，是指整个系统的高可用行，狭义的来讲就是之主机的冗余和接管，
它与HeartBeat RoseHA 实现相同类似的功能，都可以实现服务或者网络的高可用，但是又有差别，HeartBeat是一个专业的、功能完善的高可用软件，它提供了HA 软件所需的基本功能，比如：心跳检测、资源接管，检测集群中的服务，在集群节点转移共享IP地址的所有者等等。HeartBeat功能强大，但是部署和使用相对比较麻烦，
与HeartBeat相比，Keepalived主要是通过虚拟路由冗余来实现高可用功能，虽然它没有HeartBeat功能强大，但是Keepalived部署和使用非常的简单，所有配置只需要一个配置文件即可以完成，
Keepalived起初是为LVS设计的，专门用来监控集群系统中各个服务节点的状态，它根据TCP/IP参考模型的第三、第四层、第五层交换机制检测每个服务节点的状态，如果某个服务器节点出现异常，或者工作出现故障，Keepalived将检测到，并将出现的故障的服务器节点从集群系统中剔除，这些工作全部是自动完成的，不需要人工干涉，需要人工完成的只是修复出现故障的服务节点。
后来Keepalived又加入了VRRP的功能，VRRP（Vritrual Router Redundancy Protocol,虚拟路由冗余协议)出现的目的是解决静态路由出现的单点故障问题，通过VRRP可以实现网络不间断稳定运行，因此Keepalvied 一方面具有服务器状态检测和故障隔离功能，另外一方面也有HA cluster功能。

Keepalived体系结构图：



18.3 用keepalived配置高可用集群（上）
想要使用Keepalived做这个集群的实验，需要准备两台机器，一台作为master，另一台作为backup。
我这里示例使用的master机器的IP是192.168.77.130
backup机器的IP是192.168.77.128

1. 并且两台机器都需要安装Keepalived，安装命令如下：

yum install -y keepalived

2. 然后就是安装Nginx（两台机器都需要安装），在这里我使用Nginx作为一个负载均衡器，因为在许多的企业中用Nginx作为负载均衡的也不少，所以使用Nginx来作为演示会更接近在企业中的应用。安装命令如下：
yum install -y nginx
提示：我这里为了减少步骤和降低搭建过程的复杂度，所以使用yum来安装，一般在企业中是使用二进制或者源码包来安装Nginx的。

如果你的机器没有安装epel扩展源，需要先安装扩展源，命令如下：
yum install -y epel-release

• 编辑master机器上的keepalived配置文件，配置文件模板可以从以下网址获得：
  
  

https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/master_keepalived.conf
或者直接从这里复制（但是要记得把注释去掉）：
global_defs {   //定义全局参数
   notification_email {  //定义出现问题的时候，给这个邮箱发送邮件
     aming@aminglinux.com
   }
   notification_email_from root@aminglinux.com //定义问题邮件由哪一个邮箱发出去
   smtp_server 127.0.0.1  
   smtp_connect_timeout 30
   router_id LVS_DEVEL
}
vrrp_script chk_nginx {  //检测服务是否正常
    script "/usr/local/sbin/check_ng.sh"
    interval 3  //检测的间断为3秒钟
}
vrrp_instance VI_1 {  //定义master相关的信息
    state MASTER  //定义角色为master
    interface ens33  //定义网卡名称（你机器上能够正常通信的网卡名称）
    virtual_router_id 51  //定义路由器的id
    priority 100  //定义权重，主角色和从角色的权重是不一样的
    advert_int 1  //
    authentication {  //定义认证相关的信息
        auth_type PASS  //定义认证的形式为使用密码认证
        auth_pass 123456  //定义密码
    }
    virtual_ipaddress {  //定义vip，这是一公有ip，也就是从和主都共同使用这个ip
        192.168.77.100
    }
    track_script {  //加载检测脚本
        chk_nginx
    }
}


使用以下命令清空keepalived的配置文件里的内容：
> /etc/keepalived/keepalived.conf

然后编辑keepalived配置文件：
vim /etc/keepalived/keepalived.conf

把模板内容复制粘贴进去，注意：最好是检查一下粘贴后的内容和模板的内容是否一致，确保没有复制少了，如果这个配置文件有问题的话，keepalived就启动不起来了。粘贴完了之后，要修改一下，将几个配置修改为你机器上的信息：

• 网卡名称，要定义你自己的网卡名称。
  
• global_defs那一段可以自定义，可以自己根据实际情况修改
  
• 可以定义一个自己的密码
  
• vip地址，最好是你虚拟机的ip段的地址
  
  

• 在master机器上定义监控脚本，脚本的内容可以从以下网址获得：
  
  

https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/master_check_ng.sh

或者直接从这里复制：
#!/bin/bash
#时间变量，用于记录日志
d=`date --date today +%Y%m%d_%H:%M:%S`
#计算nginx进程数量
n=`ps -C nginx --no-heading|wc -l`
#如果进程为0，则启动nginx，并且再次检测nginx进程数量，
#如果还为0，说明nginx无法启动，此时需要关闭keepalived
if [ $n -eq "0" ]; then
        /etc/init.d/nginx start
        n2=`ps -C nginx --no-heading|wc -l`
        if [ $n2 -eq "0"  ]; then
                echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log
                systemctl stop keepalived
        fi
fi
这是检查Nginx是否正常的一个shell脚本。

编辑脚本文件（这个脚本文件的路径是可以在keepalived.conf文件中自定义的）：
vim /usr/local/sbin/check_ng.sh

将复制的内容粘贴进去：

注意： 如果你的nginx是yum安装的，那么就要把/etc/init.d/nginx start那行，改为systemctl start nginx。

• 编辑完脚本后，给这个脚本文件设置755权限（不设置这个权限的话，就无法自动加载这个脚本）：
  
  

chmod 755 /usr/local/sbin/check_ng.sh

18.4 用keepalived配置高可用集群（中）
上一部分我们就已经在master机器上配置好了keepalived，配置好之后就是启动keepalived服务，并且需要查看一下进程是否存在：
systemctl start  keepalived
ps aux |grep keepalived

如图，则是没有问题，服务启动成功了。

如果你的机器上启动了nginx服务的话，先关闭nginx：

service nginx stop

然后再查看nginx的进程：
ps aux |grep nginx

会发现nginx自动启动了，这就证明检测脚本没问题。

关于keepalived的日志记录，我们可以在/var/log/messages日志文件中查看：


使用ip add 命令查看vip是否存在：

使用ifconfig命令是查看不到vip的，需要使用ip add 命令。


在搭建集群的时候，需要先把selinux给关闭，防火墙的规则也要清空，两台机器都需要关闭和清空规则：
清空防火墙规则：

iptables -F

关闭selinux：
setenforce 0



配置backup机器：
master机器配置完后，就需要到backup机器上进行配置了。同样的在backup机器上第一件要做的事情就是配置keepalived配置文件：
1. 清空keepalived.conf文件：
> /etc/keepalived/keepalived.conf

2. 然后编辑keepalived配置文件：
vim /etc/keepalived/keepalived.conf

• 复制模板内容（模板内容同样的在上面那个网址获得），粘贴进去。然后修改以下几个地方：
  
  

• 网卡名称，要定义你自己的网卡名称。
  
• state参数要改为backup
  
• priority（权重）参数改为90
  
• global_defs那一段可以自定义，可以自己根据实际情况修改
  
• 可以定义一个自己的密码
  
• virtual_ipaddress（vip地址）参数，定义和master机器同样的地址
  
  

4. 同样的要编辑检测脚本，脚本的内容可以从以下网址获得，我这里的脚本和master机器的配置有些差别，因为我backup机器的nginx是yum安装的，而master机器的nginx则是源码包安装的，所以在启动命令上不一样，可以根据实际情况更改启动方式：

https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/backup_check_ng.sh

编辑脚本文件：
vim /usr/local/sbin/check_ng.sh

将复制的内容粘贴进去：



5. 编辑完脚本后，给这个脚本文件设置755权限（不设置这个权限的话，就无法自动加载这个脚本）：

chmod 755 /usr/local/sbin/check_ng.sh

• 启动keepalived服务，并查看进程：
  
  

systemctl start  keepalived

ps aux |grep keepalived

• 修改一下master机器的nginx的默认访问页的内容（默认页的路径在nginx的默认虚拟主机配置文件中查看）：
  
  

vim /data/wwwroot/default/index.html

修改内容如下：

• 使用浏览器访问master机器的ip地址，看看是否会显示修改后的内容：
  
  

如图，则是没问题。

• 这次修改backup机器的nginx默认访问页内容，因为是yum安装的，所以路径不一样：
  
  

vim /usr/share/nginx/html/index.html

因为是yum安装的，所以会自带有内容，需要先清空一下：

> /usr/share/nginx/html/index.html

接着修改内容如下：

• 使用浏览器访问backup机器的ip地址，看看是否会显示修改后的内容：
  
  

如图，则是没问题。
以上这几个步骤是为了确认nginx能够被正常访问。


接下来我们需要访问vip，确认vip也能够被访问：

如图，可以看到能够被正常访问，而且默认就是访问master机器的。

18.5 用keepalived配置高可用集群（下）

完成上述步骤之后，我们的高可用集群就搭建好来了，接下来我们需要测试一下这个高可用集群：
测试1：关闭master上的nginx服务

关闭之后任然会被keepalived服务启动，代表没问题。


测试2：在master机器上增加iptabls规则：
iptables -I OUTPUT -p vrrp -j DROP


依旧能够被访问，这种情况就不属于master宕机：


测试完之后清空规则：
iptables -F


测试3：关闭master机器上的keepalived服务
systemctl stop keepalived
然后可以看到master机器上的vip被释放了，不存在了：


这时vip被backup机器所监听了，这就类似于生产环境中，master机器宕机了，然后backup机器就会顶替master机器：


现在再去访问vip地址，会发现变成了backup机器上默认页里的内容：

这种情况就是master宕机了，这一步测试就是为了模拟master宕机的情况。


测试4：启动master上的keepalived服务
systemctl start keepalived

同样的去浏览器访问vip，访问页面的内容恢复成master上的默认页内容就没问题了：