sky 发表于 2013-5-29 09:06:51

Centos6.3下NFS+DRBD+HeartBeat配置笔记

---------闲   扯-----------   这里首先感谢酒哥的构建高可用的Linux服务器的这本书,看了这本书上并参考里面的配置让自己对NFS+DRBD+HeartBeat思路顿时清晰了许多,最后吐槽下,yum安装真心坑爹,以后如果非必须,尽量源码包安装。----------开   搞-----------
系统版本: centos6.3 x64(内核2.6.32)DRBD:   DRBD-8.4.3HeartBeat:epel更新源(真坑)NFS:       系统自带
HeartBeat VIP:    192.168.7.90Primary DRBD+HeartBeat:   192.168.7.88(drbd1.example.com)Secondary DRBD+HeartBeat:   192.168.7.89 (drbd2.example.com)
(Primary)为仅主服务器端配置(Secondary)为仅从服务器端配置(Primary,Secondary)为主服务器端从服务器端共同配置
一.DRBD配置,传送门:http://showerlee.blog./2047005/1211963
二.Hearbeat配置;
这里接着DRBD系统环境及安装配置:
1.安装heartbeat(CentOS6.3中默认不带有Heartbeat包,因此需要从第三方下载)(Primary,Secondary)# wget ftp://mirror.switch.ch/pool/1/mirror/scientificlinux/6rolling/i386/os/Packages/epel-release-6-5.noarch.rpm# rpm -ivUh epel-release-6-5.noarch.rpm# yum --enablerepo=epel install heartbeat -y
2.配置heartbeat(Primary)# vi /etc/ha.d/ha.cf---------------# 日志logfile         /var/log/ha-loglogfacility   local0# 心跳监测时间keepalive       2# 死亡时间deadtime      5# 指定对方IP:ucast         eth0 192.168.7.89# 服务器正常后由主服务器接管资源,另一台服务器放弃该资源auto_failback   off#定义节点node            drbd1.example.com drbd2.example.com---------------(Secondary)# vi /etc/ha.d/ha.cf---------------# 日志logfile         /var/log/ha-loglogfacility   local0# 心跳监测时间keepalive       2# 死亡时间deadtime      5# 指定对方IP:ucast         eth0 192.168.7.88# 服务器正常后由主服务器接管资源,另一台服务器放弃该资源auto_failback   off#定义节点node            drbd1.example.com drbd2.example.com---------------
编辑双机互联验证文件:(Primary,Secondary)# vi /etc/ha.d/authkeys--------------auth 11 crc--------------# chmod 600 /etc/ha.d/authkeys
编辑集群资源文件:(Primary,Secondary)# vi /etc/ha.d/haresources--------------drbd1.example.com IPaddr::192.168.7.90/24/eth0 drbddisk::r0 Filesystem::/dev/drbd0::/data::ext4 killnfsd--------------该文件内IPaddr,Filesystem等脚本存放路径在/etc/ha.d/resource.d/下
编辑脚本文件killnfsd,用来重启NFS服务:注:因为NFS服务切换后,必须重新mount NFS共享出来的目录,否则会报错。# vi /etc/ha.d/resource.d/killnfsd-----------------killall -9 nfsd; /etc/init.d/nfs restart;exit 0-----------------赋予执行权限:# chmod 755 /etc/ha.d/resource.d/killnfsd

创建DRBD脚本文件drbddisk注:此处又是一个大坑,如果不明白Heartbeat目录结构的朋友估计要在这里被卡到死,因为默认yum安装Heartbeat,不会在/etc/ha.d/resource.d/创建drbddisk脚本,而且也无法在安装后从本地其他路径找到该文件。此处本人也是因为启动Heartbeat后无法PING通虚IP,最后通过查看/var/log/ha-log日志,找到一行ERROR: Cannot locate resource script drbddisk然后进而到/etc/ha.d/resource.d/路径下发现竟然没有drbddisk脚本,最后在google上找到该代码,创建该脚本,终于测试通过:
# vi /etc/ha.d/resource.d/drbddisk-----------------------#!/bin/bash## This script is inteded to be used as resource script by heartbeat## Copright 2003-2008 LINBIT Information Technologies# Philipp Reisner, Lars Ellenberg####
DEFAULTFILE="/etc/default/drbd"DRBDADM="/sbin/drbdadm"
if [ -f $DEFAULTFILE ]; then . $DEFAULTFILEfi
if [ "$#" -eq 2 ]; then RES="$1" CMD="$2"else RES="all" CMD="$1""drbddisk" 134L, 3166C#!/bin/bash## This script is inteded to be used as resource script by heartbeat## Copright 2003-2008 LINBIT Information Technologies# Philipp Reisner, Lars Ellenberg####
DEFAULTFILE="/etc/default/drbd"DRBDADM="/sbin/drbdadm"
if [ -f $DEFAULTFILE ]; then . $DEFAULTFILEfi
if [ "$#" -eq 2 ]; then RES="$1" CMD="$2"else RES="all" CMD="$1"
                     ;;               Secondary|Unconfigured)                     echo "stopped ($ROLE)"                     exit 3 # LSB status "service is not running"                     ;;               *)                     # NOTE the "running" in below message.                     # this is a "heartbeat" resource script,                     # the exit code is _ignored_.                     echo "cannot determine status, may be running ($ROLE)"                     exit 4 #LSB status "service status is unknown"                     ;;       esac       ;;   *)       echo "Usage: drbddisk {start|stop|status}"       exit 1       ;;esac
exit 0-----------------------赋予执行权限:# chmod 755 /etc/ha.d/resource.d/drbddisk
在两个节点上启动HeartBeat服务,先启动Primary:(Primary,Secondary)# service heartbeat start# chkconfig heartbeat on
这里能够PING通虚IP 192.168.7.90,表示配置成功
三.配置NFS# vi /etc/exports-----------------/data      *(rw,no_root_squash)-----------------重启NFS服务:# service rpcbind restart# service nfs restart# chkconfig rpcbind on# chkconfig nfs off这里设置NFS开机不要自动运行,因为/etc/ha.d/resource.d/killnfsd 该脚本内容控制NFS的启动。
四.最终测试在另外一台LINUX的客户端挂载虚IP:192.168.7.90,挂载成功表明NFS+DRBD+HeartBeat大功告成.# mount -t nfs 192.168.7.90:/data /tmp# df -h---------------......192.168.7.90:/data   1020M   34M934M   4% /tmp---------------测试NFS+DRBD+HeartBeat可用性:1.向挂载的/tmp目录传送文件,忽然重新启动主端DRBD服务,查看变化经本人测试能够实现断点续传
2.正常状态重启Primary主机后,观察主DRBD状态是否恢复Primary并能正常被客户端挂载并且之前写入的文件存在,可以正常再写入文件。经本人测试可以正常恢复,且客户端无需重新挂载NFS共享目录,之前数据存在,且可直接写入文件。
3.当Primary主机因为硬件损坏无法立即使用,需要将Secondary提升为Primary主机,如何操作?如果设备能够正常启动则按照如下操作,无法启动则强行提升Secondary为Primary,待宕机设备能够正常启动,若“脑裂”,再做后续修复工作。首先先卸载客户端挂载的NFS主机目录# umount /tmp(Primary)卸载DRBD设备:# service nfs restart# umount /data降权:# drbdadm secondary r0查看状态,已降权# service drbd status-----------------drbd driver loaded OK; device status:version: 8.4.3 (api:1/proto:86-101)GIT-hash: 89a294209144b68adb3ee85a73221f964d3ee515 build by root@drbd1.example.com, 2013-05-27 20:45:19m:rescs         ro                   ds               pmountedfstype0:r0   ConnectedSecondary/SecondaryUpToDate/UpToDateC-----------------(Secondary)提权:# drbdadm primary r0查看状态,已提权:# service drbd status----------------drbd driver loaded OK; device status:version: 8.4.3 (api:1/proto:86-101)GIT-hash: 89a294209144b68adb3ee85a73221f964d3ee515 build by root@drbd2.example.com, 2013-05-27 20:49:06m:rescs         ro               ds               pmountedfstype0:r0   ConnectedPrimary/SecondaryUpToDate/UpToDateC----------------这里还未挂载DRBD目录,让Heartbeat帮忙挂载:注:若重启过程中发现Heartbeat日志报错:ERROR: glib: ucast: error binding socket. Retrying: Permission denied请检查selinux是否关闭# service heartbeat restart# service drbd status-----------------------drbd driver loaded OK; device status:version: 8.4.3 (api:1/proto:86-101)GIT-hash: 89a294209144b68adb3ee85a73221f964d3ee515 build by root@drbd2.example.com, 2013-05-27 20:49:06m:rescs         ro               ds               pmountedfstype0:r0   ConnectedPrimary/SecondaryUpToDate/UpToDateC/data    ext4------------------------成功让HeartBeat挂载DRBD目录
重新在客户端做NFS挂载测试:
# mount -t nfs 192.168.7.90:/data /tmp# ll /tmp------------------110222223456789lost+foundorbit-root------------------重启刚刚被提权的主机,待重启查看状态:# service drbd status------------------------drbd driver loaded OK; device status:version: 8.4.3 (api:1/proto:86-101)GIT-hash: 89a294209144b68adb3ee85a73221f964d3ee515 build by root@drbd2.example.com, 2013-05-27 20:49:06m:rescs            ro               ds               pmountedfstype0:r0   WFConnectionPrimary/UnknownUpToDate/DUnknownC/data    ext4------------------------HeartBeat成功挂载DRBD目录,且客户端无缝透明使用NFS挂载点。
4.测试最后刚才那台宕机重新恢复正常后,他是否会从新夺取Primary资源?重启后不会重新获取资源,需手动切换主从权限方可。注:vi /etc/ha.d/ha.cf配置文件内该参数:--------------------auto_failback   off--------------------表示服务器正常后由新的主服务器接管资源,另一台旧服务器放弃该资源

wlzxwfk 发表于 2013-6-15 05:13:09

走过了年少,脚起了水泡

q789321 发表于 2013-6-23 05:45:57

床上运动也可以减肥的,你们都不知道吗?

liyeho 发表于 2013-7-1 04:33:04

男人有冲动可能是爱你,也可能是不爱,但没有冲动肯定是不爱!

恒晖瑶 发表于 2013-9-1 19:30:01

不在课堂上沉睡,就在酒桌上埋醉。

lb5645284 发表于 2013-12-26 02:13:49

至少在我最无助,哭的最伤心时,你还是抱住了我,用手抹掉了我的眼泪。这就够了,你还是不忍。
页: [1]
查看完整版本: Centos6.3下NFS+DRBD+HeartBeat配置笔记