DRBD+Heartbeat+NFS实验笔记

雷锋

　　环境：
　　Vmware6.5
　　Server1： eth0：192.168.1.201 sdb1 10G 心跳线: eth1： 10.10.10.131
　　Server2 eth0:192.168.1.202 sdb1 10G 心跳线：eth1:10.10.10.132
　　Heartbeat虚拟IP： 192.168.1.200
　　步骤：
　　一、 设置两台服务器的网卡信息、hosts、主机名等基本信息及sdb硬盘初始化。
　　此处我们只看看/etc/hots文件设置

　　二、安装并设置drbd
　　1）安装drbd
　　#tar -zxvf drbd-8.3.10.tar.gz
　　#cd drbd-8.3.10
　　#./configure --prefix=/ --with-km
　　#make
　　#make install
　　#chkconfig --add drbd
　　#chkconfig drbd on
　　2）DRBD的配置文件位于/etc/drbd.conf
　　--------------------------------------------------------
　　[root@drbd1 ~]#cat /etc/drbd.conf
　　#
　　# drbd.conf
　　#
　　# create by jackbillow@gmail.com at 2010-08-12
　　global {
　　usage-count no;
　　}
　　common {
　　syncer { rate 200M; }
　　}
　　resource drbdtest {
　　protocol C;
　　handlers {
　　pri-on-incon-degr "echo o > /proc/sysrq-trigger ; halt -f";
　　pri-lost-after-sb "echo o > /proc/sysrq-trigger ; halt -f";
　　local-io-error "echo o > /proc/sysrq-trigger ; halt -f";
　　fence-peer "/usr/lib64/heartbeat/drbd-peer-outdater -t 5";
　　pri-lost "echo pri-lost. Have a look at the log files. | mail -s 'DRBD Alert' root";
　　split-brain "/usr/lib/drbd/notify-split-brain.sh root";
　　out-of-sync "/usr/lib/drbd/notify-out-of-sync.sh root";
　　}
　　net {
　　cram-hmac-alg "sha1";
　　shared-secret "mydrbdtest";
　　}
　　disk {
　　on-io-error detach;
　　fencing resource-only;
　　}
　　startup {
　　wfc-timeout 120;
　　degr-wfc-timeout 120;
　　}
　　device /dev/drbd0;
　　on server1{
　　disk /dev/sdb1;
　　address 192.168.1.201:7788;
　　meta-disk internal;
　　}
　　on server2 {
　　disk /dev/sdb1;
　　address 192.168.1.202:7788;
　　meta-disk internal; }
　　}
　　将上面这个drbd.conf文件分别复制到两台主机的/etc目录下。
　　----------------------------------------------------------------
　　3）创建drbd块设备
　　[root@server1 drbd-8.3.10]# drbdadm create-md drbdtest
　　Writing meta data...
　　initializing activity log
　　NOT initialized bitmap
　　New drbd meta data block successfully created.
　　在两台主机上执行同样的命令
　　4）启动drbd服务
　　#service drbd start 或 /etc/init.d/drbd start
　　此时drbd状态还是secondary/secondary，我们要把192.168.1.201设置为主服务器
　　[root@server1 ~]# drbdsetup /dev/drbd0 primary -o
　　再次查看drbd状态，
　　[root@server1 ~]# cat /proc/drbd
　　version: 8.3.10 (api:88/proto:86-96)
　　GIT-hash: 5c0b0469666682443d4785d90a2c603378f9017b build by root@server1, 2011-06-10 00:16:16
　　0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r-----
　　ns:1095660 nr:0 dw:0 dr:1103744 al:0 bm:66 lo:1 pe:6 ua:64 ap:0 ep:1 wo:b oos:9387112
　　[=>..................] sync'ed: 10.6% (9164/10236)M
　　finish: 0:07:51 speed: 19,884 (18,248) K/sec
　　看到已经同步，并开始传送数据，稍等一会再次查看磁盘状态都是”实时”，表示数据同步完成了。
　　二、 设置NFS及相关资源
　　启动portmap和nfs服务，并设置开机启动，
　　#service portmap start
　　#service nfs start
　　#chkconfig --level 345 portmap on
　　#chkconfig --level 345 nfs on
　　在server1上格式化drbd0设备，并挂载在/nfs目录
　　[root@server1 ~]# mkfs.ext3 /dev/drbd0
　　[root@server1 ~]# mkdir /nfs
　　现在可以把server1上的DRBD设备挂载到/nfs目录上进行使用。备机的DRBD设备无法被挂载，因为它是用来接收主机数据的，由DRBD负责操作。
　　[root@server1 ~]# mount /dev/drbd0 /nfs
　　在/etc/exports 上将/nfs目录共享出去，并reload
　　[root@server1 ~]exportfs –r
　　如果不使用heartbeat的情况下，DRBD只能手工切换主从关系
　　现在修改heartbeat的配置文件，使DRBD可以通过heartbeat自动切换
　　[root@server1 ~]# vi /etc/ha.d/haresources
　　Server1 192.168.1.201 drbddisk::drbdtest Filesystem::/dev/drbd0::/nfs::ext3 drbd portmap nfs
　　注释：上面那行
　　Server1 定义Server1为heartbeat的主机
　　192.168.1.201 定义对外服务的IP地址，这个IP自动在主从机之间切换
　　drbddisk::drbdtest 定义使用的drbd资源
　　Filesystem::/dev/drbd0::/nfs::ext3 定义挂载文件系统
　　drbd portmap nfs 定义其他需要切换的服务（用空格隔开）
　　三、 安装并配置heartbeat
　　1、 先创建heartbeat需要的用户
　　groupadd haclient
　　useradd hacluster -g haclient
　　2、安装heartbeat前，需要先安装libnet包。
　　tar zxvf heartbeat-2.1.3.tar.gz
　　rpm –ivh libnet-1.1.2.1-2.2.el5.rf.i386.rpm
　　cd heartbeat-2.0.7
　　./configure
　　make
　　make install
　　两台机器都要安装，操作一样。
　　3、查找下ha.cf等三个配置文件的位置,然后将他们拷贝到/usr/local/etc/ha.d/目录中
　　[root@server1 heartbeat-2.0.7]# find / -name ha.cf
　　/usr/local/share/doc/heartbeat-2.0.7/ha.cf
　　/root/heartbeat-2.0.7/doc/ha.cf
　　[root@server1 heartbeat-2.0.7]#cp /usr/local/share/doc/heartbeat-2.0.7/ha.cf /usr/local/etc/ha.d/ha.cf
　　[root@server1 heartbeat-2.0.7]# cp /usr/local/share/doc/heartbeat-2.0.7/haresources /usr/local/etc/ha.d/haresources
　　[root@server1 heartbeat-2.0.7]# cp /usr/local/share/doc/heartbeat-2.0.7/authkeys /usr/local/etc/ha.d/authkeys
　　4、修改配置文件如下：
　　1）ha.cf配置内容：
　　------------------------------------------------------------------------------------------------------------
　　logfile /var/log/ha-log
　　keepalive 2
　　deadtime 30
　　warntime 10
　　initdead 120
　　udpport 694
　　bcast eth1
　　ucast eth1 10.10.10.132 。
　　auto_failback on
　　node server1
　　node server2
　　ping_group group1 192.168.1.1 221.5.88.88
　　respawn hacluster /usr/lib/heartbeat/ipfail
　　apiauth ipfail gid=haclient uid=hacluster
　　------------------------------------------------------------------------------------------------------------------
　　2）haresources配置内容;
　　server1 192.168.1.200 drbddisk::drbdtest Filesystem::/dev/drbd0::/nfs::ext3 drbd portmap nfs
　　3)authkeys的配置内容：
　　auth 1
　　1 crc
　　#2 sha1 HI!
　　#3 md5 Hello!
　　Server1和server2的配置是一样的，除了在server2的ha.cf中将ucast的IP修改为10.10.10.131。
　　设置haresources文件的权限为600。
　　启动heartbeat ，却发现错误，原因在于我们的配置文件里的ipfail文件位置不对，我们可以寻找下。
　　[root@server2 ha.d]# cd /usr/lib/
　　[root@server2 ha.d]# find / -name ipfail
　　/usr/local/lib/heartbeat/ipfail
　　/root/heartbeat-2.0.7/contrib/ipfail
　　/root/heartbeat-2.0.7/contrib/ipfail/ipfail
　　/root/heartbeat-2.0.7/contrib/ipfail/.libs/ipfail
　　我们将ha.cf的配置内容修改为/usr/local/lib/heartbeat/ipfail
　　此时启动heartbeat服务，发现过了一会，我们的虚拟IP 就ping不通了，查看日志
　　发现时drbddisk的资源找不到，我们将drbddisk拷贝一份到/usr/local/etc/ha.d/resource.d,
　　[root@serrver2 ~]# cp /etc/ha.d/resource.d/drbddisk /usr/local/etc/ha.d/resource.d/drbddisk
　　分别在server1和server2上执行。
　　然后再次启动heartbeat，此时就没问题了。
　　确定heartbeat和DRBD开机自启动
　　确定需要由heartbeat切换的服务，开机不自启动（由heartbeat来启用相关的服务）
　　四、测试