q986 发表于 2016-12-20 09:04:44

KeepAlived + Redis 部署详细过程以及遇到的问题

一、Redis和Keepalived安装
1、  以下步骤在121和122上均要进行一遍
2、  以root用户登录,
cd /usr/local
2、命令:mkdir ms40  新建ms40目录
         3、cd ms40
         4、mkdir redis && cd redis && mkdir log && mkdir data  然后切回ms40目录
5、mkdir keepalived
         6、上传文件redis-2.6.14.tar.gz至redis目录
                   上传文件keepalived-1.2.7.tar.gz至keepalived目录
         7、安装redis
                   1)cd redis
                   2)tar zxvf redis-2.6.14.tar.gz
                   3)cd redis-2.6.14
              4)make
                   5)cd src
                   6)cp redis-benchmark redis-cli redis-server /usr/bin/
                   7)切回至ms40目录
       8、安装keepalived
                   1)cd keepalived
                   2)tar zxvf keepalived-1.2.7.tar.gz
                   3)yum install popt-devel
                   4)yum -y install openssl-devel
                   5)cd keepalived-1.2.7
                   6)./configure
                   7)make && make install
 
二、Keepalived配置
1、  转移keepalived的配置文件
1)  cp /usr/local/etc/rc.d/init.d/keepalived /etc/rc.d/init.d/
2)  cp /usr/local/etc/sysconfig/keepalived /etc/sysconfig/
3)  mkdir /etc/keepalived
4)  cp /usr/local/etc/keepalived/keepalived.conf /etc/keepalived/
5)  cp /usr/local/sbin/keepalived /usr/sbin/
 
三、Mater配置(10.25.174.121)
1、  从附件的Master文件夹中获取scripts文件夹和keepalived.conf覆盖至目录
/etc/keepalived目录下
         2、给脚本加上可执行权限:chmod +x /etc/keepalived/scripts/*.sh
         3、备份/usr/local/ms40/redis/redis-2.6.14目录下的redis.conf文件
4、从附件的Master文件夹中获取redis.conf文件覆盖至上述目录中
 
四、Slave配置(10.25.174.122)
1、  从附件的Slave文件夹中获取scripts文件夹和keepalived.conf覆盖至目录
/etc/keepalived目录下
         2、给脚本加上可执行权限:chmod +x /etc/keepalived/scripts/*.sh
         3、备份/usr/local/ms40/redis/redis-2.6.14目录下的redis.conf文件
4、从附件的Master文件夹中获取redis.conf文件覆盖至上述目录中
 
五、启动
1、  启动121上的redis
1)cd /
2)cd /usr/local/ms40/redis/redis-2.6.14
3)src/redis-server
         2、启动122上的redis
1)cd /
2)cd /usr/local/ms40/redis/redis-2.6.14
3)src/redis-server
         3、启动121上的keepalived
                   1)cd /
                   2)service keepalived start
         4、启动122上的keepalived
                   1)cd /
                   2)service keepalived start
 
六、验证
         1、运行-cmd
                   Ping 10.25.174.200 看是否能够ping通
2、  运行-cmd
telnet 10.25.174.200 6379 是否能通
3、  使用sshclient连接至121或者122,使用root用户
cd /usr/local/ms40/redis/redis-2.6.14
src/redis-cli –h 10.25.174.200
set name “test”
get name
看看结果是否为test
如果是则 del test
 
六、安装Redis过程中涉及的一些问题
      1、GCC的问题
make: cc: Command not found
make: *** Error 127
make: Leaving directory `/usr/local/redis-2.6.16/src'
make: *** Error 2
原因:没安装gcc,执行命令安装:yum install gcc-c++
      2、内存分配器的问题(重视)
make: Entering directory `/usr/local/redis-2.6.16/src'
CC adlist.o
In file included from adlist.c:34:
zmalloc.h:50:31: error: jemalloc/jemalloc.h: No such file or directory
zmalloc.h:55:2: error: #error "Newer version of jemalloc required"
make: *** Error 1
make: Leaving directory `/usr/local/redis-2.6.16/src'
make: *** Error 2
         原因:查看redis的源码 src/zmalloc.c可以看到如下代码:
       #if defined(USE_TCMALLOC)
#define malloc(size) tc_malloc(size)
#define calloc(count,size) tc_calloc(count,size)
#define realloc(ptr,size) tc_realloc(ptr,size)
#define free(ptr) tc_free(ptr)
#elif defined(USE_JEMALLOC)
#define malloc(size) je_malloc(size)
#define calloc(count,size) je_calloc(count,size)
#define realloc(ptr,size) je_realloc(ptr,size)
#define free(ptr) je_free(ptr)
         可以看到源码中首先会判断系统中是否存在tcmalloc内存分配器,如果没有,则使用jemalloc内存分配器,如果连jemalloc分配器也没有找到,就会报错了。
         本次现网部署Redis后,因为没有jemalloc分配器,导致碎片率达到了1.59,redis的内存占用率也就是实际内存占用的1.59倍,这个数据量是非常恐怖的,对内存资源是个相当大的损耗。
         在现网环境的linux系统中,可能没有预先安装Jemalloc分配器,需要手动安装。
         1、wget http://www.canonware.com/download/jemalloc/jemalloc-3.2.0.tar.bz2
         2、tar jxf jemalloc-3.2.0.tar.bz2  (tar.bz2的压缩格式使用 tar jxf 解压)
         3、cd jemalloc-3.2.0
         4、./configure
         5、make && make install
         6、ldconfig
         过程完成后,在切回到redis-2.6.14目录中,重新执行make命令
 
当然如果不想使用jemalloc分配器,可以强制使用如下命令来安装redis:
         make MALLOC=libc  (libc是默认的内存分配器,不过经过验证,碎片率是最高的)
 
         经现网验证:
1)  使用libc内存分配器的话,内存碎片率可以达到1.6左右
2)  但是使用jemalloc,碎片率一般在1.1以内
3)  对于tcmalloc,和jemalloc的结果差不多,但是因为redis暂时还没有集成tcmalloc,所以需要另外来安装,过程详见:
http://blog.nosqlfan.com/html/3490.html
 
七、安装Keepalived过程中涉及的一些问题
      1、虚拟网卡sit0的问题
                   Keepalived安装完成后,在启动时报了如下的异常:
Oct 18 00:24:43 localhost Keepalived: Starting VRRP child process, pid=6868
Oct 18 00:24:43 localhost Keepalived_vrrp: No such interface, sit0
使用ip a命令查看网卡信息如下:
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue
           link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
           inet 127.0.0.1/8 scope host lo
           inet6 ::1/128 scope host
                 valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast qlen 1000
           link/ether 00:50:56:ba:67:6e brd ff:ff:ff:ff:ff:ff
           inet 10.25.174.122/24 brd 10.25.174.255 scope global eth0
           inet6 fe80::250:56ff:feba:676e/64 scope link
                 valid_lft forever preferred_lft forever
3: sit0: <NOARP> mtu 1480 qdisc noop
link/sit 0.0.0.0 brd 0.0.0.0
网上对于sit0的描述如下:
         SIT是IPv6-in-IPv4 tunnel interfaces, 这个interfaces(界面或是接口)也称作sitx, sit是"Simple Internet Transition"的缩写. 它可以将IPv6的数据包塞进IPv4, 通过IPv4到达另一个地点.sit0 不能使用在专用的tunnels 上.
       一般它没有什么用, 还会减慢上网的速度, 可以修改
                  
在/etc/modprobe.conf文件增加如下两行配置:
alias ipv6 off
alias net-pf-10 off
然后reboot重启服务器
2、nc命令的问题     
家里测试环境(79.78、79.79)没有nc命令(类似windows下的telnet)
1)  wget http://sourceforge.net/projects/netcat/files/netcat/0.7.1/netcat-0.7.1.tar.gz/download
2)  tar zxvf netcat-0.7.1.tar.gz
3)  ./configure
4)  make && make install
 
3、检测脚本的问题
因家里在压测的时候,服务器没有nc命令,所以在检测脚本redis_check.sh中使用的是ping命令来检测redis是否还活着。但是因为在大并发情况下,ping命令会被拥堵,由此可能导致redis主备进行切换
                   原redis_check.sh:
                            #!/bin/bash
ALIVE=`/usr/bin/redis-cli PING`
if [ "$ALIVE" == "PONG" ]; then 
                           echo $ALIVE
                           exit 0
else 
                           echo $ALIVE
                           exit 1
fi
                   现redis_check.sh:
                            #!/bin/bash
nc -w 0 127.0.0.1 6379 && exit 0 || exit 1
4、keepalived.conf问题
                   Keepalived.conf中有运行监测脚本redis_check.sh的配置:
 
                   vrrp_script chk_redis {
                  script "/etc/keepalived/scripts/redis_check.sh"
                  interval 1
}
 
变量interval 表示执行监测脚本的时间间隔:1秒执行一次确实没有必要。
 
5秒执行一次即可。
页: [1]
查看完整版本: KeepAlived + Redis 部署详细过程以及遇到的问题