birk 发表于 2018-12-25 11:15:33

Memcached主主复制+Keepalived高可用架构(内含所有源码包)

  初步了解memcached主主复制:
  Memcached主主复制是指在任意一台memcached服务器修改数据都会被同步到另外一台,但是memcached API客户端是无法判断连接到哪一台memcached服务器的,所以需要设置VIP地址,提供给memcached API客户端进行连接。可以使用keepalived产生的VIP地址连接主memcached服务器,并且提供高可用架构。
Memcached的复制功能支持多个memcached之间进行相互复制(双向复制,主备都是可读可写的),可以解决memcached的容灾问题。
  Memcached主主复制+Keepalived高可用架构
  因为memcached主主复制这种架构,在程序连接时不知道应该连接哪个主服务器,所以需要在前端加上VIP地址,实现高可用架构。这里用Keepalived实现,因而Keepalived作用是用来检测memcached服务器的状态是否正常。
Keepalived不断检测memcached主服务器的11211端口,如果检测到memcached服务器发生故障,就会将VIP从主服务器移至从服务器,从而实现memcached的高可用性。
  下面为memcached高可用结构图
http://i2.运维网.com/images/blog/201809/28/9ea85fc5818aaa64487b1cd4b6810895.png
  下面我通过实验进行说明
实验环境:
http://i2.运维网.com/images/blog/201809/28/0d7c86d4ecae2a17070373c1b5fe199e.png
  软件包链接:https://pan.baidu.com/s/1fBNcsyrqNxxlORg8TyJk1g
提取码:hx7g
一、在主节点上进行配置
关闭防火墙
  systemctl stop firewalld.service
setenforce 0
  安装编译环境
  yum install gcc gcc-c++ -y
  解压所需安装包
  tar zxvf libevent-2.1.8-stable.tar.gz -C /opt
tar zxvf memcached-1.5.6.tar.gz -C /opt
  因为magenta下的文件需要进行更改,所以单独建一个目录用来解压
  tar zxvf magent-0.5.tar.gz -C /opt/magent/    #解压过后便会出现以下四个文件
ketama.c
magent.c
ketama.h
Makefile
  编译并且安装libevent
  cd /opt/libevent-2.1.8-stable/
./configure --prefix=/usr
make && make install
  编译并且安装memcached,需要指明libevent安装路径
  cd ../memcached-1.5.6/
./configure --with-libevent=/usr
make && make install
  对magent目录下的ketama.h进行配置
  cd ../magent/
vim ketama.h
#ifndef SSIZE_MAX
#define SSIZE_MAX 32767    #将开头两句进行更改
  对magent目录下的Makefile进行配置
  vim Makefile
LIBS = -levent -lm   #在开头这句话的后面加上-lm
  文件配置完成后执行make
  make
gcc -Wall -O2 -g-c -o magent.o magent.c
gcc -Wall -O2 -g-c -o ketama.o ketama.c
gcc -Wall -O2 -g -o magent magent.o ketama.o -levent -lm
  将magent目录下配置好的文件复制到从服务器上的/usr/bin目录下,同时主服务器也要把该目录放到/usr/bin目录下,好让系统识别。接着安装openssh-clients这个工具,不然无法使用scp命令
  yum install openssh-clients -y
cp magent /usr/bin/
scp magent root@192.168.199.128:/usr/bin/
http://i2.运维网.com/images/blog/201809/28/0bf36d23129ae8a3a79e44a3bf21ab63.png
  安装keepalived软件并编辑主服务器的keepalived配置文件
  yum install keepalived -y   
vim /etc/keepalived/keepalived.conf
  在该配置文件中,除了保留第一个实例外,余下的122行可以全部删除
http://i2.运维网.com/images/blog/201809/28/492914a4c98bab21108b2cba6ead2fe2.png
http://i2.运维网.com/images/blog/201809/28/6aea398cfde90b354e3ed22ef0d7da2a.png
  创建脚本
  mkdir /opt/shell#注意这个路径,要和keepalived配置文件中指明的路径一致
vim /opt/shell/magent.sh
#!/bin/bash
k=ps -ef | grep keepalived | grep -v grep | wc -l
if [ $k -gt 0 ]; then
magent -u root -n 51200 -l 192.168.199.188 -p 12000 -s 192.168.199.129:11211 -b 192.168.199.128:11211
else
pkill -9 magent
fi
  赋予脚本执行权限
  chmod +x /opt/shell/magent.sh
  开启keepalived服务
  systemctl start keepalived.service
  查看12000这个端口,这个端口启动时间会稍微慢一些,如果成功开启这个虚拟端口说明服务启动成功
  netstat -ntap | grep 12000
http://i2.运维网.com/images/blog/201809/28/3275a38236691d0d0150d379f3193425.png
  查看虚拟端口
  ip addr
http://i2.运维网.com/images/blog/201809/28/c927ba1fbce951114708370c5d902b89.png
  二、在从节点上进行安装,注意从节点是不需要安装magent
关闭防火墙
  systemctl stop firewalld.service
setenforce 0
  安装编译环境
  yum install gcc gcc-c++ -y
  解压软件包
  tar zxvf libevent-2.1.8-stable.tar.gz -C /opt
tar zxvf memcached-1.5.6.tar.gz -C /opt
  编译并且安装libevent
  cd /opt/libevent-2.1.8-stable/
./configure --prefix=/usr
make && make install
  编译并且安装memcached
  cd ../memcached-1.5.6/
./configure --with-libevent=/usr
make && make install
  安装keepalived工具
  yum install keepalived -y
  因为在主节点上已经对keepalived配置文件进行了配置,所以这里只需要将主服务器上的配置文件复制过来稍作修改,在这之前需要先将从服务器的配置文件重命名,不然会有冲突
  cd /etc/keepalived/
mv keepalived.conf keepalived.conf.bk
scp root@192.168.199.129:/etc/keepalived/keepalived.conf ./
vim keepalived.conf
http://i2.运维网.com/images/blog/201809/28/0ab20c4eab62c2c7d9593396e393ddff.png
  创建脚本,同样这里要注意路径
  mkdir /opt/shell
vim /opt/shell/magent.sh
  编写脚本
  #!/bin/bash
k=ps -ef | grep keepalived | grep -v grep | wc -l
if [ $k -gt 0 ]; then
magent -u root -n 51200 -l 192.168.199.188 -p 12000 -s 192.168.199.129:11211 -b 192.168.199.128:11211
else
pkill -9 magent
fi
  赋予脚本执行权限
  chmod +x /opt/shell/magent.sh
  开启服务
  systemctl start keepalived.service
  查看端口
  netstat -ntap | grep 12000
http://i2.运维网.com/images/blog/201809/28/d22a087cc4781bb39049dd399c71b499.png
  查看虚拟IP
  ip addr
http://i2.运维网.com/images/blog/201809/28/910ee41be546c72423411fca0f265ea1.png
  在主从服务器上分别开启memcached服务
  memcached -m 512k -u root -d -l 192.168.199.129 -p 11211   #先在主服务器上开启
netstat -ntap | grep 11211   #查看端口
  memcached -m 512k -u root -d -l 192.168.199.128 -p 11211   #在从服务器上开启
netstat -ntap | grep 11211   #查看端口
  三、测试
客户端:
  yum install telnet -y
telnet 192.168.199.188 12000
http://i2.运维网.com/images/blog/201809/28/1a91cd04910c2b9fc7b48c9096e5fe34.png
  主节点:
  yum install telnet -y
telnet 192.168.199.129 11211
  在主节点上可以看到刚刚所创建的数据
http://i2.运维网.com/images/blog/201809/28/19d5836d68a84b04b7eb95288bd36c38.png
  从节点:
  yum install telnet -y
telnet 192.168.199.128 11211
  在从服务器上同样可以看到这条数据,说明两台服务器之间已经实现了主主复制
http://i2.运维网.com/images/blog/201809/28/c26b21faa265f1d7f2026b0c21daa8a0.png
  关闭主节点的keepalived
  systemctl stop keepalived.service
  可以看到,关闭keepalived服务后,虚拟端口也就消失了
http://i2.运维网.com/images/blog/201809/28/cf92e6a64a9c04b07609e89f8c7bd809.png
  再次在客户端上对数据进行查看,可以发现并没有什么影响,所以这也体现了该架构的高可用性
http://i2.运维网.com/images/blog/201809/28/62e85225565a885ad3abc9d36df0bcf1.png



页: [1]
查看完整版本: Memcached主主复制+Keepalived高可用架构(内含所有源码包)