设为首页 收藏本站
查看: 793|回复: 0

[经验分享] Redis3.0集群搭建和测试(cluster)

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2017-2-22 09:04:17 | 显示全部楼层 |阅读模式
介绍安装环境与版本

用一台虚拟机模拟6个节点,创建出3 master、3 salve 环境。

redis 采用 redis-3.2.4版本。

一台虚拟机是 CentOS6.5 (IP:192.168.1.174,此处使用127.0.0.1)。

安装过程

1. 下载并解压

cd/root/software

wgethttp://download.redis.io/releases/redis-3.2.4.tar.gz

tar-zxvfredis-3.2.4.tar.gz

2. 编译安装

cd redis-3.2.4

make && make install

3. 将 redis-trib.rb 复制到 /usr/local/bin 目录下

cd src

cp redis-trib.rb /usr/local/bin/

4. 创建 Redis 节点

首先在 127.0.0.1 机器上 /etc 目录下创建 redis_cluster 目录;

mkdir redis_cluster

在 redis_cluster 目录下,创建名为7000、7001、7002的目录,并将 redis.conf 拷贝到这三个目录中

mkdir 700070017002 7003 7004 7005

cp /etc/redis/6379.conf redis_cluster/7000.conf

cp /etc/redis/6379.conf redis_cluster/7001.conf

cp /etc/redis/6379.conf redis_cluster/7002.conf

cp /etc/redis/6379.conf redis_cluster/7003.conf

cp /etc/redis/6379.conf redis_cluster/7004.conf

cp /etc/redis/6379.conf redis_cluster/7005.conf





分别修改这三个配置文件,修改如下内容

复制代码

port 7000                                       //端口7000,7002,7003      

bind 本机ip                                      //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群

daemonize    yes                               //redis后台运行

pidfile /var/run/redis_7000.pid          //pidfile文件对应7000,7001,7002

cluster-enabled  yes                           //开启集群  把注释#去掉

cluster-config-file  nodes_7000.conf   //集群的配置  配置文件首次启动自动生成 7000,7001,7002

cluster-node-timeout  15000                //请求超时  默认15秒,可自行设置

appendonly yes                           //aof日志开启  有需要就开启,它会每次写操作都记录一条日志 

复制代码



使用命令修改如下:

sed -i 's#6379#7005#g'/etc/redis_cluster/7005.conf

sed -i 's#\# cluster-enabledyes#cluster-enabled yes#g' /etc/redis_cluster/7005.conf

sed -i 's#\#cluster-config-file#cluster-config-file#g' /etc/redis_cluster/7005.conf

sed -i 's#\# cluster-node-timeout15000#cluster-node-timeout 15000#g' /etc/redis_cluster/7005.conf

sed -i 's#appendonly no#appendonlyyes#g' /etc/redis_cluster/7005.conf

sed -i 's#dump.rdb#dump_7005.rdb#g'/etc/redis_cluster/7005.conf

sed -i 's#appendonly.aof#appendonly_7005.aof#g'/etc/redis_cluster/7005.conf



5. 启动各个节点

redis-server /etc/redis_cluster/7000.conf

redis-server /etc/redis_cluster/7001.conf

redis-server /etc/redis_cluster/7002.conf

redis-server /etc/redis_cluster/7003.conf

redis-server /etc/redis_cluster/7004.conf

redis-server /etc/redis_cluster/7005.conf



注:

停止节点

redis-cli  -p 6379 shutdown

redis-cli  -p 6380 shutdown





6. 检查 redis 启动情况

复制代码

##一台机器<br>ps -ef | grep redis

root     61020      1  002:14 ?        00:00:01 redis-server 127.0.0.1:7000 [cluster]   

root     61024      1  002:14 ?        00:00:01 redis-server 127.0.0.1:7001 [cluster]   

root     61029      1  002:14 ?        00:00:01 redis-server 127.0.0.1:7002 [cluster]   



netstat -tnlp | grep redis

tcp       0      0127.0.0.1:17000             0.0.0.0:*                   LISTEN      61020/redis-server

tcp       0      0127.0.0.1:17001             0.0.0.0:*                   LISTEN      61024/redis-server

tcp       0      0127.0.0.1:17002             0.0.0.0:*                   LISTEN      61029/redis-server

tcp       0      0127.0.0.1:7000              0.0.0.0:*                   LISTEN      61020/redis-server

tcp       0      0127.0.0.1:7001              0.0.0.0:*                   LISTEN      61024/redis-server

tcp       0      0127.0.0.1:7002              0.0.0.0:*                   LISTEN      61029/redis-server

   

##另外一台机器

ps -ef | grep redis

root      9957      1  002:32 ?        00:00:01 redis-server 127.0.0.1:7003 [cluster]

root      9964      1  002:32 ?        00:00:01 redis-server 127.0.0.1:7004 [cluster]

root      9971      1  002:32 ?        00:00:01 redis-server 127.0.0.1:7005 [cluster]

root     10065   4744  002:38 pts/0    00:00:00 grep --color=auto redis

netstat -tlnp | grep redis

tcp       0      0127.0.0.1:17003         0.0.0.0:*               LISTEN      9957/redis-server 1

tcp       0      0127.0.0.1:17004         0.0.0.0:*               LISTEN      9964/redis-server 1

tcp       0      0127.0.0.1:17005         0.0.0.0:*               LISTEN      9971/redis-server 1

tcp       0      0127.0.0.1:7003          0.0.0.0:*               LISTEN      9957/redis-server 1

tcp       0      0127.0.0.1:7004          0.0.0.0:*               LISTEN      9964/redis-server 1

tcp       0      0127.0.0.1:7005          0.0.0.0:*               LISTEN      9971/redis-server 1

复制代码

7.创建集群

Redis 官方提供了 redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/bin 目录中,可以直接在命令行中使用了。使用下面这个命令即可完成安装。

[iyunv@localhostredis]# redis-trib.rb create --replicas 1 127.0.0.1:7000 127.0.0.1:7001127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

/usr/bin/env:ruby: 没有那个文件或目录

等等,出错了。这个工具是用 ruby 实现的,所以需要安装 ruby。安装命令如下:

yum -y installruby ruby-devel rubygemsrpm-build

gem installredis

之后再运行 redis-trib.rb 命令,会出现如下提示:

[iyunv@localhost redis]# redis-trib.rb create--replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003127.0.0.1:7004 127.0.0.1:7005

>>>Creating cluster

>>>Performing hash slots allocation on 6 nodes...

Using 3masters:

127.0.0.1:7000

127.0.0.1:7001

127.0.0.1:7002

Adding replica127.0.0.1:7003 to 127.0.0.1:7000

Adding replica127.0.0.1:7004 to 127.0.0.1:7001

Adding replica127.0.0.1:7005 to 127.0.0.1:7002

M: a35d37cdcb6d569a63cc7dd76392748868575a7d 127.0.0.1:7000

   slots:0-5460 (5461 slots) master

M: 6d9c92254027d4e9375609d9b583725005cac881 127.0.0.1:7001

   slots:5461-10922 (5462 slots)master

M: 894002cc9fb4789c636157a043437fa5bd9863d6 127.0.0.1:7002

   slots:10923-16383 (5461 slots)master

S: e3697b15b0f322b46a3e6a057bd36e131527f783 127.0.0.1:7003

   replicatesa35d37cdcb6d569a63cc7dd76392748868575a7d

S: 88e9d9097cd2b5531f39430e510af027290116be 127.0.0.1:7004

   replicates6d9c92254027d4e9375609d9b583725005cac881

S: 4d950c36f89a4ebb2d1f343e00e7b7fa703f1db0 127.0.0.1:7005

   replicates894002cc9fb4789c636157a043437fa5bd9863d6

Can Iset the above configuration? (type 'yes' to accept): yes

输入 yes 即可,然后出现如下内容,说明安装成功。



>>>Nodes configuration updated

>>>Assign a different config epoch to each node

>>>Sending CLUSTER MEET messages to join the cluster

Waiting forthe cluster to join....

>>>Performing Cluster Check (using node 127.0.0.1:7000)

M: a35d37cdcb6d569a63cc7dd76392748868575a7d 127.0.0.1:7000

   slots:0-5460 (5461 slots) master

   1 additional replica(s)

M: 6d9c92254027d4e9375609d9b583725005cac881 127.0.0.1:7001

   slots:5461-10922 (5462 slots)master

   1 additional replica(s)

S: 88e9d9097cd2b5531f39430e510af027290116be 127.0.0.1:7004

   slots: (0 slots) slave

   replicates6d9c92254027d4e9375609d9b583725005cac881

S: e3697b15b0f322b46a3e6a057bd36e131527f783 127.0.0.1:7003

   slots: (0 slots) slave

   replicatesa35d37cdcb6d569a63cc7dd76392748868575a7d

M: 894002cc9fb4789c636157a043437fa5bd9863d6 127.0.0.1:7002

   slots:10923-16383 (5461 slots)master

   1 additional replica(s)

S: 4d950c36f89a4ebb2d1f343e00e7b7fa703f1db0 127.0.0.1:7005

   slots: (0 slots) slave

   replicates894002cc9fb4789c636157a043437fa5bd9863d6

[OK] All nodesagree about slots configuration.

>>>Check for open slots...

>>>Check slots coverage...

[OK] All 16384slots covered.



通过以上的信息可以看出有3个master和三个slave,并且三个slave分别对应三个master.

8. 集群验证

在第一台机器上连接集群的7002端口的节点,在另外一台连接7005节点,连接方式为 redis-cli -h 127.0.0.1 -c -p 7002  ,加参数 -C 可连接到集群,因为上面 redis.conf 将 bind 改为了ip地址,所以 -h 参数不可以省略。

在7005节点执行命令  set hello world ,执行结果如下:

[iyunv@localhost~]# redis-cli -c -p 7005

127.0.0.1:7005>set hello world

->Redirected to slot [866] located at 127.0.0.1:7000

OK

127.0.0.1:7000>keys *

1)"hello"

然后在另外一台7002端口,查看 key 为 hello 的内容, get hello  ,执行结果如下:

[iyunv@localhostredis]# redis-cli -c -p 7002

127.0.0.1:7002>get hello

->Redirected to slot [866] located at 127.0.0.1:7000

"world"

127.0.0.1:7000>keys *

1)"hello"

说明集群运作正常。

简单说一下原理

wKiom1isF6GTfYa4AABT0rceCxQ030.jpg-wh_50

redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。

Redis 集群并没有使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set和 get 的时候,直接跳转到了7000端口的节点。

Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 。

需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。

宕机测试结果:

1)        如果其中一个master宕机了,那就由相应的slave接上升级为master,客户端读写数据也全部转移到该slave上,写入数据时,3个master是按照顺序的方式轮着写入数据。

2)        masterA,slaveA,宕机的主节点masterA恢复后,自动由master降为slave,而slaveA继续担任master,如果slaveA宕机了那么masterA才能升级回master,而slaveA恢复后则担任slave,读写数据也转移到masterA如果循环。

3)        如果master和slave都宕机了,那么该对应组的数据将不能读取,并且在写入时也会提示报错而无法写入(轮询写入时卡住了)。





6. Redis主从配置



6.1 只需要修改slave的配置



找到配置文件/usr/local/redis-2.6.11/redis.conf

修改如下内容:

slaveof 127.0.0.1:12002 # slaveof master的ip master的端口



6.2 主从测试

在master set

redis 127.0.0.1:12002> set testms gogogo

OK



在slave get

redis 127.0.0.1:12002> get testms

"gogogo" <---- 获取到的value



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-345468-1-1.html 上篇帖子: Redis热迁移实战分享 下篇帖子: Redis集群redis主从自动切换Sentinel(哨兵模式)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表