Redis集群redis主从自动切换Sentinel（哨兵模式）

xiaowei8782088

　　Redis Sentinel
　　Sentinel(哨兵)是用于监控redis集群中Master状态的工具，其已经被集成在redis2.4+的版本中
　　一、Sentinel作用：
　　1)：Master状态检测
　　2)：如果Master异常，则会进行Master-Slave切换，将其中一个Slave作为Master，将之前的Master作为Slave
　　3)：Master-Slave切换后，master_redis.conf、slave_redis.conf和sentinel.conf的内容都会发生改变，即master_redis.conf中会多一行slaveof的配置，sentinel.conf的监控目标会随之调换
　　二、Sentinel工作方式：
　　1)：每个Sentinel以每秒钟一次的频率向它所知的Master，Slave以及其他 Sentinel 实例发送一个 PING 命令
　　2)：如果一个实例（instance）距离最后一次有效回复PING 命令的时间超过 down-after-milliseconds 选项所指定的值， 则这个实例会被 Sentinel 标记为主观下线。
　　3)：如果一个Master被标记为主观下线，则正在监视这个Master的所有 Sentinel 要以每秒一次的频率确认Master的确进入了主观下线状态。
　　4)：当有足够数量的 Sentinel（大于等于配置文件指定的值）在指定的时间范围内确认Master的确进入了主观下线状态， 则Master会被标记为客观下线
　　5)：在一般情况下， 每个 Sentinel 会以每 10 秒一次的频率向它已知的所有Master，Slave发送 INFO 命令
　　6)：当Master被 Sentinel 标记为客观下线时，Sentinel 向下线的 Master 的所有 Slave 发送 INFO 命令的频率会从 10 秒一次改为每秒一次
　　7)：若没有足够数量的 Sentinel 同意 Master 已经下线， Master 的客观下线状态就会被移除。
　　若 Master 重新向 Sentinel 的 PING 命令返回有效回复， Master 的主观下线状态就会被移除。
　　主观下线和客观下线
　　主观下线：Subjectively Down，简称 SDOWN，指的是当前 Sentinel 实例对某个redis服务器做出的下线判断。
　　客观下线：Objectively Down， 简称 ODOWN，指的是多个 Sentinel 实例在对Master Server做出 SDOWN 判断，并且通过 SENTINEL is-master-down-by-addr 命令互相交流之后，得出的Master Server下线判断，然后开启failover.
　　SDOWN适合于Master和Slave，只要一个 Sentinel 发现Master进入了ODOWN， 这个 Sentinel 就可能会被其他 Sentinel 推选出， 并对下线的主服务器执行自动故障迁移操作。
　　ODOWN只适用于Master，对于Slave的 Redis 实例，Sentinel 在将它们判断为下线前不需要进行协商，所以Slave的 Sentinel 永远不会达到ODOWN。
　　三、配置：
　　1：指定监听Master(三个节点)
　　# vi /main/redis/sentinel_26379.conf
　　port 26379
　　daemonize yes
　　dir /tmp
　　logfile "/var/log/redis_26382.log"
　　sentinel monitor mymaster 127.0.0.1 6379 2
　　sentinel down-after-milliseconds mymaster 30000
　　sentinel parallel-syncs mymaster 1
　　sentinel failover-timeout mymaster 900000
　　# vi /main/redis/sentinel_26381.conf
　　port 26381
　　daemonize yes
　　dir /tmp
　　logfile "/var/log/redis_26382.log"
　　sentinel monitor mymaster 127.0.0.1 6379 2
　　sentinel down-after-milliseconds mymaster 30000
　　sentinel parallel-syncs mymaster 1
　　sentinel failover-timeout mymaster 900000
　　# vi /main/redis/sentinel_26382.conf
　　port 26382
　　daemonize yes
　　dir /tmp
　　logfile "/var/log/redis_26382.log"
　　sentinel monitor mymaster 127.0.0.1 6379 2
　　sentinel down-after-milliseconds mymaster 30000
　　sentinel parallel-syncs mymaster 1
　　sentinel failover-timeout mymaster 900000
　　#上面配置文件说明如下：
　　####
　　port 5000#sentinel
　　#监听的端口
　　sentinel monitor mymaster192.168.241.150 9400 2  
　　#192.168.241.150是master redis的IP地址和端口，2是代表2个sentinel检测到异常，才判断是real fail. Mymaster主机组的名称可以随便定义
　　sentinel down-after-millisecondsmymaster 30000      #指定sentinel监控到redis实例持续异常多长时间后，会判决其状态为down。若实际业务需要sentinel尽快判决出redis实例异常，则可适当配小,单位是毫秒
　　sentinel can-failover mymaster yes                   #在sentinel检测到O_DOWN后，是否对这台redis启动failover机制
　　sentinel parallel-syncs mymaster 1                   #执行故障转移时，最多可以有多少个从服务器同时对新的主服务器进行同步，这个数字越小，完成故障转移所需的时间就越长，但越大就意味着越多的从服务器因为复制而不可用。可以通过将这个值设为 1 来保证每次只有一个从服务器处于不能处理命令请求的状态。
　　sentinel failover-timeout mymaster900000            #若sentinel在该配置值内未能完成failover操作（即故障时master/slave自动切换），则认为本次failover失败
　　sentinel auth-pass master1rot@minunix               #当redis访问都需要密码的时候，即在redis.conf有配置requirepass项的时候，需要定义此项
　　sentinel notification-script master1/data/scripts/send_mail.sh
　　#当sentinel触发时，切换主从状态时，需要执行的脚本。当主down的时候可以通知当事人,
　　2：启动sentinel(三个节点)：
　　# redis-sentinel /etc/redis/sentinel_26379.conf
　　# redis-sentinel /etc/redis/sentinel_26381.conf
　　# redis-sentinel /etc/redis/sentinel_26382.conf
　　注意，必须使用redis-sentinel命令启动sentinel_26379.conf，虽然redis-sentinel是redis-server的软连接。
　　启动sentinel后，查看sentinel_26379.conf、sentinel_26380.conf、sentinel_26381.conf
　　可发现配置文件会记录已经加入的集群节点,并且配置文件内容改变了：
　　[root@localhost redis]# cat sentinel-26379.conf
　　port 26379
　　daemonize yes
　　pidfile "/var/run/redis-26379.pid"
　　logfile "/var/log/redis_26379.log"
　　dir "/tmp"
　　sentinel monitor mymaster 127.0.0.1 6379 2
　　sentinel config-epoch mymaster 0
　　sentinel leader-epoch mymaster 0
　　sentinel known-slave mymaster 127.0.0.1 6382
　　# Generated by CONFIG REWRITE
　　sentinel known-slave mymaster 127.0.0.1 6381
　　sentinel known-sentinel mymaster 127.0.0.1 263818fa3f71262abb6adfb838a598f449f855a9d4f3f
　　sentinel known-sentinel mymaster 127.0.0.1 2638226f3c5cf596971dbf8c8ed112d015fa252f36a08
　　sentinel current-epoch 0
　　[root@localhost redis]# cat sentinel-26381.conf
　　#master1
　　port 26381
　　daemonize yes
　　pidfile "/var/run/redis-26381.pid"
　　logfile "/var/log/redis_26381.log"
　　dir "/tmp"
　　sentinel monitor mymaster 127.0.0.1 6379 2
　　sentinel config-epoch mymaster 0
　　sentinel leader-epoch mymaster 0
　　sentinel known-slave mymaster 127.0.0.1 6382
　　# Generated by CONFIG REWRITE
　　sentinel known-slave mymaster 127.0.0.1 6381
　　sentinel known-sentinel mymaster 127.0.0.1 263798eb55903cd604571d4a816a2abfc6e7d60f9e356
　　sentinel known-sentinel mymaster 127.0.0.1 2638226f3c5cf596971dbf8c8ed112d015fa252f36a08
　　sentinel current-epoch 0
　　[root@localhost redis]# cat sentinel-26382.conf
　　#master1
　　port 26382
　　daemonize yes
　　pidfile "/var/run/redis-26382.pid"
　　logfile "/var/log/redis_26382.log"
　　dir "/tmp"
　　sentinel monitor mymaster 127.0.0.1 6379 2
　　sentinel config-epoch mymaster 0
　　sentinel leader-epoch mymaster 0
　　sentinel known-slave mymaster 127.0.0.1 6381
　　# Generated by CONFIG REWRITE
　　sentinel known-slave mymaster 127.0.0.1 6382
　　sentinel known-sentinel mymaster 127.0.0.1 263818fa3f71262abb6adfb838a598f449f855a9d4f3f
　　sentinel known-sentinel mymaster 127.0.0.1 263798eb55903cd604571d4a816a2abfc6e7d60f9e356
　　sentinel current-epoch 0
　　查看启动状态：
　　[root@localhost redis]# ps -ef |grep redis
　　root      2630     1  016:41 ?        00:00:03 redis-server*:6379
　　root      2645     1  016:46 ?        00:00:02 redis-server*:6381
　　root      2650     1  016:46 ?        00:00:02 redis-server*:6382
　　root      2705     1  017:13 ?        00:00:02 redis-sentinel*:26379 [sentinel]
　　root      2724  2276  017:22 pts/1    00:00:00 tail -f/var/log/redis_26379.log
　　root      2736    1  0 17:26 ?        00:00:00 redis-sentinel *:26382[sentinel]
　　root      2745     1  117:27 ?        00:00:00 redis-sentinel*:26381 [sentinel]
　　root      2749  1640  017:27 pts/0    00:00:00 grep redis
　　查看集群状态：
　　[root@localhost redis]# redis-cli info replication
　　# Replication
　　role:master
　　connected_slaves:2
　　slave0:ip=127.0.0.1,port=6381,state=online,offset=262006,lag=0
　　slave1:ip=127.0.0.1,port=6382,state=online,offset=262006,lag=0
　　master_repl_offset:262139
　　repl_backlog_active:1
　　repl_backlog_size:1048576
　　repl_backlog_first_byte_offset:2
　　repl_backlog_histlen:262138
　　查看sentinel状态：
　　[root@localhost redis]# redis-cli -p 26379 info sentinel
　　# Sentinel
　　sentinel_masters:1
　　sentinel_tilt:0
　　sentinel_running_scripts:0
　　sentinel_scripts_queue_length:0
　　master0:name=mymaster,status=ok,address=127.0.0.1:6379,slaves=2,sentinels=4
　　[root@localhost redis]# redis-cli -p 26381 infosentinel
　　# Sentinel
　　sentinel_masters:1
　　sentinel_tilt:0
　　sentinel_running_scripts:0
　　sentinel_scripts_queue_length:0
　　master0:name=mymaster,status=ok,address=127.0.0.1:6379,slaves=2,sentinels=3
　　[root@localhost redis]# redis-cli -p 26382 info sentinel
　　# Sentinel
　　sentinel_masters:1
　　sentinel_tilt:0
　　sentinel_running_scripts:0
　　sentinel_scripts_queue_length:0
　　master0:name=mymaster,status=ok,address=127.0.0.1:6379,slaves=2,sentinels=4
　　查看sentinel监控的所有master：
　　[root@localhost redis]# redis-cli -p 26379 sentinelmasters
　　查看mymaster下有哪些slaves
　　[root@localhost redis]# redis-cli -p 26379 sentinelslaves mymaster
　　强制进行主从切换：
　　[root@localhost redis]# redis-cli -p 26379 sentinelfailover mymaster
　　OK
　　[root@localhost redis]# redis-cli -p 26379 sentinelget-master-addr-by-name mymaster
　　1) "127.0.0.1"
　　2) "6382"
　　[root@localhost redis]# redis-cli -p 26379 sentinelfailover mymaster
　　OK
　　[root@localhost redis]# redis-cli -p 26379 sentinelget-master-addr-by-name mymaster
　　1) "127.0.0.1"
　　2) "6381
　　查看mymaster集群中的master地址和端口
　　[root@localhost redis]# redis-cli -p 26379 sentinelget-master-addr-by-name mymaster
　　1) "127.0.0.1"
　　2) "6379"
　　模拟故障转移：
　　Down掉6379服务，看是否自动切换：
　　[root@localhost redis]# redis-cli -p 26379 sentinelget-master-addr-by-name mymaster
　　1) "127.0.0.1"
　　2) "6382"
　　从上可看到会自动切换到了6382服务了。
　　模拟master恢复服务后的集群状态：
　　[root@localhost redis]# redis-cli -p 26379 sentinelget-master-addr-by-name mymaster
　　1) "127.0.0.1"
　　2) "6382"
　　[root@localhost redis]# redis-cli -p 26379 sentinelmasters
　　1)  1)"name"
　　2)"mymaster"
　　3)"ip"
　　4)"127.0.0.1"
　　5)"port"
　　6) "6382"
　　。。。。。。。
　　[root@localhost redis]# redis-cli -p 26379 sentinelslaves mymaster
　　1)  1)"name"
　　2)"127.0.0.1:6381"
　　3)"ip"
　　4)"127.0.0.1"
　　5)"port"
　　6)"6381"
　　7)"runid"
　　8)"a05d4350123b04c8bc98b00a3c1b0179b3b756e5"
　　9)"flags"
　　10) "slave"
　　11)"pending-commands"
　　12)"0"
　　13)"last-ping-sent"
　　14)"0"
　　15)"last-ok-ping-reply"
　　16)"498"
　　17)"last-ping-reply"
　　18)"498"
　　19)"down-after-milliseconds"
　　20)"30000"
　　21)"info-refresh"
　　22)"8512"
　　23)"role-reported"
　　24)"slave"
　　25)"role-reported-time"
　　26)"219661"
　　27)"master-link-down-time"
　　28)"0"
　　29)"master-link-status"
　　30)"ok"
　　31)"master-host"
　　32)"127.0.0.1"
　　33)"master-port"
　　34)"6382"
　　35)"slave-priority"
　　36)"100"
　　37)"slave-repl-offset"
　　38)"41424"
　　2)  1)"name"
　　2)"127.0.0.1:6379"
　　3)"ip"
　　4)"127.0.0.1"
　　5)"port"
　　6)"6379"
　　7)"runid"
　　8)"a2b0b1b19758c3cdfeb534a3c1274bcc6c19e55b"
　　9)"flags"
　　10)"slave"
　　11) "pending-commands"
　　12)"0"
　　13)"last-ping-sent"
　　14)"0"
　　15)"last-ok-ping-reply"
　　16)"209"
　　17)"last-ping-reply"
　　18)"209"
　　19)"down-after-milliseconds"
　　20)"30000"
　　21)"info-refresh"
　　22)"9908"
　　23)"role-reported"
　　24)"slave"
　　25)"role-reported-time"
　　26)"29937"
　　27)"master-link-down-time"
　　28)"0"
　　29)"master-link-status"
　　30)"ok"
　　31)"master-host"
　　32)"127.0.0.1"
　　33)"master-port"
　　34)"6382"
　　35)"slave-priority"
　　36)"100"
　　37)"slave-repl-offset"
　　38)"41158"
　　结果：可以从上看出，就算master恢复了，集群也不会让master重新接管，而是作为slave出现了。
　　3：设置开机启动(三个节点)
　　# echo "redis-sentinel /etc/redis/sentinel_26379.conf " >>/etc/rc.local
　　四、注意点：
　　1)：首次启动时，必须先启动Master
　　2)：Sentinel 只在 server 端做主从切换，app端要自己开发(例如Jedis库的SentinelJedis，能够监控Sentinel的状态)
　　3)：若Master已经被判定为下线，Sentinel已经选择了新的Master，也已经将old Master改成Slave，但是还没有将其改成new Master。若此时重启old Master，则Redis集群将处于无Master状态，此时只能手动修改配置文件，然后重新启动集群
　　到此redis集群配置完毕