Redis主从复制——哨兵模式
哨兵模式
(自动选举老大的模式)
概述
主从切换技术的方法是:当主服务器宕机后,需要手动把一台从服务器切换为主服务器,这就需要人工干预,费时费力,还会造成一段时间内服务不可用。这不是一种推荐的方式,更多时候,我们优先考虑哨兵模式。Redis从2.8开始正式提供了Sentinel(哨兵) 架构来解决这个问题。
哨兵模式能够后台监控主机是否故障, 如果故障了根据投票数自动将从库转换为主库 。 哨兵模式是一种特殊的模式,首先Redis提供了哨兵的命令,哨兵是一个独立的进程,作为进程,它会独立运行。其原理是哨兵通过发送命令,等待Redis服务器响应 ,从而监控运行的多个Redis实例。
这里的哨兵有两个作用 :
- 通过发送命令,让Redis服务器返回监控其运行状态,包括主服务器和从服务器。
- 当哨兵监测到master宕机,会自动将slave切换成master,然后通过发布订阅模式通知其他的从服务器,修改配置文件,让它们切换主机。
然而一个哨兵进程对Redis服务器进行监控,可能会出现问题,为此,我们可以使用多个哨兵进行监控。 各个哨兵之间还会进行监控,这样就形成了多哨兵模式。(起步六个进程)
假设主服务器宕机,哨兵1先检测到这个结果,系统并不会马上进行failover过程,仅仅是哨兵1主观的认 为主服务器不可用,这个现象称为主观下线。当后面的哨兵也检测到主服务器不可用,并且数量达到一 定值时,那么哨兵之间就会进行一次投票,投票的结果由一个哨兵发起,进行failover[故障转移]操作。 切换成功后,就会通过发布订阅模式,让各个哨兵把自己监控的从服务器实现切换主机,这个过程称为客观下线。
配置哨兵
目前的状态是一主三从,配置哨兵的配置文件。
[root@huan bin]# vim sentinel.conf
# sentinel monitor 主机名称 host port 判断次数,经过N次判断主机失联才算主机宕机
sentinel monitor mredis 127.0.0.1 6379 1
配置好之后,通过redis-sentinel
启动哨兵。
[root@huan bin]# ll
total 46348
-rw-r--r--. 1 root root 0 Aug 30 09:02 10.log
-rw-r--r--. 1 root root 0 Aug 30 09:02 20.log
-rw-r--r--. 1 root root 0 Aug 30 09:02 30.log
-rw-r--r--. 1 root root 175 Aug 30 10:01 dump.rdb
-rw-r--r--. 1 root root 83447 Aug 30 08:55 redis10.conf
-rw-r--r--. 1 root root 83447 Aug 30 08:55 redis20.conf
-rw-r--r--. 1 root root 83451 Aug 30 08:56 redis30.conf
-rwxr-xr-x. 1 root root 6398640 Aug 28 02:31 redis-benchmark
-rwxr-xr-x. 1 root root 11322968 Aug 28 02:31 redis-check-aof
-rwxr-xr-x. 1 root root 11322968 Aug 28 02:31 redis-check-rdb
-rwxr-xr-x. 1 root root 6726080 Aug 28 02:31 redis-cli
-rw-r--r--. 1 root root 83435 Aug 28 02:53 redis.conf
lrwxrwxrwx. 1 root root 12 Aug 28 02:31 redis-sentinel -> redis-server # <<<<<<<
-rwxr-xr-x. 1 root root 11322968 Aug 28 02:31 redis-server
-rw-r--r--. 1 root root 336 Aug 30 21:08 sentinel.conf
启动成功可以看到如下信息
[root@huan bin]# redis-sentinel sentinel.conf
2233:X 30 Aug 2020 21:07:43.390 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
2233:X 30 Aug 2020 21:07:43.390 # Redis version=6.0.6, bits=64, commit=00000000, modified=0, pid=2233, just started
2233:X 30 Aug 2020 21:07:43.390 # Configuration loaded
2233:X 30 Aug 2020 21:07:43.390 * Increased maximum number of open files to 10032 (it was originally set to 1024).
_._
_.-``__ ''-._
_.-`` `. `_. ''-._ Redis 6.0.6 (00000000/0) 64 bit
.-`` .-```. ```/ _.,_ ''-._
( ' , .-` | `, ) Running in sentinel mode
|`-._`-...-` __...-.``-._|'` _.-'| Port: 26379
| `-._ `._ / _.-' | PID: 2233
`-._ `-._ `-./ _.-' _.-'
|`-._`-._ `-.__.-' _.-'_.-'|
| `-._`-._ _.-'_.-' | http://redis.io
`-._ `-._`-.__.-'_.-' _.-'
|`-._`-._ `-.__.-' _.-'_.-'|
| `-._`-._ _.-'_.-' |
`-._ `-._`-.__.-'_.-' _.-'
`-._ `-.__.-' _.-'
`-._ _.-'
`-.__.-'
2233:X 30 Aug 2020 21:07:43.391 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.
2233:X 30 Aug 2020 21:07:43.391 # Sentinel ID is 0df714f3cb5c0b35fd30ba896203e97433273530
2233:X 30 Aug 2020 21:07:43.391 # +monitor master mredis 127.0.0.1 6379 quorum 1
现在我们终止master节点
127.0.0.1:6379> get k1
"v1"
127.0.0.1:6379> SHUTDOWN
not connected> exit
看看哨兵那里会发生什么。
2253:X 30 Aug 2020 21:11:46.567 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.
2253:X 30 Aug 2020 21:11:46.567 # Sentinel ID is 0df714f3cb5c0b35fd30ba896203e97433273530
2253:X 30 Aug 2020 21:11:46.567 # +monitor master mredis 127.0.0.1 6379 quorum 1
2253:X 30 Aug 2020 21:13:55.046 # +sdown master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:55.046 # +odown master mredis 127.0.0.1 6379 #quorum 1/1
2253:X 30 Aug 2020 21:13:55.046 # +new-epoch 2
2253:X 30 Aug 2020 21:13:55.046 # +try-failover master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:55.047 # +vote-for-leader 0df714f3cb5c0b35fd30ba896203e97433273530 2
2253:X 30 Aug 2020 21:13:55.047 # +elected-leader master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:55.047 # +failover-state-select-slave master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:55.130 # +selected-slave slave 127.0.0.1:6320 127.0.0.1 6320 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:55.130 * +failover-state-send-slaveof-noone slave 127.0.0.1:6320 127.0.0.1 6320 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:55.230 * +failover-state-wait-promotion slave 127.0.0.1:6320 127.0.0.1 6320 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:56.163 # +promoted-slave slave 127.0.0.1:6320 127.0.0.1 6320 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:56.163 # +failover-state-reconf-slaves master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:56.216 * +slave-reconf-sent slave 127.0.0.1:6310 127.0.0.1 6310 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:57.212 * +slave-reconf-inprog slave 127.0.0.1:6310 127.0.0.1 6310 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:57.212 * +slave-reconf-done slave 127.0.0.1:6310 127.0.0.1 6310 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:57.265 * +slave-reconf-sent slave 127.0.0.1:6330 127.0.0.1 6330 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:58.265 * +slave-reconf-inprog slave 127.0.0.1:6330 127.0.0.1 6330 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:58.265 * +slave-reconf-done slave 127.0.0.1:6330 127.0.0.1 6330 @ mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:58.326 # +failover-end master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:13:58.326 # +switch-master mredis 127.0.0.1 6379 127.0.0.1 6320
2253:X 30 Aug 2020 21:13:58.327 * +slave slave 127.0.0.1:6310 127.0.0.1 6310 @ mredis 127.0.0.1 6320
2253:X 30 Aug 2020 21:13:58.327 * +slave slave 127.0.0.1:6330 127.0.0.1 6330 @ mredis 127.0.0.1 6320
2253:X 30 Aug 2020 21:13:58.327 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mredis 127.0.0.1 6320
2253:X 30 Aug 2020 21:14:28.354 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mredis 127.0.0.1 6320
看这里
# 切换master,将6320选举成为了master
2253:X 30 Aug 2020 21:13:58.326 # +switch-master mredis 127.0.0.1 6379 127.0.0.1 6320
# 这里提示了主机点宕机了
2253:X 30 Aug 2020 21:13:58.326 # +failover-end master mredis 127.0.0.1 6379
2253:X 30 Aug 2020 21:14:28.354 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mredis 127.0.0.1 6320
当主机节点宕机之后,将6320选举成为了master,其他几个从节点加入到了新的master中。
具体的哨兵选举机制,其中包含算法在里面。现在查看6320的状态。
127.0.0.1:6320> info replication
# Replication
role:master
connected_slaves:2
slave0:ip=127.0.0.1,port=6310,state=online,offset=65884,lag=1
slave1:ip=127.0.0.1,port=6330,state=online,offset=65884,lag=0
可以看到role是master,有两个slave已经连接到该节点。
如果原来的主机(6379)恢复之后,因为现在从节点的信息都指向了新的master(6320),而不是6379,因此,即使恢复,也无法成为master了。
现在恢复6379,查看会发生什么?
[root@huan bin]# redis-server redis.conf
2299:C 30 Aug 2020 21:37:33.205 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
2299:C 30 Aug 2020 21:37:33.205 # Redis version=6.0.6, bits=64, commit=00000000, modified=0, pid=2299, just started
2299:C 30 Aug 2020 21:37:33.205 # Configuration loaded
查看哨兵
2253:X 30 Aug 2020 21:37:33.448 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mredis 127.0.0.1 6320
2253:X 30 Aug 2020 21:37:43.449 * +convert-to-slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mredis 127.0.0.1 6320
可以看到这里多了两条记录,-sdown
,* +convert-to-slave
,根据字面意思,大概可以理解为:
- -sdown:是减少了一个宕机的节点,该节点是6379
- +convert-to-slave:将身份转换成为slave节点
这个convert
就很有深意了,还是那句话,我们知道,redis在启动之后,默认情况下是master角色,因为这里开启了哨兵模式,会自动将身份从master转换为slave。
优点:
-
哨兵集群,基于主从复制模式,所有的主从配置的优点,它全有
-
主从可以切换,故障可以转移,系统的可用性会更高
-
哨兵模式就是主从模式的升级,手动到自动,更加健壮。
缺点:
- redis不好在线扩容,集群容量一旦到达上限,在线扩容比较麻烦
- 实现哨兵模式的配置,过程是比较麻烦的,里面有很多选择。
哨兵模式的全部配置
# Example sentinel.conf
# 哨兵sentinel实例运行的端口 默认26379
port 26379
# 哨兵sentinel的工作目录
dir /tmp
# master-name 可以自己命名的主节点名字 只能由字母A-z、数字0-9 、这三个字符".-_"组成。
# quorum 配置多少个sentinel哨兵统一认为master主节点失联 那么这时客观上认为主节点失联了
# sentinel monitor <master-name> <ip> <redis-port> <quorum>
sentinel monitor mymaster 127.0.0.1 6379 2
# 当在Redis实例中开启了requirepass foobared 授权密码 这样所有连接Redis实例的客户端都要提供密码
# 设置哨兵sentinel 连接主从的密码 注意必须为主从设置一样的验证密码
# sentinel auth-pass <master-name> <password>
sentinel auth-pass mymaster MySUPER--secret-0123passw0rd
# 指定多少毫秒之后 主节点没有应答哨兵sentinel 此时 哨兵主观上认为主节点下线 默认30秒
# sentinel down-after-milliseconds <master-name> <milliseconds>
sentinel down-after-milliseconds mymaster 30000
# 这个配置项指定了在发生failover主备切换时最多可以有多少个slave同时对新的master进行同步,
# 这个数字越小,完成failover所需的时间就越长,
# 但是如果这个数字越大,就意味着越 多的slave因为replication而不可用。
# 可以通过将这个值设为 1 来保证每次只有一个slave 处于不能处理命令请求的状态。
# sentinel parallel-syncs <master-name> <numslaves>
sentinel parallel-syncs mymaster 1
# 故障转移的超时时间 failover-timeout 可以用在以下这些方面:
# 1. 同一个sentinel对同一个master两次failover之间的间隔时间。
# 2. 当一个slave从一个错误的master那里同步数据开始计算时间。直到slave被纠正为向正确的master那里同步数 # 据时。
# 3.当想要取消一个正在进行的failover所需要的时间。
# 4.当进行failover时,配置所有slaves指向新的master所需的最大时间。不过,即使过了这个超时,slaves依然 # 会被正确配置为指向master,但是就不按parallel-syncs所配置的规则来了
# 默认三分钟
# sentinel failover-timeout <master-name> <milliseconds>
sentinel failover-timeout mymaster 180000
# SCRIPTS EXECUTION
# 配置当某一事件发生时所需要执行的脚本,可以通过脚本来通知管理员,例如当系统运行不正常时发邮件通知相关人员。
# 对于脚本的运行结果有以下规则:
# 若脚本执行后返回1,那么该脚本稍后将会被再次执行,重复次数目前默认为10
# 若脚本执行后返回2,或者比2更高的一个返回值,脚本将不会重复执行。
# 如果脚本在执行过程中由于收到系统中断信号被终止了,则同返回值为1时的行为相同。
# 一个脚本的最大执行时间为60s,如果超过这个时间,脚本将会被一个SIGKILL信号终止,之后重新执行。
# 通知型脚本:当sentinel有任何警告级别的事件发生时(比如说redis实例的主观失效和客观失效等等),将会去调用# 这个脚本,这时这个脚本应该通过邮件,SMS等方式去通知系统管理员关于系统不正常运行的信息。调用该脚本时,将传# 给脚本两个参数,一个是事件的类型,一个是事件的描述。如果sentinel.conf配置文件中配置了这个脚本路径,那么# 必须保证这个脚本存在于这个路径,并且是可执行的,否则sentinel无法正常启动成功。
# shell编程,通过shell配置邮件通知脚本
# sentinel notification-script <master-name> <script-path>
sentinel notification-script mymaster /var/redis/notify.sh
# 客户端重新配置主节点参数脚本
# 当一个master由于failover而发生改变时,这个脚本将会被调用,通知相关的客户端关于master地址已经发生改变 # 的信息。
# 以下参数将会在调用脚本时传给脚本:
# <master-name> <role> <state> <from-ip> <from-port> <to-ip> <to-port>
# 目前<state>总是“failover”,
# <role>是“leader”或者“observer”中的一个。
# 参数 from-ip, from-port, to-ip, to-port是用来和旧的master和新的master(即旧的slave)通信的
# 这个脚本应该是通用的,能被多次调用,不是针对性的。
# sentinel client-reconfig-script <master-name> <script-path>
sentinel client-reconfig-script mymaster /var/redis/reconfig.sh # 一般都是由运维来配置!