devbox
盐析白兔
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

redis高可用之主从复制、哨兵以及Cluster集群_redis主从高配版和集群

作者：盐析白兔 | 2024-07-30 13:13:03

赞

踩

redis主从高配版和集群

目录

一、Redis主从复制

1）主从复制的作用

2）主从复制流程

3）搭建Redis主从复制

1、部署redis服务器

2、修改Redis配置文件（所有节点操作）

3、验证主从复制结果

二、哨兵模式

1）哨兵的作用

2）哨兵结构的组成

3）哨兵故障转移机制​编辑

4）主节点的选举

5）搭建Redis哨兵模式

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器） 

2、修改Redis哨兵模式的配置文件（所有节点）

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

4、关闭主节点进程，模拟故障切换

三、redis集群模式

1）集群的作用

2）Redis集群的数据分片【※】

3） Redis集群的主从复制模型

4）搭建Redis群集模式

 1、部署6台redis

2、所有节点修改配置文件、创建集群

3、登录查看集群信息

4、集群测试

5、动态扩容

一、Redis主从复制

        主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(Master)，后者称为从节点(Slave)；数据的复制是单向的，只能由主节点到从节点。默认情况下，每台Redis服务器都是主节点；且一个主节点可以有多个从节点(或没有从节点)，但一个从节点只能有一个主节点。

1）主从复制的作用

  • 数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
  • 故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复，实际上是一种服务的冗余。主从复制进行故障恢复需要手动完成。
  • 负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时，应用连接主节点；读Redis数据时，应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。
  • 高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

2）主从复制流程

  1. 首次同步：当从节点要进行主从复制时，它会发送一个SYNC命令给主节点。主节点收到SYNC命令后，会执行BGSAVE命令来生成RDB快照文件，并在生成期间使用缓冲区记录所有写操作。
  2. 快照传输：当主节点完成BGSAVE命令并且快照文件准备好后，将快照文件传输给从节点。主节点将快照文件发送给从节点，并且在发送过程中，主节点会继续将新的写操作缓冲到内存中。
  3. 追赶复制：当从节点收到快照文件后，会加载快照文件并应用到自己的数据集中。一旦快照文件被加载，从节点会向主节点发送一个PSYNC命令，以便获取缓冲区中未发送的写操作。
  4. 增量复制：主节点收到PSYNC命令后，会将缓冲区中未发送的写操作发送给从节点，从节点会执行这些写操作，保证与主节点的数据一致性。此时，从节点已经追赶上了主节点的状态。
  5. 同步：从节点会继续监听主节点的命令，并及时执行主节点的写操作，以保持与主节点的数据同步。主节点会定期将自己的操作发送给从节点，以便从节点保持最新的数据状态.

注意:当slave首次同步或者宕机后恢复时，会全盘加载，以追赶上大部队，即全量复制。

3）搭建Redis主从复制

准备三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2

1、部署redis服务器
  1. //环境准备
  2. systemctl stop firewalld
  3. systemctl disable firewalld
  4. setenforce 0
  5. sed -i 's/enforcing/disabled/' /etc/selinux/config
  6.  
  7. #修改内核参数
  8. vim /etc/sysctl.conf
  9. vm.overcommit_memory = 1
  10. net.core.somaxconn = 2048
  11. #刷新生效
  12. sysctl -p
  13.  
  14.  
  15. //安装redis
  16. #上传tar.gz格式的redis软件包后解压编译
  17. yum install -y gcc gcc-c++ make
  18. tar zxvf /opt/redis-7.0.9.tar.gz -C /opt/
  19. cd /opt/redis-7.0.9
  20. make
  21. make PREFIX=/usr/local/redis install
  22. #由于Redis源码包中直接提供了 Makefile 文件，所以在解压完软件包后，不用先执行 ./configure 进行配置，可直接执行 make 与 make install 命令进行安装。
  23.  
  24. #创建redis工作目录和用户
  25. mkdir /usr/local/redis/{conf,log,data}
  26.  
  27. cp /opt/redis-7.0.9/redis.conf /usr/local/redis/conf/
  28.  
  29. useradd -M -s /sbin/nologin redis
  30. chown -R redis.redis /usr/local/redis/
  31.  
  32. #环境变量
  33. vim /etc/profile 
  34. PATH=$PATH:/usr/local/redis/bin		#增加一行
  35.  
  36. source /etc/profile
  37.  
  38.  
  39. //定义systemd服务管理脚本
  40. vim /usr/lib/systemd/system/redis-server.service
  41. [Unit]
  42. Description=Redis Server
  43. After=network.target
  44.  
  45. [Service]
  46. User=redis
  47. Group=redis
  48. Type=forking
  49. TimeoutSec=0
  50. PIDFile=/usr/local/redis/log/redis_6379.pid
  51. ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
  52. ExecReload=/bin/kill -s HUP $MAINPID
  53. ExecStop=/bin/kill -s QUIT $MAINPID
  54. PrivateTmp=true
  55.  
  56. [Install]
  57. WantedBy=multi-user.target
2、修改Redis配置文件（所有节点操作）
  1. //master节点
  2. vim /usr/local/redis/conf/redis.conf
  3. bind 0.0.0.0									#87行，修改监听地址为0.0.0.0任意地址或者127.0.0.1和本机地址
  4. protected-mode no								#111行，将本机访问保护模式设置no
  5. port 6379										#138行，Redis默认的监听6379端口
  6. tcp-backlog 20480                               #147行，修改参数为20480
  7. timeout 0                                       #159行，长连接超时，可以自行设置，防止没有任何操作的客户端一致挂在服务器上
  8. daemonize yes									#309行，设置为守护进程，后台启动
  9. pidfile /usr/local/redis/log/redis_6379.pid		#341行，指定 PID 文件
  10. logfile "/usr/local/redis/log/redis_6379.log"	#354行，指定日志文件
  11. dir /usr/local/redis/data						#504行，指定持久化文件所在目录
  12. #requirepass 123456								#1037行，可选，设置redis密码
  13. appendonly yes									#1380行，开启AOF
  14. #masterauth 123456								#535行，可选，指定Master节点的密码，在Master节点设置requirepass时，此处才需要设置密码
  15.  
  16. 启动redis
  17. systemctl restart redis-server.service
  18. netstat -lntp | grep 6379
  19.  
  20. //slave节点
  21. vim /usr/local/redis/conf/redis.conf
  22. replicaof 192.168.170.200 6379                 #528行，指定要同步的Master节点IP和端口
  23.  
  24. 启动redis
  25. systemctl restart redis-server.service
  26. netstat -lntp | grep 6379

3、验证主从复制结果
  1. redis-cli -h ip -p 6379 -a '123456'
  2. info replication

通过master节点的日志分析主从复制的工作流程

  1. [root@master conf]# cd /usr/local/redis/log/
  2. [root@master log]# ls
  3. redis_6379.log  redis_6379.pid
  4. [root@master log]# vim redis_6379.log

二、哨兵模式

        主从切换技术的方法是：当服务器宕机后，需要手动一台从机切换为主机，这需要人工干预，不仅费时费力而且还会造成一段时间内服务不可用。为了解决主从复制的缺点，就有了哨兵机制。哨兵的核心功能：在主从复制的基础上，哨兵引入了主节点的自动故障转移。

1）哨兵的作用

  • 监控：哨兵会不断地检查主节点和从节点是否运作正常。
  • 自动故障转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其它从节点改为复制新的主节点。
  • 通知（提醒）：哨兵可以将故障转移的结果发送给客户端。

2）哨兵结构的组成

哨兵节点：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的redis节点，不存储数据。
数据节点：主节点和从节点都是数据节点。

3）哨兵故障转移机制

1、由哨兵节点定期监控发现主节点是否出现了故障,每个哨兵节点每隔1秒会向主节点、从节点及其它哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息，那么这个哨兵就会单方面的认为这个主节点下线了（是不是真的下线它不管）。当超过半数哨兵节点认为该主节点主观下线了，这样就客观下线了。

2、当主节点出现故障，此时哨兵节点会通过Raft算法（选举算法），实现选举机制共同选举出一个哨兵节点为leader，来负责处理主节点的故障转移和通知。所以整个运行哨兵的集群的数量不得少于3个节点（奇数个）。

3、由leader哨兵节点执行故障转移，过程如下：

将某一个从节点升级为新的主节点，让其它从节点指向新的主节点；
原主节点恢复也变成从节点，并指向新的主节点；
通知客户端主节点已经更换。
        需要特别注意的是，客观下线是主节点才有的概念；如果从节点和哨兵节点发生故障，被哨兵主观下线后，不会再有后续的客观下线和故障转移操作。

4）主节点的选举

（1）过滤掉不健康的（已下线的），没有回复哨兵ping响应的从节点。
（2）选择配置文件中从节点优先级配置最高的。（replica-priority，默认值为100）
（3）选择复制偏移量最大，也就是复制最完整的从节点。

5）搭建Redis哨兵模式

注意：哨兵节点既可以单独部署，也可以和数据节点部署在一台服务器上，视服务器的数量而定。哨兵的启动依赖于主从模式，所以须把主从模式安装好的情况下再去做哨兵模式.。

沿用主从复制的三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2，vip为192.168.170.99

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器） 

  1. cp /opt/redis-7.0.13/sentinel.conf /usr/local/redis/conf/
  2. chown redis:redis /usr/local/redis/conf/sentinel.conf

2、修改Redis哨兵模式的配置文件（所有节点）

  1. vim /usr/local/redis/conf/sentinel.conf
  2. protected-mode no									#6行，关闭保护模式
  3. port 26379											#10行，Redis哨兵默认的监听端口
  4. daemonize yes										#15行，指定sentinel为后台启动
  5. pidfile /usr/local/redis/log/redis-sentinel.pid		#20行，指定PID文件
  6. logfile "/usr/local/redis/log/sentinel.log"			#25行，指定日志存放路径
  7. dir /usr/local/redis/data							#54行，指定数据库存放路径
  8. sentinel monitor mymaster 192.168.170.200 6379 2		#73行，修改指定该哨兵节点监控192.168.170.200 6379端口这个主节点，该主节点的名称是mymaster，最后的2的含义与主节点的故障判定有关：至少半数哨兵节点同意，才能判定主节点故障并进行故障转移
  9. #sentinel auth-pass mymaster 123456					    #76行，可选，指定Master节点的密码，仅在Master节点设置了requirepass
  10. sentinel down-after-milliseconds mymaster 3000		#114行，判定服务器down掉的时间周期，默认30000毫秒（30秒）
  11. sentinel failover-timeout mymaster 180000			#214行，同一个sentinel对同一个master两次failover之间的间隔时间（180秒）
  12. sentinel client-reconfig-script mymaster /usr/local/redis/conf/master_ip_failover.sh   #278行，指定故障漂移脚本路劲
  13. -------------------------------------------------------------------------------------------
  14. cd /usr/local/redis/conf
  15. vim master_ip_failover.sh     #编写故障漂移脚本
  16. -----
  17. #!/bin/bash
  18. #新master的ip
  19. MASTER_IP=$6
  20. #当前主机的ip
  21. LOCAL_IP=$(ifconfig | awk 'NR==2 {print $2}')
  22.  
  23. VIP='192.168.9.99'
  24.  
  25. if [ "$MASTER_IP" == "$LOCAL_IP" ];then
  26.     ifconfig ens33:1 $VIP/24
  27.     exit 0
  28. else
  29.     ifconfig ens33:1 $VIP/24 down
  30.     exit 0
  31. fi
  32. exit 1
  33. -----
  34. chmod +x master_ip_failover.sh  #给予可执行权限
  35. systemctl restart redis-server.service
  36.  

  1. #master服务器
  2. ifconfig ens33:1 192.168.170.99/24

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

  1. redis-sentinel sentinel.conf &
  2. netstat -lntp | grep 26379

  1. redis-cli -h 192.168.170.200 -p 26379   #没有设置密码
  2. info sentinel

报错

明明配置了三个sentinel，但是这里显示的却是4，有的可能是1，基本都是配置文件有问题，我们要检查一下这几个地方：
1.主节点redis.conf的masterauth是否配置，从节点redis.conf的requirepass是否配置
2.哨兵sentinel.conf配置文件底部的sentinel myid是否有相同，有相同则关闭哨兵进程再将文件中此行删除，重启会重新生成。关闭命令：kill -s term 进程号
3.在较新的redis里提供的sentinel.conf模板文件中，有sentinel-announce-ip和sentinel-announce-port，请记住，这里我们配置的时当前文件所属的哨兵的ip和端口。我就是犯了这个低级错误，写成了主节点的ip和端口

哨兵数量与实际不符合怎么解决？

4、关闭主节点进程，模拟故障切换

master服务器关闭redis，打开slave服务器日志脚本进行监控

三、redis集群模式

        Redis群集模式即Redis Cluster，是Redis 3.0开始引入的分布式存储方案。

        集群由多组节点(Node)组成，Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

        集群将数据分散到多组节点，一方面突破了Redis单机内存大小的限制，存储容量大大增加；另一方面每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。Redis单机内存大小受限问题，在介绍持久化和主从复制时都有提及；例如，如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。redis内存并不是越大越好

1）集群的作用

高可用：集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍然可以对外提供服务。

数据分区：数据分区(或称数据分片)是集群最核心的功能。

2）Redis集群的数据分片【※】

  • Redis集群引入了哈希槽的概念
  • Redis集群有16384个哈希槽（编号0-16383）
  • 集群的每组节点负责一部分哈希槽
  • 每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作

以3个节点组成的集群为例：

节点A包含0到5460号哈希槽
节点B包含5461到10922号哈希槽
节点C包含10923到16383号哈希槽

3） Redis集群的主从复制模型

集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1为新的主节点继续服务。当B和B1都失败后，集群将不可用。

4）搭建Redis群集模式

主库从库
192.168.170.200192.168.170.5
192.168.170.192.168.170.6
192.168.170.192.168.170.7

 1、部署6台redis

  1. //初始化
  2. systemctl stop firewalld
  3. systemctl disable firewalld
  4. setenforce 0
  5. vim /etc/selinux/config
  6.     --->SELINUX=disabled
  7.  
  8. //配置内核参数添加配置
  9. vim /etc/sysctl.conf
  10. ----------------------------------------------
  11. vm.overcommit_memory = 1                     #内核允许超量使用内存直到用完为止，防止OOM杀死进程
  12. net.core.somaxconn = 20480                    #指定处于监听状态的连接请求队列的最大长度
  13.  
  14. sysctl -p   #加载
  15.  
  16. //安装依赖包、安装redis
  17. yum install -y gcc gcc-c++ make
  18. cd /opt
  19. rz -E
  20. #redis-7.0.13.tar.gz
  21. tar xf /opt/redis-7.0.13.tar.gz 
  22. cd /opt/redis-7.0.13
  23. make
  24. make PREFIX=/usr/local/redis install
  25. #由于Redis源码包中直接提供了Makefile文件，所以在解压完软件包后，不用先执行./configure行配置，可直接执行make与make install命令进行安装
  26.  
  27. //创建redis的工作目录并创建redis程序用户，将redis程序执行文件加入到系统环境变量中
  28. cd /usr/local/redis
  29. mkdir conf log data
  30. cd /opt/redis-7.0.13/
  31. cp redis.conf /usr/local/redis/conf/
  32. useradd -M -s /sbin/nologin redis
  33. chown -R redis:redis /usr/local/redis
  34. vim /etc/profile
  35.    ---> export PATH=$PATH:/usr/local/redis/bin
  36. source /etc/profile
  37.  
  38. //修改redis.conf配置文件
  39. vim /usr/local/redis/conf/redis.conf
  40. bind 192.168.170.200				            #87行，添加监听的主机地址
  41. protected-mode no					            #111行，将本机访问保护模式设置no。如果开启了，那么在没有设定bind ip且没有设密码的情况下，Redis只允许接受本机的响应
  42. port 6379										#138行，Redis默认的监听6379端口
  43. tcp-backlog 20480                               #147行，修改参数为20480，与内核参数一致
  44. daemonize yes									#309行，设置为守护进程，后台启动
  45. pidfile /usr/local/redis/log/redis_6379.pid		#341行，指定PID文件
  46. logfile "/usr/local/redis/log/redis_6379.log"	#354行，指定日志文件
  47. dir /usr/local/redis/data						#504行，指定持久化文件所在目录
  48. requirepass 123456	
  49.  
  50. //定义systemd服务管理脚本
  51. cd /usr/lib/systemd/system
  52. vim redis-server.service
  53. -----------------------------------------------------------------------------
  54. [Unit]
  55. Description=Redis Server
  56. After=network.target
  57.  
  58. [Service]
  59. User=redis
  60. Group=redis
  61. Type=forking
  62. TimeoutSec=0
  63. PIDFile=/usr/local/redis/log/redis_6379.pid
  64. ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
  65. ExecReload=/bin/kill -s HUP $MAINPID
  66. ExecStop=/bin/kill -s QUIT $MAINPID
  67. PrivateTmp=true
  68.  
  69. [Install]
  70. WantedBy=multi-user.target
  71.  
  72. ---------------------------------------------------------------------------------
  73. systemctl daemon-reload
  74. systemctl start redis-server.service
  75. systemctl enable redis-server.service
  76. netstat -lntp | grep 6379
  77.

2、所有节点修改配置文件、创建集群

  1. cp /opt/redis-7.0.13/redis.conf /usr/local/redis/conf/
  2. /usr/local/redis/conf
  3. vim redis.conf
  4. -------------------------------------------------------------------------------------
  5. bind 0.0.0.0  #87行
  6. protected-mode no  #第111行关闭保护模式
  7. daemonize yes   #309行后台运行打开
  8. pidfile /usr/local/redis/log/redis_6379.pid   #341行pid文件路径
  9. logfile "/usr/local/redis/log/redis_6379.log"    #354日志文件路径
  10. dir /usr/local/redis/data #504行
  11. appendonly yes    #1379aof持久化打开
  12. cluster-enabled yes   #1576打开注释
  13. cluster-config-file nodes-6379.conf   #1584集群配置文件打开注释
  14. cluster-node-timeout 15000     #1590打开注释
  15. -------------------------------------------------------------------------------------
  16. systemctl restart redis-server.service   ####重启所有服务器
  17.  
  18. //创建集群
  19. redis-cli --cluster create 192.168.170.200:6379 192.168.170.100:6379 192.168.170.101:6379 192.168.170.5:6379 192.168.170.6:6379 192.168.170.70:6379 --cluster-replicas 1

3、登录查看集群信息

  1. redis-cli -h 192.168.170.200 -p 6379 -c        #加-c参数，节点之间就可以互相跳转
  2.     cluster slots			         #查看节点的哈希槽编号范围
  3.     set name zhangsan                #创建键和值
  4.     cluster keyslot name			 #查看name键的槽编号

4、集群测试

5、动态扩容

增加两台无redis服务器：192.168.9.210；192.168.9.120

① 集群master节点服务器进行复制操作

  1. 启动文件复制到新添加的服务器中
  2. cd /usr/local/redis/conf
  3. scp redis.conf 192.168.170.120:`pwd`
  4. scp redis.conf 192.168.170.210:`pwd`
  5.  
  6. cd /usr/lib/systemd/system
  7. scp redis-server.service 192.168.170.210:`pwd`
  8. scp redis-server.service 192.168.170.120:`pwd`
  9.  
  10. scp -rp redis/ 192.168.170.210:/usr/local
  11. scp -rp redis/ 192.168.170.120:/usr/local
  12.  
  13. scp redis.conf 192.168.170.210:`pwd`
  14. scp redis.conf 192.168.170.120:`pwd`
  15.  
  16. cd /usr/lib/systemd/system
  17. scp redis-server.service 192.168.170.210:`pwd`
  18. scp redis-server.service 192.168.170.120:`pwd`

② 两台新服务器操作

  1. 初始化操作
  2. systemctl disable --now firewalld
  3. vim /etc/sysctl.conf
  4. -------------------------------------------------------------------------------
  5. vm.overcommit_memory = 1
  6. net.core.somaxconn = 20480
  7. -------------------------------------------------------------------------------
  8. sysctl -p
  9.  
  10. 创建用户，准备空目录
  11. useradd -M -s /sbin/nologin redis
  12. rm -rf conf/*
  13. rm -rf log/*
  14. rm -rf data/*
  15. chown -R redis:redis /usr/local/redis
  16.  
  17. 启动服务
  18. systemctl enable --now redis-server.service  
  19. vim /etc/profile
  20. export PATH=$PATH:/usr/local/redis/bin
  21. source /etc/profile
  22.

③ 集群master节点服务器配置将两台服务器加入集群

  1. redis-cli -h 192.168.170.140 -p 6379
  2. cluster meet 192.168.170.210 6379
  3. cluster meet 192.168.170.120 6379

④ 192.168.170.120对192.168.170.210对接做主从复制

  1. redis-cli -h 192.168.170.120 -p 6379
  2. cluster replicate 0f3ffa68ab18469feb2d135313b6d141b15a998f

⑤ master节点查询是否连接成功

cluster nodes

 ⑥为新添加的服务器分配hash槽

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/盐析白兔/article/detail/903878
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号