知新_RL

这个屌丝很懒，什么也没留下！

热门标签

Redis数据库搭建集群（集群概念、redis集群介绍、搭建集群操作、Python与redis集群交互）

作者：知新_RL | 2024-05-18 01:50:13

踩

redis集群

1、集群的概念

集群是一组相互独立的、通过高速网络互联的计算机，它们构成了一个组，并以单一系统的模式加以管理。一个客户与集群相互作用时，集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。

当请求到来首先由负载均衡服务器处理，把请求转发到另外的一台服务器上。

2、redis集群

Redis集群是一个由多个主从节点群组成的分布式服务集群，它具有复制、高可用和分片特性。

2.1 Redis有三种集群模式

主从模式
Sentinel模式
Cluster模式

2.2 Redis集群的优点

Redis集群有多个master，可以减小访问瞬断问题的影响
Redis集群有多个master，可以提供更高的并发量　
Redis集群可以分片存储，这样就可以存储更多的数据

2.3 分类

软件层面
硬件层面

软件层面：只有一台电脑，在这一台电脑上启动了多个redis服务。

硬件层面：存在多台实体的电脑，每台电脑上都启动了一个redis或者多个redis服务。

3、搭建集群（方式一）

当前拥有两台主机172.16.x.12、172.16.1.13，这⾥的IP在使⽤时要改为实际值

参考阅读

redis集群搭建 Redis集群搭建与简单使用 - 邬兴亮 - 博客园
[Python]搭建redis集群编程网_菜鸟学编程_编程培训_PHP培训_PHP程序员教程

3.1 配置机器1

在演示中，192.168.X.12为当前ubuntu机器的ip

在192.168.X.12上进⼊Desktop⽬录，创建conf⽬录

在conf⽬录下创建⽂件7000.conf，编辑内容如下


port 7000
bind 192.168.X.12
daemonize yes
pidfile 7000.pid
cluster-enabled yes
cluster-config-file 7000_node.conf
cluster-node-timeout 15000
appendonly yes

在conf⽬录下创建⽂件7001.conf，编辑内容如下


port 7001
bind 172.X.12
daemonize yes
pidfile 7001.pid
cluster-enabled yes
cluster-config-file 7001_node.conf
cluster-node-timeout 15000
appendonly yes

在conf⽬录下创建⽂件7002.conf，编辑内容如下


port 7002
bind 172.16.X.13
daemonize yes
pidfile 7002.pid
cluster-enabled yes
cluster-config-file 7002_node.conf
cluster-node-timeout 15000
appendonly yes

总结：三个⽂件的配置区别在port、pidfile、cluster-config-file三项

使⽤配置⽂件启动redis服务


redis-server 7000.conf
redis-server 7001.conf
redis-server 7002.conf

查看进程如下图

3.2 配置机器2

【可以用一台虚拟机操作一下，可以不用配置机器2】

在演示中，192.168.X.13为当前ubuntu机器的ip

在192.168.X.13上进⼊Desktop⽬录，创建conf⽬录

在conf⽬录下创建⽂件7003.conf，编辑内容如下


port 7003
bind 192.168.X.13
daemonize yes
pidfile 7003.pid
cluster-enabled yes
cluster-config-file 7003_node.conf
cluster-node-timeout 15000
appendonly yes

在conf⽬录下创建⽂件7004.conf，编辑内容如下


port 7004
bind 192.168.X.13
daemonize yes
pidfile 7004.pid
cluster-enabled yes
cluster-config-file 7004_node.conf
cluster-node-timeout 15000
appendonly yes

在conf⽬录下创建⽂件7005.conf，编辑内容如下


port 7005
bind 192.168.X.13
daemonize yes
pidfile 7005.pid
cluster-enabled yes
cluster-config-file 7005_node.conf
cluster-node-timeout 15000
appendonly yes

总结：三个⽂件的配置区别在port、pidfile、cluster-config-file三项

使⽤配置⽂件启动redis服务


redis-server 7003.conf
redis-server 7004.conf
redis-server 7005.conf

查看进程如下图

3.3 创建集群

文档连接

redis的安装包中包含了redis-trib.rb，⽤于创建集群

接下来的操作在192.168.X.12机器上进⾏

将命令复制，这样可以在任何⽬录下调⽤此命令

sudo cp /usr/share/doc/redis-tools/examples/redis-trib.rb /usr/local/bin/

安装ruby环境，因为redis-trib.rb是⽤ruby开发的

sudo apt-get install ruby

在提示信息处输⼊y，然后回⻋继续安装

运⾏如下命令创建集群

redis-trib.rb create --replicas 1 192.168.X.12:7000 192.168.X.12:7001 192.168.X.12:7002 192.168.X.13:7003 192.168.X.13:7004 192.168.X.13:7005

执⾏上⾯这个指令在某些机器上可能会报错,主要原因是由于安装的 ruby 不是最新版本!

天朝的防⽕墙导致⽆法下载最新版本,所以需要设置 gem 的源

解决办法如下


-- 先查看⾃⼰的 gem 源是什么地址
gem source -l -- 如果是https://rubygems.org/ 就需要更换
 
-- 更换指令为
gem sources --add https://gems.ruby-china.com/ --remove https://rubygems.org/
 
-- 通过 gem 安装 redis 的相关依赖
sudo gem install redis
 
-- 然后重新执⾏指令

redis-trib.rb create --replicas 1 192.168.X.12:7000 192.168.X.12:7001 192.168.X.12:7002 192.168.X.13:7003 192.168.X.13:7004 192.168.X.13:7005

提示如下主从信息，输⼊yes后回⻋

提示完成，集群搭建成功

3.4 数据验证

根据上图可以看出，当前搭建的主服务器为7000、7001、7002，对应的从服务器是7004、7005、7003

在192.168.X.12机器上连接7002，加参数-c表示连接到集群

redis-cli -h 192.168.X.12 -c -p 7002

写⼊数据

set name itheima

在7005可以获取数据，如果写入数据又重定向到7000(负载均衡)

3.5 在哪个服务器上写数据：CRC16

redis cluster在设计的时候，就考虑到了去中⼼化，去中间件，也就是说，集群中的每个节点都是平等的关系，都是对等的，每个节点都保存各⾃的数据和整个集群的状态。每个节点都和其他所有节点连接，⽽且这些连接保持活跃，这样就保证了我们只需要连接集群中的任意⼀个节点，就可以获取到其他节点的数据
Redis集群没有并使⽤传统的⼀致性哈希来分配数据，⽽是采⽤另外⼀种叫做哈希槽 (hash slot)的⽅式来分配的。redis cluster 默认分配了 16384 个slot，当我们 set⼀个key 时，会⽤CRC16算法来取模得到所属的slot，然后将这个key 分到哈希槽区间的节点上，具体算法就是：CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候，直接跳转到了7000端⼝的节点
Redis 集群会把数据存在⼀个 master 节点，然后在这个 master 和其对应的salve 之间进⾏数据同步。当读取数据时，也根据⼀致性哈希算法到对应的 master 节点获取数据。只有当⼀个master 挂掉之后，才会启动⼀个对应的 salve 节点，充当 master
需要注意的是：必须要3个或以上的主节点，否则在创建集群时会失败，并且当存活的主节点数⼩于总节点数的⼀半时，整个集群就⽆法提供服务了

4、搭建集群（方式二）

Redis的集群搭建最少需要3个master节点，我们这里搭建3个master，每个下面挂一个slave节点，总共6个Redis节点；

Cluster模式没有中心节点，可水平扩展。

4.1 环境准备


第1台机器： 192.168.1.12 8001端口 8002端口
第2台机器： 192.168.1.18 8001端口 8002端口
第3台机器： 192.168.1.22 8001端口 8002端口

4.2 创建文件夹

分别在三台机器上创建文件夹，具体路径根据个人redis安装路径来定。

mkdir -p /usr/local/redis/bin/redis-cluster/8001 /usr/local/redis/bin/redis-cluster/8002

4.3 拷贝配置文件

将redis安装目录下的 redis.conf 文件拷贝到8001目录下

cp /usr/local/redis/bin/redis.conf /usr/local/redis/bin/redis-cluster/8001

4.4 修改编辑redis.conf文件中的内容


port 8001
daemonize yes
pidfile "/var/run/redis_8001.pid"
#指定数据文件存放位置，必须要指定不同的目录位置，不然会丢失数据
dir /usr/local/redis/bin/redis-cluster/8001/
#启动集群模式
cluster-enabled yes
#集群节点信息文件，这里800x最好和port对应上
cluster-config-file nodes-8001.conf
# 节点离线的超时时间
cluster-node-timeout 5000
#去掉bind绑定访问ip信息
#bind 127.0.0.1
#关闭保护模式
protected-mode no
#启动AOF文件
appendonly yes
#如果要设置密码需要增加如下配置：
#设置redis访问密码
#requirepass xxxxxx
#设置集群节点间访问密码，跟上面一致
#masterauth xxxxxx

4.5 文件拷贝到8002文件夹

cp /usr/local/redis/bin/redis-cluster/8001/redis.conf /usr/local/redis/bin/redis-cluster/8002/

将配置文件中的8001修改为8002：


vim redis.conf
 
# 批量修改字符串
:%s/8001/8002/g

4.6 将本机机器上的文件拷贝到另外两台机器上


scp /usr/local/redis/bin/redis-cluster/8001/redis.conf root@192.168.1.18:/usr/local/redis/bin/redis-cluster/8001/
scp /usr/local/redis/bin/redis-cluster/8002/redis.conf root@192.168.1.18:/usr/local/redis/bin/redis-cluster/8002/
 
scp /usr/local/redis/bin/redis-cluster/8001/redis.conf root@192.168.1.22:/usr/local/redis/bin/redis-cluster/8001/
scp /usr/local/redis/bin/redis-cluster/8002/redis.conf root@192.168.1.22:/usr/local/redis/bin/redis-cluster/8002/

4.7 分别启动这6个redis实例

分别在三台机器上执行下面命令启动redis


/usr/local/redis/bin/redis-server /usr/local/redis/bin/redis-cluster/8001/redis.conf 
/usr/local/redis/bin/redis-server /usr/local/redis/bin/redis-cluster/8002/redis.conf

4.8 分别检查是否启动成功

ps -ef | grep redis

4.9 使用redis-cli创建整个redis集群

/usr/local/redis/bin/redis-cli -a redis-pw --cluster create --cluster-replicas 1 192.168.1.12:8001 192.168.1.12:8002 192.168.1.18:8001 192.168.1.18:8002 192.168.1.22:8001 192.168.1.22:8002

参数：

-a：密码
--cluster-replicas 1：表示1个master下挂1个slave； --cluster-replicas 2：表示1个master下挂2个slave。

4.10 查看帮助命令


[root@192 8001]# /usr/local/redis/bin/redis-cli --cluster help
Cluster Manager Commands:
  create         host1:port1 ... hostN:portN
                 --cluster-replicas <arg>
  check          host:port
                 --cluster-search-multiple-owners
  info           host:port
  fix            host:port
                 --cluster-search-multiple-owners
                 --cluster-fix-with-unreachable-masters
  reshard        host:port
                 --cluster-from <arg>
                 --cluster-to <arg>
                 --cluster-slots <arg>
                 --cluster-yes
                 --cluster-timeout <arg>
                 --cluster-pipeline <arg>
                 --cluster-replace
  rebalance      host:port
                 --cluster-weight <node1=w1...nodeN=wN>
                 --cluster-use-empty-masters
                 --cluster-timeout <arg>
                 --cluster-simulate
                 --cluster-pipeline <arg>
                 --cluster-threshold <arg>
                 --cluster-replace
  add-node       new_host:new_port existing_host:existing_port
                 --cluster-slave
                 --cluster-master-id <arg>
  del-node       host:port node_id
  call           host:port command arg arg .. arg
                 --cluster-only-masters
                 --cluster-only-replicas
  set-timeout    host:port milliseconds
  import         host:port
                 --cluster-from <arg>
                 --cluster-from-user <arg>
                 --cluster-from-pass <arg>
                 --cluster-from-askpass
                 --cluster-copy
                 --cluster-replace
  backup         host:port backup_directory
  help           
 
For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster.
 
Cluster Manager Options:
  --cluster-yes  Automatic yes to cluster commands prompts

参数：

create：创建一个集群环境host1:port1 ... hostN:portN
call：可以执行redis命令
add-node：将一个节点添加到集群里，第一个参数为新节点的ip:port，第二个参数为集群中
任意一个已经存在的节点的ip:port
del-node：移除一个节点
reshard：重新分片
check：检查集群状态

4.11 验证集群

连接任意一个客户端

/usr/local/redis/bin/redis-cli -c -h 192.168.1.22 -p 8001

参数：

‐a表示服务端密码
‐c表示集群模式
-h指定ip地址
-p表示端口号

4.12 查看集群的信息

cluster info

5、Cluster模式原理分析

Redis Cluster将所有数据划分为16384个slots(槽位)，每个节点负责其中一部分槽位。槽位的信息存储于每个节点中。只有master节点会被分配槽位，slave节点不会分配槽位。

槽位定位算法： k1 = 127001
Cluster 默认会对 key 值使用 crc16 算法进行 hash 得到一个整数值，然后用这个整数值对 16384进行取模来得到具体槽位。
HASH_SLOT = CRC16(key) % 16384

5.1 命令执行

set k1 v1

注意：

根据k1计算出的槽值进行切换节点，并存入数据。不在一个slot下的键值，是不能使用mget、mset等多建操作。

可以通过{}来定义组的概念，从而是key中{}内相同内容的键值对放到同一个slot中。

5.2 故障恢复

查看节点：

cluster nodes

杀死Master节点：

观察节点信息：

6、Python与redis集群交互

安装包如下

pip install redis-py-cluster

redis-py-cluster源码地址https://github.com/Grokzen/redis-py-cluster

创建⽂件redis_cluster.py，示例码如下：


from rediscluster import RedisCluster
if __name__ == '__main__':
 
    try:
        # 构建所有的节点，Redis会使⽤CRC16算法，将键和值写到某个节点上
        startup_nodes = [
            {'host': '192.168.X.12', 'port': '7000'},
            {'host': '192.168.X.12', 'port': '7002'},
            {'host': '192.168.X.12', 'port': '7001'},
        ]
        # 构建StrictRedisCluster对象
        src = RedisCluster(startup_nodes=startup_nodes, decode_responses=True)
        # 设置键为name、值为abcd的数据
        result = src.set('name2', 'abcd')
        print(result)
        # 获取键为name
        name = src.get('name2')
        print(name)
    except Exception as e:
        print(e)

运行效果：

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/知新_RL/article/detail/586124