Redis集群搭建

警告
本文最后更新于 2022-07-01,文中内容可能已过时。

摘要

Redis 集群是一个可以在多个 Redis 节点之间进行数据共享的设施installation。

Redis 集群不支持那些需要同时处理多个键的 Redis 命令, 因为执行这些命令需要在多个 Redis 节点之间移动数据, 并且在高负载的情况下, 这些命令将降低Redis集群的性能, 并导致不可预测的行为。

Redis 集群通过分区partition来提供一定程度的可用性availability: 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。

Redis集群提供了以下两个好处:

  • 将数据自动切分split到多个节点的能力。
  • 当集群中的一部分节点失效或者无法进行通讯时, 仍然可以继续处理命令请求的能力。

实验环境

主机名系统IP地址
redis-masterCentOS 7192.168.1.78
redis-slaveCentOS 7192.168.1.79
1
2
wget http://download.redis.io/releases/redis-5.0.2.tar.gz
tar -zxf redis-5.0.2.tar.gz
1
2
3
yum -y install gcc gcc-c++ libstdc++-devel tcl -y
cd redis-5.0.2
make && make install

遇到编译错误

1
make MALLOC=libc && make install
1
2
cd src
cp redis-trib.rb /usr/local/bin/

创建一些目录

1
2
3
4
mkdir -p /usr/local/redis/conf
mkdir -p /usr/local/redis/bin
mkdir -p /usr/local/redis/redis-cluster
mkdir {7000,7001,7002}

将redis文件夹下的redis.conf复制到/usr/local/redis/conf/

1
cp redis.conf /usr/local/redis/conf/

并将src目录下的命令文件(绿色的),复制到/usr/local/redis/bin/

1
cp mkreleasehdr.sh redis-benchmark redis-check-aof redis-check-rdb redis-cli redis-sentinel redis-server redis-trib.rb /usr/local/redis/bin/

将redis.conf 拷贝到这三个目录中

1
2
3
cp conf/redis.conf redis-cluster/7000
cp conf/redis.conf redis-cluster/7001
cp conf/redis.conf redis-cluster/7002

分别修改这三个配置文件,修改如下内容

1
2
3
4
5
6
7
8
port  7000	#端口7000,7002,7003        
bind 本机ip	#默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群
daemonize    yes	#redis后台运行
pidfile  /var/run/redis_7000.pid	#pidfile文件对应7000,7001,7002
cluster-enabled  yes	#开启集群,把注释#去掉
cluster-config-file  nodes_7000.conf	#集群的配置  配置文件首次启动自动生成 7000,7001,7002
cluster-node-timeout  15000	#请求超时  默认15秒,可自行设置
appendonly  yes	#aof日志开启  有需要就开启,它会每次写操作都记录一条日志 

接着在另外一台机器上重复以上三步,只是把目录改为7003、7004、7005,对应的配置文件也按照这个规则修改即可

1
mkdir {7003,7004,7005}

第一台机器上执行

1
2
3
4
cd /usr/local/redis
redis-server redis-cluster/7000/redis.conf
redis-server redis-cluster/7001/redis.conf
redis-server redis-cluster/7002/redis.conf

另外一台机器上执行

1
2
3
4
cd /usr/local/redis
redis-server redis-cluster/7003/redis.conf
redis-server redis-cluster/7004/redis.conf
redis-server redis-cluster/7005/redis.conf 

第一台机器

1
2
3
4
5
ps -ef | grep redis

root      61020      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7000 [cluster]
root      61024      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7001 [cluster]
root      61029      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7002 [cluster]
1
2
3
4
5
6
7
8
netstat -tnlp | grep redis

tcp        0      0 127.0.0.1:17000             0.0.0.0:*                   LISTEN      61020/redis-server
tcp        0      0 127.0.0.1:17001             0.0.0.0:*                   LISTEN      61024/redis-server
tcp        0      0 127.0.0.1:17002             0.0.0.0:*                   LISTEN      61029/redis-server
tcp        0      0 127.0.0.1:7000              0.0.0.0:*                   LISTEN      61020/redis-server
tcp        0      0 127.0.0.1:7001              0.0.0.0:*                   LISTEN      61024/redis-server
tcp        0      0 127.0.0.1:7002              0.0.0.0:*                   LISTEN      61029/redis-server

另外一台机器

1
2
3
4
5
6
ps -ef | grep redis

root       9957      1  0 02:32 ?        00:00:01 redis-server 127.0.0.1:7003 [cluster]
root       9964      1  0 02:32 ?        00:00:01 redis-server 127.0.0.1:7004 [cluster]
root       9971      1  0 02:32 ?        00:00:01 redis-server 127.0.0.1:7005 [cluster]
root      10065   4744  0 02:38 pts/0    00:00:00 grep --color=auto redis
1
2
3
4
5
6
7
8
netstat -tlnp | grep redis

tcp        0      0 127.0.0.1:17003         0.0.0.0:*               LISTEN      9957/redis-server 1
tcp        0      0 127.0.0.1:17004         0.0.0.0:*               LISTEN      9964/redis-server 1
tcp        0      0 127.0.0.1:17005         0.0.0.0:*               LISTEN      9971/redis-server 1
tcp        0      0 127.0.0.1:7003          0.0.0.0:*               LISTEN      9957/redis-server 1
tcp        0      0 127.0.0.1:7004          0.0.0.0:*               LISTEN      9964/redis-server 1
tcp        0      0 127.0.0.1:7005          0.0.0.0:*               LISTEN      9971/redis-server 1

Redis 官方提供了 redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/bin 目录中,可以直接在命令行中使用了。使用下面这个命令即可完成安装。

注意:redis5.0使用redis-cli作为创建集群的命令,使用c语言实现,不再使用ruby语言。

使用redis-cli命令创建集群

https://img.bwcxtech.com/img/20200928172356.png

1
redis-cli --cluster create 192.168.1.78:7000 192.168.1.78:7001 192.168.1.78:7002 192.168.1.79:7003 192.168.1.79:7004 192.168.1.79:7005 --cluster-replicas 1

–cluster-replicas 1 命令的意思: 一主一从配置,六个节点就是 三主三从

https://img.bwcxtech.com/img/20200928172401.png

以上是因为没有绑定地址,redis处于安全保护模式,解决方法

第一种禁用安全保护模式

1
protected-mode no

第二种加上安全认证

1
2
requirepass redis
masterauth redis

https://img.bwcxtech.com/img/20200928172406.png

输入yes,成功如下图

https://img.bwcxtech.com/img/20200928172426.png

在第一台机器上连接集群的7002端口的节点,在另外一台连接7005节点,连接方式为 redis-cli -h 192.168.1.78 -c -p 7002 ,加参数 -C 可连接到集群,因为上面 redis.conf 将 bind 改为了ip地址,所以 -h 参数不可以省略。

1
2
redis-cli -c -p 7000
redis-cli -c -p 7005

在7005节点执行命令set hello world,执行结果如下:

https://img.bwcxtech.com/img/20200928172434.png

然后在另外一台7002端口,查看key为hello的内容,get hello,执行结果如下:

https://img.bwcxtech.com/img/20200928172438.png

说明集群运作正常。

简单说一下原理

redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。

Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候,直接跳转到了7000端口的节点。

Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 。

需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。