Redis主从配置和底层实现原理解析(实战记录)


Posted in Redis onJune 30, 2021

我们使用Redis的时候往往都是主从模式或者集群架构,不会使用单台Redis服务。

一、Redis主从配置实战

我们使用master节点写输入,然后将数据同步到slave节点,从节点可以提供读取或者备份的功能,分担master节点压力。

Redis主从配置和底层实现原理解析(实战记录)

redis主从架构搭建,配置从节点步骤

1、 复制一份redis.conf文件为redis-6380.conf

cp ./redis.conf ./conf/redis-6380.conf

2、打开redis-6380.conf配置文件,将相关配置修改为如下值:

port 6380
pidfile /var/run/redis_6380.pid # 把pid进程号写入pidfile配置的文件
logfile "6380.log"
dir /usr/local/redis?5.0.3/data/6380 # 指定数据存放目录
# 需要注释掉bind
# bind 127.0.0.1(bind绑定的是自己机器网卡的ip,如果有多块网卡可以配多个ip,代表允许客户端通过机器的哪些网卡ip去访问,内网一般可以不配置bind,注释掉即可)

3、在redis-6380.conf中配置主从复制

replicaof 192.168.0.60 6379 # 从本机6379的redis实例复制数据,Redis 5.0之前使用slaveof. 这里的IP是redis服务IP
replica?read?only yes # 配置从节点只读

注意: 如果的时候发现从节点中始终是空,即没有同步到主节点的数据,可能是192.168.0.60的设置问题,如果是主从都在一台服务器上,可以试试改成127.0.0.1.
4、启动从节点

注意一下命令,我这里是相对路径。

./src/redis-server ./conf/redis-6380.conf

然后我们查看redis服务实例,发现6379和6380都已经启动了。

Redis主从配置和底层实现原理解析(实战记录)

5、连接从节点

[root@localhost redis-6.2.3]# ./src/redis-cli -p 6380
127.0.0.1:6380>

查看是否同步了数据:

127.0.0.1:6380> keys *
1) "test3"
2) "tul2"
3) "tul"
4) "tul3"
5) "test1"
6) "yaolao"
7) "test2"
127.0.0.1:6380>

注意: 如果的时候发现从节点中始终是空,即没有同步到主节点的数据,可能是192.168.0.60的设置问题,如果是主从都在一台服务器上,可以试试改成127.0.0.1试试。、

6、测试在6379实例上写数据,6380实例是否能及时同步新修改数据

7、可以自己再配置一个6381的从节点

至此。,我们的主从配置就完成了。我们可以自己去配置多个从节点。

二、主从实现原理

如果你为master配置了一个slave,不管这个slave是否是第一次连接上Master,它都会发送一个PSYNC命令给master请求复制数据。

master收到PSYNC命令后,会在后台进行数据持久化通过bgsave生成最新的rdb快照文件,持久化期间,master会继续接收客户端的请求,它会把这些可能修改数据集的请求缓存在内存中。当持久化进行完毕以后,master会把这份rdb文件数据集发送给slave,slave会把接收到的数据进行持久化生成rdb,然后再加载到内存中。然后,master再将之前缓存在内存中的命令发送给slave。

当master与slave之间的连接由于某些原因而断开时,slave能够自动重连Master,如果master收到了多
个slave并发连接请求,它只会进行一次持久化,而不是一个连接一次,然后再把这一份持久化的数据发送
给多个并发连接的slave。

主从复制(全量复制)流程图

Redis主从配置和底层实现原理解析(实战记录)

psync命令是redis底层的C语言实现的。

数据部分复制

当master和slave断开重连后,一般都会对整份数据进行复制。但从redis2.8版本开始,redis改用可以支持部分数据复制的命令PSYNC去master同步数据,slave与master能够在网络连接断开重连后只进行部分数据复制(断点续传)。

master会在其内存中创建一个复制数据用的缓存队列,缓存最近一段时间的数据,master和它所有的slave都维护了复制的数据下标offset和master的进程id,因此,当网络连接断开后,slave会请求master继续进行未完成的复制,从所记录的数据下标开始。如果master进程id变化了,或者从节点数据下标offset太旧,已经不在master的缓存队列里了,那么将会进行一次全量数据的复制。

主从复制(部分复制,断点续传)流程图:

如果slave节点挂了之后,只想同步新增的数据(不需要同步全部)。

最新的命令redis会写到repl backlog buffer(默认大小是1MB)这个缓冲区中。

Redis主从配置和底层实现原理解析(实战记录)

offset是偏移量,即上次复制产生的偏移量,再一次复制新的数据的时候只需要从这个偏移量后面开始复制即可。注意,这种只适合几分钟之内的。

如果从缓冲区没有找到传过来的这个偏移量,说明从节点可能挂了非常久的时间,这时候需要做全量复制,而不是断点续传了。

缓解主从复制风暴

如果有很多从节点,为了缓解主从复制风暴(多个从节点同时复制主节点导致主节点压力过大),可以做如下架构,让部分从节点与从节点(与主节点同步)同步数据,即配置主从的ip地址可以写某个从节点的,而不是都写mast节点的IP.

Redis主从配置和底层实现原理解析(实战记录)

到此这篇关于Redis主从配置和底层实现原理解析(实战记录)的文章就介绍到这了,更多相关Redis主从配置内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Redis 相关文章推荐
解决redis sentinel 频繁主备切换的问题
Apr 12 Redis
Redis 哨兵集群的实现
Jun 18 Redis
Redis Cluster 集群搭建你会吗
Aug 04 Redis
关于redisson缓存序列化几枚大坑说明
Aug 04 Redis
Redis RDB技术底层原理详解
Sep 04 Redis
基于Redis结合SpringBoot的秒杀案例详解
Oct 05 Redis
CentOS8.4安装Redis6.2.6的详细过程
Nov 20 Redis
使用RedisTemplat实现简单的分布式锁
Nov 20 Redis
基于Redis zSet实现滑动窗口对短信进行防刷限流的问题
Feb 12 Redis
Redis中有序集合的内部实现方式的详细介绍
Mar 16 Redis
 Redis 串行生成顺序编码的方法实现
Apr 03 Redis
Redis超详细讲解高可用主从复制基础与哨兵模式方案
Apr 07 Redis
浅谈Redis中的RDB快照
聊一聊Redis与MySQL双写一致性如何保证
k8s部署redis cluster集群的实现
Jun 24 #Redis
浅析Redis Sentinel 与 Redis Cluster
redis cluster支持pipeline的实现思路
了解Redis常见应用场景
Jun 23 #Redis
压缩Redis里的字符串大对象操作
You might like
德生PL330的评价与改造
2021/03/02 无线电
学习php设计模式 php实现装饰器模式(decorator)
2015/12/07 PHP
JavaScript Cookie 直接浏览网站分网址
2009/12/08 Javascript
javascript json2 使用方法
2010/03/16 Javascript
获取body标签的两种方法
2011/10/13 Javascript
JavaScript自定义DateDiff函数(兼容所有浏览器)
2012/03/01 Javascript
jquery获取iframe中的dom对象(两种方法)
2013/07/02 Javascript
Js放到HTML文件中的哪个位置有什么区别
2013/08/21 Javascript
nodejs实现黑名单中间件设计
2014/06/17 NodeJs
JavaScript中的数值范围介绍
2014/12/29 Javascript
jQuery中scrollLeft()方法用法实例
2015/01/16 Javascript
jQuery实现tab选项卡效果的方法
2015/07/08 Javascript
基于bootstrap实现收缩导航条
2017/03/17 Javascript
Vue2.0 实现移动端图片上传功能
2018/05/30 Javascript
今天,小程序正式支持 SVG
2019/04/20 Javascript
详解vue-video-player使用心得(兼容m3u8)
2019/08/23 Javascript
layui table 表格上添加日期控件的两种方法
2019/09/28 Javascript
浅谈layui数据表格判断问题(加入表单元素),设置单元格样式
2019/10/26 Javascript
解决vue-pdf查看pdf文件及打印乱码的问题
2020/11/04 Javascript
[01:29]2017 DOTA2国际邀请赛官方英雄手办展示
2017/03/18 DOTA
python验证码识别的示例代码
2017/09/21 Python
python删除过期log文件操作实例解析
2018/01/31 Python
python中sys.argv函数精简概括
2018/07/08 Python
基于多进程中APScheduler重复运行的解决方法
2019/07/22 Python
Django+boostrap 美化admin后台的操作
2020/03/11 Python
Python ATM功能实现代码实例
2020/03/19 Python
tensorflow2.0的函数签名与图结构(推荐)
2020/04/28 Python
python如何实现word批量转HTML
2020/09/30 Python
基于Python实现全自动下载抖音视频
2020/11/06 Python
领导干部作风建设剖析材料
2014/10/11 职场文书
办公室务虚会发言材料
2014/10/20 职场文书
质量整改报告范文
2014/11/08 职场文书
家长学校教学计划
2015/01/19 职场文书
企业计划生育责任书
2015/05/09 职场文书
2016年学校“3.12”植树节活动总结
2016/03/16 职场文书
Golang bufio详细讲解
2022/04/21 Golang