Redis主从配置和底层实现原理解析(实战记录)


Posted in Redis onJune 30, 2021

我们使用Redis的时候往往都是主从模式或者集群架构,不会使用单台Redis服务。

一、Redis主从配置实战

我们使用master节点写输入,然后将数据同步到slave节点,从节点可以提供读取或者备份的功能,分担master节点压力。

Redis主从配置和底层实现原理解析(实战记录)

redis主从架构搭建,配置从节点步骤

1、 复制一份redis.conf文件为redis-6380.conf

cp ./redis.conf ./conf/redis-6380.conf

2、打开redis-6380.conf配置文件,将相关配置修改为如下值:

port 6380
pidfile /var/run/redis_6380.pid # 把pid进程号写入pidfile配置的文件
logfile "6380.log"
dir /usr/local/redis?5.0.3/data/6380 # 指定数据存放目录
# 需要注释掉bind
# bind 127.0.0.1(bind绑定的是自己机器网卡的ip,如果有多块网卡可以配多个ip,代表允许客户端通过机器的哪些网卡ip去访问,内网一般可以不配置bind,注释掉即可)

3、在redis-6380.conf中配置主从复制

replicaof 192.168.0.60 6379 # 从本机6379的redis实例复制数据,Redis 5.0之前使用slaveof. 这里的IP是redis服务IP
replica?read?only yes # 配置从节点只读

注意: 如果的时候发现从节点中始终是空,即没有同步到主节点的数据,可能是192.168.0.60的设置问题,如果是主从都在一台服务器上,可以试试改成127.0.0.1.
4、启动从节点

注意一下命令,我这里是相对路径。

./src/redis-server ./conf/redis-6380.conf

然后我们查看redis服务实例,发现6379和6380都已经启动了。

Redis主从配置和底层实现原理解析(实战记录)

5、连接从节点

[root@localhost redis-6.2.3]# ./src/redis-cli -p 6380
127.0.0.1:6380>

查看是否同步了数据:

127.0.0.1:6380> keys *
1) "test3"
2) "tul2"
3) "tul"
4) "tul3"
5) "test1"
6) "yaolao"
7) "test2"
127.0.0.1:6380>

注意: 如果的时候发现从节点中始终是空,即没有同步到主节点的数据,可能是192.168.0.60的设置问题,如果是主从都在一台服务器上,可以试试改成127.0.0.1试试。、

6、测试在6379实例上写数据,6380实例是否能及时同步新修改数据

7、可以自己再配置一个6381的从节点

至此。,我们的主从配置就完成了。我们可以自己去配置多个从节点。

二、主从实现原理

如果你为master配置了一个slave,不管这个slave是否是第一次连接上Master,它都会发送一个PSYNC命令给master请求复制数据。

master收到PSYNC命令后,会在后台进行数据持久化通过bgsave生成最新的rdb快照文件,持久化期间,master会继续接收客户端的请求,它会把这些可能修改数据集的请求缓存在内存中。当持久化进行完毕以后,master会把这份rdb文件数据集发送给slave,slave会把接收到的数据进行持久化生成rdb,然后再加载到内存中。然后,master再将之前缓存在内存中的命令发送给slave。

当master与slave之间的连接由于某些原因而断开时,slave能够自动重连Master,如果master收到了多
个slave并发连接请求,它只会进行一次持久化,而不是一个连接一次,然后再把这一份持久化的数据发送
给多个并发连接的slave。

主从复制(全量复制)流程图

Redis主从配置和底层实现原理解析(实战记录)

psync命令是redis底层的C语言实现的。

数据部分复制

当master和slave断开重连后,一般都会对整份数据进行复制。但从redis2.8版本开始,redis改用可以支持部分数据复制的命令PSYNC去master同步数据,slave与master能够在网络连接断开重连后只进行部分数据复制(断点续传)。

master会在其内存中创建一个复制数据用的缓存队列,缓存最近一段时间的数据,master和它所有的slave都维护了复制的数据下标offset和master的进程id,因此,当网络连接断开后,slave会请求master继续进行未完成的复制,从所记录的数据下标开始。如果master进程id变化了,或者从节点数据下标offset太旧,已经不在master的缓存队列里了,那么将会进行一次全量数据的复制。

主从复制(部分复制,断点续传)流程图:

如果slave节点挂了之后,只想同步新增的数据(不需要同步全部)。

最新的命令redis会写到repl backlog buffer(默认大小是1MB)这个缓冲区中。

Redis主从配置和底层实现原理解析(实战记录)

offset是偏移量,即上次复制产生的偏移量,再一次复制新的数据的时候只需要从这个偏移量后面开始复制即可。注意,这种只适合几分钟之内的。

如果从缓冲区没有找到传过来的这个偏移量,说明从节点可能挂了非常久的时间,这时候需要做全量复制,而不是断点续传了。

缓解主从复制风暴

如果有很多从节点,为了缓解主从复制风暴(多个从节点同时复制主节点导致主节点压力过大),可以做如下架构,让部分从节点与从节点(与主节点同步)同步数据,即配置主从的ip地址可以写某个从节点的,而不是都写mast节点的IP.

Redis主从配置和底层实现原理解析(实战记录)

到此这篇关于Redis主从配置和底层实现原理解析(实战记录)的文章就介绍到这了,更多相关Redis主从配置内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Redis 相关文章推荐
Redis遍历所有key的两个命令(KEYS 和 SCAN)
Apr 12 Redis
Redis持久化与主从复制的实践
Apr 27 Redis
Redis高级数据类型Hyperloglog、Bitmap的使用
May 24 Redis
你真的了解redis为什么要提供pipeline功能
Jun 22 Redis
redis客户端实现高可用读写分离的方式详解
Jul 04 Redis
基于Redis的List实现特价商品列表功能
Aug 30 Redis
使用redis生成唯一编号及原理示例详解
Sep 15 Redis
Redis 持久化 RDB 与 AOF的执行过程
Nov 07 Redis
redis的list数据类型相关命令介绍及使用
Jan 18 Redis
基于Redis6.2.6版本部署Redis Cluster集群的问题
Apr 01 Redis
一文搞懂Redis中String数据类型
Apr 03 Redis
Redis实战高并发之扣减库存项目
Apr 14 Redis
浅谈Redis中的RDB快照
聊一聊Redis与MySQL双写一致性如何保证
k8s部署redis cluster集群的实现
Jun 24 #Redis
浅析Redis Sentinel 与 Redis Cluster
redis cluster支持pipeline的实现思路
了解Redis常见应用场景
Jun 23 #Redis
压缩Redis里的字符串大对象操作
You might like
PHP.MVC的模板标签系统(二)
2006/09/05 PHP
PHP 5昨天隆重推出--PHP 5/Zend Engine 2.0新特性
2006/10/09 PHP
php自定义函数实现二维数组按指定key排序的方法
2016/09/29 PHP
js window.print实现打印特定控件或内容
2013/09/16 Javascript
简单实用的全选反选按钮例子
2013/10/18 Javascript
JS按字节截取字符长度实例
2013/11/20 Javascript
js复制网页内容并兼容各主流浏览器的代码
2013/12/17 Javascript
jQuery获取(选中)单选,复选框,下拉框中的值
2014/02/21 Javascript
JS中判断null、undefined与NaN的方法
2014/03/26 Javascript
jquery复选框多选赋值给文本框的方法
2015/01/27 Javascript
利用JS实现页面删除并重新排序功能
2016/12/09 Javascript
JavaScript中清空数组的三种方式
2017/03/22 Javascript
AngularJS 事件发布机制
2018/08/28 Javascript
webpack css加载和图片加载的方法示例
2018/09/11 Javascript
LayUI switch 开关监听 获取属性值、更改状态的方法
2019/09/21 Javascript
JavaScript 自定义html元素鼠标右键菜单功能
2019/12/02 Javascript
js在HTML的三种引用方式详解
2020/08/29 Javascript
python练习程序批量修改文件名
2014/01/16 Python
Python实现简单多线程任务队列
2016/02/27 Python
深入理解python中的select模块
2017/04/23 Python
python使用SMTP发送qq或sina邮件
2017/10/21 Python
Python之时间和日期使用小结
2019/02/14 Python
Python 实现域名解析为ip的方法
2019/02/14 Python
Python I/O与进程的详细讲解
2019/03/08 Python
Python3.5多进程原理与用法实例分析
2019/04/05 Python
Python中面向对象你应该知道的一下知识
2019/07/10 Python
python 绘制场景热力图的示例
2020/09/23 Python
Farfetch香港官网:汇集全球时尚奢侈品购物平台
2017/11/26 全球购物
澳大利亚人信任的清洁平台,您的私人管家:Jarvis
2020/12/25 全球购物
运动会稿件100字
2014/02/21 职场文书
财务总监岗位职责
2014/03/07 职场文书
2014年环境卫生工作总结
2014/11/24 职场文书
庆七一活动简报
2015/07/20 职场文书
使用springboot暴露oracle数据接口的问题
2021/05/07 Oracle
MySQL sql_mode的使用详解
2021/05/08 MySQL
入门学习Go的基本语法
2021/07/07 Golang