redis限流的实际应用


Posted in Redis onApril 24, 2021

为什么要做限流

首先让我们先看一看系统架构设计中,为什么要做“限流”。

旅游景点通常都会有最大的接待量,不可能无限制的放游客进入,比如故宫每天只卖八万张票,超过八万的游客,无法买票进入,因为如果超过八万人,景点的工作人员可能就忙不过来,过于拥挤的景点也会影响游客的体验和心情,并且还会有安全隐患;「只卖N张票,这就是一种限流的手段」。

软件架构中的服务限流也是类似,也是当系统资源不够的时候,已经不足以应对大量的请求,为了保证服务还能够正常运行,那么按照规则,「系统会把多余的请求直接拒绝掉,以达到限流的效果」;

不知道大家注意过没有,比如双11,刚过12点有些顾客的网页或APP会显示下单失败的提示,有些就是被限流掉了。

常见的限流算法

计数法

顾名思义就是来一个,记录一个,比如我1分钟只能处理1000个请求,那么我们就可以设置一个计数器,来一个请求就incr+1,当1分钟之内的数量大于等于1000之后不处理了即可,伪代码如下

$redis = new Redis();
$redis->connect('127.0.0.1', 6379);
$rate_limit = 1000;  //限制个数
$rate_seconds = 60;  //限制时间
$redis_key = "redis_limit";
$count = $redis->get($redis_key);
if ($count >= $rate_limit){  //判断60秒内请求个数是否已经达到上限
    //直接返回,不处理请求
    return
}
$redis->incr($redis_key, 1);//请求计数
$redis->expire($redis, $rate_seconds); //设置过期时间 60s
//to do  业务逻辑处理.......

这种计数方式比较简单快捷,但是有很大的缺点,因为请求的访问不一定是很平稳的,如果0:59过来了1000个请求,1:01已经是下一个窗口,又过来了1000个请求,但实际上三秒内来了2000个请求,已经超过我们的限流上限了。所以这种方法是不推荐的。

滑动窗口算法

还拿上面的例子,一分钟分6份,每份10秒;每过10秒钟,我们的时间窗口就会往右滑动一格,每个格子都有独立的计数器,我们每次都计算时间窗口内的数量,可以解决计数器法中的问题,而且当滑动窗口的格子越多,那么限流的统计就会越精确。具体可以参考下图,看图比较清晰redis限流的实际应用

伪代码实现如下

function api_limit($scene,  $period, $maxCount){
    $redis = new Redis();
    $redis->connect('127.0.0.1', 6379);
    $key = sprintf('hist:%s', $scene); //限流场景唯一标识
    $now = msectime();   // 毫秒时间戳,这样更精确
    $pipe=$redis->multi(Redis::PIPELINE); //使用管道提升性能
    $pipe->zadd($key, $now, $now); //value 和 score 都使用毫秒时间戳
    $pipe->zremrangebyscore($key, 0, $now - $period); //移除时间窗口之前的行为记录,剩下的都是时间窗口内的
    $pipe->zcard($key);  //获取窗口内的行为数量
    $pipe->expire($key, $period/1000 + 1);  //多加一秒过期时间
    $replies = $pipe->exec();
    return $replies[2] <= $maxCount;  //$replies[2]为zcard返回的个数  如果zcard结果大于maxCount,则不处理结果
}

for ($i=0; $i<20; $i++){  //测试限流是否实现代码
    var_dump(isActionAllowed("uniq_scene", 60*1000, 5)); //执行可以发现只有前5次是通过的
}

//返回当前的毫秒时间戳
function msectime() {
    list($msec, $sec) = explode(' ', microtime());
    $msectime = (float)sprintf('%.0f', (floatval($msec) + floatval($sec)) * 1000);
    return $msectime;
 }

这段代码还是略显复杂,需要读者花一定的时间好好啃。它的整体思路就是:每一个行为到来时,都维护一次时间窗口。将时间窗口外的记录全部清理掉,只保留窗口内的记录。

因为这几个连续的 Redis 操作都是针对同一个 key 的,使用 pipeline 可以显著提升Redis 存取效率。「但这种方案也有缺点,因为它要记录时间窗口内所有的行为记录,如果这个量很大,比如限定 60s 内操作不得超过 100w 次这样的参数,它是不适合做这样的限流的,因为会消耗大量的存储空间」。

后面还有漏桶算法和令牌桶算法,由于各自的实现比较复杂,所以准备各自新开一篇文章单独描述

到此这篇关于redis限流的实际应用的文章就介绍到这了,更多相关redis限流内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Redis 相关文章推荐
浅谈Redis在直播场景的实践方案
Apr 27 Redis
Redis数据结构之链表与字典的使用
May 11 Redis
基于Redis实现分布式锁的方法(lua脚本版)
May 12 Redis
详解Redis基本命令与使用场景
Jun 01 Redis
浅析Redis Sentinel 与 Redis Cluster
Jun 24 Redis
Redis集群新增、删除节点以及动态增加内存的方法
Sep 04 Redis
关于使用Redisson订阅数问题
Jan 18 Redis
浅谈Redis跟MySQL的双写问题解决方案
Feb 24 Redis
分布式架构Redis中有哪些数据结构及底层实现原理
Mar 13 Redis
windows安装 redis 6.2.6最新步骤详解
Apr 26 Redis
Redis高并发缓存架构性能优化
May 15 Redis
Redis实现短信验证码登录的示例代码
Jun 14 Redis
Redis安装启动及常见数据类型
redis配置文件中常用配置详解
Apr 14 #Redis
Redis遍历所有key的两个命令(KEYS 和 SCAN)
Apr 12 #Redis
浅谈redis五大数据结构和使用场景
Redis如何一键部署脚本
redis连接被拒绝的解决方案
解决redis sentinel 频繁主备切换的问题
You might like
php数组函数序列之array_combine() - 数组合并函数使用说明
2011/10/29 PHP
选择PHP作为网站开发语言的原因分享
2012/01/03 PHP
PHP 自定义错误处理函数trigger_error()
2013/03/26 PHP
php网站地图生成类示例
2014/01/13 PHP
php版淘宝网查询商品接口代码示例
2014/06/17 PHP
mantis安装、配置和使用中的问题小结
2014/07/14 PHP
Ajax实现对静态页面的文章访问统计功能示例
2016/10/10 PHP
CodeIgniter开发实现支付宝接口调用的方法示例
2016/11/14 PHP
php使用curl伪造浏览器访问操作示例
2019/09/30 PHP
CentOS7系统搭建LAMP及更新PHP版本操作详解
2020/03/26 PHP
一个简单的动态加载js和css的jquery代码
2014/09/01 Javascript
javascript性能优化之事件委托实例详解
2015/12/12 Javascript
JavaScript编写一个简易购物车功能
2016/09/17 Javascript
HTML的select控件美化
2017/03/27 Javascript
详解Angular2 之 结构型指令
2017/06/21 Javascript
vue组件实现进度条效果
2018/06/06 Javascript
ES6 Symbol数据类型的应用实例分析
2019/06/26 Javascript
解决layui的input独占一行的问题
2019/09/10 Javascript
JSON 入门教程基础篇 json入门学习笔记
2020/09/22 Javascript
three.js中多线程的使用及性能测试详解
2021/01/07 Javascript
[01:43]3.19DOTA2发布会 三代刀塔人第三代
2014/03/25 DOTA
[43:03]LGD vs Newbee 2019国际邀请赛小组赛 BO2 第一场 8.16
2019/08/19 DOTA
[40:19]完美世界DOTA2联赛PWL S3 Rebirth vs CPG 第二场 12.18
2020/12/19 DOTA
python模块restful使用方法实例
2013/12/10 Python
浅谈Python的list中的选取范围
2018/11/12 Python
pytorch 实现将自己的图片数据处理成可以训练的图片类型
2020/01/08 Python
python识别验证码图片实例详解
2020/02/17 Python
UGG澳洲官网:UGG Australia
2018/04/26 全球购物
德国运动营养和健身网上商店:Myprotein.de
2018/07/18 全球购物
慕尼黑山地运动、户外服装和体育用品专家:Sporthaus Schuster
2019/08/27 全球购物
银行办理业务介绍信
2014/01/18 职场文书
高中教师考核方案
2014/05/18 职场文书
学校四风对照检查材料
2014/08/28 职场文书
二手房购房意向书
2015/05/09 职场文书
python通配符之glob模块的使用详解
2021/04/24 Python
详解Mysql事务并发(脏读、不可重复读、幻读)
2022/04/29 MySQL