redis限流的实际应用


Posted in Redis onApril 24, 2021

为什么要做限流

首先让我们先看一看系统架构设计中,为什么要做“限流”。

旅游景点通常都会有最大的接待量,不可能无限制的放游客进入,比如故宫每天只卖八万张票,超过八万的游客,无法买票进入,因为如果超过八万人,景点的工作人员可能就忙不过来,过于拥挤的景点也会影响游客的体验和心情,并且还会有安全隐患;「只卖N张票,这就是一种限流的手段」。

软件架构中的服务限流也是类似,也是当系统资源不够的时候,已经不足以应对大量的请求,为了保证服务还能够正常运行,那么按照规则,「系统会把多余的请求直接拒绝掉,以达到限流的效果」;

不知道大家注意过没有,比如双11,刚过12点有些顾客的网页或APP会显示下单失败的提示,有些就是被限流掉了。

常见的限流算法

计数法

顾名思义就是来一个,记录一个,比如我1分钟只能处理1000个请求,那么我们就可以设置一个计数器,来一个请求就incr+1,当1分钟之内的数量大于等于1000之后不处理了即可,伪代码如下

$redis = new Redis();
$redis->connect('127.0.0.1', 6379);
$rate_limit = 1000;  //限制个数
$rate_seconds = 60;  //限制时间
$redis_key = "redis_limit";
$count = $redis->get($redis_key);
if ($count >= $rate_limit){  //判断60秒内请求个数是否已经达到上限
    //直接返回,不处理请求
    return
}
$redis->incr($redis_key, 1);//请求计数
$redis->expire($redis, $rate_seconds); //设置过期时间 60s
//to do  业务逻辑处理.......

这种计数方式比较简单快捷,但是有很大的缺点,因为请求的访问不一定是很平稳的,如果0:59过来了1000个请求,1:01已经是下一个窗口,又过来了1000个请求,但实际上三秒内来了2000个请求,已经超过我们的限流上限了。所以这种方法是不推荐的。

滑动窗口算法

还拿上面的例子,一分钟分6份,每份10秒;每过10秒钟,我们的时间窗口就会往右滑动一格,每个格子都有独立的计数器,我们每次都计算时间窗口内的数量,可以解决计数器法中的问题,而且当滑动窗口的格子越多,那么限流的统计就会越精确。具体可以参考下图,看图比较清晰redis限流的实际应用

伪代码实现如下

function api_limit($scene,  $period, $maxCount){
    $redis = new Redis();
    $redis->connect('127.0.0.1', 6379);
    $key = sprintf('hist:%s', $scene); //限流场景唯一标识
    $now = msectime();   // 毫秒时间戳,这样更精确
    $pipe=$redis->multi(Redis::PIPELINE); //使用管道提升性能
    $pipe->zadd($key, $now, $now); //value 和 score 都使用毫秒时间戳
    $pipe->zremrangebyscore($key, 0, $now - $period); //移除时间窗口之前的行为记录,剩下的都是时间窗口内的
    $pipe->zcard($key);  //获取窗口内的行为数量
    $pipe->expire($key, $period/1000 + 1);  //多加一秒过期时间
    $replies = $pipe->exec();
    return $replies[2] <= $maxCount;  //$replies[2]为zcard返回的个数  如果zcard结果大于maxCount,则不处理结果
}

for ($i=0; $i<20; $i++){  //测试限流是否实现代码
    var_dump(isActionAllowed("uniq_scene", 60*1000, 5)); //执行可以发现只有前5次是通过的
}

//返回当前的毫秒时间戳
function msectime() {
    list($msec, $sec) = explode(' ', microtime());
    $msectime = (float)sprintf('%.0f', (floatval($msec) + floatval($sec)) * 1000);
    return $msectime;
 }

这段代码还是略显复杂,需要读者花一定的时间好好啃。它的整体思路就是:每一个行为到来时,都维护一次时间窗口。将时间窗口外的记录全部清理掉,只保留窗口内的记录。

因为这几个连续的 Redis 操作都是针对同一个 key 的,使用 pipeline 可以显著提升Redis 存取效率。「但这种方案也有缺点,因为它要记录时间窗口内所有的行为记录,如果这个量很大,比如限定 60s 内操作不得超过 100w 次这样的参数,它是不适合做这样的限流的,因为会消耗大量的存储空间」。

后面还有漏桶算法和令牌桶算法,由于各自的实现比较复杂,所以准备各自新开一篇文章单独描述

到此这篇关于redis限流的实际应用的文章就介绍到这了,更多相关redis限流内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Redis 相关文章推荐
Redis实现订单自动过期功能的示例代码
May 08 Redis
基于Redis过期事件实现订单超时取消
May 08 Redis
基于Redis实现分布式锁的方法(lua脚本版)
May 12 Redis
springboot使用Redis作缓存使用入门教程
Jul 25 Redis
Redisson实现Redis分布式锁的几种方式
Aug 07 Redis
浅谈Redis的keys命令到底有多慢
Oct 05 Redis
redis中lua脚本使用教程
Nov 01 Redis
Window server中安装Redis的超详细教程
Nov 17 Redis
Redis中有序集合的内部实现方式的详细介绍
Mar 16 Redis
redis数据一致性的实现示例
Mar 18 Redis
Redis安装使用RedisJSON模块的方法
Mar 23 Redis
基于Redission的分布式锁实战
Aug 14 Redis
Redis安装启动及常见数据类型
redis配置文件中常用配置详解
Apr 14 #Redis
Redis遍历所有key的两个命令(KEYS 和 SCAN)
Apr 12 #Redis
浅谈redis五大数据结构和使用场景
Redis如何一键部署脚本
redis连接被拒绝的解决方案
解决redis sentinel 频繁主备切换的问题
You might like
PHP中对缓冲区的控制实现代码
2013/09/29 PHP
PHP使用PDO连接ACCESS数据库
2015/03/05 PHP
PHP CURL或file_get_contents获取网页标题的代码及两者效率的稳定性问题
2015/11/30 PHP
PHP自定义函数格式化json数据示例
2016/09/14 PHP
Netbeans 8.2与PHP相关的新特性介绍
2016/10/08 PHP
[原创]PHP实现SQL语句格式化功能的方法
2017/07/28 PHP
PHP实现微信申请退款功能
2018/10/01 PHP
JS 容错处理代码, 屏蔽错误信息
2021/03/09 Javascript
jquery 构造函数在表单提交过程中修改数据
2015/05/25 Javascript
jQuery实现的仿百度分页足迹效果代码
2015/10/30 Javascript
JS根据浏览器窗口大小实时动态改变网页文字大小的方法
2016/02/25 Javascript
es6学习笔记之Async函数的使用示例
2017/05/11 Javascript
js实现移动端导航点击自动滑动效果
2017/07/18 Javascript
js实现简单数字变动效果
2017/11/06 Javascript
vuejs 动态添加input框的实例讲解
2018/08/24 Javascript
微信小程序导入Vant报错VM292:1 thirdScriptError的解决方法
2019/08/01 Javascript
JavaScript算法学习之冒泡排序和选择排序
2019/11/02 Javascript
Ant Design Vue 添加区分中英文的长度校验功能
2020/01/21 Javascript
koa2 数据api中间件设计模型的实现方法
2020/07/13 Javascript
vue深度监听(监听对象和数组的改变)与立即执行监听实例
2020/09/04 Javascript
PHP 502bad gateway原因及解决方案
2020/11/13 Javascript
python模拟登录百度代码分享(获取百度贴吧等级)
2013/12/27 Python
Python中字典(dict)和列表(list)的排序方法实例
2014/06/16 Python
python 3利用Dlib 19.7实现摄像头人脸检测特征点标定
2018/02/26 Python
python基础教程项目二之画幅好画
2018/04/02 Python
Python使用sqlalchemy模块连接数据库操作示例
2019/03/13 Python
解决jupyter notebook import error但是命令提示符import正常的问题
2020/04/15 Python
柒牌官方商城:中国男装优秀品牌
2017/06/30 全球购物
迪卡侬中国官网:Decathlon中国
2020/08/10 全球购物
中学生英语演讲稿
2014/04/26 职场文书
班子四风对照检查材料思想汇报
2014/09/29 职场文书
刑事和解协议书范本
2014/11/19 职场文书
公证书格式
2015/01/23 职场文书
我们的节日元宵节活动总结
2015/02/06 职场文书
2015年公共机构节能宣传周活动总结
2015/03/26 职场文书
Python的property属性详细讲解
2022/04/11 Python