redis限流的实际应用


Posted in Redis onApril 24, 2021

为什么要做限流

首先让我们先看一看系统架构设计中,为什么要做“限流”。

旅游景点通常都会有最大的接待量,不可能无限制的放游客进入,比如故宫每天只卖八万张票,超过八万的游客,无法买票进入,因为如果超过八万人,景点的工作人员可能就忙不过来,过于拥挤的景点也会影响游客的体验和心情,并且还会有安全隐患;「只卖N张票,这就是一种限流的手段」。

软件架构中的服务限流也是类似,也是当系统资源不够的时候,已经不足以应对大量的请求,为了保证服务还能够正常运行,那么按照规则,「系统会把多余的请求直接拒绝掉,以达到限流的效果」;

不知道大家注意过没有,比如双11,刚过12点有些顾客的网页或APP会显示下单失败的提示,有些就是被限流掉了。

常见的限流算法

计数法

顾名思义就是来一个,记录一个,比如我1分钟只能处理1000个请求,那么我们就可以设置一个计数器,来一个请求就incr+1,当1分钟之内的数量大于等于1000之后不处理了即可,伪代码如下

$redis = new Redis();
$redis->connect('127.0.0.1', 6379);
$rate_limit = 1000;  //限制个数
$rate_seconds = 60;  //限制时间
$redis_key = "redis_limit";
$count = $redis->get($redis_key);
if ($count >= $rate_limit){  //判断60秒内请求个数是否已经达到上限
    //直接返回,不处理请求
    return
}
$redis->incr($redis_key, 1);//请求计数
$redis->expire($redis, $rate_seconds); //设置过期时间 60s
//to do  业务逻辑处理.......

这种计数方式比较简单快捷,但是有很大的缺点,因为请求的访问不一定是很平稳的,如果0:59过来了1000个请求,1:01已经是下一个窗口,又过来了1000个请求,但实际上三秒内来了2000个请求,已经超过我们的限流上限了。所以这种方法是不推荐的。

滑动窗口算法

还拿上面的例子,一分钟分6份,每份10秒;每过10秒钟,我们的时间窗口就会往右滑动一格,每个格子都有独立的计数器,我们每次都计算时间窗口内的数量,可以解决计数器法中的问题,而且当滑动窗口的格子越多,那么限流的统计就会越精确。具体可以参考下图,看图比较清晰redis限流的实际应用

伪代码实现如下

function api_limit($scene,  $period, $maxCount){
    $redis = new Redis();
    $redis->connect('127.0.0.1', 6379);
    $key = sprintf('hist:%s', $scene); //限流场景唯一标识
    $now = msectime();   // 毫秒时间戳,这样更精确
    $pipe=$redis->multi(Redis::PIPELINE); //使用管道提升性能
    $pipe->zadd($key, $now, $now); //value 和 score 都使用毫秒时间戳
    $pipe->zremrangebyscore($key, 0, $now - $period); //移除时间窗口之前的行为记录,剩下的都是时间窗口内的
    $pipe->zcard($key);  //获取窗口内的行为数量
    $pipe->expire($key, $period/1000 + 1);  //多加一秒过期时间
    $replies = $pipe->exec();
    return $replies[2] <= $maxCount;  //$replies[2]为zcard返回的个数  如果zcard结果大于maxCount,则不处理结果
}

for ($i=0; $i<20; $i++){  //测试限流是否实现代码
    var_dump(isActionAllowed("uniq_scene", 60*1000, 5)); //执行可以发现只有前5次是通过的
}

//返回当前的毫秒时间戳
function msectime() {
    list($msec, $sec) = explode(' ', microtime());
    $msectime = (float)sprintf('%.0f', (floatval($msec) + floatval($sec)) * 1000);
    return $msectime;
 }

这段代码还是略显复杂,需要读者花一定的时间好好啃。它的整体思路就是:每一个行为到来时,都维护一次时间窗口。将时间窗口外的记录全部清理掉,只保留窗口内的记录。

因为这几个连续的 Redis 操作都是针对同一个 key 的,使用 pipeline 可以显著提升Redis 存取效率。「但这种方案也有缺点,因为它要记录时间窗口内所有的行为记录,如果这个量很大,比如限定 60s 内操作不得超过 100w 次这样的参数,它是不适合做这样的限流的,因为会消耗大量的存储空间」。

后面还有漏桶算法和令牌桶算法,由于各自的实现比较复杂,所以准备各自新开一篇文章单独描述

到此这篇关于redis限流的实际应用的文章就介绍到这了,更多相关redis限流内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Redis 相关文章推荐
在K8s上部署Redis集群的方法步骤
Apr 27 Redis
基于Redis过期事件实现订单超时取消
May 08 Redis
Django使用redis配置缓存的方法
Jun 01 Redis
Redis可视化客户端小结
Jun 10 Redis
Redis 持久化 RDB 与 AOF的执行过程
Nov 07 Redis
Redis中缓存穿透/击穿/雪崩问题和解决方法
Dec 04 Redis
Redis之RedisTemplate配置方式(序列和反序列化)
Mar 13 Redis
Redis中有序集合的内部实现方式的详细介绍
Mar 16 Redis
Redis调用Lua脚本及使用场景快速掌握
Mar 16 Redis
Redis 操作多个数据库的配置的方法实现
Mar 23 Redis
redis复制有可能碰到的问题汇总
Apr 03 Redis
Redis官方可视化工具RedisInsight安装使用教程
Apr 19 Redis
Redis安装启动及常见数据类型
redis配置文件中常用配置详解
Apr 14 #Redis
Redis遍历所有key的两个命令(KEYS 和 SCAN)
Apr 12 #Redis
浅谈redis五大数据结构和使用场景
Redis如何一键部署脚本
redis连接被拒绝的解决方案
解决redis sentinel 频繁主备切换的问题
You might like
global.php
2006/12/09 PHP
40个迹象表明你还是PHP菜鸟
2008/09/29 PHP
php 高效率写法 推荐
2010/02/21 PHP
PHP 引用是个坏习惯
2010/03/12 PHP
解析PHP留言本模块主要功能的函数说明(代码可实现)
2013/06/25 PHP
PHP中使用glob函数实现一句话删除某个目录下的所有文件
2014/07/22 PHP
PHP查询大量数据内存耗尽问题的解决方法
2016/10/28 PHP
七种PHP开发环境搭建工具
2020/06/28 PHP
JavaScript 语法集锦 脚本之家基础推荐
2009/11/15 Javascript
JQuery Study Notes 学习笔记(一)
2010/08/04 Javascript
javascript简单实现命名空间效果
2014/03/06 Javascript
取得元素的左和上偏移量的方法
2014/09/17 Javascript
Javascript中匿名函数的调用与写法实例详解(多种)
2016/01/26 Javascript
js获取指定字符前/后的字符串简单实例
2016/10/27 Javascript
C#微信小程序服务端获取用户解密信息实例代码
2017/03/10 Javascript
浅谈Angular 中何时取消订阅
2017/11/22 Javascript
解决淘宝cnpm 安装后cnpm不是内部或外部命令的问题
2018/05/17 Javascript
vue.js实现的绑定class操作示例
2018/07/06 Javascript
vue中如何实现后台管理系统的权限控制的方法步骤
2019/09/05 Javascript
在vue中嵌入外部网站的实现
2020/11/13 Javascript
Flask入门教程实例:搭建一个静态博客
2015/03/27 Python
详解Python 2.6 升级至 Python 2.7 的实践心得
2017/04/27 Python
python实现二叉树的遍历
2017/12/11 Python
Python绘制七段数码管实例代码
2017/12/20 Python
python 从文件夹抽取图片另存的方法
2018/12/04 Python
python调用外部程序的实操步骤
2019/03/04 Python
Python编程快速上手——Excel到CSV的转换程序案例分析
2020/02/28 Python
解决python 虚拟环境删除包无法加载的问题
2020/07/13 Python
几款主流好用的富文本编辑器(所见即所得常用编辑器)介绍
2021/03/17 Javascript
利用CSS3实现圆角的outline效果的教程
2015/06/05 HTML / CSS
html5+svg学习指南之SVG基础知识
2014/12/17 HTML / CSS
麦当劳印度网上订餐:McDelivery
2020/03/16 全球购物
村干部培训方案
2014/05/02 职场文书
志愿者宣传口号
2014/06/17 职场文书
优秀班主任先进事迹材料
2014/12/16 职场文书
演讲比赛通讯稿
2015/07/18 职场文书