spring 项目实现限流方法示例


Posted in Java/Android onJuly 15, 2022

01、为什么AUSTIN项目需要限流

众所周知,服务器能处理的请求数是有限的,如果请求量特别大,我们就可能需要做限流。

限流处理的姿势:要么就让请求等待,要么就把请求给扔了

spring 项目实现限流方法示例

从系统架构来看,我们的统一处理入口在austin-api接入层上,austin-api接入层做完简单的参数校验以及参数拼接后,就将请求转发到消息队列上了

spring 项目实现限流方法示例

按正常来说,因为接了消息队列且接入层没有什么耗时的操作,那对外的接口压力不大的。

没错的,austin要接入限流也并不是在austin-api接入层上做,是在austin-handler消息处理下发层。austin-handler消息处理下发层我们是用线程池去隔离不同的消息渠道不同的消息类型。

spring 项目实现限流方法示例

在系统本身上其实没有性能相关的问题,但我们下发的渠道可能就需要我们去控制调用的速率。

腾讯云短信默认限制3000次/秒调用下发接口

spring 项目实现限流方法示例

钉钉渠道对应用消息和群机器人消息都有接口调用的限制

spring 项目实现限流方法示例

....

在保证下发速度的前提下,为了让业务方所下发的消息其用户能正常接收到和下游渠道的稳定性,我们需要给某些渠道进行限流

于是在这个背景下,我目前定义了两种限流策略:

1、按照请求数限流

2、按照下发用户数限流

spring 项目实现限流方法示例

02、如何实现限流?

想要实现限流,摆在我们面前有两个选择:

1、单机限流

2、分布式限流

咋一看,线上不可能只部署一台机器去发送整个公司的消息推送的,我们的系统应用在线上环境绝对是集群部署的,那肯定就需要上分布式限流了,对吧?

但实际上分布式限流实现并不简单,目前分布式限流的方案一般借助两个中间件

1、Redis

2、Sentinel

我们可能会用Redis的setnx/incrby+expire命令(从而实现计数器、令牌桶限流)/zset数据结构(从而实现滑动窗口限流)

Redis实现的限流想要比较准确,无论是哪种方式,都要依靠lua脚本

而Sentinel支持单机限流和分布式限流,Sentinel分布式限流需要部署Token服务器

对于分布式限流而言,不管用哪一种方案,使用的成本和技术挑战都是比较大的。

如果用单机限流的话,那就简单得多了,省事直接用Guava包下的RateLimiter就完了。缺点就在于:它只能控制单机的限流,如果发生了服务器扩容和缩容,它是感知不到的。

有的人就给出了方案:那我用Zookeeper监听服务器的数量不就好了吗。理论上确实是这样的:每台机器限流值=限流总值/服务器数量

不过这又要去依赖Zookeeper,Zookeeper集群本身也有一堆状态相关的问题。

我是怎么实现的?单机限流一把梭

03、代码设计

从上面的描述可以看到,austin的限流我是要做在具体渠道上的,根据现有的代码设计我要的就是在各个的Handler上写上限流的代码。

我本身就设计了BaseHandler抽象类作为模板方法设计模式,此次限流的设计我的是:

1、将flowControl定义为abstract抽象方法,子类渠道去实现限流的代码

2、子类在初始化的时候定义限流参数,BaseHandler父类根据限流参数统一实现限流的逻辑

我选择了第二种方式,主要是我认为对于各个渠道而言,只是限流值是不同的,限流的逻辑应该都是一样的,没必要在每个子类上实现类似的逻辑。

spring 项目实现限流方法示例

而限流的逻辑就比较简单了,主要就使用RateLimit提供的易用API实现

spring 项目实现限流方法示例

没错,限流值的大小我是配置在apollo分布式配置中心的。假设以后真的要扩缩容了,那到时候提前把分布式配置中心的值给改掉,也能解决一部分的问题。

spring 项目实现限流方法示例

04、总结

扯了半天,原来就用了Guava包的RateLimit实现了单机限流,就这么简单,只是把限流值配置在分布式配置中心上而已。

很多时候,设计简单的代码可能实现并不完美,并不智能,并不优雅,但它付出的代价往往是最小的。

虽说如此,如果大家想要了解Redis+lua实现的同学可以fetch下austin最新的代码,就我写文章这段时间里,已经有老哥提了pull request用Redis+lua实现了滑动窗口去重的功能了,本质上是一样的。我已经merge到master分支了。

austin消息推送平台项目源码Gitee链接:gitee.com/austin

austin消息推送平台项目源码GitHub链接:github.com/austin

以上就是spring 项目实现限流方法示例的详细内容,更多关于spring 项目限流的资料请关注三水点靠木其它相关文章!


Tags in this post...

Java/Android 相关文章推荐
Java中常用解析工具jackson及fastjson的使用
Jun 28 Java/Android
SpringBoot整合Mybatis Generator自动生成代码
Aug 23 Java/Android
IDEA2021.2配置docker如何将springboot项目打成镜像一键发布部署
Sep 25 Java/Android
Java异常处理try catch的基本用法
Dec 06 Java/Android
Java练习之潜艇小游戏的实现
Mar 16 Java/Android
Android自定义ScrollView实现阻尼回弹
Apr 01 Java/Android
MyBatis配置文件解析与MyBatis实例演示
Apr 07 Java/Android
Android存储中最基本的文件存储方式
Apr 30 Java/Android
java版 联机五子棋游戏
May 04 Java/Android
Android开发手册自定义Switch开关按钮控件
Jun 10 Java/Android
springboot 全局异常处理和统一响应对象的处理方式
Jun 28 Java/Android
Java结构型设计模式之组合模式详解
Sep 23 Java/Android
SpringBoot详解整合Redis缓存方法
Jul 15 #Java/Android
maven 解包依赖项中的文件的解决方法
Jul 15 #Java/Android
SpringBoot详解自定义Stater的应用
Jul 15 #Java/Android
MyBatis XPathParser解析器使用范例详解
Jul 15 #Java/Android
SpringBoot接入钉钉自定义机器人预警通知
Jul 15 #Java/Android
SpringBoot深入分析讲解监听器模式下
Jul 15 #Java/Android
tree shaking对打包体积优化及作用
Jul 07 #Java/Android
You might like
php google或baidu分页代码
2009/11/26 PHP
wordpress自定义url参数实现路由功能的代码示例
2013/11/28 PHP
javascript 表单的友好用户体现
2009/01/07 Javascript
jQuery布局插件UI Layout简介及使用方法
2013/04/03 Javascript
怎么清空javascript数组
2013/05/11 Javascript
JavaScript获取table中某一列的值的方法
2014/05/06 Javascript
window.location.reload 刷新使用分析(去对话框)
2015/11/11 Javascript
谈谈我对JavaScript原型和闭包系列理解(随手笔记6)
2015/12/20 Javascript
javascript 实现动态侧边栏实例详解
2016/11/11 Javascript
vue 如何添加全局函数或全局变量以及单页面的title设置总结
2017/06/01 Javascript
JS验证输入的是否是数字及保留几位小数问题
2018/05/09 Javascript
微信小程序时间选择插件使用详解
2018/12/28 Javascript
JS实现选项卡效果的代码实例
2019/05/20 Javascript
使用flow来规范javascript的变量类型
2019/09/12 Javascript
Vue3+elementui plus创建项目的方法
2020/12/01 Vue.js
[00:37]DOTA2上海特级锦标赛 Secert 战队宣传片
2016/03/03 DOTA
Python中用Decorator来简化元编程的教程
2015/04/13 Python
Python自动化运维和部署项目工具Fabric使用实例
2016/09/18 Python
python将文本分每两行一组并保存到文件
2018/03/19 Python
python和opencv实现抠图
2018/07/18 Python
Python闭包思想与用法浅析
2018/12/27 Python
基于PyQt4和PySide实现输入对话框效果
2019/02/27 Python
Python字典遍历操作实例小结
2019/03/05 Python
Python实战之制作天气查询软件
2019/05/14 Python
Django发送邮件和itsdangerous模块的配合使用解析
2019/08/10 Python
Windows上安装tensorflow  详细教程(图文详解)
2020/02/04 Python
利用PyTorch实现VGG16教程
2020/06/24 Python
python 利用panda 实现列联表(交叉表)
2021/02/06 Python
如何用Matlab和Python读取Netcdf文件
2021/02/19 Python
CSS改变网页中鼠标选中文字背景颜色例子
2014/04/23 HTML / CSS
CSS3 transform的skew属性值图文详解
2014/07/21 HTML / CSS
德国最大的服装、鞋子和配件在线商店之一:Outfits24
2019/07/23 全球购物
红旗方阵解说词
2014/02/12 职场文书
裁员通知
2015/04/25 职场文书
2015大学迎新晚会策划书
2015/07/16 职场文书
Oracle11g r2 卸载干净重装的详细教程(亲测有效已重装过)
2021/06/04 Oracle