spring 项目实现限流方法示例


Posted in Java/Android onJuly 15, 2022

01、为什么AUSTIN项目需要限流

众所周知,服务器能处理的请求数是有限的,如果请求量特别大,我们就可能需要做限流。

限流处理的姿势:要么就让请求等待,要么就把请求给扔了

spring 项目实现限流方法示例

从系统架构来看,我们的统一处理入口在austin-api接入层上,austin-api接入层做完简单的参数校验以及参数拼接后,就将请求转发到消息队列上了

spring 项目实现限流方法示例

按正常来说,因为接了消息队列且接入层没有什么耗时的操作,那对外的接口压力不大的。

没错的,austin要接入限流也并不是在austin-api接入层上做,是在austin-handler消息处理下发层。austin-handler消息处理下发层我们是用线程池去隔离不同的消息渠道不同的消息类型。

spring 项目实现限流方法示例

在系统本身上其实没有性能相关的问题,但我们下发的渠道可能就需要我们去控制调用的速率。

腾讯云短信默认限制3000次/秒调用下发接口

spring 项目实现限流方法示例

钉钉渠道对应用消息和群机器人消息都有接口调用的限制

spring 项目实现限流方法示例

....

在保证下发速度的前提下,为了让业务方所下发的消息其用户能正常接收到和下游渠道的稳定性,我们需要给某些渠道进行限流

于是在这个背景下,我目前定义了两种限流策略:

1、按照请求数限流

2、按照下发用户数限流

spring 项目实现限流方法示例

02、如何实现限流?

想要实现限流,摆在我们面前有两个选择:

1、单机限流

2、分布式限流

咋一看,线上不可能只部署一台机器去发送整个公司的消息推送的,我们的系统应用在线上环境绝对是集群部署的,那肯定就需要上分布式限流了,对吧?

但实际上分布式限流实现并不简单,目前分布式限流的方案一般借助两个中间件

1、Redis

2、Sentinel

我们可能会用Redis的setnx/incrby+expire命令(从而实现计数器、令牌桶限流)/zset数据结构(从而实现滑动窗口限流)

Redis实现的限流想要比较准确,无论是哪种方式,都要依靠lua脚本

而Sentinel支持单机限流和分布式限流,Sentinel分布式限流需要部署Token服务器

对于分布式限流而言,不管用哪一种方案,使用的成本和技术挑战都是比较大的。

如果用单机限流的话,那就简单得多了,省事直接用Guava包下的RateLimiter就完了。缺点就在于:它只能控制单机的限流,如果发生了服务器扩容和缩容,它是感知不到的。

有的人就给出了方案:那我用Zookeeper监听服务器的数量不就好了吗。理论上确实是这样的:每台机器限流值=限流总值/服务器数量

不过这又要去依赖Zookeeper,Zookeeper集群本身也有一堆状态相关的问题。

我是怎么实现的?单机限流一把梭

03、代码设计

从上面的描述可以看到,austin的限流我是要做在具体渠道上的,根据现有的代码设计我要的就是在各个的Handler上写上限流的代码。

我本身就设计了BaseHandler抽象类作为模板方法设计模式,此次限流的设计我的是:

1、将flowControl定义为abstract抽象方法,子类渠道去实现限流的代码

2、子类在初始化的时候定义限流参数,BaseHandler父类根据限流参数统一实现限流的逻辑

我选择了第二种方式,主要是我认为对于各个渠道而言,只是限流值是不同的,限流的逻辑应该都是一样的,没必要在每个子类上实现类似的逻辑。

spring 项目实现限流方法示例

而限流的逻辑就比较简单了,主要就使用RateLimit提供的易用API实现

spring 项目实现限流方法示例

没错,限流值的大小我是配置在apollo分布式配置中心的。假设以后真的要扩缩容了,那到时候提前把分布式配置中心的值给改掉,也能解决一部分的问题。

spring 项目实现限流方法示例

04、总结

扯了半天,原来就用了Guava包的RateLimit实现了单机限流,就这么简单,只是把限流值配置在分布式配置中心上而已。

很多时候,设计简单的代码可能实现并不完美,并不智能,并不优雅,但它付出的代价往往是最小的。

虽说如此,如果大家想要了解Redis+lua实现的同学可以fetch下austin最新的代码,就我写文章这段时间里,已经有老哥提了pull request用Redis+lua实现了滑动窗口去重的功能了,本质上是一样的。我已经merge到master分支了。

austin消息推送平台项目源码Gitee链接:gitee.com/austin

austin消息推送平台项目源码GitHub链接:github.com/austin

以上就是spring 项目实现限流方法示例的详细内容,更多关于spring 项目限流的资料请关注三水点靠木其它相关文章!


Tags in this post...

Java/Android 相关文章推荐
Java 数组内置函数toArray详解
Jun 28 Java/Android
HashMap实现保存两个key相同的数据
Jun 30 Java/Android
mybatis 获取无数据的字段不显示的问题
Jul 15 Java/Android
java设计模式--建造者模式详解
Jul 21 Java/Android
Sleuth+logback 设置traceid 及自定义信息方式
Jul 26 Java/Android
springmvc直接不经过controller访问WEB-INF中的页面问题
Feb 24 Java/Android
alibaba seata服务端具体实现
Feb 24 Java/Android
使用HttpSessionListener监听器实战
Mar 17 Java/Android
Java 垃圾回收超详细讲解记忆集和卡表
Apr 08 Java/Android
Mybatis-Plus 使用 @TableField 自动填充日期
Apr 26 Java/Android
Spring Data JPA框架持久化存储数据到数据库
Apr 28 Java/Android
java开发双人五子棋游戏
May 06 Java/Android
SpringBoot详解整合Redis缓存方法
Jul 15 #Java/Android
maven 解包依赖项中的文件的解决方法
Jul 15 #Java/Android
SpringBoot详解自定义Stater的应用
Jul 15 #Java/Android
MyBatis XPathParser解析器使用范例详解
Jul 15 #Java/Android
SpringBoot接入钉钉自定义机器人预警通知
Jul 15 #Java/Android
SpringBoot深入分析讲解监听器模式下
Jul 15 #Java/Android
tree shaking对打包体积优化及作用
Jul 07 #Java/Android
You might like
jquery的ajax简单结构示例代码
2014/02/17 Javascript
js的touch事件的实际引用
2014/10/13 Javascript
js闭包引起的事件注册问题介绍
2016/03/29 Javascript
浅谈JavaScript对象的创建方式
2016/06/13 Javascript
JavaScript在form表单中使用button按钮实现submit提交方法
2017/01/23 Javascript
JS基于正则截取替换特定字符之间字符串操作示例
2017/02/03 Javascript
Vue侧滑菜单组件——DrawerLayout
2017/12/18 Javascript
基于 Immutable.js 实现撤销重做功能的实例代码
2018/03/01 Javascript
初探Vue3.0 中的一大亮点Proxy的使用
2018/12/06 Javascript
JavaScript实现的级联算法示例【省市二级联动功能】
2018/12/25 Javascript
axios封装,使用拦截器统一处理接口,超详细的教程(推荐)
2019/05/02 Javascript
在layui中对table中的数据进行判断(0、1)转换为提示信息的方法
2019/09/28 Javascript
js实现随机抽奖
2020/03/19 Javascript
Paypal支付不完全指北
2020/06/04 Javascript
jQuery 移除事件的方法
2020/06/20 jQuery
[01:29]Ti4循环赛第三日精彩回顾
2014/07/13 DOTA
Python转换HTML到Text纯文本的方法
2015/01/15 Python
Python pandas常用函数详解
2018/02/07 Python
Python3.4 tkinter,PIL图片转换
2018/06/21 Python
详解python Todo清单实战
2018/11/01 Python
python使用正则筛选信用卡
2019/01/27 Python
python导包的几种方法(自定义包的生成以及导入详解)
2019/07/15 Python
python实现大学人员管理系统
2019/10/25 Python
python opencv图像处理(素描、怀旧、光照、流年、滤镜 原理及实现)
2020/12/10 Python
表单button的outline在firefox浏览器下的问题
2012/12/24 HTML / CSS
德国baby-markt婴儿用品瑞士网站:baby-markt.ch
2017/06/09 全球购物
预备党员转正思想汇报
2014/01/12 职场文书
服装电子商务创业计划书
2014/01/30 职场文书
普罗米修斯教学反思
2014/02/06 职场文书
见习报告的格式
2014/11/04 职场文书
城管个人总结
2015/02/28 职场文书
实施意见格式范本
2015/06/05 职场文书
一个家长教育孩子的心得体会
2016/01/15 职场文书
2019年行政人事个人工作总结范本!
2019/07/19 职场文书
XX部保密工作制度范本
2019/08/27 职场文书
Python语言内置数据类型
2022/02/24 Python