位置: 编程技术 - 正文

浅谈Koa服务限流方法实践(服务器限制流量)

编辑:rootadmin

推荐整理分享浅谈Koa服务限流方法实践(服务器限制流量),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:如何实现服务限流,限制端口流量,如何实现服务限流,服务端限流,如何实现服务限流,如何实现服务限流,服务器限流,服务端限流,内容如对您有帮助,希望把文章链接给更多的朋友!

最近接了一个需求,很简单,就是起一个server,收到请求时调用某个提供好的接口,然后把结果返回。因为这个接口的性能问题,同时在请求的不能超过特定数目,要在服务中进行限流。

限流的要求是,限制同时执行的数目,超出这个数目后要在一个队列中进行缓存。

koa 中间件不调用 next

最初的想法是在 koa 中间件中进行计数,超过6个时将next函数缓存下来。等正在进行中的任务结束时,调用next继续其他请求。

之后发现 koa 中间件中,不执行next函数请求并不会停下,而是不再调用之后的中间件,直接返回内容。

以上代码首先在控制台打出 ‘middleware 1' => 浏览器收到 ‘hello' => 控制台打出 ‘middleware 2'。

这里还有一个要注意的地方,就是一个请求已经结束(finish)后,他的next方法还是可以继续调用,之后的middleware还是继续运行的(但是对ctx的修改不会生效,因为请求已经返回了)。同样,关闭的请求(close)也是同样的表现。

使用 await 让请求进行等待

延迟next函数执行不能达到目的。接下来自然想到的就是使用await让当前请求等待。await的函数返回一个Promise,我们将这个Promise中的resolve函数存储到队列中,延迟调用。

上面这段代码,在delay函数中返回一个Promise,Promise的resolve函数存入队列中。设置定时3s后执行队列中的resolve函数,使请求继续执行。

针对路由进行限流,还是针对请求进行限流?

限流的基本原理实现后,下面一个问题就是限流代码该写在哪里?基本上,有两个位置:

浅谈Koa服务限流方法实践(服务器限制流量)

针对接口进行限流

由于我们的需求中,限流是因为要请求接口的性能有限。所以我们可以单独针对这个请求进行限流:

下面还有一个方便复用的版本。

针对路由进行限流

这种方式是写一个koa中间件,在中间件中进行限流:

之后针对不同路由在router中使用这个中间件就好了:

比较

实现了针对接口进行限流,觉得逻辑有些乱,于是改用了针对路由进行限流,一切运行的很完美。

直到我又接了个需求,是要请求三次这个接口返回三次请求的结果数组。现在问题来了,我们不能直接调用接口,因为要限流。也不能直接调用请求接口的函数因为我们的限流是以路由为单位的。那怎么办呢?我们只有请求这个路由了,自己请求自己。。。

需要注意的地方

监听close事件,将请求从队列中移出已经存储在队列中的请求,有可能遇到用户取消的情况。前面说过koa中即使请求取消,之后的中间件还是会运行,也就是还会执行需要限流的接口,造成浪费。

可以监听close事件来达到这个目的,每个请求我们需要用hash值来标记:

设置超时时间

为了防止用户等待过长时间,需要设置超时时间,这在koa中很容易实现:

当前队列已经过长

如果当前队列已经过长了,即使加入队列中也会超时。因此我们还需要处理队列过长的情况:

标签: 服务器限制流量

本文链接地址:https://www.jiuchutong.com/biancheng/379473.html 转载请保留说明!

上一篇:node文件批量重命名的方法示例(nodejs重命名文件)

下一篇:nodejs中安装ghost出错的原因及解决方法(nodejs ghost)

  • 沥青混凝土可以放多久
  • 简易计税方法和免税该怎么选择
  • 一个人可以做多少家公司法人
  • 净资产是资产负债表的哪一项
  • 有限合伙企业要交增值税吗
  • 商业汇票到期没有收到款
  • 预提车间租入固定资产租金800元
  • 工会基金是扣个人还是扣企业的
  • 饮料工业发展前景如何
  • 小微企业的认定标准2021
  • 支付各种办公费用
  • 预付材料款会计分录
  • 个人所得税薪金所得是实发工资还是应发工资
  • 征缴工会筹备金的规定
  • 企业发放工资时,可能涉及的会计科目有
  • 小规模企业增值税税收优惠政策2023
  • w11怎么更新
  • 小规模纳税人增值税3%减按1%
  • 年底返利账务处理
  • win10电源模式最佳性能多耗好多电
  • 线上网速测试
  • 打印机5b00错误解决
  • linux中!
  • 代扣的工会会费怎么做账
  • 股权转让合同怎么解除
  • 销户余额转出总公司怎样记账
  • lsm.exe是什么程序
  • 代收的税金如何记账
  • php $_files
  • 会计月末账务处理流程图
  • 房地产土地使用税核减条件
  • php批量上传
  • vue 使用js
  • 为什么很多银行卡会被异地警方冻结
  • python怎么安装lxml库
  • vue render ref
  • 电子回单是什么样子
  • 机动车价外费用发票如何开具
  • 物业公司属于生活性服务业吗
  • php策略模式和工厂模式的区别
  • phpcms使用教程
  • linux怎么创建python文件
  • mysql数据库uuid
  • mysql数据库中进入mysql库的命令
  • 社保可以直接计入费用吗
  • 合同履约成本如何设置明细科目
  • 事业单位没有
  • 社保刚转回来,生孩子能报销吗
  • 工会经费记在什么科目
  • 有限责任公司注册要求
  • 外账需要计提存利息吗
  • 中标违约保证金怎么退
  • 购货方享受现金折扣增值税
  • 公司现金支票取现要缴税吗
  • 当你想弥补想还清
  • 自产产品与视同自产产品
  • 存货总账根据什么填列
  • 新建公司需要什么
  • sqlserver 触发器 redis
  • mac的qq缓存在哪里怎么打开
  • 怎么建立dhcp服务器
  • win7系统调节亮度快捷键
  • WIN+VMWARE6.5上面网络配置centOs(5.4版) ADSL接入的小结
  • 硬盘版win10
  • linux服务器dns怎么设置
  • ES6 javascript中Class类继承用法实例详解
  • bootstrap-Treeview实现级联勾选
  • node.js配置
  • 接入hpool
  • css做一个好看的网页
  • cocos2dx小游戏
  • unity监视器
  • android studio右边的视图不见了
  • js当前时间格式化
  • 实例分析法名词解释
  • 十四五时期税收制度
  • 湖南电子税务申报
  • 地方财政税收的组成
  • 城市维护建设税减半征收政策
  • 2023个税税率及速算扣除数
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设