位置: 编程技术 - 正文

浅谈Koa服务限流方法实践(服务器限制流量)

编辑:rootadmin

推荐整理分享浅谈Koa服务限流方法实践(服务器限制流量),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:如何实现服务限流,限制端口流量,如何实现服务限流,服务端限流,如何实现服务限流,如何实现服务限流,服务器限流,服务端限流,内容如对您有帮助,希望把文章链接给更多的朋友!

最近接了一个需求,很简单,就是起一个server,收到请求时调用某个提供好的接口,然后把结果返回。因为这个接口的性能问题,同时在请求的不能超过特定数目,要在服务中进行限流。

限流的要求是,限制同时执行的数目,超出这个数目后要在一个队列中进行缓存。

koa 中间件不调用 next

最初的想法是在 koa 中间件中进行计数,超过6个时将next函数缓存下来。等正在进行中的任务结束时,调用next继续其他请求。

之后发现 koa 中间件中,不执行next函数请求并不会停下,而是不再调用之后的中间件,直接返回内容。

以上代码首先在控制台打出 ‘middleware 1' => 浏览器收到 ‘hello' => 控制台打出 ‘middleware 2'。

这里还有一个要注意的地方,就是一个请求已经结束(finish)后,他的next方法还是可以继续调用,之后的middleware还是继续运行的(但是对ctx的修改不会生效,因为请求已经返回了)。同样,关闭的请求(close)也是同样的表现。

使用 await 让请求进行等待

延迟next函数执行不能达到目的。接下来自然想到的就是使用await让当前请求等待。await的函数返回一个Promise,我们将这个Promise中的resolve函数存储到队列中,延迟调用。

上面这段代码,在delay函数中返回一个Promise,Promise的resolve函数存入队列中。设置定时3s后执行队列中的resolve函数,使请求继续执行。

针对路由进行限流,还是针对请求进行限流?

限流的基本原理实现后,下面一个问题就是限流代码该写在哪里?基本上,有两个位置:

浅谈Koa服务限流方法实践(服务器限制流量)

针对接口进行限流

由于我们的需求中,限流是因为要请求接口的性能有限。所以我们可以单独针对这个请求进行限流:

下面还有一个方便复用的版本。

针对路由进行限流

这种方式是写一个koa中间件,在中间件中进行限流:

之后针对不同路由在router中使用这个中间件就好了:

比较

实现了针对接口进行限流,觉得逻辑有些乱,于是改用了针对路由进行限流,一切运行的很完美。

直到我又接了个需求,是要请求三次这个接口返回三次请求的结果数组。现在问题来了,我们不能直接调用接口,因为要限流。也不能直接调用请求接口的函数因为我们的限流是以路由为单位的。那怎么办呢?我们只有请求这个路由了,自己请求自己。。。

需要注意的地方

监听close事件,将请求从队列中移出已经存储在队列中的请求,有可能遇到用户取消的情况。前面说过koa中即使请求取消,之后的中间件还是会运行,也就是还会执行需要限流的接口,造成浪费。

可以监听close事件来达到这个目的,每个请求我们需要用hash值来标记:

设置超时时间

为了防止用户等待过长时间,需要设置超时时间,这在koa中很容易实现:

当前队列已经过长

如果当前队列已经过长了,即使加入队列中也会超时。因此我们还需要处理队列过长的情况:

标签: 服务器限制流量

本文链接地址:https://www.jiuchutong.com/biancheng/379473.html 转载请保留说明!

上一篇:node文件批量重命名的方法示例(nodejs重命名文件)

下一篇:nodejs中安装ghost出错的原因及解决方法(nodejs ghost)

  • 金税三期登录界面
  • 海关进口增值税怎么计算
  • 增值税加计扣除怎么做账
  • 增值税 附表三
  • 金蝶kis旗舰版使用手册
  • 实控人变更是利好吗
  • 接受捐赠材料需要交税吗
  • 增值税专票经办人怎么填
  • 成本法长期股权投资账务处理
  • 国有资产如何保值
  • 销项进项怎么转化
  • 应收账款资产减值损失转回和核销的区别
  • 别人送我免费赠品
  • 企业承担个人所得税账务处理
  • 营改增建筑业税率是多少
  • 什么情况下进项税额不得从销项税额中抵扣
  • 企业所得税一般纳税人是怎么缴纳的
  • 盈亏平衡点的计算公式字母
  • 1697509110
  • wind10激活密钥
  • 如何分析财务报表看企业经营情况
  • 超市库存商可以分为几大类
  • 增值税要不要计入固定资产的成本中?
  • 企业向个人的借款合同
  • 随机赠送是啥意思
  • 销售补差是怎么算的
  • 企业研发费用可以只加计一半吗
  • php occ
  • php怎么读取txt
  • 房地产项目如何通过抖音宣传
  • 特殊行业需要缴什么税
  • phptoken验证原理
  • thinkphp post
  • 6372056181电子退库收入
  • php采集源码
  • 浅谈socket同步和异步、阻塞和非阻塞、I/O模型
  • 深度学习的通道到底是什么?有什么用?(小白可看)
  • 前端工程化解决方案
  • 社会团体账务处理流程举例
  • libev & libevent简介 IntelIOT 博客园
  • 进项税额销项税额
  • 银行存款手工明细分类账
  • 税金及附加也是费用吗
  • 员工出差过程中意外死亡算工伤吗
  • 存货暂估入账会计分录
  • 员工加班打车费报销
  • 非盈利组织捐赠物资收入账务处理流程
  • 年末计提哪些科目
  • 使用pt-kill根据一定的规则来kill连接的方法
  • 个人所得税手续费奖励办税人员文件
  • 冲抵货款是什么意思
  • 解决企业应收账款问题
  • 采用账龄分析法计提坏账准备时,收到
  • 收到服务费发票可以计入什么科目
  • 上年的应收帐款怎么记账
  • 往来账核算
  • 永续债举例
  • 企业购买新能源车免购置税吗
  • 企业代扣个人社保最新会计处理
  • 企业应收账款的事前管理包括
  • 私对公可以转账怎么转
  • sql语句基础题及答案
  • sqlserver日志恢复数据
  • windows更改图标大小
  • Computer Browser是什么进程,Computer Browser有什么用?
  • Mac无法连接到iCloud
  • win7系统怎样安装字体
  • jquery.js
  • android中使用md5后报非法延续字节
  • set命令应用
  • js中的call方法和apply方法
  • 酷狗app去广告
  • unity增加组件
  • 基于javascript的毕业设计选题
  • android FileNotFoundException(Is a Directory)解决办法
  • 安卓中五种常见布局的特点
  • python用什么编辑
  • jQuery中text() val()和html()的区别实例详解
  • python bilt
  • 自然人办税服务平台怎么登录不进?
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设