位置: 编程技术 - 正文

浅谈Koa服务限流方法实践(服务器限制流量)

编辑:rootadmin

推荐整理分享浅谈Koa服务限流方法实践(服务器限制流量),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:如何实现服务限流,限制端口流量,如何实现服务限流,服务端限流,如何实现服务限流,如何实现服务限流,服务器限流,服务端限流,内容如对您有帮助,希望把文章链接给更多的朋友!

最近接了一个需求,很简单,就是起一个server,收到请求时调用某个提供好的接口,然后把结果返回。因为这个接口的性能问题,同时在请求的不能超过特定数目,要在服务中进行限流。

限流的要求是,限制同时执行的数目,超出这个数目后要在一个队列中进行缓存。

koa 中间件不调用 next

最初的想法是在 koa 中间件中进行计数,超过6个时将next函数缓存下来。等正在进行中的任务结束时,调用next继续其他请求。

之后发现 koa 中间件中,不执行next函数请求并不会停下,而是不再调用之后的中间件,直接返回内容。

以上代码首先在控制台打出 ‘middleware 1' => 浏览器收到 ‘hello' => 控制台打出 ‘middleware 2'。

这里还有一个要注意的地方,就是一个请求已经结束(finish)后,他的next方法还是可以继续调用,之后的middleware还是继续运行的(但是对ctx的修改不会生效,因为请求已经返回了)。同样,关闭的请求(close)也是同样的表现。

使用 await 让请求进行等待

延迟next函数执行不能达到目的。接下来自然想到的就是使用await让当前请求等待。await的函数返回一个Promise,我们将这个Promise中的resolve函数存储到队列中,延迟调用。

上面这段代码,在delay函数中返回一个Promise,Promise的resolve函数存入队列中。设置定时3s后执行队列中的resolve函数,使请求继续执行。

针对路由进行限流,还是针对请求进行限流?

限流的基本原理实现后,下面一个问题就是限流代码该写在哪里?基本上,有两个位置:

浅谈Koa服务限流方法实践(服务器限制流量)

针对接口进行限流

由于我们的需求中,限流是因为要请求接口的性能有限。所以我们可以单独针对这个请求进行限流:

下面还有一个方便复用的版本。

针对路由进行限流

这种方式是写一个koa中间件,在中间件中进行限流:

之后针对不同路由在router中使用这个中间件就好了:

比较

实现了针对接口进行限流,觉得逻辑有些乱,于是改用了针对路由进行限流,一切运行的很完美。

直到我又接了个需求,是要请求三次这个接口返回三次请求的结果数组。现在问题来了,我们不能直接调用接口,因为要限流。也不能直接调用请求接口的函数因为我们的限流是以路由为单位的。那怎么办呢?我们只有请求这个路由了,自己请求自己。。。

需要注意的地方

监听close事件,将请求从队列中移出已经存储在队列中的请求,有可能遇到用户取消的情况。前面说过koa中即使请求取消,之后的中间件还是会运行,也就是还会执行需要限流的接口,造成浪费。

可以监听close事件来达到这个目的,每个请求我们需要用hash值来标记:

设置超时时间

为了防止用户等待过长时间,需要设置超时时间,这在koa中很容易实现:

当前队列已经过长

如果当前队列已经过长了,即使加入队列中也会超时。因此我们还需要处理队列过长的情况:

标签: 服务器限制流量

本文链接地址:https://www.jiuchutong.com/biancheng/379473.html 转载请保留说明!

上一篇:node文件批量重命名的方法示例(nodejs重命名文件)

下一篇:nodejs中安装ghost出错的原因及解决方法(nodejs ghost)

  • 办房产证的完税证明是什么
  • 外地预缴税款预缴多了怎么办
  • 出租包装物租金是营业外收入吗
  • 长期待摊费用摊销会计分录
  • 增值税专用发票和普通发票的区别
  • 货物运输代理费用会计分录
  • 发票采集即征即退怎么填
  • 新成立的公司一般纳税人还是小规模纳税人好
  • 小企业准则适用于什么企业
  • 权益筹资额计算公式
  • 企业进行业务预算的编制技巧
  • 虚开发票应如何进行处罚
  • 损益类算费用吗
  • 税务机关如何防范关联企业涉税风险问题
  • 从公司账户转给个人账户取出来发给员工做过节费
  • 库存商品报废进项转出
  • 业务招待费进项税额需要转出吗
  • 公司股权转让应纳税额怎么算
  • 小规模纳税人购进商品的会计分录
  • 企业自主招聘有编制吗
  • 上月开的销项专票如何做废?
  • 选择简易征收可以开专票吗
  • 合同的情势变更是什么?
  • 差旅费增值税专用发票少报销可以吗
  • 文件错误会追究拟稿人吗
  • ipcservice.dll是什么?
  • 微软系统安装软件
  • 往来款怎么查
  • php文字转语音源码
  • 电力行业增值税率
  • 交暖气费可以开单位发票吗
  • 海峡群岛属于哪个洲
  • 新能源企业所得税税率是多少
  • 专家评审费发放新规定2023
  • 短信php源码
  • 企业职工生活费
  • 应交增值税科目设置及账务处理
  • 小规模0申报要做账吗
  • python local
  • 三方合同如何解除
  • 暂估成本多了
  • 社保代扣代缴的规定
  • 销售旧货和销售使用过的固定资产区别
  • 汇兑损益应计入
  • msdn sql server
  • 查询sqlserver数据库开发这门课程的最高分
  • 固定资产为什么要交税
  • 同一控制下企业合并
  • 公司名下没有车可以办油卡吗
  • 以前年度损益调整
  • 运输合理损耗会计科目
  • 给员工发中秋福利的用词
  • 质保金可以先不开票吗
  • 进项税额有抵扣期限吗
  • 政府专项扶持资金
  • 办公用水电费计入什么科目
  • 会计记账基础有哪两种
  • wamp怎么用mysql
  • mysql 5.6.26 winx64安装配置图文教程(一)
  • 用命令创建文件夹
  • win10的数据使用量是什么
  • 自己动手制作
  • 管理需要
  • win8系统的电脑
  • SwiftBTN.exe - SwiftBTN是什么进程 有啥作用
  • 特俗字符
  • mac怎么快速上手
  • nerosmartstart.exe - nerosmartstart是什么进程 作用是什么
  • ssh登录报错
  • win7打开回收站
  • excel f9刷新
  • Unity3D游戏开发标准教程吴亚峰于复兴人民邮电出版社
  • unity 案例
  • [置顶]电影名字《收件人不详》
  • 刨根问底造句
  • node.js app
  • unity3d从入门到精通
  • 成都燃气在线查询
  • 企业自产自销农产品免税政策有哪些
  • 越南进口废塑料新政策
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设