zoukankan      html  css  js  c++  java
  • 分布式限流策略

    以下只是一家之言:

      分布式限流和单机限流在本质上没有太多区别,只不过依赖的数据结构和数据要放在类似 redis 这种支持分布式存储的存储容器上

      redis 本身单线程对于办法请求的安全性,和基于内存和CPU的高效性 使得 他成为分布式存储容器的不二之选

      

    1. 单窗口限流

      即是简单的按时间单位计数,时间单位过完之后计数归零。比如说时间单位是 1 秒钟,并且限制这一秒钟 里的请求次数最多是 100 次,也就是 100 QPS

      那么在这一秒里,如果请求数超过 100,多出的请求将被抛弃。

      但是实际上,比如在 3分 58秒, 如果 100 个请求都在 58 秒的 最后的 1 ms 发给服务器,然后在 3 分 59 秒的前 1ms 又要 100 个请求发给 服务器,这些请求都是在允许范围之内的,实际上,58秒前半秒 和 59秒后半秒 这一秒 里就有 200 次请求打向服务器并且被接受, 和预期的100 QPS 限制不同。

    2. 粒度减小: 滑动窗口限流(多窗口法),假设将 1 秒 分成 5份,并且每秒最多接受 500 次请求

    做法是用一个 N 大小的 数组,实现滑动窗口,每个位置代表 200 ms(1s / 5),每个格子中的元素 代表该 200 ms 中请求的 处理次数

    当 count ,也就是总请求数 大于 500, 就限流。图中的指针每 200 ms 移动一次,并且移动到下一位置会把该位置上的数清理掉,并且从 count 上减掉,因为这个位置上的请求数已经是一秒前的数据了。

    清空出来的位置重新被使用,用来计请求数。

      

       

    就算有请求聚集的现象,假如红色深色部分代表 100 次请求,因为是聚集在 200 ms 为单位的两个格子里,所以相当于 400 ms 处理了 200 次请求

    3.令牌桶,提供服务方 根据自己的自身清空向桶中投放令牌,服务调用方只有从桶中得到令牌,才能真正调用到服务方,如果得不到,就会返回失败错误。

    具体令牌桶 可以用消息队列等支持分布式的中间件实现,或者直接嵌入到服务方代码中,视具体清空而定。

    4.漏斗桶。让服务方处理请求的速度从之前的 山脉连连,到平原走马,达到削峰填谷的效果。

     

  • 相关阅读:
    你要结婚了丶
    20150806这是个悲伤的日子。
    今天是我的生日。
    这是从word发的第一篇博客。
    【关于JavaScript】自动计算的实例
    【关于JavaScript】常见表单用户名、密码不能为空
    【关于php】Appserv中关于DW配置站点问题
    【关于php】Appserv的安装注意事项
    【无题】写在5月18日
    HTML中如何添加日历插件(JQUERY)
  • 原文地址:https://www.cnblogs.com/lqlqlq/p/14052877.html
Copyright © 2011-2022 走看看