zoukankan      html  css  js  c++  java
  • 限流相关知识

    在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流
    缓存的目的是提升系统访问速度和增大系统能处理的容量,可谓是抗高并发流量的银弹;
    而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉,待高峰或者问题解决后再打开;
    而有些场景并不能用缓存和降级来解决,比如稀缺资源(秒杀、抢购)、写服务(如评论、下单),因此需有一种手段来限制这些场景的并发/请求量,即限流。

    限流虽然降低了服务接口的访问频率和并发量,却换取服务接口和业务应用系统的高可用。

    实际场景中常用的限流策略:

    1、Nginx前端限流

    按照一定的规则如帐号、IP、系统调用逻辑等在Nginx层面做限流
    

    2、业务应用系统限流

    客户端限流
    服务端限流
    

    3、数据库限流

    红线区,力保数据库
    

    常用的限流算法

    (1)漏桶
    (2)令牌桶
    (3)计数器也可以进行粗暴限流实现

    漏桶算法

    一个固定容量的漏桶,按照常量固定速率流出水滴;
    如果桶是空的,则不需流出水滴;
    可以以任意速率流入水滴到漏桶;
    如果流入水滴超出了桶的容量,则流入的水滴溢出了(被丢弃),而漏桶容量是不变的。

    令牌桶算法

    令牌桶算法是一个存放固定容量令牌的桶,按照固定速率往桶里添加令牌。令牌桶算法的描述如下:
    假设按照500毫秒的固定速率往桶中添加令牌;
    桶中最多存放b个令牌,当桶满时,新添加的令牌被丢弃或拒绝;
    当一个n个字节大小的数据包到达,将从桶中删除n个令牌,接着数据包被发送到网络上;
    如果桶中的令牌不足n个,则不会删除令牌,且该数据包将被限流(要么丢弃,要么缓冲区等待)。

    令牌桶和漏桶对比

    令牌桶限制的是平均流入速率,并允许一定程度突发流量;
    漏桶限制的是常量流出速率,从而平滑突发流入速率;
    令牌桶允许一定程度的突发,而漏桶主要目的是平滑流入速率;
    两个算法实现可以一样,但是方向是相反的,对于相同的参数得到的限流效果是一样的。

    应用级限流

    1、限流总并发/连接/请求数

    如果你使用过Tomcat,其Connector 其中一种配置有如下几个参数:
    acceptCount:如果Tomcat的线程都忙于响应,新来的连接会进入队列排队,如果超出排队大小,则拒绝连接;
    maxConnections: 瞬时最大连接数,超出的会排队等待;
    maxThreads:Tomcat能启动用来处理请求的最大线程数,如果请求处理量一直远远大于最大线程数则可能会僵死。

    2、限流总资源数

    如果有的资源是稀缺资源(如数据库连接、线程),而且可能有多个系统都会去使用它,那么需要限制应用;可以使用池化技术来限制总资源数:连接池、线程池。比如分配给每个应用的数据库连接是100,那么本应用最多可以使用100个资源,超出了可以等待或者抛异常。

    3、限流某个接口的总并发/请求数

    如果接口可能会有突发访问情况,但又担心访问量太大造成崩溃,如抢购业务;这个时候就需要限制这个接口的总并发/请求数总请求数了;因为粒度比较细,可以为每个接口都设置相应的阀值。可以使用Java中的AtomicLong进行限流

    分布式限流

    分布式限流最关键的是要将限流服务做成原子化,而解决方案可以使使用redis+lua或者nginx+lua技术进行实现.

    基于Redis功能的实现

    简陋的设计思路:假设一个用户(用IP判断)每分钟访问某一个服务接口的次数不能超过10次,那么我们可以在Redis中创建一个键,并此时我们就设置键的过期时间为60秒,每一个用户对此服务接口的访问就把键值加1,在60秒内当键值增加到10的时候,就禁止访问服务接口。在某种场景中添加访问时间间隔还是很有必要的

    使用redis进行限流

    其很好地解决了分布式环境下多实例所导致的并发问题。因为使用redis设置的计时器和计数器均是全局唯一的,不管多少个节点,它们使用的都是同样的计时器和计数器,因此可以做到非常精准的流控。同时,这种方案编码并不复杂,可能需要的代码不超过10行。根据可行性分析可知,整个系统采取redis限流处理是成本最低且最高效的。

  • 相关阅读:
    事务及存储过程
    索引细讲
    数据库练习题
    position: absolute 或 display:table 的水平垂直居中
    bootstrap table 文字超出父div范围
    css 图片不定大小不压缩、不变形的对齐
    vue3.0 + svg 图标
    vue eslint(indent) 空格缩进报错
    vue3.0 + fontAwesome 图标
    vue3.0 + ts + element-plus + i18n 中英文切换
  • 原文地址:https://www.cnblogs.com/jis121/p/11053012.html
Copyright © 2011-2022 走看看