Dubbo负载均衡与集群容错机制

1  Dubbo简介

    Dubbo是一款高性能、轻量级的开源Java RPC框架，它提供了三大核心能力：面向接口的远程方法调用，智能容错和负载均衡，以及服务自动注册和发现。

    作为一个轻量级RPC框架，Dubbo的设计架构简洁清晰，主要组件包括Provider（服务提供者）,Consumer（服务消费者）,Registry（注册中心）三部分组成。此外还有用于服务监控的Monitor,它们之间的关系如下所示：

    在一个分布式系统中，为了做到系统的高可用，即服务宕机时不影响对外正常提供服务，需要组建负载集群，当集群中某一节点没有及时返回数据时，需要有集群容错（重试）机制。

2 Dubbo负载均衡

    在集群负载均衡时，Dubbo 提供了以下5种均衡策略，缺省为 random 随机调用。

Random

    随机调用

Random LoadBalance

    随机，按权重设置随机概率。
    在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

RoundRobin LoadBalance

    轮循，按公约后的权重设置轮循比率。
    存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。

LeastActive LoadBalance

    最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。
    使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。

ConsistentHash LoadBalance

    一致性 Hash，相同参数的请求总是发到同一提供者。
    当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。

3 负载均衡配置

服务端服务级别

<dubbo:service interface="..." loadbalance="roundrobin" />;

客户端服务级别

<dubbo:reference interface="..." loadbalance="roundrobin" />

服务端方法级别

<dubbo:service interface="...">
    <dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:service>

客户端方法级别

<dubbo:reference interface="...">
    <dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:reference>

4 Dubbo集群容错(重试机制)

    在集群调用失败时，Dubbo 提供了多种容错方案，缺省为 Failover 重试。

各节点关系：

    这里的 Invoker 是 Provider 的一个可调用 Service 的抽象，Invoker 封装了 Provider 地址及 Service 接口信息

    Directory 代表多个 Invoker，可以把它看成 List ，但与 List 不同的是，它的值可能是动态变化的，比如注册中心推送变更

    Cluster 将 Directory 中的多个 Invoker 伪装成一个 Invoker，对上层透明，伪装过程包含了容错逻辑，调用失败后，重试另一个

    Router 负责从多个 Invoker 中按路由规则选出子集，比如读写分离，应用隔离等

    LoadBalance 负责从多个 Invoker 中选出具体的一个用于本次调用，选的过程包含了负载均衡算法，调用失败后，需要重选

5 重试模式及其特点

Failover Cluster(默认)

    失败自动切换，当出现失败，重试其它服务器 [1]。通常用于读操作，但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。

    重试次数配置如下：

<dubbo:service retries="2" />

或

<dubbo:reference retries="2" />

或

<dubbo:reference>
    <dubbo:method name="findFoo" retries="2" />
</dubbo:reference>

Failfast Cluster

    快速失败，只发起一次调用，失败立即报错。通常用于非幂等性的写操作，比如新增记录。

Failsafe Cluster

    失败安全，出现异常时，直接忽略。通常用于写入审计日志等操作。

Failback Cluster

    失败自动恢复，后台记录失败请求，定时重发。通常用于消息通知操作。

Forking Cluster

    并行调用多个服务器，只要一个成功即返回。通常用于实时性要求较高的读操作，但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。

Broadcast Cluster

    广播调用所有提供者，逐个调用，任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。

6 集群模式配置

    按照以下示例在服务提供方和消费方配置集群模式

<dubbo:service cluster="failsafe" />

或

<dubbo:reference cluster="failsafe" />