SpringCloud Ribbon 负载均衡

Ribbon、Eureka都是Netflix旗下的项目，Eureka Client内置了Ribbon，用于实现负载均衡，默认使用轮询。

  

---

Ribbon内置的负载均衡策略

• RoundRobinRule    轮询，默认策略

　　轮询是最简单的负载均衡算法，每次调用服务拿到节点列表后，从前往后依次轮询类表中的每个节点，谁空闲就调用谁。

　　测试时往往都是调用列表的第一个节点，因为刷新的手速远远比不上cpu的执行速度，除非是线程阻塞。

　　轮询适合节点性能都差不多的情况，如果集群节点性能都差不多，一般使用默认的轮询即可。

　　加权轮询   这个不是Ribbon的内置策略，此处只是作为补充。

       在轮询的基础上，对每个节点施加权重。节点的性能不同，性能高的权重分配大些，轮到的几率就大些，负载大些。适合节点性能有明显区别的情况。

• RetryRule   重试

　　先按照RoundRobinRule策略获取provider，若获取失败，则在指定的时限内重试。默认的时限为500毫秒。

• RandomRule   随机

　　从所有节点中随机选择一个。

• BestAvailableRule   最可用

　　选择并发量最小的节点（连接的消费者数量最少的节点）。

•  AvailabilityFilteringRule  可用过滤

　　过滤掉处于断路器跳闸状态的provider，或已经超过连接极限的provider，对剩余provider采用轮询策略。

• ZoneAvoidanceRule  

　　根据大区性能、节点可用性综合进行选择。

• WeightedResponseTimeRule  权重响应时间

　　根据每个provider的平均响应时间计算其权重，响应时间越快权重越大，被选中的机率就越高。刚启动时采用轮询策略，计算出权重后就根据权重进行选择。

---

使用Ribbon内置的负载均衡策略

Eureka Client的依赖已经包含了Ribbon的依赖，所以不必再导Ribbon的依赖。

负载均衡策略在消费者中进行配置，比如user-service调用order-service，那就在user-service中配置。有2种配置方式：

• 在springboot配置文件中配置（推荐）

#配置调用order-service的负载均衡策略
order-service:
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

都是一个包下的，把类名换了即可

• 在引导类中配置

@SpringBootApplication
public class UserServiceApplication {

    @Bean
    @LoadBalanced
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }

    //使用的负载均衡策略
    @Bean
    public RandomRule getRule(){
        return  new RandomRule();
    }
    
    public static void main(String[] args) {
        SpringApplication.run(UserServiceApplication.class, args);
    }

}

总结： 指定负载均衡策略的类的路径或者自己创建对应的Bean。

---

使用自定义的负载均衡策略

（1）新建一个类来写负载均衡策略

//需继承AbstractLoadBalancerRule
public class MyRule extends AbstractLoadBalancerRule{

    @Override
    public void initWithNiwsConfig(IClientConfig iClientConfig) {

    }

    //自定义负载均衡策略，需返回一个节点
    @Override
    public Server choose(Object o) {
        //获取负载均衡器
        ILoadBalancer loadBalancer = this.getLoadBalancer();

        //获取目标服务的所有节点，包括了无效节点
        List<Server> allList = loadBalancer.getAllServers();
        //获取目标服务的所有可用节点
        List<Server> upList = loadBalancer.getReachableServers();

        for (Server server:upList){
            //有效且空闲
            if (server.isAlive() && server.isReadyToServe()){
                //ip
                System.out.println(server.getHost());
                //port
                System.out.println(server.getPort());
                //ip:port的形式
                System.out.println(server.getHostPort());
                return server;
            }
        }

        // Server的构造函数：Server(String ip,int port)
        // Server server = new Server("127.0.0.1", 10001);

        return null;
    }
}

注意导入的Server是com.netflix.loadbalancer.Server，不要导错了。

我们看到choose会传入一个Object类型的参数，这个参数是Ribbon缓存的目标服务所有节点的信息，会自动传入。

Ribbon对一个服务，会在缓存中维护2个List：一个是此服务的所有节点的信息，一个是此服务所有可用节点的信息。

缓存的节点列表的维护过程：

Eureka Client从Eureka Server拿到此服务的节点列表，这个节点列表一直保存在缓存中，不修改；

将这个列表copy一份作为有效节点列表，也放在缓存中，并定时ping一下列表中的节点，判断节点是否还有效，若无效，则从有效节点列表中删除；

同时，Eureka Client会轮询Eureka Server此节点列表是否有变化、更新，如果有，舍弃本地缓存的节点列表，从Eureka Server重新获取节点列表。

（2）在配置文件或引导类中配置负载均衡策略

---

要模拟集群可以修改下运行配置

VM options中设置的参数需要加前缀-D，优先级最高，会覆盖配置文件中相同的配置项。