zoukankan      html  css  js  c++  java
  • 【SpringCloud】Ribbon服务调用(六)

    Ribbon介绍

      Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具

      Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时、重试等。简单的说,就是在配置文件中列出Load Balance(简称LB)后面所有的机器,Ribbon会自动的帮组你基于某种规则(如简单轮询,随机连接等)去连接这些机器,我们很容易使用Ribbon实现自定义的负载均衡算法

      LB负载均衡(Load Balance)

      简单的说就是将用户的请求平摊到分配到多个服务上,从而达到系统的HA(高可用)。

      常见的负载均衡有软件Nginx、LVS、硬件FS等

      Ribbon本地负载均衡客户端 VS Nginx服务端负载均衡区别

      Nginx是服务器负载均衡,客户端所有请求都会教给Nginx,然后由nginx实现转发请求,即负载均衡是由服务端实现的

      Ribbon本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而本地实现RPC远程调用技术

      官网:https://github.com/Netflix/ribbon

    Ribbon使用

      1、搭建项目、参考【SpringCloud】服务提供者集群与服务发现Discovery(三) 的示例

        采用Eureka作为注册中心,且有2个服务提供者

        架构如下:

        

      2、Ribbon依赖,依赖如下:

    1 <dependency>
    2     <groupId>org.springframework.cloud</groupId>
    3     <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
    4     <version>2.2.2.RELEASE</version>
    5     <scope>compile</scope>
    6 </dependency>

        通过查看示例项目,调用者order项目依赖,发现在Eureka依赖中,默认含有依赖Ribbon的依赖

           

      3、查看RibbonClientConfiguration.java,Ribbon自动装载类。

     1 @Configuration(proxyBeanMethods = false)
     2 @EnableConfigurationProperties
     3 @Import({ HttpClientConfiguration.class, OkHttpRibbonConfiguration.class,
     4         RestClientRibbonConfiguration.class, HttpClientRibbonConfiguration.class })
     5 public class RibbonClientConfiguration {
     6 
     7     ...
     8 
     9     // 自动注入IRule接口用来代表负责负载均衡的策略
    10     @Bean
    11     @ConditionalOnMissingBean
    12     public IRule ribbonRule(IClientConfig config) {
    13         if (this.propertiesFactory.isSet(IRule.class, name)) {
    14             return this.propertiesFactory.get(IRule.class, config, name);
    15         }
    16         ZoneAvoidanceRule rule = new ZoneAvoidanceRule();
    17         rule.initWithNiwsConfig(config);
    18         return rule;
    19     }
    20 
    21     // 自动注入ILoadBalance接口用来代表负责均衡的操作
    22     @Bean
    23     @ConditionalOnMissingBean
    24     public ILoadBalancer ribbonLoadBalancer(IClientConfig config,
    25             ServerList<Server> serverList, ServerListFilter<Server> serverListFilter,
    26             IRule rule, IPing ping, ServerListUpdater serverListUpdater) {
    27         if (this.propertiesFactory.isSet(ILoadBalancer.class, name)) {
    28             return this.propertiesFactory.get(ILoadBalancer.class, config, name);
    29         }
    30         return new ZoneAwareLoadBalancer<>(config, rule, ping, serverList,
    31                 serverListFilter, serverListUpdater);
    32     }
    33 
    34     ...
    35 }

         其中自动注入IRule接口用来代表负责负载均衡的策略(默认策略:ZoneAvoidanceRule),和自动注入ILoadBalance接口用来代表负责均衡的操作(默认均衡:ZoneAwareLoadBalancer)

      4、查看ILoadBalance接口(负责均衡的操作)

        继承关系如下:

        

        内容如下:

     1 public interface ILoadBalancer {
     2 
     3     public void addServers(List<Server> newServers);
     4 
     5     // 根据key选择一个服务
     6     public Server chooseServer(Object key);
     7 
     8     public void markServerDown(Server server);
     9 
    10     public List<Server> getServerList(boolean availableOnly);
    11 
    12     public List<Server> getReachableServers();
    13 
    14     public List<Server> getAllServers();
    15 }

      5、查看IRule接口(负责均衡的策略)

        实现关系:

        

        内容如下:

    1 public interface IRule{
    2 
    3     // 根据key选择一个服务
    4     public Server choose(Object key);
    5     
    6     public void setLoadBalancer(ILoadBalancer lb);
    7     
    8     public ILoadBalancer getLoadBalancer();    
    9 }

        通过查看实例类,可以看到具体的实现了,可以知道负责均衡的策略

      6、Ribbon工作原理

        查看LoadBalancerAutoConfiguration自动配置类

     1 @Configuration(proxyBeanMethods = false)
     2 @ConditionalOnClass(RestTemplate.class)
     3 @ConditionalOnBean(LoadBalancerClient.class)
     4 @EnableConfigurationProperties(LoadBalancerRetryProperties.class)
     5 public class LoadBalancerAutoConfiguration {
     6 
     7     
     8     ...
     9 
    10 
    11     @Configuration(proxyBeanMethods = false)
    12     @ConditionalOnClass(RetryTemplate.class)
    13     public static class RetryInterceptorAutoConfiguration {
    14 
    15         @Bean
    16         @ConditionalOnMissingBean
    17         public RetryLoadBalancerInterceptor ribbonInterceptor(
    18                 LoadBalancerClient loadBalancerClient,
    19                 LoadBalancerRetryProperties properties,
    20                 LoadBalancerRequestFactory requestFactory,
    21                 LoadBalancedRetryFactory loadBalancedRetryFactory) {
    22             return new RetryLoadBalancerInterceptor(loadBalancerClient, properties,
    23                     requestFactory, loadBalancedRetryFactory);
    24         }
    25 
    26         // RestTemplate定制器
    27         @Bean
    28         @ConditionalOnMissingBean
    29         public RestTemplateCustomizer restTemplateCustomizer(
    30                 final RetryLoadBalancerInterceptor loadBalancerInterceptor) {
    31             return restTemplate -> {
    32                 List<ClientHttpRequestInterceptor> list = new ArrayList<>(
    33                         restTemplate.getInterceptors());
    34                 list.add(loadBalancerInterceptor);
    35                 // 给restTemplate,设置拦截器
    36                 restTemplate.setInterceptors(list);
    37             };
    38         }
    39 
    40     }
    41 
    42 }

        其中自动配置了一个LoadBalancerInterceptor,LoadBalancerInterceptor是个ClientHttpRequestInterceptor客户端请求拦截器。它的作用是在客户端发起请求之前拦截,进而实现客户端的负载均衡。

        以下是RestTemplate注入,加@LoadBalanced,的配置方法

     1 @Configuration
     2 public class AppConfig {
     3 
     4     /**
     5      * 注入restTemplate,请用请求rest接口
     6      * @return
     7      */
     8     @Bean
     9     // 标注此注解后,RestTemplate就具有了客户端负载均衡能力
    10     // 负载均衡技术依赖于的是Ribbon组件~
    11     // RestTemplate都塞入一个loadBalancerInterceptor 让其具备有负载均衡的能力
    12     @LoadBalanced
    13     public RestTemplate restTemplate(){
    14         return new RestTemplate();
    15     }
    16 }

       7、测试Ribbon,是否根据对于的负责均衡的策略,实现负载

        1)调试模式启动项目,使用地址:http://localhost:8000/consumer/payment/get/1,进行访问

        返回内容为提供者2个节点分别交替返回的,到达负载均衡目的。

        2)在ZoneAvoidanceRule类中添加断点,通过运行程序,可以看到程序会运行到ZoneAvoidanceRule类中。

    自带负载均衡规则说明

    策略名 策略声明 策略描述 实现说明
    BestAvailableRule public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 选择一个最小的并发请求的server 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server
    AvailabilityFilteringRule public class AvailabilityFilteringRule extends PredicateBasedRule 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值) 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查status里记录的各个server的运行状态
    WeightedResponseTimeRule public class WeightedResponseTimeRule extends RoundRobinRule 根据相应时间分配一个weight,相应时间越长,weight越小,被选中的可能性越低。 一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成statas时,使用roubine策略选择server。
    RetryRule public class RetryRule extends AbstractLoadBalancerRule 对选定的负载均衡策略机上重试机制。 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server
    RoundRobinRule public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式轮询选择server 轮询index,选择index对应位置的server
    RandomRule public class RandomRule extends AbstractLoadBalancerRule 随机选择一个server 在index上随机,选择index对应位置的server
    ZoneAvoidanceRule public class ZoneAvoidanceRule extends PredicateBasedRule 复合判断server所在区域的性能和server的可用性选择server 使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个zone的运行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于过滤掉连接数过多的Server。
  • 相关阅读:
    Nginx核心配置-作为上传服务器配置
    Nginx核心配置-作为下载服务器配置
    Nginx核心配置-长连接配置
    Nginx核心配置-检测文件是否存在
    Nginx核心配置-自定义日志路径及清空日志注意事项
    Nginx核心配置-自定义错误页面
    Nginx核心配置-location的登录账户认证实战篇
    Nginx核心配置-location的匹配案例实战篇
    前后端分离-Restful最佳实践
    Django模板技术
  • 原文地址:https://www.cnblogs.com/h--d/p/12684613.html
Copyright © 2011-2022 走看看