微服务负载均衡技术

引自：微服务之负载均衡

简介

        在微服务架构中，负载均衡是必须使用的技术，通过它来实现系统的高可用、集群扩容等功能。负载均衡可以分为两种：服务端负载均衡和客户端负载均衡。通常所说的负载均衡指服务器负载均衡，可通过硬件设备或软件来实现，硬件比如：F5、Array等，软件比如：LVS、Nginx等，类似的架构图如下： 

图片来自个人微信公众号

        通过硬件或软件实现负载均衡均会维护一个服务端清单，利用心跳检测等手段进行清单维护，保证清单中都是可以正常访问的服务节点。当用户发送请求时，会先到达负载均衡器（也相当于一个服务），负载均衡器根据负载均衡算法（轮训、随机、加权轮训）从可用的服务端列表中取出一台服务端的地址，接着进行转发，降低系统的压力。

        而对于客户端负载均衡来说，与服务端负载均衡的主要区分点在于服务清单的存放位置。在客户端负载均衡中，客户端自己会存储一份服务端清单，它是通过从注册中心（Eureka服务注册中心）进行抓取得到的，同时也需要对此进行维护。

客户端负载均衡（Ribbon）

      SpringCloud Ribbon是基于客户端的负载均衡工具，它可以将面向服务的 REST 模板请求自动转换成客户端负载均衡的服务调用。

 

 

         Ribbon 维护了一个服务列表，如果服务实例注销或死掉，Ribbon 能够自行将其剔除。Ribbon 提供了客户端负载均衡的功能，Ribbon利用从 Eureka Server中读取到的服务信息列表（存储在本地即客户端中），在调用服务实例时，合理地进行负载，直接请求到具体的微服务，如下图是Ribbon负载均衡的流程图：

 

图片来自个人微信公众号

 

配置步骤

1. 在Eureka客户端开启服务发现（增加EnableDiscoveryClient注解），作用是让客户端可以从服务注册中心获取服务端清单。同时，在定义的RestTemplate对象上使用负载均衡（增加LoadBalanced注解），作用是通过内部机制使之具有负载均衡能力。同时也可设置负载均衡算法等。

 

图片来自个人微信公众号

2. 使用RestTemplate调用微服务，此时通过服务名进行调用。

 

图片来自个人微信公众号

 

其它配置

可以直接通过配置Ribbon客户端的方式来自定义各个服务客户端调用的参数。

全局配置

  使用ribbon.=的方式设置ribbon的默认参数，如下：

#ribbon请求连接的超时时间

ribbon.ConnectTimeout=250

#请求处理的超时时间

ribbon.ReadTimeout=1000

#对所有操作请求都进行重试

ribbon.OkToRetryOnAllOperations=true

#对当前实例的重试次数

ribbon.MaxAutoRetries=1

#对下个实例的重试次数

ribbon.MaxAutoRetriesNextServer=1

指定服务配置

        使用.ribbon.=的方式进行设置，client表示各个服务客户端，如下：

ly-microservice-clgl.ribbon.ConnectTimeout=500

ly-microservice-clgl.ribbon.ReadTimeout=1000

ly-microservice-clgl.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule