一、概述
1、分布式系统面临的问题
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免地失败。某个服务的失败可能会引起服务雪崩,请看下图:
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
2、Hystrix 是什么
Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”(Hystrix)本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
Hystrix 能够提供服务降级、服务熔断、服务限流、接近实时的监控等功能。官方资料
二、服务熔断及其测试案例
1、什么是服务熔断
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回"错误"的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阈值,缺省是5秒内20次调用失败就会启动熔断机制。熔断机制的注解是@HystrixCommand。
2、服务熔断测试
(1)参考microservicecloud-provider-dept-8001 新建 microservicecloud-provider-dept-hystrix-8001
pom.xml 新增 hystrix 依赖
<!-- hystrix --> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix</artifactId> </dependency>
复制 application.yml,instance-id 改为 microservicecloud-dept8001-hystrix
复制 src/main/java 下文件到 microservicecloud-provider-dept-hystrix-8001 的对应目录下
复制 src/main/resources 下的目录 mybatis 及其内容到 microservicecloud-provider-dept-hystrix-8001 的对应目录下
修改DeptController.java 类,一旦调用服务方法失败并抛出错误信息后,会自动调用@HystrixCommand标注好的fallbackMethod调用类中的指定方法
1 package com.atguigu.springcloud.controller; 2 3 4 import org.springframework.beans.factory.annotation.Autowired; 5 import org.springframework.web.bind.annotation.PathVariable; 6 import org.springframework.web.bind.annotation.RequestMapping; 7 import org.springframework.web.bind.annotation.RequestMethod; 8 import org.springframework.web.bind.annotation.RestController; 9 10 import com.atguigu.springcloud.entities.Dept; 11 import com.atguigu.springcloud.service.DeptService; 12 import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand; 13 14 @RestController 15 public class DeptController 16 { 17 @Autowired 18 private DeptService service = null; 19 20 @RequestMapping(value="/dept/get/{id}",method=RequestMethod.GET) 21 @HystrixCommand(fallbackMethod = "processHystrix_Get") 22 public Dept get(@PathVariable("id") Long id){ 23 Dept dept = this.service.get(id); 24 if(null == dept){ 25 throw new RuntimeException("该ID:"+id+"没有没有对应的信息"); 26 } 27 return dept; 28 } 29 30 public Dept processHystrix_Get(@PathVariable("id") Long id){ 31 return new Dept() 32 .setDeptno(id) 33 .setDname("该ID:"+id+"没有没有对应的信息,null--@HystrixCommand") 34 .setDb_source("no this database in MySQL"); 35 } 36 }
第21行注解的意思是如果get方法抛出异常,则访问processHystrix_Get方法,并将该方法的值返回页面
启动类修改为DeptProvider8001_Hystrix_App.java,并添加新注解:@EnableCircuitBreaker
package com.atguigu.springcloud; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker; import org.springframework.cloud.netflix.eureka.EnableEurekaClient; @SpringBootApplication @EnableEurekaClient //本服务启动后会自动注册进eureka服务中 @EnableCircuitBreaker//对hystrixR熔断机制的支持 public class DeptProvider8001_Hystrix_App{ public static void main(String[] args){ SpringApplication.run(DeptProvider8001_Hystrix_App.class, args); } }
(2)启动 eureka、DeptProvider8001_Hystrix_App、microservicecloud-consumer-dept-80 测试成功
输入:http://localhost/consumer/dept/get/1
输入:http://localhost/consumer/dept/get/123
三、服务降级及其测试案例
服务降级:通俗说就是整体资源快不够了,忍痛将某些服务先关掉,待渡过难关,再开启回来。服务降级处理是在客户端实现完成的,与服务端没有关系。
1、服务降级测试
(1)修改microservicecloud-api模块,添加 DeptClientServiceFallbackFactory.java
package com.atguigu.springcloud.service; import java.util.List; import org.springframework.stereotype.Component; import com.atguigu.springcloud.entities.Dept; import feign.hystrix.FallbackFactory; @Component//不要忘记添加,不要忘记添加 public class DeptClientServiceFallbackFactory implements FallbackFactory<DeptClientService>{ @Override public DeptClientService create(Throwable throwable){ return new DeptClientService() { @Override public Dept get(long id){ return new Dept().setDeptno(id) .setDname("该ID:"+id+"没有没有对应的信息,Consumer客户端提供的降级信息,此刻服务Provider已经关闭") .setDb_source("no this database in MySQL"); } @Override public List<Dept> list(){ return null; } @Override public boolean add(Dept dept){ return false; } }; } }
(2)修改microservicecloud-api模块,给DeptClientService接口的注解@FeignClient中添加fallbackFactory属性值
package com.atguigu.springcloud.service; import java.util.List; import org.springframework.cloud.netflix.feign.FeignClient; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RequestMethod; import com.atguigu.springcloud.entities.Dept; @FeignClient(value = "MICROSERVICECLOUD-DEPT",fallbackFactory=DeptClientServiceFallbackFactory.class) public interface DeptClientService { @RequestMapping(value = "/dept/get/{id}",method = RequestMethod.GET) public Dept get(@PathVariable("id") long id); @RequestMapping(value = "/dept/list",method = RequestMethod.GET) public List<Dept> list(); @RequestMapping(value = "/dept/add",method = RequestMethod.POST) public boolean add(Dept dept); }
(3)clean install microservicecloud-api模块
(4)修改 microservicecloud-consumer-dept-feign 的 application.yml,增加
feign: hystrix: enabled: true
2、测试,启动eureka、microservicecloud-provider-dept-8001、microservicecloud-consumer-dept-feign
正常访问:http://localhost/consumer/dept/get/1
关闭8001访问:http://localhost/consumer/dept/get/1
此时服务端provider已经down了,但是我们做了服务降级处理,让客户端在服务端不可用时也会获得提示信息而不会挂起耗死服务器
总结:
服务熔断:一般是某个服务故障或者异常引起,类似现实世界中的保险丝,当某个异常条件被触发,直接熔断整个服务,而不是一直等到此服务超时。
服务降级:所谓降级,一般是从整体负荷考虑,就是当某个服务熔断之后,服务器将不再被调用,此时客户端可以自己准备一个本地的fallback回调,返回一个缺省值,这样做虽然服务水平下降,但好歹可用,比直接挂掉要强。
四、服务监控 hystrixDashboard
1、概述
除了隔离依赖服务的调用以外,Hystrix还提供了准实时的调用监控(Hystrix Dashboard),Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户,包括每秒执行多少请求多少成功,多少失败等。Netflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控。Spring Cloud也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面。
2、服务监控测试
(1)新建工程microservicecloud-consumer-hystrix-dashboard
pom.xml复制microservicecloud-consumer-dept-feign的,新增相关依赖
<!-- hystrix 和 hystrix-dashboard 相关--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix</artifactId> </dependency> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId> </dependency>
application.yml
server:
port: 9001
新建主启动类DeptConsumer_DashBoard_App.java,添加注解EnableHystrixDashboard
package com.atguigu.springcloud; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.netflix.hystrix.dashboard.EnableHystrixDashboard; @SpringBootApplication @EnableHystrixDashboard public class DeptConsumer_DashBoard_App{ public static void main(String[] args){ SpringApplication.run(DeptConsumer_DashBoard_App.class,args); } }
(2)确保服务实例8001、8002、8003都要添加依赖
<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-actuator</artifactId> </dependency>
(3)启动该微服务,输入 http://localhost:9001/hystrix 查看是否启动成功
(4)启动 eureka、microservicecloud-provider-dept-hystrix-8001
输入http://localhost:8001/dept/get/1 查看启动成功
输入http://localhost:8001/hystrix.stream (监控地址是http://ip:port/hystrix.stream)查看到不停的ping监控数据
(5)多次刷新http://localhost:8001/dept/get/1
(6)填写监控地址,点击 Monitor Stream
Delay:该参数用来控制服务器上轮询监控信息的延迟时间,默认为2000毫秒,可以通过配置该属性来降低客户端的网络和CPU消耗。
Title:该参数对应了头部标题Hystrix Stream之后的内容,默认会使用具体监控实例的URL,可以通过配置该信息来展示更合适的标题。
(7)监控结果及其举例说明:
实心圆:共有两种含义。它通过颜色的变化代表了实例的健康程度,它的健康度从绿色<黄色<橙色<红色递减。该实心圆除了颜色的变化之外,它的大小也会根据实例的请求流量发生变化,流量越大该实心圆就越大。所以通过该实心圆的展示,就可以在大量的实例中快速的发现故障实例和高压力实例。
曲线:用来记录2分钟内流量的相对变化,可以通过它来观察到流量的上升和下降趋势。