Spring Cloud基础组件入门 - Hystrix熔断器 - 《Java学习笔记》

微服务中的雪崩效应
- 什么是微服务中的雪崩效应
- 扇入和扇出
雪崩效应解决方案
Hystrix简介
Hystrix熔断应用
Hystrix舱壁模式（线程池隔离策略）
Hystrix工作流程与高级应用
- Hystrix工作流程
- 自定义断路器行为
Hystrix Dashboard短路监控仪表盘
- Hystrix Dashboard
- 服务搭建
Hystrix Turbine聚合监控
- Hystrix Turbine
- 服务搭建

微服务中的雪崩效应

什么是微服务中的雪崩效应

在微服务系统中，一个请求可能需要多个微服务接口之间层级调用才能完成一套业务流程的处理，此时就会形成复杂的调用链路。类似如图所示：

此时，如果 自动投递微服务 调用的下层服务 简历微服务 在处理请求的时候出现了严重超时的情况，就会导致 自动投递微服务 会一直持续等待响应结果，进而也导致了超时的情况，然后也会继续影响上层服务 用户微服务 等待 自动投递微服务 的响应结果，最终也导致了 用户微服务 也出现了超时的情况。超时的问题，导致请求所对应的线程一直得不到释放，最后就会导致太多的线程一直无法释放，极大占用了CPU资源，进而导致从下层服务至上层服务等所有服务都崩溃了。这就是微服务的雪崩效应。

扇入和扇出

扇入：代表该微服务被调用的次数。扇入大，说明该微服务模块复用性好。
扇出：代表该微服务调用其他微服务的个数。扇出大，说明该微服务模块业务逻辑负载。

在微服务架构中，一个应用可能会有多个微服务组成，微服务之间的数据交互通过远程过程调用完成。这就带来一个问题，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其他的微服务，这就是所谓的扇出。如果扇出的链路上某个微服务的调用相应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源（大量请求阻塞，大量线程不会释放，服务器资源耗尽），进而引起系统崩溃，产生所谓的“雪崩效应”。

雪崩效应解决方案

从可用性和可靠性着想，为了防止系统的整体缓慢甚至崩溃，可以采用以下三种技术应对微服务中的雪崩效应。

服务熔断

熔断机制是应对雪崩效应的一种微服务链路保护机制。
熔断：类似生活场景中的，高压电路中，如果某个地方的电压过高，熔断器就会熔断，对电路进行保护。
在微服务架构中，熔断机制也起着类似的作用。当扇出链路的某个微服务不可用或者响应时间太长时，就会熔断该节点对微服务的调用，进行服务的降级，快速返回错误的响应信息。当检测到该节点微服务调用响应正常后，恢复调用链路。
服务熔断重点在“断”，切断对下游服务的调用；
服务熔断和服务降级往往一起使用。

服务降级

通俗讲就是系统整体资源不够用，会将一些不紧要的服务停掉（调用服务的时候，会返回一个兜底数据），待度过难关高峰后，再把这些服务重新打开。
服务降级一般是从整体性考虑，就是当某个服务熔断之后，服务器将不再被调用，此刻客户端可以自己准备一个本地的fallback回调，返回一个缺省值。

服务限流

服务降级是当服务出现问题或者影响到核心流程的性能时，暂时将服务屏蔽掉，待高峰过去或者问题解决后在打开；但是有些场景并不能用服务降级来解决，比如秒杀业务这样的核心功能，这种情况就需要结合服务限流来限制这些场景的并发请求量。
限流措施：

限制总并发数（比如数据库连接池，线程池）
限制瞬时并发数（比如nginx限制瞬时并发连接数）
限制时间窗口的平均速率（如Guava的RateLimiter、nginx的limit_req模块，限制每秒平均速率）
限制远程接口调用速率，限制MQ的消费速率等

Hystrix简介
Hystrix是由Netflix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三库，防止级联失败，从而提升系统的可用性与容错性。
Hystrix主要通过以下几点实现延迟和容错。
包裹请求：使用 HystrixCommand 包裹对依赖的调用逻辑。服务消费者方法（ @HystrixCommand 添加Hystrix控制）— 调用服务提供者方法。
跳闸机制：当某个服务的错误率超过一定的阈值时，Hystrix可以跳闸，停止请求该服务一段时间。
资源隔离：Hystrix为每个依赖都维护了一个小型的线程池（舱避模式）。如果该线程池已满，发往该依赖的请求就会被立即拒绝，而不是排队等待，从而加速失败判定。
监控：Hystrix可以近乎实时地监控运行指标和配置的变化，例如成功、失败、超时以及被拒绝的请求等。
回退机制：当请求失败、超时、被拒绝，或者当断路器打开时，就会执行回退逻辑。回退逻辑由开发人员自行提供，例如返回一个缺省值。
自我修复：断路器打开一段时间后，会自动进入“半开”状态。
Hystrix熔断应用
目的
在简历微服务（服务提供者）长时间没有响应，自动投递微服务（服务消费者）快速失败给用户提示。
服务消费者工程
引入Hystrix依赖坐标
```

<dependency>
 <groupId>org.springframework.cloud</groupId>
 <artifactId>spring-cloud-starter-netflixhystrix</artifactId>
</dependency>
```
启动类添加熔断器开启注解
注解：@EnableCircuitBreaker
```
@SpringBootApplication
@EnableDiscoveryClient // 开启服务发现
@EnableCircuitBreaker // 开启熔断
public class AutodeliverApplication {
  public static void main(String[] args) {
       SpringApplication.run(AutodeliverApplication.class, args);
}
```
定义服务降级处理方法
定义服务降级处理方法，并在业务方法上使用 @HystrixCommand 的 fallbackMethod 属性关联到服务降级处理方法。 ```java /**
- 提供者模拟处理超时，调⽤⽅法添加Hystrix控制
- @param userId
- @return */ // 使⽤@HystrixCommand注解进⾏熔断控制 @HystrixCommand( // 线程池标识，要保持唯⼀，不唯⼀的话就共⽤了 threadPoolKey = “findResumeOpenStateTimeout”, // 线程池细节属性配置 threadPoolProperties = {
```
 @HystrixProperty(name="coreSize",value ="1"), // 线程数
@HystrixProperty(name="maxQueueSize",value="20") // 等待队列⻓度
```
  }, // commandProperties熔断的⼀些细节属性配置 commandProperties = {
```
// 每⼀个属性都是⼀个HystrixProperty
@HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="2000")
```
  } ) @GetMapping(“/checkStateTimeout/{userId}”) public Integer findResumeOpenStateTimeout(@PathVariable Long userId) { String url = “http://lagou-serviceresume/resume/openstate/“ + userId; // 指定服务名 Integer forObject = restTemplate.getForObject(url, Integer.class); return forObject; }

@GetMapping(“/checkStateTimeoutFallback/{userId}”) @HystrixCommand( // 线程池标识，要保持唯⼀，不唯⼀的话就共⽤了 threadPoolKey = “findResumeOpenStateTimeoutFallback”, // 线程池细节属性配置 threadPoolProperties = { @HystrixProperty(name=”coreSize”,value = “2”), // 线程数 @HystrixProperty(name=”maxQueueSize”,value=”20”) // 等待队列⻓度 }, // commandProperties熔断的⼀些细节属性配置 commandProperties = { // 每⼀个属性都是⼀个HystrixProperty @HystrixProperty(name=”execution.isolation.thread.timeoutInMilliseconds”,value=”2000”) // hystrix⾼级配置，定制⼯作过程细节 // 统计时间窗⼝定义 @HystrixProperty(name = “metrics.rollingStats.timeInMilliseconds”,value = “8000”), // 统计时间窗⼝内的最⼩请求数 @HystrixProperty(name = “circuitBreaker.requestVolumeThreshold”,value = “2”), // 统计时间窗⼝内的错误数量百分⽐阈值 @HystrixProperty(name = “circuitBreaker.errorThresholdPercentage”,value = “50”), // ⾃我修复时的活动窗⼝⻓度 @HystrixProperty(name = “circuitBreaker.sleepWindowInMilliseconds”,value = “3000”) }, fallbackMethod = “myFallBack” // 回退⽅法 ) public Integer findResumeOpenStateTimeoutFallback(@PathVariable Long userId) { String url = “http://lagou-serviceresume/resume/openstate/“ + userId; // 指定服务名 Integer forObject = restTemplate.getForObject(url, Integer.class); return forObject; }

定义回退⽅法，返回预设默认值
注意：该⽅法形参和返回值与原始⽅法保持⼀致 **/ public Integer myFallBack(Long userId) { return -123333; // 兜底数据 } ```

注意：降级（兜底）方法必须和被降级方法相同的方法签名（相同的参数列表，相同的返回值）；

可以在类上使用 @DefaultProperties 注解统一指定整个类中共用的降级（兜底）方法。

服务提供者工程

服务提供者模拟请求超时

@GetMapping("/openstate/{userId}")
public Integer findResumeOpenState(@PathVariable Long userId) {
     // 模拟请求超时,触发服务消费者端熔断降级
     try {
         Thread.sleep(3000);
     } catch (InterruptedException e) {
         e.printStackTrace();
     }
       return port;
}

Hystrix舱壁模式（线程池隔离策略）

原始Hystrix存在问题

Hystrix默认有一个线程池（线程数量为10个），供所有的添加了 @HystrixCommand 的方法提供线程，如果这些方法接收请求超过了10个，其他请求就会等待或者拒绝连接。（这种情况并不是因为扇出链路微服务不可用导致的，而是因为线程机制导致。如果方法A的请求把10个线程都用了，方法2请求处理的时候就因为没有线程可用导致无法访问B）。

Hystrix舱壁模式

为了避免因为服务请求过多，处理的线程不足导致正常服务无法访问，Hystrix为每个单独的控制方法创建一个线程池的方式（舱壁模式）来解决该问题。

使用相关命令查看线程情况 jps命令：查看系统运行的java进程。 jstack命令：查看指定进程的线程信息。 jstack (pid) | grep hystrix : 查看指定进程(pid)下的线程信息，并过滤出和hystrix有关的线程信息。

代码示例

/**
 * 提供者模拟处理超时，调⽤⽅法添加Hystrix控制
 * @param userId
 * @return
 */
 // 使⽤@HystrixCommand注解进⾏熔断控制
 @HystrixCommand(
     // 线程池标识，要保持唯⼀，不唯⼀的话就共⽤了
     threadPoolKey = "findResumeOpenStateTimeout",
     // 线程池细节属性配置
     threadPoolProperties = { 
         @HystrixProperty(name="coreSize",value = "1"), // 线程数
         @HystrixProperty(name="maxQueueSize",value="20") // 等待队列⻓度
      },
      // commandProperties熔断的⼀些细节属性配置
      commandProperties = {
         // 每⼀个属性都是⼀个HystrixProperty
        @HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="2000")
      }
 )
 @GetMapping("/checkStateTimeout/{userId}")
 public Integer findResumeOpenStateTimeout(@PathVariable Long userId) {
     String url = "http://lagou-serviceresume/resume/openstate/" + userId; // 指定服务名
     Integer forObject = restTemplate.getForObject(url,    Integer.class);
     return forObject;
 }
@GetMapping("/checkStateTimeoutFallback/{userId}")
@HystrixCommand(
     // 线程池标识，要保持唯⼀，不唯⼀的话就共⽤了
     threadPoolKey = "findResumeOpenStateTimeoutFallback",
     // 线程池细节属性配置
     threadPoolProperties = {
        @HystrixProperty(name="coreSize",value = "2"),// 线程数
        @HystrixProperty(name="maxQueueSize",value="20") // 等待队列⻓度
     },
     // commandProperties熔断的⼀些细节属性配置
     commandProperties = {
         // 每⼀个属性都是⼀个HystrixProperty
        @HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="2000")
     },
     fallbackMethod = "myFallBack" // 回退⽅法
 )
 public Integer findResumeOpenStateTimeoutFallback(@PathVariable Long userId) {
     String url = "http://lagou-serviceresume/resume/openstate/" + userId; // 指定服务名
     Integer forObject = restTemplate.getForObject(url, Integer.class);
     return forObject;
 }

Hystrix工作流程与高级应用

Hystrix工作流程

工作流程：

当请求调用出现问题时，会开启一个时间窗（默认为10s）；
在这个时间窗内，会统计调用次数是否达到了最小请求数：
1. 如果没有达到，则重置统计信息，回到第1步；
2. 如果达到了，则统计失败请求数占所有请求数的百分比，是否达到了阈值？
  1. 如果达到，则跳闸，不再请求对应的服务；
  2. 如果没有达到，则重置统计信息，回到第1步；
如果跳闸了，会开启一个活动窗口（默认5s），每隔5sHystrix会让一个请求通过，到达出现问题的服务，看是否能够调用成功，如果成功，则重置断路器回到第1步，如果失败，回到第3步。

自定义断路器行为

注解方式

/**
 * 8秒钟内，请求次数达到2个，并且失败率在50%以上，就跳闸
 * 跳闸后活动窗⼝设置为3s
 */
 @HystrixCommand(
     commandProperties = {
        // 请求时间窗时间
         @HystrixProperty(name ="metrics.rollingStats.timeInMilliseconds",value = "8000"),
         // 请求最小次数
        @HystrixProperty(name ="circuitBreaker.requestVolumeThreshold",value = "2"),
         // 错误请求数占总请求数阈值
        @HystrixProperty(name ="circuitBreaker.errorThresholdPercentage",value = "50"),
        // 跳闸后的活动窗口时间
        @HystrixProperty(name ="circuitBreaker.sleepWindowInMilliseconds",value = "3000")
     }
 )

配置文件方式

# 配置熔断策略：
hystrix:
     command:
         default:
             circuitBreaker:
                 # 强制打开熔断器，如果该属性设置为true，强制断路器进⼊打开状态，将会拒绝所有的请求。 
          # 默认false关闭的
                 forceOpen: false
                 # 触发熔断错误⽐例阈值，默认值50%
                 errorThresholdPercentage: 50
                 # 熔断后休眠时⻓，默认值5秒
                 sleepWindowInMilliseconds: 3000
                 # 熔断触发最⼩请求次数，默认值是20
                 requestVolumeThreshold: 2
             execution:
                 isolation:
                     thread:
                         # 熔断超时设置，默认为1秒
                        timeoutInMilliseconds: 2000

健康检查观察跳闸状态

访问健康检查接口： http://localhost:port/actuator/health

# springboot中暴露健康检查等断点接⼝
management:
     endpoints:
         web:
             exposure:
                 include: "*"
     # 暴露健康接⼝的细节
     endpoint:
         health:
             show-details: always

Hystrix正常状态

Hystirx跳闸状态

活动窗口内自我修复

Hystrix Dashboard短路监控仪表盘

正常状态为UP，跳闸状态为CIRCUIT_OPEN。
可以在工程引入SpringBoot的actuator（健康监控），通过/actuator/heath查看。它提供了很多监控所需的接口，可以对应用系统进行配置查看、相关功能统计等。

<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>

如果我们想看到Hystrix相关数据，比如有多少请求、多少成功、多少失败、多少降级等。那么引入Spring Boot健康监控后，访问 /actuator/hystrix.stream 接口可以获取到监控的文字信息，但是不直观，所以Hystrix提供了基于图形化的Dashboard（仪表盘）监控平台。

Hystrix Dashboard

Hystrix Dashboard可以显示每个断路器（被@HystrixCommand注解的方法）的状态。

自动投递微服务，做一些配置，通过一个接口就可以获取到监控数据 /actoator/hystrix.stream ;
仪表盘项目需要单独的创建Dashboard功能，提供直观的页面方式展示Hystrix执行的数据；

服务搭建

(1) 新建一个监控服务工程，导入依赖

<!--hystrix-->
<dependency>
   <groupId>org.springframework.cloud</groupId>
   <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--hystrix 仪表盘-->
<dependency>
   <groupId>org.springframework.cloud</groupId>
   <artifactId>spring-cloud-starter-netflix-hystrixdashboard</artifactId>
</dependency>
<dependency>
   <groupId>org.springframework.cloud</groupId>
   <artifactId>spring-cloud-starter-netflix-eurekaclient</artifactId>
</dependency>

(2) 启动类添加@EnableHystrixDashboard激活仪表盘

@SpringBootApplication
@EnableHystrixDashboard // 开启hystrix dashboard
public class HystrixDashboardApplication9000 {
     public static void main(String[] args) {
         SpringApplication.run(HystrixDashboardApplication.class, args);
     }
}

(3) application.yml配置

server:
     port: 9000
spring:
     application:
         name: lagou-cloud-hystrix-dashboard
eureka:
     client:
         serviceUrl: # eureka server的路径
        #把eureka集群中的所有url都填写了进来，也可以只写⼀台，因为各个eureka server可以同步注册表
             defaultZone: http://lagoucloudeurekaservera:8761/eureka/,http://lagoucloudeurekaserverb:8762/eureka/ 
    instance:
         #使⽤ip注册，否则会使⽤主机名注册了（此处考虑到对⽼版本的兼容，新版本经过实验都是ip）
         prefer-ip-address: true
         #⾃定义实例显示格式，加上版本号，便于多版本管理，注意是ip-address，早期版本是ipAddress
         instance-id: ${spring.cloud.client.ipaddress}:${spring.application.name}:${server.port}:@project.version@

(4) 在被监测的微服务中注册监控servlet

@Bean
public ServletRegistrationBean getServlet(){
     HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
     ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
     registrationBean.setLoadOnStartup(1);
    registrationBean.addUrlMappings("/actuator/hystrix.stream");
     registrationBean.setName("HystrixMetricsStreamServlet");
     return registrationBean;
}

(5) 访问测试 http://ip:port/htstrix，输入监控的微服务端点地址，展示监控的详细数据。

百分比：10s内错误请求百分比
实心圆：1. 大小：代表请求流量的大小，流量越大球越大；2. 颜色：代表请求处理的健康状态，从绿色到红色递减，绿色代表健康，红色代表不健康。
曲线波动图：记录2分钟内该方法上的流量变动波动图，判断流量上升或者下降的趋势。

Hystrix Turbine聚合监控

Hystrix Turbine

Hystrix Dashboard针对的是每一个微服务实例的监控。但是在微服务架构中，一个微服务往往会有多个实例（集群化）。所以针对每个微服务的实例进行监控的话，需要每次都在Dashboard仪表盘里输入一个监控数据url进行查看，操作方面上难免会比较繁琐。
可以使用 Hystrix Turbine进行聚合（聚合各个实例的Hystrix监控数据）监控。

服务搭建

（1）新建项目 cloud-hystrix-turbine-9001 ,引入依赖坐标

<dependencies>
         <!--hystrix turbine聚合监控-->
    <dependency>
       <groupId>org.springframework.cloud</groupId>
       <artifactId>spring-cloud-starter-netflixturbine</artifactId>
    </dependency>
     <!--
     引⼊eureka客户端的两个原因
     1、微服务架构下的服务都尽量注册到服务中⼼去，便于统⼀管理。
     2、后续在当前turbine项⽬中我们需要配置turbine聚合的服务，⽐如，
        我们希望聚合service-autodeliver这个服务的各个实例的hystrix数据流，
        那随后我们就需要在application.yml⽂件中配置这个服务名，那么turbine
        获取服务下具体实例的数据流的时候需要ip和端⼝等实例信息，
        那么怎么根据服务名称获取到这些信息呢？当然可以从eureka服务注册中⼼获取。
     -->
         <dependency>
       <groupId>org.springframework.cloud</groupId>
       <artifactId>spring-cloud-starter-netflix-eurekaclient</artifactId>
         </dependency>
</dependencies>

（2）将需要进行Hystrix监控的多个微服务配置起来，在工程application.yml中开启Turbine及进行相关配置

server:
     port: 9001
spring:
     application:
         name: lagou-cloud-hystrix-turbine
    eureka:
         client:
             serviceUrl: # eureka server的路径
        #把 eureka 集群中的所有url都填写了进来，也可以只写⼀台，因为各个eureka server可以同步注册表
                 defaultZone: http://lagoucloudeurekaservera:8761/eureka/,http://lagoucloudeurekaserverb:8762/eureka/ 
         instance:
              #使⽤ip注册，否则会使⽤主机名注册了（此处考虑到对⽼版本的兼容，新版本经过实验都是ip）
       prefer-ip-address: true
              #⾃定义实例显示格式，加上版本号，便于多版本管理，注意是ip-address，早期版本是ipAddress
             instance-id: ${spring.cloud.client.ipaddress}:${spring.application.name}:${server.port}:@project.version@
#turbine配置
turbine:
     # appCofing配置需要聚合的服务名称，⽐如这⾥聚合⾃动投递微服务的hystrix监控数据
     # 如果要聚合多个微服务的监控数据，那么可以使⽤英⽂逗号拼接，⽐如 a,b,c
     appConfig: lagou-service-autodeliver
     clusterNameExpression: "'default'" # 集群默认名称

(3) 启动类项目添加注解 @EnableTurbine , 开启仪表盘以及Turbine聚合

@SpringBootApplication
@EnableDiscoveryClient
@EnableTurbine // 开启聚合功能
public class HystrixTurbineApplication9001 {
     public static void main(String[] args) {
         SpringApplication.run(HystrixTurbineApplication9001.class, args);
     }
}

(4) 浏览器访问Turbine项目，http://ip:port/turbine.stream，就可以看到监控数据。
通过 http://ip:port/hystrix（dashboard页面）在输入框输入 http://ip:port/turbine.stream，就可以使用在监控页面直观地展示监控数据。

Hystrix熔断器

微服务中的雪崩效应

什么是微服务中的雪崩效应

扇入和扇出

雪崩效应解决方案

服务熔断

服务降级

服务限流

Hystrix简介

Hystrix熔断应用

目的

服务消费者工程

引入Hystrix依赖坐标

启动类添加熔断器开启注解

定义服务降级处理方法

服务提供者工程

服务提供者模拟请求超时

Hystrix舱壁模式（线程池隔离策略）

原始Hystrix存在问题

Hystrix舱壁模式

代码示例

Hystrix工作流程与高级应用

Hystrix工作流程

自定义断路器行为

注解方式

配置文件方式

健康检查观察跳闸状态

Hystrix正常状态

Hystirx跳闸状态

活动窗口内自我修复

Hystrix Dashboard短路监控仪表盘

Hystrix Dashboard

服务搭建

Hystrix Turbine聚合监控

Hystrix Turbine

服务搭建