服务熔断降级简介_服务熔断和服务降级

背景

  很多网站背后都是一个庞大的分布式系统，多个子系统之间的调用大多是远程调用，要么HTTP要么RPC，这种远程调用其实是不可控的，当调用链越长，风险也就越大。
  在微服务中，当一切正常时，请求流看起来是这样的：

  当其中有一个服务（例如服务I）有延迟时，它可能阻塞整个用户请求：

  在高流量的情况下，一个依赖服务的延迟可能导致服务器上的所有资源在数秒内饱和，这也意味着后续再有请求将无法立即提供服务：

解决方案

  当使用熔断降级框架时，框架会包装每个依赖项，原有架构会发生变化，每个依赖项相互隔离，当延迟发生时，它会被限制在资源中，并包含回退逻辑，以决定在依赖项中发生故障时应作出何种响应：

基础概念

服务雪崩

  当微服务A调用微服务B，B调用C和其他微服务，当调用链上某个服务不可用或响应时间过长，网关路由到A上的请求就会占用越来越多的系统资源，导致系统崩溃，这种现象称作雪崩效应。

在分布式系统中，为了保证服务的可用性，我们一般会加入重试机制，在有些情况下，重试确实能解决问题，比如网络抖动等。但是有些情况下，重试只会加剧问题的严重性，会给下游服务造成极大的资源压力。
重试不行，不重试也不靠谱，那我们怎么预防服务雪崩呢？答案是熔断器模式

熔断器模式

  熔断器模式（Circuit Breaker Pattern）是一种现代软件开发的设计模式，用来侦测错误，避免不断的触发相同错误导致的灾难性后果。一个完善的熔断器一般有三种状态：

• 关闭
  • 默认情况是关闭的，熔断器本身自带计数器的功能，每当错误发生一次，计数器会累加，当达到一定条件时，熔断器就会自动跳到开启状态。
• 开启
  • 在开启状态下，任何请求都会直接被拒绝，并且抛出异常信息。
• 半开启
  • 在此状态下，断路器会允许部分请求通过，当通过的请求全部成功响应时，断路器会自动关闭。
    

如果在微服务中引入断路器模式，那么整个分布式系统将天然具备快速失败和无缝恢复的功能。

服务熔断

  一般是某个服务故障或者是异常引起的，类似于“保险丝”，当某个异常条件被触发，为了防止服务雪崩，直接熔断服务，而不是一直等到此服务超时。
  典型的熔断场景：例如过载保护，当请求线程数过多时被限流，

服务降级

  当服务器压力剧增时，根据当前业务情况及流量，对一些非核心服务进行有策略的停服，缓解服务器资源压力，以保证核心业务的正常运行。

• 自动降级：超时、失败次数过多、故障
  • 响应时间超过配置的超时时间（异步机制探测回复情况）
  • 不稳的API调用次数达到一定数量（异步机制探测回复情况）
  • 调用的服务出现故障（HTTP状态码、网络故障、RPC服务异常）
• 人工降级：秒杀、双十一大促，非核心服务停服

熔断和降级异同

• 相同点
  • 从可用性和可靠性触发，为了防止系统崩溃
  • 最终让用户体验到的是某些功能暂时不能用
• 不同点
  • 服务熔断一般是下游服务故障导致的
  • 服务降级一般是从整体系统负荷考虑，由调用方控制

Hystrix

配置

circuitBreaker.requestVolumeThreshold    // 滑动窗口的大小，默认为20 
circuitBreaker.sleepWindowInMilliseconds // 过多长时间，熔断器再次检测是否开启，默认为5000，即5s
circuitBreaker.errorThresholdPercentage  // 错误率，默认50%
1
2
3

  这几个参数所表达的意思是：每当20个请求中，有50%失败时，断路器就会打开，此时再调用此服务，将会直接返回失败，不再调远程服务。5s之后，重新检测该触发条件，判断是否把断路器关闭。
  断路器打开之后，这种错误情况不可能直接传给用户，所以需要准备一个本地的fallback回调函数，返回一个缺省值。

熔断降级代码示例

@GetMapping("/user/{id}")
@HystrixCommand(fallbackMethod ="hystrix_GET")
public User findById(@PathVariable("id") Integer id) {
    User user = userService.findById(id);
    if (null == user) {
        throw new RuntimeException("user not found");
    }
    return user;
}

// 回调函数
public User hystrix_GET(@PathVariable("id") Integer id) {
	log.info("in fallbackMethod ..");
    return null;
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

启动类上加@EnableCircuitBreaker注解，开启服务熔断机制

Feign代码示例

@Component
public class UserClientFallback implements FallbackFactory<UserService> {
    @Override
    public UserService create(Throwable throwable) {
        return new UserService() {
            @Override
            public User findById(Integer id) {
	            log.info("停服...");
	            return null;
            }
            
            @Override
            public List<User> findAll() {
            	log.info("停服...");
                return null;
            }
        };
    }
}

@FeignClient(value = "user-client",fallbackFactory = UserClientFallback.class)
public interface UserClient {
	@GetMapping("/user/{id}")
	public User findById(@PathVariable("id") Integer id);
	@GetMapping("/user")
	public List<User> findAll();
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

feign:  # 开启feign熔断降级功能
  hystrix:
    enabled: true
1
2
3

Sentinel

熔断降级代码示例

@Service
public class TestService {
    @SentinelResource(value = "sayHello", blockHandler = "sayHelloBlockHandler")
    public String sayHello(String name) {
        return "Hello, " + name;
    }
    
    public Object sayHelloBlockHandler(String name, BlockException ex) {
        log.warn("Sentinel fallback", ex);
        return "Service down";
    }
}

@RestController
public class TestController {
    @Autowired
    private TestService service;

    @GetMapping(value = "/hello/{name}")
    public String apiHello(@PathVariable String name) {
        return service.sayHello(name);
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

Feign代码示例

@FeignClient(name = "service", fallback = ServiceFallback.class, configuration = FeignConfig.class)
public interface Service {
    @RequestMapping(value = "/echo/{str}", method = RequestMethod.GET)
    String echo(@PathVariable("str") String str);
}

class FeignConfig {
    @Bean
    public ServiceFallback serviceFallback() {
        return new ServiceFallback();
    }
}

class ServiceFallback implements Service {
    @Override
    public String echo(@PathVariable("str") String str) {
        return "echo fallback";
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

熔断降级框架比较

Hystrix官网，Hystrix已停止维护，Netflix官方推荐使用resilience4j，它更轻量，支持函数式接口和lambda表达式等使用方式，更加优雅。
Sentinel官网