【Spring Cloud 7】限流、降级和熔断Hystrix_springcloud限流降级熔断

====

分布式系统环境中，服务间类似依赖非常常见，一个业余调用通常依赖多个基础服务。如下图，对于同步调用，当库存服务不可用时，商品服务请求线程被阻塞，当有大批量请求调用库存服务时，最终可能导致整个商品服务资源耗尽，无法继续对外提供服务。并且这种不可用可能沿请求调用链向上传递，这种现象称为雪崩效应。

二、雪崩效应

======

1、常见场景

---

（1）硬件故障

如服务器宕机，机房断电，光纤被挖断等。

（2）流量激增

如异常流量，重试加大流量等。

（3）缓存穿透

一般发生在应用重启，所有缓存失效时，以及短时间内大量缓存失效时。大量的缓存不命中，使请求直击后端服务，造成服务提供者超负荷运行，引起服务不可用。

（4）程序bug

如程序逻辑导致内存泄漏，JVM长时间FullGC等。

（5）同步等待

服务间采用同步调用模式，同步等待造成的资源耗尽。

2、应对策略

---

针对造成雪崩效应的不同场景，可以使用不同的应对策略，没有一种通用所有场景的策略。

（1）硬件故障

多机房容灾、异地多活等。

（2）流量激增

服务自动扩容、流量控制（限流、关闭重试）等。

（3）缓存穿透

缓存预加载、缓存异步加载等。

（4）程序bug

修改程序bug、及时释放资源等。

（5）同步等待

资源隔离、MQ解耦。、不可用服务调用快速失败等。资源隔离通常指不同服务调用采取不同的线程池；不可用服务调用快速失败一般通过熔断模式结合超时机制实现。

综上所述，如果一个应用不能对来自依赖的故障进行隔离，那该应用本身就处在被拖垮的风险中。因此，为了构建稳定、可靠的分布式系统，我们的服务应当具有自我保护能力，当依赖服务不可用时，当前服务启动自我保护功能，从而避免发生雪崩效应。本文将重点介绍使用Hystrix解决同步等待的雪崩问题。

三、初探Hystrix

===========

Hystrix，中文含义是豪猪，因其背上长满荆棘，从而拥有了自我保护的能力。本文所说的Hystrix是Netflix公司开源的一款容错框架，同样具有自我保护能力。为了实现容错和自我保护，下面我们看看Hystrix如何设计和实现的。

1、Hystrix设计目标

---

• 对来自依赖的延迟和故障进行防护和控制，这些依赖通常都是通过网络访问的。

• 阻止失败并迅速恢复

• 回退并优雅降级

• 提供近实时的监控与告警

2、Hystrix遵循的设计原则

---

• 防止任何单独的依赖耗尽资源（线程）

• 过载立即切断并快速失败，防止排队

• 尽可能提供回退以保护用户免受故障

• 使用隔离技术（例如隔板、泳道和断路器模式）来限制任何一个依赖的影响

• 通过近实时的指标，监控和告警，确保故障被及时发现

• 通过动态修改配置属性，确保故障及时恢复

• 防止整个依赖客户端执行失败，而不仅仅是网络通信

3、Hystrix如何实现这些设计目标

---

• 使用命令模式将所有对外部服务（或依赖关系）的调用包装在HystrixCommand或 HystrixObservableCommand对象中，并将该对象放在单独的线程中执行。

• 每个依赖都维护着一个线程池（或信号量），线程池被耗尽则拒绝请求（而不是让请求排队）。

• 记录请求成功，失败，超时和线程拒绝。

• 服务错误百分比超过了阈值，熔断器开关自动打开，一段时间内停止对该服务的所有请求。

• 请求失败，被拒绝，超时或熔断时执行降级逻辑。

• 近实时地监控指标和配置的修改。

四、Hystrix处理流程

=============

1、Hystrix 整个工作流程如下

---

（1）构造一个 HystrixCommand或HystrixObservableCommand对象， 用于封装请求，并在构造方法配置请求被执行需要的参数；

（2）执行命令， Hystrix 提供了4种执行命令的方法，后面详述；

（3）判断是否使用缓存响应请求，若启用了缓存，且缓存可用，直接使用缓存响应请求。 Hystrix 支持请求缓存，但需要用户自定义启动；

（4）判断熔断器是否打开，如果打开，调到第8步；

（5）判断线程池、队列、信号量是否已满，已满则调到第8步；

（6）执行 HystrixObservableCommand.construct()或HystrixCommand.run()， 如果执行失败或者超时，跳到第8步；否者，跳到第9步；

（7）统计熔断器监控指标；

（8）走Fallback降级方法；

（9）返回请求响应。

从流程图上可知道，第5步线程池、队列、信号量已满时，还会执行第7步逻辑，更新熔断器统计信息，而第6步无论成功与否，都会更新熔断器统计信息。

2、执行命令的几种方法

---

Hystrix提供了4种执行命令的方法，execute()和queue()适用于 HystrixCommand 对象，而observer()和toObservable()适用于 HystrixObservableCommand对象。

（1）execute()

以同步阻塞方法执行run()，只支持接收一个值对象。 Hystrix会从线程池中取一个线程来执行run()，并等待返回值。

（2）queue()

以异步非阻塞方法执行run()，只支持接收一个值对象。调用queue()就直接返回一个Future对象。可通过Future.get()拿到run()的返回结果，但 Future.get() 是阻塞执行的。若执行成功， Future.get() 返回单个返回值。当执行失败时，如果没有重写fallback， Future.get() 抛出异常。

（3）observe()

事件注册前执行run()/construct()，支持接收多个值对象，取决于发射源。调用observe()会返回一个hot Observable，也就是说，调用 observe()自动触发执行run()/construct()，无论是否存在订阅者。

如果继承的是HystrixCommand，hystrix会从线程池中取一个线程以非阻塞方式执行run()；如果继承的是HystrixObservableCommand，将以调用线程阻塞执行construct()。

observe()使用方法：

• 调用 observe()会返回一个Observable对象

• 调用这个 Observable对象的subscribe()方法完成事件注册，从而获取结果

（4）toObservable()

事件注册后执行run()/construct()，支持接收多个值对象，取决于发射源。调用 toObservable() 会返回一个cold  Observable，也就是说，调用 toObservable() 不会立即触发执行run()/construct()，必须有订阅者订阅 Observable 时才会执行。

如果继承的是 HystrixComman，hystrix会从线程池中取一个线程以非阻塞方式执行run()，调用线程不必等待run()；如果继承的是 HystrixObservableCommand ，将以调用线程堵塞执行construct()，调用线程需等待construct()执行完才能继续往下走。

toObservable()使用方法：

• 调用observe()会返回一个Observable对象

• 调用这个 Observable对象的subscribe()方法完成事件注册，从而获取结果

需注意的是， HystrixCommand也支持 toObservable()和observe()， 但是即使将 HystrixCommand 转换成Observable，它也只能发射一个值对象。只有 HystrixObservableCommand才支持发射多个值对象。

3、几种方法的关系

---

• execute()实际是调用了queue().get()

• queue()实际调用了toObservable().toBlocking().toFuture()

• observe()实际调用toObservable()获得一个cold Observable，再创建一个ReplaySubject对象订阅Observable，将源Observable转化为hot Observable。因此调用observe()会自动触发执行run()/construct()。

Hystrix 总是以Observable的形式作为相应返回，不同执行命令的方法只是进行了相应的转换。

五、 Hystrix 容错

=============

Hystrix 的容错主要是通过添加容许延迟和容错方法，帮助控制这些分布式服务之间的交互。还通过隔离服务之间的访问点，阻止它们之间的级联故障以及提供退回选项来实现这一点，从而提高系统的整体弹性。 Hystrix主要提供了一下几种容错方法：

• 资源隔离

• 熔断

• 降级

资源隔离主要指对线程的隔离。 Hystrix提供了两种线程隔离的方式：线程池和信号量。

1、线程隔离-线程池

---

Hystrix还通过命令模式对发送请求的对象和执行请求的对象进行解耦，将不同类型的业务请求封装为对应的命令请求。如订单服务查询商品，查询商品请求->商品command；商品服务查询库存，查询库存请求->库存command。并且为每个类型的command配置一个线程池，当第一次创建command时，根据配置创建一个线程池，并放入ConcurrentHashMap，如商品command：

final static ConcurrentHashMap<String, HystrixThreadPool> threadPools = new ConcurrentHashMap<String, HystrixThreadPool>();

…

if (!threadPools.containsKey(key)) {

threadPools.put(key, new HystrixThreadPoolDefault(threadPoolKey, propertiesBuilder));

}

后续查询商品的请求创建command时，将会重用已创建的线程池。线程池隔离之后的服务依赖关系：

通过发送请求线程与执行请求的线程分离，可有效防止发生级联故障。当线程池或请求队列饱和时，Hystrix将拒绝服务，使得请求线程可以快速失败，从而避免依赖问题扩散。

线程池隔离优点：

• 保护应用程序以免受来自依赖故障的影响，指定依赖线程池饱和不会影响应用程序的其余部分。

• 当引入新客户端lib时，即使发生问题，也是在lib中，并不会影响其他内容。

• 当依赖从故障恢复正常时，应用程序会立即恢复正常的性能。

• 当应用程序一些配置参数错误时，线程池的运行状况会很快检测到这一点（通过增加错误、延迟、超时、拒绝等），同时可以通过动态属性进行实时纠正错误的参数配置。

• 如果服务的性能有变化，需要实时调整，比如增加或减少超时时间，更改重试次数，可以通过线程池指标状态属性修改，而且不会影响到其它调用请求。

• 除了隔离优势外， Hystrix 拥有专门的线程可提供内置的并发功能，使得可以在同步调用之上构建异步门面（外观模式），为异步编程提供了支持（ Hystrix 引入了R小Java异步框架）。

注意：尽管线程池提供了线程隔离，我们的客户端底层代码也必须要有超时设置或响应线程中断，不能无限制的阻塞以致线程池一直饱和。

缺点：

线程池的主要缺点是增加了计算开销。每个命令的执行都在单独的线程完成，增加了排队、调度和上下文切换的开销。因此，要使用 Hystrix ，就必须接受它带来的开销，以换取它所提供的的好处。

通常情况下，线程池引入的开销足够小，不会有重大的成本和性能影响。但对于一些访问延迟极低的服务，如只依赖内存缓存，线程池引入的开销就比较明显了，这时候使用线程池隔离技术就不合适了，我们需要考虑更轻量级的方式，如信号量隔离。

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024b （备注Java）

最后

无论是哪家公司，都很重视基础，大厂更加重视技术的深度和广度，面试是一个双向选择的过程，不要抱着畏惧的心态去面试，不利于自己的发挥。同时看中的应该不止薪资，还要看你是不是真的喜欢这家公司，是不是能真的得到锻炼。

针对以上面试技术点，我在这里也做一些分享，希望能更好的帮助到大家。

正体系化！**

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024b （备注Java）
[外链图片转存中…(img-6dVplu57-1712038690962)]

最后

无论是哪家公司，都很重视基础，大厂更加重视技术的深度和广度，面试是一个双向选择的过程，不要抱着畏惧的心态去面试，不利于自己的发挥。同时看中的应该不止薪资，还要看你是不是真的喜欢这家公司，是不是能真的得到锻炼。

针对以上面试技术点，我在这里也做一些分享，希望能更好的帮助到大家。

[外链图片转存中…(img-TS4BNL9t-1712038690963)]

[外链图片转存中…(img-q8pi1zFR-1712038690963)]

[外链图片转存中…(img-bwrS9Q9J-1712038690964)]