缓存雪崩、缓存穿透、缓存击穿_缓存雪崩 缓存穿透

缓存雪崩

缓存同一时间大面积的失效，所以，后面的请求都会落到数据库上，造成数据库短时间内承受大量请求而崩掉（大量的key同时失效）
缓存雪崩是指当缓存中的大量数据同时失效或者被淘汰时，导致大量请求直接打到后端存储系统，从而引发存储系统的负载急剧增加，甚至导致存储系统崩溃。
具体来说，缓存雪崩通常发生在以下情况下：
1缓存过期时间集中：缓存中的大量数据设置了相同的过期时间，在这个过期时间范围内，大量数据会同时失效，从而导致请求直接穿透到存储系统中。
2缓存服务器故障：由于硬件故障、网络问题或者其他原因，缓存服务器一段时间内不可用，导致缓存中的数据全部失效，请求直接打到存储系统。
3缓存数据分布不均：缓存中的数据分布不均匀，某些热点数据失效后，大量请求会打到存储系统，引发雪崩效应。

解决方案

随机的过期时间、高可用集群、熔断、降级，防止系统崩溃
1设置合理的缓存过期时间：可以根据业务需求和数据的访问模式设置合理的缓存过期时间，避免大量数据在同一时间失效。
2采用多级缓存：可以在缓存层引入多级缓存架构，将数据分散到不同的缓存服务器中，从而避免单一缓存服务器故障导致所有数据失效的问题。
3引入热点数据保护机制：可以针对热点数据采用专门的保护策略，例如将热点数据的过期时间设置得更长，或者采用异步刷新缓存的方式，避免大量请求同时打到存储系统。
4限流和降级：可以通过限制请求的并发数或者总请求数量，或者在缓存失效时提供默认值或者错误提示，避免存储系统负载过高。
监控和预警：及时监控系统的缓存状态，当发现异常情况时能够及时采取措施，例如扩容缓存服务器、修复故障等。
5使用互斥锁或分布式锁机制，避免对热点数据的持续高并发访问。
6 保证缓存层的高可用性，例如使用Redis Sentinel和Redis Cluster实现高可用。
总体来说，缓存雪崩问题需要综合考虑系统的可用性、稳定性和性能，采取多种手段来降低风险。合理设计缓存策略、引入多级缓存、实施热点数据保护、限流和降级等措施都可以有效地预防和解决缓存雪崩问题。

缓存击穿

缓存击穿，就是说某个 key 非常热点，缓存击穿和缓存雪崩很类似，只不过是缓存击穿是一个热点key失效，而缓存雪崩是大量热点key失效。因此，可以将缓存击穿看作是缓存雪崩的一个子集
缓存击穿是指当一个缓存中不存在的数据被大量请求时，这些请求会直接穿透缓存到达后端存储系统，导致存储系统负载急剧增加，从而引发性能问题。
具体来说，缓存击穿通常发生在以下情况下：
1热点数据：某些数据访问频率非常高，而缓存中没有这些数据，导致每次都要去存储系统中查询，从而引发大量请求穿透缓存。
2缓存失效：缓存中的某些数据过期或者被淘汰，在数据重新加载到缓存之前，大量请求会直接穿透到存储系统中查询，导致存储系统负载剧增。
3恶意攻击：攻击者有意地请求缓存中不存在的数据，以触发大量请求穿透缓存，从而导致存储系统崩溃或变得不可用。

解决方案

1.单机通过synchronized或lock来处理，分布式环境采用分布式锁
2.可以将热点数据设置为永远不过期

为了解决缓存击穿问题，可以采用以下几种方案：
1数据预热：在系统启动或者数据更新时，将热点数据主动加载到缓存中，避免缓存中不存在的情况出现。
2设置合理的缓存过期时间：可以根据业务需求设置合理的缓存过期时间，避免数据过期或淘汰引发缓存击穿问题。
3布隆过滤器：布隆过滤器是一种高效的数据结构，可以用于快速判断一个元素是否存在。可以将布隆过滤器应用在缓存层。当缓存中不存在某个数据时，可以先通过布隆过滤器快速判断该数据是否存在，避免请求直接穿透到存储系统中。
4 互斥锁：可以使用互斥锁来避免多个请求同时访问缓存不存在的数据。当缓存中不存在某个数据时，可以设置一个互斥锁，让第一个请求去加载数据，并在加载完成后释放锁。其他请求在获取到锁之前，都会等待第一个请求加载完数据后返回结果。
5 限流策略：可以通过限制请求的并发数或者总请求数量，来避免缓存击穿问题。可以使用诸如Redis等支持原子操作的存储系统实现限流功能。
总体来说，缓存击穿问题需要根据具体的业务场景和需求，采取不同的解决方案。需要综合考虑性能、可靠性、安全性等因素，确保系统能够稳定运行并提供高质量的服务。

缓存穿透

缓存击穿是指当某个缓存中不存在的数据被大量请求时，这些请求会直接穿透到后端存储系统，导致存储系统的负载急剧增加，从而引发性能问题。
原来数据是存在的，但由于某些原因（误删除、主动清理等）在缓存和数据库层面被删除了，但前端或前置的应用程序依旧保有这些数据；恶意攻击行为，利用不存在的Key或者恶意尝试导致产生大量不存在的业务数据请求。
一般而言，缓存穿透有 2 种可能性：业务数据被误删，导致缓存和数据库中都没有数据。恶意进行 ddos攻击
具体来说，缓存击穿通常发生在以下情况下：
热点数据：某些数据访问频率非常高，而缓存中没有这些数据，导致每次都要去存储系统中查询，从而引发大量请求穿透缓存。
缓存失效：缓存中的某些数据过期或者被淘汰，在数据重新加载到缓存之前，大量请求会直接穿透到存储系统中查询，导致存储系统负载剧增。
恶意攻击：攻击者有意地请求缓存中不存在的数据，以触发大量请求穿透缓存，从而导致存储系统崩溃或变得不可用。

解决方案

1. 布隆过滤器 2互斥锁
   解决方案主要有两种：互斥锁和逻辑过期。互斥锁的思路是在第一个线程到来时获取互斥锁，后面的线程尝试获取互斥锁失败后进行休眠重试。直到第一个线程缓存重建成功后释放互斥锁，其余线程在重试过程中查询缓存命中重建数据。另一种解决方案是逻辑过期，即设置一个较短的过期时间，最长不超过5分钟，将不存在的数据也缓存起来，避免对底层存储系统的查询压力。
   此外，为了防止缓存集中失效导致的缓存雪崩问题，应尽量让失效的时间点不分布在同一个时间点。同时，对于缓存穿透问题，可以采用布隆过滤器将所有可能存在的数据哈希到一个足够大的bitmap中，拦截掉一定不存在的数据，避免对底层存储系统的查询压力。
   1.互斥锁
   业界比价普遍的一种做法，即根据key获取value值为空时，锁上，从数据库中load数据后再释放锁。若其它线程获取锁失败，则等待一段时间后重试。这里要注意，分布式环境中要使用分布式锁，单机的话用普通的锁（synchronized、Lock）就够了。
   可以使用互斥锁来避免多个请求同时访问缓存不存在的数据。当缓存中不存在某个数据时，可以设置一个互斥锁，让第一个请求去加载数据，并在加载完成后释放锁。其他请求在获取到锁之前，都会等待第一个请求加载完数据后返回结果。
   2.布隆过滤器
   布隆过滤器：布隆过滤器是一种高效的数据结构，可以用于快速判断一个元素是否存在。可以将布隆过滤器应用在缓存层。当缓存中不存在某个数据时，可以先通过布隆过滤器快速判断该数据是否存在，避免请求直接穿透到存储系统中。
   在写入数据时，使用布隆过滤器进行标记（相当于设置白名单），业务请求发现缓存中无对应数据时，可先通过查询布隆过滤器判断数据是否在白名单内，如果不在白名单内，则直接返回空或失败。
   采用布隆过滤器，将所有可能存在的数据哈希存到一个足够大的 中，一些一定不存在的数据会被这个bitmap拦截掉，从而避免了对底层存储系统的查询压力
   bloomfilter就类似于一个hashset，用于快速判某个元素是否存在于集合中，其典型的应用场景就是快速判断一个key是否存在于某容器，不存在就直接返回。布隆过滤器的关键就在于hash算法和容器大小，下面先来简单的实现下看看效果，我这里用guava实现的布隆过滤器：
   

3…接口限流与熔断、降级
重要的接口一定要做好限流策略，防止用户恶意刷接口，同时要降级准备，当接口中的某些服务不可用时候，进行熔断，失败快速返回机制。
4.用户黑名单限制
当发生异常情况时，实时监控访问的对象和数据，分析用户行为，针对故意请求、爬虫或攻击者，进行特定用户的限制；当然，可能针对缓存穿透的情况，也有可能是其他的原因引起，可以针对具体情况，采用对应的措施。
5.数据预热：在系统启动或者数据更新时，将热点数据主动加载到缓存中，避免缓存中不存在的情况出现。
6.设置合理的缓存过期时间：可以根据业务需求设置合理的缓存过期时间，避免数据过期或淘汰引发缓存击穿问题。