mysql与redis双写一致性_redis mysql canal 双写同步

一、起因

redis缓存由于其高并发和高性能的特性，已经在项目中被广泛使用，在读取缓存方面，目前大家都是按下图的方案进行业务操作的

这时候问题就来了，在更新缓存的时候，对于更新完数据库，是更新缓存呢？还是删除缓存呢，又或者是先删除缓存，再更新数据库，其实是可以讨论一番的。下面将从三个方面讨论，分别是缓存更新策略，每种策略的优缺点分析，针对优缺点的改进方案

二、什么是一致性方案

从理论上来讲，给缓存设置过期时间，是保证最终一致性的解决方案，在这种方案下，可以对存入缓存的数据设置过期时间，索引的写操作以数据库为准，对缓存操作只是尽最大的努力。也就是说如果数据库写成功，缓存更新失败，那么只要达到过期时间，则后面的读请求自然会从数据库中读取新的值然后回填缓存，因此，下面的讨论思路不考虑给缓存设置过期时间这个方案。只考虑以下三种更新策略：

1、先更新数据库，再更新缓存

2、先删除缓存，再更新数据库

3、先更新数据库，再删除缓存

三、先更新数据库，再更新缓存

这套方案大多数人是反对的，原因是什么呢？大概有以下两点：

原因一：从线程安全的角度，同时有请求A和B进行更新操作，会出现什么？

1.1 线程A更新了数据库
1.2 线程B更新了数据库
1.3 线程B更新了缓存
1.4 线程A更新了缓存

这本该请求A先更新缓存，B后更新才对，但是因为网络等原因，B却比A更早更新了缓存，这就导致出现了脏数据，故不考虑

原因二：从业务角度，思考以下两点

2.1 如果你是一个写数据场景比较多，而读数据场景比较少的业务需求，采用这种方案就会导致，数据还没读到，缓存就被频繁的更新，浪费性能
2.2 如果你写入数据库的值，并不是直接写入缓存的，而是要经过一系列复杂的计算再写入缓存的，那么，每次写入数据库，都再次计算写入缓存的值，无疑是浪费性能的，显然，删除缓存更为合适。

四 先删除缓存，再更新数据库

该方案会导致不一致的原因是：同时有一个请求A进行更新操作，另一个请求B进行查询操作，那么会出现以下几种情景：

1、请求A进行写操作，删除缓存
2、请求B进行读操作，发现缓存不存在
3、请求B去数据库查询得到旧值
4、请求B将旧值写入缓存
5、请求A将新值写入数据库，这样的情况就会导致不一致的情形出现，而且，如果不采用给缓存设置过期时间，该数据永远都是脏数据

那，如何解决呢？

采用延时双删策略

1、先淘汰缓存
2、再写数据库
3、休眠1秒，再次淘汰缓存，可以将1秒内所造成的缓存脏数据再次删除

那么，这个1秒怎么确定的，具体该休眠多久呢？
针对上面的情形，应该自行评估自己的项目的读数据业务逻辑的耗时。然后写数据的休眠时间则在读数据业务逻辑的耗时基础上，加几百ms即可。这么做的目的，就是确保读请求结束，写请求可以删除读请求造成的缓存脏数据。
如果你用了mysql的读写分离架构怎么办？
还是两个请求，一个请求A进行更新操作，另一个请求B进行查询操作。

（1）请求A进行写操作，删除缓存
（2）请求A将数据写入数据库了，
（3）请求B查询缓存发现，缓存没有值
（4）请求B去从库查询，这时，还没有完成主从同步，因此查询到的是旧值
（5）请求B将旧值写入缓存
（6）数据库完成主从同步，从库变为新值 上述情形，就是数据不一致的原因。还是使用双删延时策略。只是，睡眠时间修改为在主从同步的延时时间基础上，加几百ms。

采用这种同步淘汰策略，吞吐量会降低，那又该怎么办呢？
那可以将第二次删除作为异步，自己起一个线程，异步删除。这样，写的请求就不用沉睡一段时间后再返回，这样做就可以加大吞吐量
第二次删除,如果删除失败怎么办？
这会出现下面的请求，一个A请求进行更新操作，另一个请求B进行查询操作，为了方便，假设是单库：

1）请求A进行写操作，删除缓存
（2）请求B查询发现缓存不存在
（3）请求B去数据库查询得到旧值
（4）请求B将旧值写入缓存
（5）请求A将新值写入数据库
（6）请求A试图去删除请求B写入对缓存值，结果失败了。 ok,这也就是说。如果第二次删除缓存失败，会再次出现缓存和数据库不一致的问题。 如何解决呢？ 具体解决方案，且看第(3)种更新策略的解析。

五、先更新数据库，再删缓存

首先，先说一下。老外提出了一个缓存更新套路，名为《Cache-Aside pattern》。其中就指出
1、失效：应用程序先从cache取数据，没有得到，则从数据库中取数据，成功后，放到缓存中。
2、命中：应用程序从cache中取数据，取到后返回。
3、更新：先把数据存到数据库中，成功后，再让缓存失效。
另外，知名社交网站facebook也在论文《Scaling Memcache at Facebook》中提出，他们用的也是先更新数据库，再删缓存的策略。

这种情况不存在并发问题么？
不是的。假设这会有两个请求，一个请求A做查询操作，一个请求B做更新操作，那么会有如下情形产生

(1)缓存刚好失效
(2)请求A查询数据库，得到一个旧值
(3)请求B将新值写入数据库
(4)请求B删除缓存
(5)请求A将查到的旧值写入缓存。

确实，如果发生上述情况，就一定会发生脏数据
但是，实际发生这种情况的概率又有多少呢？
发生上述情况有一个先天性条件，就是步骤（3）的写操作比步骤（2）的读操作耗时更短，才有可能使得步骤（4）先于步骤（5）。
可是，我们想想，数据库的读操作的速度远快于写操作的(读写分离的意义不就是因为读操作比写操作块，消耗资源少)，因此步骤（3）耗时比步骤（2）还短，这一情景出现的概率真的很小，假设，非要解决这个隐患，一定要解决，怎么办？
首先，给缓存设置有效时间是一种方案，其次，采用上面的异步延时删除策略，保证读请求完成后，再进行删除操作。
思考还有其他造成不一致的原因吗？
有的，这也是上述两种缓存更新策略都存在的一个问题，如果删除缓存失败怎么办，那不是会有不一致的情况出现么，比如一个写数据请求，然后写入数据库，删缓存失败了，这会不会就出现不一致的情况了，这也是缓存更新策略2里留下的最后一个疑问
如何解决？？
提供一个保障的重试机制即可，下面有两套方案

方案一：

流程如下所示：

1. 更新数据路数据
2. 缓存因为种种问题删除失败
3. 将需要删除的key发送至消息队列
4. 自己消费消息，获得需要删除的key
5. 继续充实删除操作，直到成功，然而，该方案有一个缺点对业务线代码造成大量的侵入，于是有了方案二，在方案二中，启动一个订阅程序去订阅数据库的binlog，获得需要操作的数据，在应用程序中，另起一段程序，获得这个订阅程序传来的信息，进行删除缓存操作

方案二：

流程如下所示：

1. 更新数据库数据
2. 数据库会将操作信息写入binlog日志中
3. 订阅程序提取所需要的数据以及key
4. 另起一段非业务代码，获得该信息
5. 尝试删除缓存操作，发现删除失败
6. 将这些信息发送至消息队列
7. 重新从消息队列中获得该数据，重新操作

注意：上述的订阅binlog程序在mysql中有现成的中间件canal，可以完成订阅binlog日志的功能。另外，重试机制，主要采用的是消息队列的方式。如果对一致性要求不是很高，直接在程序中另起一个线程，每隔一段时间去重试即可。

参考博客：点击查看