赞
踩
目录
4、Redis做为mysql数据库的缓存,mysql数据库是如何与redis进行数据同步的呢?(双写一致)
7、Redis的数据淘汰策略?(Redis中的数据都没有过期,又有新的数据进来/Redis内存用完了怎么办?)
1、Redis主从同步数据的流程?(注意和Mysql主从数据同步区分)
Redis是一个基于内存的key-value结构数据库。基于内存存储,读写性能高;适合存储热点数据(热点商品、资讯、新闻);企业应用广泛。NoSql非关系型数据库。
key是字符串类型,value有5种常用数据类型:
string普通字符串,常用
hash适合存储对象
list按照插入顺序排序,可以有重复元素
set无序集合,没有重复元素
sorted set有序集合,没有重复元素。每个元素都会关联一个double类型的分数,通过分数来为集合中的成员进行从小到大的排序,有序集合的成员是唯一的,但是分数却可以重复。
缓存穿透是指查询一个一定不存在的数据,如果从存储层查不到数据则不写 入缓存,这将导致这个不存在的数据每次请求都要到 DB 去查询,可能导致 DB 挂掉。这种情况大概率是遭到了攻击。
常用解决方法:布隆过滤器
布隆过滤器主要是用于检索一个元素是否在一个集合中。它的底层主要是先去初始化一个比较大数组,里面存放的二进制0或1。在一 开始都是0,当一个key来了之后经过3次hash计算,模于数组长度找到数据 的下标然后把数组中原来的0改为1,这样的话,三个数组的位置就能标明一 个key的存在。查找的过程也是一样的。
缺点:布隆过滤器有可能会产生一定的误判,我们一般可以设置 这个误判率,大概不会超过5%,其实这个误判是必然存在的,要不就得增 加数组的长度,其实已经算是很划分了,5%以内的误判率一般的项目也能 接受,不至于高并发下压倒数据库。
缓存击穿的意思是对于设置了过期时间的key,缓存在某个时间点过期的时 候,恰好这时间点对这个Key有大量的并发请求过来,这些请求发现缓存过 期一般都会从后端 DB 加载数据并回设到缓存,这个时候大并发的请求可能 会瞬间把 DB 压垮。
解决方案:
互斥锁:当缓存失效时,不立即去load db,先使用如 Redis 的 setnx 去设置一个互斥锁,当获取锁成功再进行 load db的操作并回设缓存,否则重试get缓存的方法。强一致,性能差。
设置逻辑过期:在设置key的时候,设置一个过期时间字段一块存入缓存中,不给当前 key设置过期时间;当查询的时候,从redis取出数据后判断时间是否过期;如果过期则开通另外一个线程进行数据同步,当前线程正常返回数据,这个数据不是最新。高可用,性能优。
缓存雪崩意思是设置缓存时采用了相同的过期时间,导致缓存在某一时刻同时失效,请求全部转发到DB,DB 瞬时压力过重雪崩。
缓存雪崩与缓存击穿的区别: 雪崩是很多key,击穿是某一个key缓存。
解决方案:可以将缓存失效时间分散开,比如可以在原有的失效时间基 础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重 复率就会降低,就很难引发集体失效的事件。
利用redis集群提高服务的可用性(哨兵模式、集群模式);
给缓存业务添加降级限流策略(ngxin、spring cloud gateway);
给业务添加多级缓存(Guava、Caffeine);
读写锁(排他锁):使用redisson实现的读写锁,在读的时候添加共享锁,可以保证读 读不互斥,读写互斥。当我们更新数据的时候,添加排他锁,它是读写,读读都互斥,这样就能保证在写数据的同时是不会让其他线程读数据的,避免 了脏数据。这里面需要注意的是读方法和写方法上需要使用同一把锁才行。底层使用也是setnx,保证了同时只能有一个线程操作锁住的方法。
延时双删:写操作的时候,我们先把缓存中的数据删除,然后更新数据库,最后再延时删除缓存中的数据,其中这个延时多久不太好确定,在延时的过程中可能会出现脏数据,并不能保证强一致性,所以没有采用它。(延时双删仍有脏数据风险)
先删数据库或者先删缓存都存在问题。
删两次是因为先删除缓存再修改数据库,修改数据库期间缓存中可能会产生脏数据。
延时是因为在主从数据库中,让主数据库的数据同步到从库中去。
采用的阿里的canal组件实现数据同步:不需要更改业务代码,部署 一个canal服务。canal服务把自己伪装成mysql的一个从节点,当mysql数据 更新以后,canal会读取binlog数据,然后在通过canal的客户端获取到数据, 更新缓存即可。
二进制日志(BINLOG)记录了所有的 DDL(数据定义语言)语句和 DML(数据操纵语言)语句,但不包括数据查询(SELECT、SHOW)语句。
RDB:Redis Database Backup File (Redis数据库备份文件)
RDB是一个快照文件,它是把redis内存存储的数据写到磁盘上,当 redis实例宕机恢复数据的时候,方便从RDB的快照文件中恢复数据。(定时为整个内存做快照)
AOF:Append Only File
AOF的含义是追加文件,当redis操作写命令的时候,都会存储这个文件中, 当redis实例宕机恢复数据的时候,会从这个文件中再次执行一遍命令来恢复数据
对比:RDB因为是二进制文件,在保存的时候体积也是比较小的,它恢复 的比较快,但是它有可能会丢数据,我们通常在项目中也会使用AOF来恢复 数据,虽然AOF恢复的速度慢一些,但是它丢数据的风险要小很多,在AOF 文件中可以设置刷盘策略,我们当时设置的就是每秒批量写入一次命令。
第一种是惰性删除,在设置该key过期时间后,我们不去管它,当需要该key 时,我们在检查其是否过期,如果过期,我们就删掉它,反之返回该key。
第二种是定期删除,就是说每隔一段时间,我们就对一些key进行检查,删除里面过期的key
定期清理的两种模式:
SLOW模式是定时任务,执行频率默认为10hz,每次不超过25ms,以通过修改配置文件redis.conf 的 hz 选项来调整这个次数。(限制删除时长和频率来减少操作对CPU的影响)
FAST模式执行频率不固定,每次事件循环会尝试执行,但两次间隔不低于2ms, 每次耗时不超过1ms。(尽量少的占用主进程的操作)
Redis的过期删除策略:惰性删除 + 定期删除两种策略进行配合使用。
默认是noeviction,不删除任何数据,内部不足直接报错;
可以在redis的配置文件中进行设置的,里面有两个非常重要的概念,一个 是LRU,另外一个是LFU:
LRU的意思就是最少最近使用,用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。 LFU的意思是最少频率使用,会统计每个key的访问频率,值越小淘汰优先级越高。我们在项目设置的allkeys-lru,挑选最近最少使用的数据淘汰,把一些经常访问的key(热点数据)留在redis中。
synchronized是本地锁,在JVM中,一个Tomcat一个。但是在Redis集群部署中有多个Tomcat服务器,则不能使用synchronized本地锁,需要使用外地锁--->分布式锁
使用redisson实现分布式锁,底层是setnx和lua脚本(保证原子性)
Redis实现分布式锁主要利用Redis的setnx命令。setnx是SET if not exists(如果不存在,则 SET)的简写。由于redis的单线程的,用了命令之后,只能有一个客户端对某一个key设置值,在没有过期或删除key的时候是其他客户端是不能设置这个key的。(设置超时时间,如果业务超时或者服务器宕机,则自动释放锁)
由于操作的时长不固定,所有setnx指令直接设定不好控制这个问题,可以采用redisson来实现。
在redisson中需要手动加锁,并且可以控制锁的失效时间和等待时间,当锁 住的一个业务还没有执行完成的时候,在redisson中引入了一个看门狗机制,就是说每隔一段时间就检查当前业务是否还持有锁,如果持有就增加加锁的持有时间,当业务执行完成之后需要手动释放锁就可以了。
好处:在高并发下,一个业务有可能会执行很快,先客户1持有锁的时候,客户2来了以后并不会马上拒绝,它会自旋不断尝试获取锁,如果客户1释放,客户2就可以马上持有锁,性能也得到了提升。(重试机制)自旋一定次数或者一定时间仍然无法获取锁才会获取锁失败。
是可以重入的。这样做是为了避免死锁的产生。这个重入其实 在内部就是判断是否是当前线程持有的锁,如果是当前线程持有的锁就会计 数,如果释放锁就会在计算上减一。在存储数据的时候采用的hash结构,大 key可以按照自己的业务进行定制,其中小key是当前线程的唯一标识,value 是当前线程重入的次数。
这个是不能的,比如,当线程1加锁成功后,master节点数据会异步复制到slave节点,此时当前持有Redis锁的master节点宕机,slave节点被 提升为新的master节点,假如现在来了一个线程2,再次加锁,会在新的master节点上加锁成功,这个时候就会出现两个节点同时持有一把锁的问题。
我们可以利用redisson提供的红锁来解决这个问题,它的主要作用是,不能 只在一个redis实例上创建锁,应该是在多个redis实例上创建锁,并且要求在 大多数redis节点上都成功创建锁,红锁中要求是redis的节点数量要过半(n/2 + 1)。这 样就能避免线程1加锁成功后master节点宕机导致线程2成功加锁到新的 master节点上的问题了。
但是,如果使用了红锁,因为需要同时在多个节点上都添加锁,性能就变的 很低了,并且运维维护成本也非常高,所以,我们一般在项目中也不会直接 使用红锁,并且官方也暂时废弃了这个红锁。
redis本身就是支持高可用的,做到强一致性,就非常影响性能,所以,如果有强一致性要求高的业务,建议使用zookeeper实现的分布 式锁,它是可以保证强一致性的。
单节点Redis的并发能力是有上限的,要进一步提 高Redis的并发能力,可以搭建主从集群,实现读写分离。一般都是一主多 从,主节点负责写数据,从节点负责读数据,主节点写入数据之后,需要把数据同步到从节点中。在Redis中提供的集群方案总共有三种:主从复制、哨兵模 式、Redis分片集群。
主从同步分为了两个阶段,一个是全量同步,一个是增量同步
全量同步是指从节点第一次与主节点建立连接的时候使用全量同步。
流程是这样的: 第一:从节点请求主节点同步数据,其中从节点会携带自己的replication id(数据集的标记)和offset偏移量。 第二:主节点判断是否是第一次请求,主要判断的依据就是,主节点与从节点是否是同一个replication id,如果不是,就说明是第一次同步,那主节点就会把自己的replication id和offset发送给从节点,让从节点与主节点的信息保持一致。 第三:在同时主节点会执行bgsave,生成rdb快照文件后,发送给从节点去执 行,从节点先把自己的数据清空,然后执行主节点发送过来的rdb文件,这 样就保持了一致。当然,如果在rdb生成执行期间,依然有请求到了主节点,而主节点会以命令的方式记录到缓冲区,缓冲区是一个日志文件,最后把这个日志文件发送给从节点,这样就能保证主节点与从节点完全一致了,后期再同步数据的时候,都是依赖于这个日志文件,这个就是全量同步。
增量同步指的是,当从节点服务重启或后期数据变化之后,数据就不一致了,所以这个时候,从节点会请求主节点同步数据,主节点还是判断是不是第一次请求,不是第一次就获取从节点的offset值,然后主节点从命令日志中获取offset值之后的数据,发送给从节点进行数据同步。
主从集群 + 哨兵模式
哨兵模式可以实现主从集群的自动故障恢复,里面就包含了对主从服务的监控、自动故障恢复、通知;如果master故障,Sentinel会将一个slave提升为master。 当故障实例恢复后也以新的master为主;同时Sentinel也充当Redis客户端的服务发现来源,当集群发生故障转移时,会将最新信息推送给Redis的客户端,所以一般项目都会采用哨兵的模式来保证redis的高并发高可用。
使用的是主从集群(1主1从)加哨兵。一般单节点不超过10G内存,如果Redis内存不足则可以给不同服务分配独立的Redis主从节点。尽量不做分片集群,因为集群维护起来比较麻烦,并且集群之间的心跳检测和数据通信会消耗大量的网络带宽,也没有办法使用lua脚本和事务。
有的时候由于网络等原因可能会出现脑裂的情况,就是说,由于redis master节点和redis salve节点和sentinel处于不同的网络分区,使得sentinel没 有能够心跳感知到master,所以通过选举的方式提升了一个salve为master, 这样就存在了两个master,就像大脑分裂了一样,这样会导致客户端还在 old master那里写入数据,新节点无法同步数据,当网络恢复后,sentinel会 将old master降为salve,这时再从新master同步数据,这会导致old master中 的大量数据丢失。
解决方案:在redis的配置中可以设置:第一可以设置最少的salve 节点个数,比如设置至少要有一个从节点才能同步数据;第二个可以设置主从数据复制和同步的延迟时间;达不到要求就拒绝请求,就可以避免大量的数据丢失。
主从和哨兵可以解决高可用、高并发读的问题。但是依然有两个问题没有解决:海量数据存储问题和高并发写的问题。
分片集群主要解决的是,海量数据存储的问题,集群中有多个 master,每个master保存不同数据,并且还可以给每个master设置多个slave 节点,就可以继续增大集群的高并发能力。同时每个master之间通过ping监测彼此健康状态,就类似于哨兵模式了。当客户端请求可以访问集群任意节 点,最终都会被转发到正确节点。(自动路由)
Redis 集群引入了哈希槽的概念,有 16384 个哈希槽,集群中每个主节点绑定了一定范围的哈希槽范围, key通过 CRC16 校验后得到hash值(根据key的有效部分计算hash值。有效部分,如果key前面有大括号,大括号的内容就是有效部分,如果没有,则以key本身做为有效部分),然后对 16384 取模来决定放置哪个槽,通过槽找到对应的节点进行存储。取值的逻辑是一样的。
完全基于内存的,C语言编写,执行速度非常快;采用单线程,避免不必要的上下文切换可竞争条件;使用多路I/O复用模型,非阻塞IO,例如:bgsave 和 bgrewriteaof (AOF重写)都是在后台执行操作(fork一个子进程),不影响主线程的正常使用,不会产生阻塞。
Redis是纯内存操作,执行速度非常快,它的性能瓶颈是网络延迟而不是执行速度,IO多路复用模型主要就是实现了高效的网络请求。
I/O多路复用是指利用单个线程来同时监听多个Socket ,并在某个Socket可读、可写时得到通知,从而避免无效的等待,充分利用CPU 资源。目前的I/O多路复用都是采用的epoll模式实现,它会在通知用户进程 Socket就绪的同时,把已就绪的Socket写入用户空间,不需要挨个遍历 Socket来判断是否就绪,提升了性能。
其中Redis的网络模型就是使用I/O多路复用结合事件的处理器来应对多个 Socket请求,比如,提供了连接应答处理器、命令回复处理器,命令请求处理器;
在Redis6.0之后,为了提升更好的性能,在命令回复处理器使用了多线程来处理回复事件,在命令请求处理器中,将命令的转换使用了多线程,增加命令转换速度,在命令执行的时候,依然是单线程。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。