Redis延迟队列原理及实例_redis延时队列原理

一、Redis延迟队列的原理

在Redis延迟队列中，我们使用有序集合（Sorted Set）来存储消息，其中，消息的到期时间作为有序集合的分数，消息内容作为有序集合的成员。例如，我们向Redis中添加一个到期时间为2023年12月25日的消息，可以使用以下命令：

ZADD delay_queue 1640390400 "message content"
1

在这个命令中，delay_queue是有序集合的名称，1640390400是消息的到期时间（即2023年12月25日的时间戳），"message content"是消息的内容。

当我们需要消费这个延迟消息时，需要定期轮询有序集合，找到所有到期的消息进行消费。可以使用以下命令：

ZRANGEBYSCORE delay_queue 0 CURRENT_TIMESTAMP
1

其中，CURRENT_TIMESTAMP为当前时间戳，该命令的作用是获取当前时间之前的所有消息。然后，我们可以遍历返回结果，依次进行消息的处理。

对于已经处理完成的消息，可以选择从有序集合中删除，也可以将其留在有序集合中，等待下一次轮询。如果希望删除消息，可以使用以下命令：

ZREM delay_queue "message content"
1

通过这种方式，Redis延迟队列可以实现消息的延迟投递和消费。因为消息按照到期时间排序，所以可以保证消息的有序性。此外，由于Redis本身是一种高性能内存数据库，所以延迟队列的处理效率也非常高。

二、数据结构说明

2.1、数据结构说明

Sorted Set（有序集合）在Redis中也被称为 ZSet（有序集合）。在Redis中，ZSet提供了有序的、唯一的成员（member）和对应的分数（score）之间的映射关系。这种数据结构非常适合用来实现延迟队列，因为可以根据分数进行范围查询，从而轻松地获取到期的消息。

2.2、为什么Sorted Set适合做延迟队列

Sorted Set（有序集合）适合用于实现延迟队列的主要原因有以下几点：

1. 有序性：Sorted Set中的成员按照分数进行排序，这使得我们可以方便地根据到期时间进行范围查询。通过设置分数为消息的到期时间，可以轻松地获取到期的消息，而无需遍历整个队列。

2. 唯一性：Sorted Set中的成员是唯一的，这意味着我们可以确保消息不会重复。这对于一些需要确保消息处理幂等性的场景非常重要。

3. 高效性：Redis是一种高性能的内存数据库，Sorted Set的操作效率很高。在使用Sorted Set实现延迟队列时，添加、删除和范围查询等操作都可以在O(logN)的时间复杂度内完成，具有良好的性能表现。

4. 支持多种操作：除了基本的添加、删除和范围查询，Sorted Set还支持其他一些有用的操作，如获取成员的分数、修改成员的分数、按照分数范围删除成员等。这些操作可以为延迟队列的管理提供更多的灵活性和功能。

综上所述，Sorted Set具备有序性、唯一性、高效性和丰富的操作特性，使其成为实现延迟队列的理想选择。在Redis中利用Sorted Set来实现延迟队列，可以简单高效地处理延迟任务。

2.3、Sorted Set内部结构

Sorted Set 能够按照分数进行排序的原因在于它内部使用了一种数据结构——跳跃表（Skip List）。跳跃表是一种有序链表的数据结构，它通过在不同层级上建立索引的方式，提高了基本有序链表的查找效率。在 Redis 中，Sorted Set 的实现就是基于跳跃表。

通过跳跃表，Sorted Set 在插入新成员时可以保持成员的有序性。当需要按照分数进行排序时，Redis 内部会利用跳跃表的特性，快速地定位到对应分数的成员，从而实现按照分数进行排序的功能。

跳跃表的查询时间复杂度为 O(logN)，这意味着无论集合中有多少成员，按照分数进行范围查询的效率都很高。这也是为什么 Sorted Set 能够高效地支持按照分数进行排序的重要原因之一。

总的来说，跳跃表作为 Sorted Set 内部的数据结构，通过其高效的有序性和索引特性，使得 Sorted Set 能够轻松地按照分数进行排序。

三、三种实现方式

3.1、 Jedis实现方式

import redis.clients.jedis.Jedis;
import redis.clients.jedis.Tuple;

import java.util.Set;

public class RedisDelayQueue {
    private static final String DELAY_QUEUE_KEY = "delay_queue";

    public static void main(String[] args) {
        // 连接 Redis
        Jedis jedis = new Jedis("localhost");

        // 添加延迟消息
        addMessageToDelayQueue(jedis, "message1", 5000);  // 延迟 5 秒发送
        addMessageToDelayQueue(jedis, "message2", 10000); // 延迟 10 秒发送

        // 处理延迟消息
        processDelayQueue(jedis);

        // 断开连接
        jedis.close();
    }

    // 将消息添加到延迟队列
    private static void addMessageToDelayQueue(Jedis jedis, String message, long delayMillis) {
        long currentTime = System.currentTimeMillis();
        long delayTime = currentTime + delayMillis;

        jedis.zadd(DELAY_QUEUE_KEY, delayTime, message);
        System.out.println("Message added to delay queue: " + message);
    }

    // 处理延迟队列中的消息
    private static void processDelayQueue(Jedis jedis) {
        while (true) {
            long currentTime = System.currentTimeMillis();

            // 获取当前时间之前的第一个消息及其分数
            Set<Tuple> messages = jedis.zrangeByScoreWithScores(DELAY_QUEUE_KEY, 0, currentTime, 0, 1);

        if (messages.isEmpty()) {
            // 延迟队列为空，暂停一段时间再继续轮询
            try {
                Thread.sleep(1000); // 暂停 1 秒钟
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            continue;
        }

            // 处理消息，这里简单打印消息内容
            for (Tuple tuple : messages) {
                String message = tuple.getElement();
                double score = tuple.getScore();

                System.out.println("Processing message: " + message);
                System.out.println("Scheduled time: " + score);

                // 从延迟队列中移除已处理的消息
                jedis.zrem(DELAY_QUEUE_KEY, message);
            }
        }
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64

3.2、Redisson实现（推荐）

Redisson 是一个基于 Redis 的 Java 客户端，Redisson 提供了 RDelayedQueue 接口和 RQueue, RBlockingDeque 接口来实现延迟队列。
原理如下：

• 首先，你需要创建一个基本的队列，然后将它包装在一个延迟队列中。将延迟任务添加到延迟队列中，指定任务的内容和延迟时间（以毫秒为单位）。
• 延迟队列会自动处理过期的任务并将它们移动到基本队列中。你可以从基本队列中获取任务并进行处理。

过程有点像RabbitMq, 延迟队列 + TTL + 死信队列，用两个队列结合使用。

下面是使用 Redisson 实现延迟队列的示例代码：

1. 创建两个队列，并关联

@Bean
public RDelayedQueue delayedQueue(RedissonClient redissonClient) {
 	// 创建阻塞队列
 	RBlockingDeque<String> queue = redissonClient.getBlockingDeque("redisson_delay_Queue");
​    // 创建延迟队列并关联到基本队列
​    RDelayedQueue<String> delayedQueue = redissonClient.getDelayedQueue(queue);
​    return delayedQueue;
}

1
2
3
4
5
6
7
8
9

2. 添加延迟任务到延迟队列中

// 添加延迟任务
delayedQueue.offer("Task1", 5000); // 5秒延迟
delayedQueue.offer("Task2", 10000); // 10秒延迟
1
2
3

3. 处理延迟任务
   延迟队列会自动处理过期的任务并将它们移动到阻塞队列中。你可以从阻塞队列中获取任务并进行处理。

while (true){
	// 获取并移除队首元素，如果队列为空，则阻塞等待
    String take = queue.take();
    log.info("当前时间:{},值:{}", LocalDateTime.now(),take);
}

1
2
3
4
5
6

为什么要使用阻塞队列 RBlockingDeque，而不使用普通队列RQueue，普通队列在获取队列元素时没有阻塞的功能，在while(true)中一直循环，导致cpu空转，造成资源浪费。阻塞队列的话，队列没有元素会阻塞着。

4. 单测实例

@Test
public void redisDelayedQueueTest() {
   RBlockingDeque<String> test = redissonClient.getBlockingDeque("test");
   RDelayedQueue<String> delayedQueue = redissonClient.getDelayedQueue(test);

        delayedQueue.offer("1",20, TimeUnit.SECONDS);
        delayedQueue.offer("2",10, TimeUnit.SECONDS);
        log.info("当前时间:{}", LocalDateTime.now());
        while (true){
            String take = test.take();
            log.info("当前时间:{},值:{}", LocalDateTime.now(),take);
        }
}
1
2
3
4
5
6
7
8
9
10
11
12
13

3.3、RedisTemplate 实现

import com.alibaba.fastjson.JSON;
import com.jingdianjichi.redis.util.RedisUtil;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;
import org.springframework.util.CollectionUtils;
import javax.annotation.Resource;
import java.util.Collections;
import java.util.Date;
import java.util.Set;
import java.util.stream.Collectors;

/**
 * @Description: 群发任务延时service
 * @DateTime: 2023/12/8 23:24
 */
@Service
@Slf4j
public class MassMailTaskService {

    @Resource
    private RedisUtil redisUtil;

    private static final String MASS_MAIL_TASK_KEY = "massMailTask";

    public void pushMassMailTaskQueue(MassMailTask massMailTask) {
        Date startTime = massMailTask.getStartTime();
        if (startTime == null) {
            return;
        }
        if (startTime.compareTo(new Date()) <= 0) {
            return;
        }
        log.info("定时群发任务加入延时队列，massMailTask:{}", JSON.toJSON(massMailTask));
        redisUtil.zAdd(MASS_MAIL_TASK_KEY, massMailTask.getTaskId().toString(), startTime.getTime());
    }

    public Set<Long> poolMassMailTaskQueue() {
        Set<String> taskIdSet = redisUtil.rangeByScore(MASS_MAIL_TASK_KEY, 0, System.currentTimeMillis());
        log.info("获取延迟群发任务，taskIdSet：{}", JSON.toJSON(taskIdSet));
        if (CollectionUtils.isEmpty(taskIdSet)) {
            return Collections.emptySet();
        }
        redisUtil.removeZsetList(MASS_MAIL_TASK_KEY, taskIdSet);
        return taskIdSet.stream().map(n -> Long.parseLong(n)).collect(Collectors.toSet());
    }


}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49

@Component
@Slf4j
public class RedisUtil {

    @Resource
    private RedisTemplate redisTemplate;

    public Boolean zAdd(String key, String value, Long score) {
        return redisTemplate.opsForZSet().add(key, value, Double.valueOf(String.valueOf(score)));
    }

    public void removeZsetList(String key, Set<String> value) {
        value.stream().forEach((val) -> redisTemplate.opsForZSet().remove(key, val));
    }

    public Set<String> rangeByScore(String key, long start, long end) {
        return redisTemplate.opsForZSet().rangeByScore(key, Double.valueOf(String.valueOf(start)), Double.valueOf(String.valueOf(end)));
    }



}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

四、总结

个人建议使用Redisson的方式。因为队列中没有元素时，会阻塞。从而避免了while(true) 一直循环，空转cpu, 浪费资源~ 。其他两种方式在while(true)中获取不到元素会一直死循环，要手动设置线程休眠时间~