赞
踩
最近在学习spring cloud微服务,当学习到spring cloud bus的时候,涉及到了消息队列,需要学习RabbitMQ。
一、消息队列
1.1介绍消息队列
消息队列,即MQ,Message Queue
消息队列是典型的:生产者、消费者模型。生产者不断向消息队列中生产消息,消费者不断的从队列中获取消息。因为消息的生产和消费都是异步的,而且只关心消息的发送和接收,没有业务逻辑的侵入,这样就实现了生产者和消费者的解耦。
1.2 AMQP和JMS
MQ是消息通信的模型,并不是具体实现。现在实现MQ的有两种主流方式:AMQP、JMS。
两者间的区别和联系:
JMS是定义了统一的接口,来对消息操作进行统一;AMQP是通过规定协议来统一数据交互的格式
JMS限定了必须使用Java语言;AMQP只是协议,不规定实现方式,因此是跨语言的。
JMS规定了两种消息模型;而AMQP的消息模型更加丰富
1.3常见的MQ产品
ActiveMQ:基于JMS
RabbitMQ:基于AMQP协议,erlang语言开发,稳定性好
RocketMQ:基于JMS,阿里巴巴产品,目前交由Apache基金会
Kafka:分布式消息系统,高吞吐量
1.4 RabbitMQ
RabbitMQ是由erlang语言开发,基于AMQP(Advanced MessageQueue 高级消息队列协议)协议实现的消息队列,它是一种应用程序之间的通信方法,消息队列在分布式系统开发中应用非常广泛。
RabbitMQ官方地址:Messaging that just works — RabbitMQ
官方教程:RabbitMQ Tutorials — RabbitMQ
开发中消息队列通常有如下应用场景:
1、任务异步处理。
将不需要同步处理的并且耗时长的操作由消息队列通知消息接收方进行异步处理。提高了应用程序的响应时间。
2、应用程序解耦合
MQ相当于一个中介,生产方通过MQ与消费方交互,它将应用程序进行解耦合。
RabbitMQ的优势有哪些?
1、使得简单,功能强大。
2、基于AMQP协议。
3、社区活跃,文档完善。
4、高并发性能好,这主要得益于Erlang语言。
5、Spring Boot默认已集成RabbitMQ
1.5 安装windows版本的RabbitMQ
RabbitMQ由Erlang语言开发,Erlang语言用于并发及分布式系统的开发,在电信领域应用广泛,OTP(Open
Telecom Platform)作为Erlang语言的一部分,包含了很多基于Erlang开发的中间件及工具库,安装RabbitMQ需
要安装Erlang/OTP,并保持版本匹配,如下图:
RabbitMQ的下载地址:http://www.rabbitmq.com/download.html
现在用的是Erlang/OTP 20.3版本和RabbitMQ3.7.3版本。
1)下载erlang
地址如下:
http://erlang.org/download/otp_win64_20.3.exe,以管理员方式运行此文件,安装。
erlang安装完成需要配置erlang环境变量: ERLANG_HOME=D:\erl9.3 在path中添
加%ERLANG_HOME%\bin;
2)安装RabbitMQ
https://github.com/rabbitmq/rabbitmq-server/releases/tag/v3.7.3,以管理员方式运行此文件,安装。
3)安装成功后会自动创建RabbitMQ服务并且启动。
1.从开始菜单启动RabbitMQ
完成在开始菜单找到RabbitMQ的菜单:
RabbitMQ Service-install :安装服务
RabbitMQ Service-remove 删除服务
RabbitMQ Service-start 启动
RabbitMQ Service-stop 启动
2.如果没有开始菜单则进入安装目录下sbin目录手动启动:
3.安装并运行服务(在RabbitMQ安装目录的sbin目录下执行cmd,调出cmd命令窗口)
执行 rabbitmq-service.bat install 安装服务
rabbitmq-service.bat stop 停止服务
rabbitmq-service.bat start 启动服务
4.安装管理插件(在RabbitMQ安装目录的sbin目录下执行cmd,调出cmd命令窗口)
安装rabbitMQ的管理插件,方便在浏览器端管理RabbitMQ
管理员身份运行 rabbitmq-plugins.bat enable rabbitmq_management
5.启动成功 登录RabbitMQ
进入浏览器,输入:http://localhost:15672,初始账号和密码:guest/guest
登录之后的界面:
二、java客户端操作消息队列
RabbitMQ提供了7种消息模型,但是第6种其实是RPC,第7中是发布确认,并不是MQ,因此不予学习。那么也就剩下5种。
但是其实3、4、5这三种都属于订阅模型,只不过进行路由的方式不同
我们通过一个maven工程来了解下RabbitMQ的工作方式:
建立xiaomifeng1010-rabbitmq工程:
pom依赖:
- <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
- xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
- <modelVersion>4.0.0</modelVersion>
- <groupId>cn.xiaomifeng1010.rabbitmq</groupId>
- <artifactId>xiaomifeng1010-rabbitmq</artifactId>
- <version>0.0.1-SNAPSHOT</version>
- <parent>
- <groupId>org.springframework.boot</groupId>
- <artifactId>spring-boot-starter-parent</artifactId>
- <version>2.0.2.RELEASE</version>
- </parent>
- <properties>
- <java.version>1.8</java.version>
- </properties>
- <dependencies>
- <dependency>
- <groupId>org.apache.commons</groupId>
- <artifactId>commons-lang3</artifactId>
- <version>3.3.2</version>
- </dependency>
- <dependency>
- <groupId>org.springframework.boot</groupId>
- <artifactId>spring-boot-starter-amqp</artifactId>
- </dependency>
- <dependency>
- <groupId>org.springframework.boot</groupId>
- <artifactId>spring-boot-starter-test</artifactId>
- </dependency>
- </dependencies>
- </project>
我们抽取一个建立RabbitMQ连接的工具类,方便其他程序获取连接:
- package cn.xiaomifeng1010.rabbitmq.util;
-
- import com.rabbitmq.client.ConnectionFactory;
- import com.rabbitmq.client.Connection;
-
- public class ConnectionUtil {
- /**
- * 建立与RabbitMQ的连接
- * @return
- * @throws Exception
- */
- public static Connection getConnection() throws Exception {
- //定义连接工厂
- ConnectionFactory factory = new ConnectionFactory();
- //设置服务地址
- factory.setHost("localhost");
- //端口
- factory.setPort(5672);
- //设置账号信息,用户名、密码、virtualhost
- factory.setVirtualHost("/rabbitmq_test");
- factory.setUsername("guest");
- factory.setPassword("guest");
- // 通过工程获取连接
- Connection connection = factory.newConnection();
- return connection;
- }
-
- }
对应的在rabbitmq管理界面也需要配置virtualhost:
2.1.基本消息模型
RabbitMQ是一个消息代理:它接受和转发消息。 你可以把它想象成一个邮局:当你把邮件放在邮箱里时,你可以确定邮差先生最终会把邮件发送给你的收件人。 在这个比喻中,RabbitMQ是邮政信箱,邮局和邮递员。
RabbitMQ与邮局的主要区别是它不处理纸张,而是接受,存储和转发数据消息的二进制数据块。
P(producer/ publisher):生产者,一个发送消息的用户应用程序。
C(consumer):消费者,消费和接收有类似的意思,消费者是一个主要用来等待接收消息的用户应用程序
队列(红色区域):rabbitmq内部类似于邮箱的一个概念。虽然消息流经rabbitmq和你的应用程序,但是它们只能存储在队列中。队列只受主机的内存和磁盘限制,实质上是一个大的消息缓冲区。许多生产者可以发送消息到一个队列,许多消费者可以尝试从一个队列接收数据。
总之:
生产者将消息发送到队列,消费者从队列中获取消息,队列是存储消息的缓冲区。
我们将用Java编写两个程序;发送单个消息的生产者,以及接收消息并将其打印出来的消费者。我们将详细介绍Java API中的一些细节,这是一个消息传递的“Hello World”。
我们将调用我们的消息发布者(发送者)Send和我们的消息消费者(接收者)Recv。发布者将连接到RabbitMQ,发送一条消息,然后退出。
2.1.1.生产者发送消息
- package cn.xiaomifeng1010.rabbitmq.simple;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- /**
- * 生产者
- */
- public class Send {
-
- private final static String QUEUE_NAME = "simple_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 从连接中创建通道,使用通道才能完成消息相关的操作
- Channel channel = connection.createChannel();
- // 声明(创建)队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 消息内容
- String message = "Hello World!";
- // 向指定的队列中发送消息
- channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
-
- System.out.println(" [x] Sent '" + message + "'");
-
- //关闭通道和连接
- channel.close();
- connection.close();
- }
- }
控制台中输出了“hello world”
2.1.2.管理工具中查看消息
进入队列页面,可以看到新建了一个队列:simple_queue
点击队列名称,进入详情页,可以查看消息:
2.1.3.消费者获取消息
- package cn.xiaomifeng1010.rabbitmq.simple;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者
- */
- public class Recv {
- private final static String QUEUE_NAME = "simple_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 创建通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [x] received : " + msg + "!");
- }
- };
- // 监听队列,第二个参数:是否自动进行消息确认。
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
控制台信息:
这个时候,队列中的消息就没了:
我们发现,消费者已经获取了消息,但是程序没有停止,一直在监听队列中是否有新的消息。一旦有新的消息进入队列,就会立即打印.
2.1.4.消息确认机制(ACK)
通过刚才的案例可以看出,消息一旦被消费者接收,队列中的消息就会被删除。
那么问题来了:RabbitMQ怎么知道消息被接收了呢?
如果消费者领取消息后,还没执行操作就挂掉了呢?或者抛出了异常?消息消费失败,但是RabbitMQ无从得知,这样消息就丢失了!
因此,RabbitMQ有一个ACK机制。当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种情况:
自动ACK:消息一旦被接收,消费者自动发送ACK
手动ACK:消息接收后,不会发送ACK,需要手动调用
大家觉得哪种更好呢?
这需要看消息的重要性:
如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便
如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。
我们之前的测试都是自动ACK的,如果要手动ACK,需要改动我们的代码:
- package cn.xiaomifeng1010.rabbitmq.simple;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者,手动进行ACK
- */
- public class Recv2 {
- private final static String QUEUE_NAME = "simple_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 创建通道
- final Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [x] received : " + msg + "!");
- // 手动进行ACK
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
- // 监听队列,第二个参数false,手动进行ACK
- channel.basicConsume(QUEUE_NAME, false, consumer);
- }
- }
注意到最后一行代码:
channel.basicConsume(QUEUE_NAME, false, consumer);
如果第二个参数为true,则会自动进行ACK;如果为false,则需要手动ACK。方法的声明:
2.1.4.1.自动ACK存在的问题
修改消费者,添加异常,如下:
生产者不做任何修改,直接运行,消息发送成功:
运行消费者,程序抛出异常。但是消息依然被消费:
管理界面消息依然被消费了
2.1.4.2.演示手动ACK
修改消费者,把自动改成手动(去掉之前制造的异常);生产者不变,再次运行:
管理界面:未确认信息数量为1
停掉消费者的程序,发现:
查看管理界面:
这是因为虽然我们设置了手动ACK,但是代码中并没有进行消息确认!所以消息并未被真正消费掉。
当我们关掉这个消费者,消息的状态再次成为Ready
修改代码手动ACK: 就是rec2的实例
- package cn.xiaomifeng1010.rabbitmq.simple;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者,手动进行ACK
- */
- public class Recv2 {
- private final static String QUEUE_NAME = "simple_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 创建通道
- final Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [x] received : " + msg + "!");
- // 手动进行ACK
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
- // 监听队列,第二个参数false,手动进行ACK
- channel.basicConsume(QUEUE_NAME, false, consumer);
- }
- }
执行:消息接收成功
2.2.work消息模型
工作队列或者竞争消费者模式
在这里,我们将创建一个工作队列,在多个工作者之间分配耗时任务。
工作队列,又称任务队列。主要思想就是避免执行资源密集型任务时,必须等待它执行完成。相反我们稍后完成任务,我们将任务封装为消息并将其发送到队列。 在后台运行的工作进程将获取任务并最终执行作业。当你运行许多消费者时,任务将在他们之间共享,但是一个消息只能被一个消费者获取。
这个概念在Web应用程序中特别有用,因为在短的HTTP请求窗口中无法处理复杂的任务。
接下来我们来模拟这个流程:
P:生产者:任务的发布者
C1:消费者,领取任务并且完成任务,假设完成速度较快
C2:消费者2:领取任务并完成任务,假设完成速度慢
面试题:避免消息堆积?
1)采用workqueue,多个消费者监听同一队列。
2)接收到消息以后,而是通过线程池,异步消费。
2.2.1.生产者
生产者与案例1中的几乎一样:
- package cn.xiaomifeng1010.rabbitmq.work;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- // 生产者
- public class Send {
- private final static String QUEUE_NAME = "test_work_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 循环发布任务
- for (int i = 0; i < 50; i++) {
- // 消息内容
- String message = "task .. " + i;
- channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
- System.out.println(" [x] Sent '" + message + "'");
-
- Thread.sleep(i * 2);
- }
- // 关闭通道和连接
- channel.close();
- connection.close();
- }
- }
-
不过这里我们是循环发送50条消息。
2.2.2.消费者1
- package cn.xiaomifeng1010.rabbitmq.work;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- // 消费者1
- public class Recv {
- private final static String QUEUE_NAME = "test_work_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- final Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者1] received : " + msg + "!");
- try {
- // 模拟完成任务的耗时:1000ms
- Thread.sleep(1000);
- } catch (InterruptedException e) {
- }
- // 手动ACK
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
- // 监听队列。
- channel.basicConsume(QUEUE_NAME, false, consumer);
- }
- }
2.2.3.消费者2
- package cn.xiaomifeng1010.rabbitmq.work;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
- //消费者2
- public class Recv2 {
- private final static String QUEUE_NAME = "test_work_queue";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- final Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者2] received : " + msg + "!");
- // 手动ACK
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
- // 监听队列。
- channel.basicConsume(QUEUE_NAME, false, consumer);
- }
- }
与消费者1基本类似,就是没有设置消费耗时时间。
这里是模拟有些消费者快,有些比较慢。
接下来,两个消费者一同启动,然后发送50条消息:(先启动消费者1和2,再启动生产者)
可以发现,两个消费者各自消费了25条消息,而且各不相同,这就实现了任务的分发。
2.2.4.能者多劳
刚才的实现有问题吗?
消费者1比消费者2的效率要低,一次任务的耗时较长
然而两人最终消费的消息数量是一样的
消费者2大量时间处于空闲状态,消费者1一直忙碌
现在的状态属于是把任务平均分配,正确的做法应该是消费越快的人,消费的越多。
怎么实现呢?
我们可以使用basicQos方法和prefetchCount = 1设置。 这告诉RabbitMQ一次不要向工作人员发送多于一条消息。 或者换句话说,不要向工作人员发送新消息,直到它处理并确认了前一个消息。 相反,它会将其分派给不是仍然忙碌的下一个工作人员。
再次测试:
2.3.订阅模型分类
在之前的模式中,我们创建了一个工作队列。 工作队列背后的假设是:每个任务只被传递给一个工作人员。 在这一部分,我们将做一些完全不同的事情 - 我们将会传递一个信息给多个消费者。 这种模式被称为“发布/订阅”。
订阅模型示意图:
解读:
1、1个生产者,多个消费者
2、每一个消费者都有自己的一个队列
3、生产者没有将消息直接发送到队列,而是发送到了交换机
4、每个队列都要绑定到交换机
5、生产者发送的消息,经过交换机到达队列,实现一个消息被多个消费者获取的目的
X(Exchanges):交换机一方面:接收生产者发送的消息。另一方面:知道如何处理消息,例如递交给某个特别队列、递交给所有队列、或是将消息丢弃。到底如何操作,取决于Exchange的类型。
Exchange类型有以下几种:
Fanout:广播,将消息交给所有绑定到交换机的队列
Direct:定向,把消息交给符合指定routing key 的队列
Topic:通配符,把消息交给符合routing pattern(路由模式) 的队列
我们这里先学习
Fanout:即广播模式
Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失!
2.4.订阅模型-Fanout
Fanout,也称为广播。
流程图:
在广播模式下,消息发送流程是这样的:
1) 可以有多个消费者
2) 每个消费者有自己的queue(队列)
3) 每个队列都要绑定到Exchange(交换机)
4) 生产者发送的消息,只能发送到交换机,交换机来决定要发给哪个队列,生产者无法决定。
5) 交换机把消息发送给绑定过的所有队列
6) 队列的消费者都能拿到消息。实现一条消息被多个消费者消费
2.4.1.生产者
两个变化:
1) 声明Exchange,不再声明Queue
2) 发送消息到Exchange,不再发送到Queue
- package cn.xiaomifeng1010.rabbitmq.fanout;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
-
- public class Send {
-
- private final static String EXCHANGE_NAME = "fanout_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
-
- // 声明exchange,指定类型为fanout
- channel.exchangeDeclare(EXCHANGE_NAME, "fanout");
-
- // 消息内容
- String message = "Hello everyone";
- // 发布消息到Exchange
- channel.basicPublish(EXCHANGE_NAME, "", null, message.getBytes());
- System.out.println(" [生产者] Sent '" + message + "'");
-
- channel.close();
- connection.close();
- }
- }
2.4.2.消费者1
- package cn.xiaomifeng1010.rabbitmq.fanout;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- //消费者1
- public class Recv {
- private final static String QUEUE_NAME = "fanout_exchange_queue_1";
-
- private final static String EXCHANGE_NAME = "fanout_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
- // 绑定队列到交换机
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "");
-
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者1] received : " + msg + "!");
- }
- };
- // 监听队列,自动返回完成
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
要注意代码中:队列需要和交换机绑定
2.4.3.消费者2
- package cn.xiaomifeng1010.rabbitmq.fanout;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
- // 消费者2
- public class Recv2 {
- private final static String QUEUE_NAME = "fanout_exchange_queue_2";
-
- private final static String EXCHANGE_NAME = "fanout_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
-
- // 绑定队列到交换机
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "");
-
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者2] received : " + msg + "!");
- }
- };
- // 监听队列,手动返回完成
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
2.4.4.测试
我们运行两个消费者,然后发送1条消息:(先启动两个消费者接收,再启动生产者发送)
2.5.订阅模型-Direct
有选择性的接收消息
在订阅模式中,生产者发布消息,所有消费者都可以获取所有消息。
在路由模式中,我们将添加一个功能 - 我们将只能订阅一部分消息。 例如,我们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然能够在控制台上打印所有日志消息。
但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。
在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)
消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。
P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。
X:Exchange(交换机),接收生产者的消息,然后把消息递交给 与routing key完全匹配的队列
C1:消费者,其所在队列指定了需要routing key 为 error 的消息
C2:消费者,其所在队列指定了需要routing key 为 info、error、warning 的消息
2.5.1.生产者
此处我们模拟商品的增删改,发送消息的RoutingKey分别是:insert、update、delete
发送新增商品:
- package cn.xiaomifeng1010.rabbitmq.direct;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- /**
- * 生产者,模拟为商品服务
- */
- public class Send {
- private final static String EXCHANGE_NAME = "direct_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明exchange,指定类型为direct
- channel.exchangeDeclare(EXCHANGE_NAME, "direct");
- // 消息内容
- String message = "商品新增了, id = 1001";
- // 发送消息,并且指定routing key 为:insert ,代表新增商品
- channel.basicPublish(EXCHANGE_NAME, "insert", null, message.getBytes());
- System.out.println(" [商品服务:] Sent '" + message + "'");
-
- channel.close();
- connection.close();
- }
- }
发送修改商品:
- package cn.xiaomifeng1010.rabbitmq.direct;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- /**
- * 生产者,模拟为商品服务
- */
- public class Send {
- private final static String EXCHANGE_NAME = "direct_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明exchange,指定类型为direct
- channel.exchangeDeclare(EXCHANGE_NAME, "direct");
- // 消息内容
- String message = "商品修改了, id = 1001";
- // 发送消息,并且指定routing key 为:update ,代表新增商品
- channel.basicPublish(EXCHANGE_NAME, "update", null, message.getBytes());
- System.out.println(" [商品服务:] Sent '" + message + "'");
-
- channel.close();
- connection.close();
- }
- }
发送删除商品:
- package cn.xiaomifeng1010.rabbitmq.direct;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- /**
- * 生产者,模拟为商品服务
- */
- public class Send {
- private final static String EXCHANGE_NAME = "direct_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明exchange,指定类型为direct
- channel.exchangeDeclare(EXCHANGE_NAME, "direct");
- // 消息内容
- String message = "商品删除了, id = 1001";
- // 发送消息,并且指定routing key 为:delete ,代表删除商品
- channel.basicPublish(EXCHANGE_NAME, "delete", null, message.getBytes());
- System.out.println(" [商品服务:] Sent '" + message + "'");
-
- channel.close();
- connection.close();
- }
- }
2.5.2.消费者1
我们此处假设消费者1只接收两种类型的消息:更新商品和删除商品
- package cn.xiaomifeng1010.rabbitmq.direct;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者1
- */
- public class Recv {
- private final static String QUEUE_NAME = "direct_exchange_queue_1";
- private final static String EXCHANGE_NAME = "direct_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
-
- // 绑定队列到交换机,同时指定需要订阅的routing key。假设此处需要update和delete消息
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update");
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete");
-
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者1] received : " + msg + "!");
- }
- };
- // 监听队列,自动ACK
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
2.5.3.消费者2
我们此处假设消费者2接收所有类型的消息:新增商品,更新商品和删除商品。
- package cn.xiaomifeng1010.rabbitmq.direct;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者2
- */
- public class Recv2 {
- private final static String QUEUE_NAME = "direct_exchange_queue_2";
- private final static String EXCHANGE_NAME = "direct_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
-
- // 绑定队列到交换机,同时指定需要订阅的routing key。订阅 insert、update、delete
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "insert");
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update");
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete");
-
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者2] received : " + msg + "!");
- }
- };
- // 监听队列,自动ACK
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
2.5.4.测试
我们分别发送增、删、改的RoutingKey,发现结果:(例如发送增加的信息,则注释掉改和删的信息,启动三次生产者发送消息,仍然是先启动消费者,后启动生产者)
2.6.订阅模型-Topic
Topic
类型的Exchange
与Direct
相比,都是可以根据RoutingKey
把消息路由到不同的队列。只不过Topic
类型Exchange
可以让队列在绑定Routing key
的时候使用通配符!
Routingkey
一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert
通配符规则:
`#`:匹配一个或多个词
`*`:匹配不多不少恰好1个词
举例:
- `audit.#`:能够匹配`audit.irs.corporate` 或者 `audit.irs`
-
- `audit.*`:只能匹配`audit.irs`
在这个例子中,我们将发送所有描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:“<speed>.<color>.<species>”。
我们创建了三个绑定:Q1绑定了绑定键“* .orange.”,Q2绑定了“.*.rabbit”和“lazy.#”。
Q1匹配所有的橙色动物。
Q2匹配关于兔子以及懒惰动物的消息。
练习,生产者发送如下消息,会进入那个队列:
quick.orange.rabbit Q1 Q2
lazy.orange.elephant
quick.orange.fox
lazy.pink.rabbit
quick.brown.fox
quick.orange.male.rabbit
orange
2.6.1.生产者
使用topic类型的Exchange,发送消息的routing key有3种: item.isnert
、item.update
、item.delete
:
- package cn.xiaomifeng1010.rabbitmq.topic;
-
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- /**
- * 生产者,模拟为商品服务
- */
- public class Send {
- private final static String EXCHANGE_NAME = "topic_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明exchange,指定类型为topic
- channel.exchangeDeclare(EXCHANGE_NAME, "topic");
- // 消息内容
- String message = "新增商品 : id = 1001";
- // 发送消息,并且指定routing key 为:insert ,代表新增商品
- channel.basicPublish(EXCHANGE_NAME, "item.insert", null, message.getBytes());
- System.out.println(" [商品服务:] Sent '" + message + "'");
-
- channel.close();
- connection.close();
- }
- }
2.6.2.消费者1
我们此处假设消费者1只接收两种类型的消息:更新商品和删除商品
- package cn.xiaomifeng1010.rabbitmq.topic;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者1
- */
- public class Recv {
- private final static String QUEUE_NAME = "topic_exchange_queue_1";
- private final static String EXCHANGE_NAME = "topic_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
-
- // 绑定队列到交换机,同时指定需要订阅的routing key。需要 update、delete
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.update");
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.delete");
-
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者1] received : " + msg + "!");
- }
- };
- // 监听队列,自动ACK
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
2.6.3.消费者2
我们此处假设消费者2接收所有类型的消息:新增商品,更新商品和删除商品。
- package cn.xiaomifeng1010.rabbitmq.topic;
-
- import java.io.IOException;
- import cn.xiaomifeng1010.rabbitmq.util.ConnectionUtil;
- import com.rabbitmq.client.AMQP.BasicProperties;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.DefaultConsumer;
- import com.rabbitmq.client.Envelope;
-
- /**
- * 消费者2
- */
- public class Recv2 {
- private final static String QUEUE_NAME = "topic_exchange_queue_2";
- private final static String EXCHANGE_NAME = "topic_exchange_test";
-
- public static void main(String[] argv) throws Exception {
- // 获取到连接
- Connection connection = ConnectionUtil.getConnection();
- // 获取通道
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(QUEUE_NAME, false, false, false, null);
-
- // 绑定队列到交换机,同时指定需要订阅的routing key。订阅 insert、update、delete
- channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.*");
-
- // 定义队列的消费者
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
- byte[] body) throws IOException {
- // body 即消息体
- String msg = new String(body);
- System.out.println(" [消费者2] received : " + msg + "!");
- }
- };
- // 监听队列,自动ACK
- channel.basicConsume(QUEUE_NAME, true, consumer);
- }
- }
2.7.持久化
如何避免消息丢失?
1) 消费者的ACK机制。可以防止消费者丢失消息。
2) 但是,如果在消费者消费之前,MQ就宕机了,消息就没了。
是可以将消息进行持久化呢?
要将消息持久化,前提是:队列、Exchange都持久化
2.7.1.交换机持久化
2.7.2.队列持久化
2.7.3.消息持久化
三.Spring AMQP
3.1.简介
Sprin有很多不同的项目,其中就有对AMQP的支持
Spring AMQP的页面:Spring AMQP
注意这里一段描述:
Spring-amqp是对AMQP协议的抽象实现,而spring-rabbit 是对协议的具体实现,也是目前的唯一实现。底层使用的就是RabbitMQ。
3.2 添加AMQP的启动器:
- <dependency>
- <groupId>org.springframework.boot</groupId>
- <artifactId>spring-boot-starter-amqp</artifactId>
- </dependency>
在application.yml
中添加RabbitMQ地址:
- spring:
- rabbitmq:
- host: localhost
- username: guest
- password: guest
- virtual-host: /spring_rabbitmq_test
spring应用配置中配置了virtual-host,管理界面中也需要配置响应的virtualhost
3.3.监听者
在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要通过简单的注解,就可以成为一个消费者。
- package cn.xiaomifeng1010.rabbitmq.spring;
-
- import org.springframework.amqp.core.ExchangeTypes;
- import org.springframework.amqp.rabbit.annotation.Exchange;
- import org.springframework.amqp.rabbit.annotation.Queue;
- import org.springframework.amqp.rabbit.annotation.QueueBinding;
- import org.springframework.amqp.rabbit.annotation.RabbitListener;
- import org.springframework.stereotype.Component;
-
- @Component
- public class Listener {
-
- @RabbitListener(bindings = @QueueBinding(
- value = @Queue(value = "spring.test.queue", durable = "true"),
- exchange = @Exchange(
- value = "spring.test.exchange",
- ignoreDeclarationExceptions = "true",
- type = ExchangeTypes.TOPIC
- ),
- key = {"#.#"}))
- public void listen(String msg){
- System.out.println("接收到消息:" + msg);
- }
- }
@Componet
:类上的注解,注册到Spring容器
@RabbitListener
:方法上的注解,声明这个方法是一个消费者方法,需要指定下面的属性:
bindings
:指定绑定关系,可以有多个。值是@QueueBinding
的数组。@QueueBinding
包含下面属性:
value
:这个消费者关联的队列。值是@Queue
,代表一个队列
exchange
:队列所绑定的交换机,值是@Exchange
类型
key
:队列和交换机绑定的RoutingKey
类似listen这样的方法在一个类中可以写多个,就代表多个消费者
3.4.AmqpTemplate
Spring最擅长的事情就是封装,把他人的框架进行封装和整合。
Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,非常方便的发送消息,其发送方法:
- package cn.xiaomifeng1010.rabbitmq.spring;
-
- import org.junit.Test;
- import org.junit.runner.RunWith;
- import org.springframework.amqp.core.AmqpTemplate;
- import org.springframework.beans.factory.annotation.Autowired;
- import org.springframework.boot.test.context.SpringBootTest;
- import org.springframework.test.context.junit4.SpringRunner;
-
-
- @RunWith(SpringRunner.class)
- @SpringBootTest(classes = Application.class)
- public class MqDemo {
-
- @Autowired
- private AmqpTemplate amqpTemplate;
-
- @Test
- public void testSend() throws InterruptedException {
- String msg = "hello, Spring boot amqp";
- this.amqpTemplate.convertAndSend("spring.test.exchange","a.b", msg);
- // 等待10秒后再结束
- Thread.sleep(10000);
- }
- }
红框圈起来的是比较常用的3个方法,分别是:
指定交换机、RoutingKey和消息体
指定消息
指定RoutingKey和消息,会向默认的交换机发送消息
运行测试类MqDemo中的测试方法,运行后查看日志:
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。