当前位置:   article > 正文

RabbitMQ盘点_rabbitmq为什么那么快

rabbitmq为什么那么快

1、RabbitMQ高性能的原因
1)Erlang进程间上下文切换效率远高于C语言和Java,进一步提高了RabbitMQ并发性能
2)Erlang的网络性能有着和原生Socket一样的延迟,是的RabbitMQ的网络IO性能极高
3)使用AMQP协议

#使用语言
erlang

#erlang特点
1)通用的面向并发编程语言,适用于分布式系统
2)基于虚拟机解释运行,支持跨平台部署
3)进程间上下切换效率远高于C语言
4)有着和原生Socket一样的延时

#使用背书
1)RabbitMQ底层使用Erlang实现,天生具有高性能的基因
2)RabbitMQ在互联网和金融领域广泛的应用


2、AMQP协议
1)AMQP协议作为RabbitMQ的规范,规定了RabbitMQ对外接口
2)学会了AMQP协议的使用,就基本上掌握了RabbitMQ的使用

3、AMQP协议架构
1)AMQP协议直接定义了RabbitMQ的内部结构和外部行为
2)我们使用RabbitMQ本质上是在使用AMQP协议
3)AMQP协议被多种消息中间件使用

4、消息流转流程
1)发送者不能直接将消息发送给最终队列,必须发送给交换机
2)消息根据路由规则,消息由交换机转发给队列
3)消费者是从队列将消息取走的

5、合理的交换机和队列设置
1)交换机数量不能过多,一般来说同一个业务,或者同一类业务使用同一个交换机
2)合理设置队列数量,一般来说一个微服务监听一个队列,或者一个微服务的一个业务监听一个队列

6、使用自动化配置
1)将创建交换机/队列的操作固化在应用代码里,免去复杂的运维操作,高效且不易出错
2)一般来说,交换机由双方同时声明,队列由接收方声明并配置绑定关系
2)交换机/队列的参数一定要由双方开发团队确认,否则重复声明,若参数不一致,会导致声明失败


#Broker:接受和分发消息的应用,RabbitMQ就是Message Broker
#Virtual Host:虚拟Broker,将多个单元隔离开
#Connection:publisher/consumer和broker之间的TCP连接
#Channel:connection内部建立的逻辑连接,通常每个线程创建单独的channel
#Routing Key:路由键,用来指示消息的路由转发,相当于快递的地址
#Exchange:交换机,相当于快递的分拣中心
1)Exchange是AMQP协议和RabbitMQ的核心组件
2)Exchange的功能是根据绑定关系和路由键为消息提供路由,将消息转发至相应的队列
3)Exchange有 4 种类型:Direct / Topic / Fanout / Headers其中Headers使用很少,以前三种为主
1》Direct Exchange(直接路由)
Message中的Routing Key如果和Binding Key一致,Direct Exchange则将message发到了对应的queue中

2》Fanout Exchange(广播路由,扇形分发)
每个发到Fanout Exchange的message都会分发到所有绑定的queue上去,不区分Routing Key和Binding Key的对应,功能较为复杂,但是能降级为Direct,建议优先使用,以后可以拓展

3》Topit Exchange(会话路由)
根据Routing Key及通配规则,Topic Exchange将消息分发给目标Queue
全匹配:与Direct类似
Binding Key中的#:匹配任意个数的word(单词)
Binding Key中的*:匹配任意1个word(单词)

#Queue:消息队列,消息被送到这里等待consumer取走
#Binding:exchange和queue之间的虚拟连接,用于message的分发依据

#在AMQP协议或者是RabbitMQ实现中,最核心的组件是Exchange
#Exchange承担RabbitMQ的核心功能-路由转发


3、RabbitMQ管理界面
1)Overview(概览)
2)Connections(连接)
3)Channels(通道)
4)Exchange(交换机)
5)Queues(队列)
6)Admin(管理)

4、命令行控制
1)查看状态
rabbitmqctl status

2)查看绑定
rabbitmqctl list_bindings

3)查看channel
rabbitmqctl list_channels

4)查看connection
rabbitmqctl list_connections

5)查看消费者
rabbitmqctl list_consumers

6)查看交换机
rabbitmqctl list_exchanges

7)查看队列
rabbitmqctl list_queues

8)删除队列(线上在测试环境完全复盘才可以让运维执行)
rabbitmqctl delete_queue

9)清空队列(线上在测试环境完全复盘才可以让运维执行)
rabbitmqctl purge_queue

10)新建用户
rabbitmqctl add_user

11)修改用户密码
rabbitmqtcl change_password

12)删除用户
rabbitmqtcl delete_user

13)查看用户
rabbitmqtal list_user

14)设置用户角色
rabbitmqctl rabbitmqctl set_user_tags

15)启动应用
rabbitmq start_app

16)关闭应用
rabbitmqctl stop_app,保留Erlang虚拟机

17)关闭应用
rabbitmqctl stop,并关闭Erlang虚拟机

18)加入集群
rabbitmqctl join——cluster

19)离开集群
rabbitmqctl reset

20)设置镜像队列
rabbitmqctl sync_queue

21)取消镜像队列
rabbitmqctl cancel_sync_queue

1、发送端消息真的发出去了么
解决方法:使用RabbitMQ发送端确认机制,确认消息发送,会有方法回调通知

2、发送端消息真的被路由了么
解决方法:使用RabbitMQ消息返回机制,确认消息真正被路由

3、消费端处理的过来么
解决方法:使用RabbitMQ消费端限流机制,限制消息推送速度,保障接收端服务稳定

4、消费端处理异常怎么办
消费端接受消息,消息会被自动签收(ACK)
解决方法:使用RabbitMQ消费端确认机制,确认消息正确处理

5、队列饱满怎么办
默认情况下,消息进入队列,会永远存在,直到被消费
大量堆积的消息会给RabbitMQ产生很大压力
解决方法:使用RabbitMQ消息过期时间,房子消息大量积压

6、如何转移过期消息
消息被设置了过期时间,过期后会直接被丢弃
直接丢弃的消息,无法对系统运行异常发出警报
解决方法:使用RabbitMQ死信队列,收集过期消息,以供分析


使用RabbitMQ开发总结
1、对于频繁创建和销毁的线程,必须使用线程池,否则极易线程溢出,造成“线程爆炸”
2、各种POJO数据结构必须单一职责,混用会导致代码混乱
PO/DO:(Persistent Object/Data Object)持久对象
DTO:(Data Transfer Object)数据传输对象
BO:(Business Object)业务对象
VO:(View Object)显示层对象


保证消息的可靠性
1、发送方
1)需要使用RabbitMQ发送端确认机制,确认消息成功发送到RabbitMQ并处理
2)需要使用RabbitMQ消息返回机制,若没发现目标队列,中间件会通知发送方

2、消费方
1)需求使用RabbitMQ消费端确认机制,确认消息没有发送处理异常
2)需要使用rabbitMQ消费端限流机制,限流消息推送速度,保证接收端服务稳定

2、RabbitMQ自身
1)大量堆积消息会给RabbitMQ产生很大的压力,需要使用RabbitMQ消息过期时间,防止消息大量积压
2)过期后悔直接被丢弃,无法对系统运行异常发出警报 ,


三种确认机制
1、单条同步确认机制
1)配置channel,开启确认模式:channelconfirmSelect();
2)每发送一条消息,调用channel.waitForConfirms()方法等待确认;

2、多条同步确认机制
1)配置channel,开启确认模式:channelconfirmSelect();
2)发送多条消息,调用channel.waitForConfirms()方法等待确认;

3、多条异步确认机制
1)配置channel,开启确认模式:channelconfirmSelect();
2)在channel上添加监听:addConfirmListener,发送消息后,会回调此方法,通知是否发送成功
3)异步确认有可能是单条,有可能是多条,取决于MQ

消息返回机制
1)RabbitMQ基础配置中有个关键的配置项:Mandatory
2)Mandatory若为false,RabbitMQ将字节丢弃无法路由的消息
3)Mandatory若为true,RabbitMQ才会处理无法路由的消息

消费端确认
1)basicConsume中的字段自动签收设置false,(这样操作会造成业务死循环)

重回队列
1)开启不自动签收,超时后会会重回队列

消费端限流机制
1、业务高峰期,可能出现发送端与接收端性能不一致,大量消息被同时推送给接收端,造成接收端服务崩溃
2、使用RabbitMQ消费端限流机制,限制消息推送速度,保障接收端服务稳定
3、针对业务上的问题,RabbitMQ开发了QOS(服务质量保证)功能
4、QOS功能能保证在一定数目的消息未被确认前,不消费新的消息
5、QOS功能前提是不使用自动确认

QOS原理
1、QOS原理是当消费端有一定数量的消息未被ACK确认时,RabbitMQ不给消费端推送新的消息
2、RabbitMQ使用QOS机制实现了消费端限流

消费端限流机制参数设置
1、prefetchCount:针对一个消费端最多推送多少未确认消息
2、global:true针对整个消费端限流    false针对当前channel
3、prefetchSize:0 单个消息大小限制,一般为0
4、prefetchSize与global两项,RabbitMQ暂时为实现

消息过期机制
业务需求:
1)默认情况下,消息进入队列,会永远存在,知道被消息
2)大量堆积的消息会给RabbitMQ产生很大的压力
3)需要使用RabbitMQ消息过期时间,防止大量消息积累

RabbitMQ过期时间(TTL)

死信队列
定义:
1、队列被配置了DLX属性(Dead-Letter-Exchange)
2、当一个消息变成死信(dead message)后,能重新发布到另一个Exchange,这个Exchange也是一个普通的交换机
3、死信被死信交换机路由后,一般进入一个固定的队列

异常渠道:
1、消息被拒绝(reject/nack)并且requeue=false
2、消息过期(ttl到期)
3、队列达到最大长度

RabbitAdmin
1、RabbitAdmin类用来管理RabbitMQ

2、创建方法
ConnectionFactory connectionFactory = new CachingConnectionFactory()
RabbitAdmin rabbitAdmin = new RabbitAdmin(connectionFactory);

3、RabbitAdmin功能(#代表线上不准许使用)
declareExchange:创建交换机
#deleteExchange:删除交换机
declareQueue:创建队列
#deleteQueue:删除队列
#purgeQueue:清空队列
declareBinding:新建绑定关系
#removeBinding:删除绑定关系
#getQueueProperties:查询队列属性

4、SpringBoot整合RabbitMQ
1)原生RabbitMQ需要大量在代码里面声明交换机渠道,入侵代码,后续直接使用springboot自动注入解决入侵代码问题
2)在方法上面添加@Autowired注解,并在类上面添加@Configuration注解,只要auto注解就会把这个方法自动执行注入

5、RabbitAdmin声明式的配置
1)将Exchange、Queue、Binding声明式bean
2)再将RabbitAdmin声明为Bean

优点
1)将声明和创建工作分开,解耦多人工作
2)不需要显示声明,减少代码量,减少bug

RabbitTemplate
1、RabbitTemplate与RestTemplate类似,使用了模板方法设计模式
2、RabbitTemplate提供了丰富的功能,方便收发
3、RabbitTemplate可以显示传入配置也可以隐式声明配置

SimpleMessageListenerContainer 高效监听消息
1、设置同时监听多个队列、自动启动、自动配置RabbitMQ
2、设置消费者数量(最大数量,最小数量,批量数量)
3、设置消息确认模式、是否重回队列、异常捕获
4、设置是否独占、其他消费者属性等
5、设置具体的监听器、消息转换器等
6、支持动态设置,运行中修改监听器配置

MessageListenerAdapter自定义消息监听
1、适配器设计模式
2、解决业务逻辑代码无法修改问题
3、简单模式:实现HandleMessage方法
4、高阶模式:自定义 队列名->方法名 映射关系

MessageConverter高效处理消息
1、Jackson2JsonMessageConverter
最常用的MessageConverter,用来转换Json格式消息
配置ClassMapper可以直接转换为POJO对象

RabbitListener快速实现消息处理器
1、RabbitListener是SpringBoot架构中监听消息的“终极方案”
2、RabbitListener使用注解声明,对业务代码无入侵
3、RabbitListener可以在SpringBoot配置文件中进行配置

@RabbitListener注解
1、@RabbitListener是一个组合注解,可以嵌套一整套整合注解
2、@Exchange:自动声明Exchange
3、@Queue:自动声明队列
4、@QueueBinding:自动声明绑定关系

RabbitMQ状态监控方式
1、通过Java API判断节点是否健康

2、通过HTTP Rest API 监控集群状态
1)使用api/nodes/接口获得节点信息
2)使用api/exchanges/{vhost}/{name}/接口获得exchange状态信息
3)使用api/queue/{vhost}/{name}/接口获得queue状态信息

3、通过监控中间件监控RabbitMQ
1、常见的监控中间件有zabbix、prometheus等
2、zabbix、prometheu的底层原理就是调用http rest api,在数据处理、存储、展示

微服务架构
1、将引用程序构建为松耦合,可独立部署的一组服务
2、服务:一个单一的,可独立部署的软件组件,实现了一些有用的功能
3、松耦合:封装服务的实践细节,通过API调用

单一项目拆分成微服务
1、根据系统操作进行微服务拆分
2、根据业务能力进行微服务拆分(推荐使用)
3、根据子域进行微服务拆分

微服务的数据库设计原则
1、每个微服务使用自己的数据库
2、不要使用共享数据库的方式进行通信
3、尽量不使用外键,对于数据量非常少的表慎用索引

#网站画板
http://tryrabbitmq.com/

HashMap,在达到容量的 0.8倍会需要扩容

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/IT小白/article/detail/443067
推荐阅读
相关标签
  

闽ICP备14008679号