RabbitMQ消息队列
有什么用?
异步处理
缩短服务响应时间
应用解耦
订单系统无需直接远程调用库存系统
流量控制
大并发流量时,可存入队列中,根据系统能力自行消费消息
一、概述
1. 大多应用中,可通过消息服务中间件来提升系统异步通信、扩展解耦能力
2. 消息服务中两个重要概念:
- 消息代理(message broker)和目的地(destination)
- 当消息发送者发送消息以后,将由消息代理接管,消息代理保证消息传递到指定目的地。
3. 消息队列主要有两种形式的目的地
- 队列(queue):点对点消息通信(point-to-point)
- 主题(topic):发布(publish)/订阅(subscribe)消息通信
4. 点对点式:
- 消息发送者发送消息,消息代理将其放入一个队列中,消息接收者从队列中获取消息内容,消息读取后被移出队列
- 消息只有唯一的发送者和接受者,但并不是说只能有一个接收者
5. 发布订阅式:
- 发送者(发布者)发送消息到主题,多个接收者(订阅者)监听(订阅)这个主题,那么就会在消息到达时同时收到消息
6. JMS(Java Message Service)JAVA消息服务:
- 基于JVM消息代理的规范。ActiveMQ、HornetMQ是JMS实现
7. AMQP(Advanced Message Queuing Protocol)
- 高级消息队列协议,也是一个消息代理的规范,兼容JMS
- RabbitMQ是AMQP的实现
JMS(Java Message Service) | AMQP(Advanced Message Queuing Protocol) | |
定义 | Java api | 网络线级协议 |
跨语言 | 否 | 是 |
跨平台 | 否 | 是 |
Model |
提供两种消息模型: |
提供了五种消息模型: |
支持消息类型 |
多种消息类型: |
byte[] |
综合评价 |
JMS 定义了JAVA API层面的标准;在java体系中, |
AMQP定义了wire-level层的协议标准;天然具有跨平 |
8. Spring支持
? spring-jms提供了对JMS的支持
? spring-rabbit提供了对AMQP的支持
? 需要ConnectionFactory的实现来连接消息代理
? 提供JmsTemplate、RabbitTemplate来发送消息
? @JmsListener(JMS)、@RabbitListener(AMQP)注解在方法上监听消息代理发布的消息
? @EnableJms、@EnableRabbit开启支持
9. Spring Boot自动配置
? JmsAutoConfiguration
? RabbitAutoConfiguration
10. 市面的MQ产品
? ActiveMQ、RabbitMQ、RocketMQ、Kafka
二、RabbitMQ概念
RabbitMQ简介:
RabbitMQ是一个由erlang开发的AMQP(Advanved Message Queue Protocol)的开源实现。
核心概念
Message
消息,消息是不具名的,它由消息头和消息体组成。消息体是不透明的,而消息头则由一系列的可选属性组成,这些属性包括routing-key(路由键)、priority(相对于其他消息的优先权)、delivery-mode(指出该消息可能需要持久性存储)等。
Publisher
消息的生产者,也是一个向交换器发布消息的客户端应用程序。
Exchange
交换器,用来接收生产者发送的消息并将这些消息路由给服务器中的队列。
Exchange有4种类型:direct(默认),fanout, topic, 和headers,不同类型的Exchange转发消息的策略有所区别Queue
消息队列,用来保存消息直到发送给消费者。它是消息的容器,也是消息的终点。一个消息可投入一个或多个队列。消息一直
在队列里面,等待消费者连接到这个队列将其取走。
Binding
绑定,用于消息队列和交换器之间的关联。一个绑定就是基于路由键将交换器和消息队列连接起来的路由规则,所以可以将交
换器理解成一个由绑定构成的路由表。
Exchange 和Queue的绑定可以是多对多的关系。
Connection
网络连接,比如一个TCP连接。
Channel
信道,多路复用连接中的一条独立的双向数据流通道。信道是建立在真实的TCP连接内的虚拟连接,AMQP 命令都是通过信道
发出去的,不管是发布消息、订阅队列还是接收消息,这些动作都是通过信道完成。因为对于操作系统来说建立和销毁 TCP 都
是非常昂贵的开销,所以引入了信道的概念,以复用一条 TCP 连接。Consumer
消息的消费者,表示一个从消息队列中取得消息的客户端应用程序。
Virtual Host
虚拟主机,表示一批交换器、消息队列和相关对象。虚拟主机是共享相同的身份认证和加
密环境的独立服务器域。每个 vhost 本质上就是一个 mini 版的 RabbitMQ 服务器,拥
有自己的队列、交换器、绑定和权限机制。vhost 是 AMQP 概念的基础,必须在连接时
指定,RabbitMQ 默认的 vhost 是 / 。
Broker
表示消息队列服务器实体
三、Docker安装RabbitMQ
docker run -d --name rabbitmq -p 5671:5671 -p 5672:5672 -p 4369:4369 -p
25672:25672 -p 15671:15671 -p 15672:15672 rabbitmq:management
4369, 25672 (Erlang发现&集群端口)
5672, 5671 (AMQP端口)
15672 (web管理后台端口)
61613, 61614 (STOMP协议端口)
1883, 8883 (MQTT协议端口)
https://www.rabbitmq.com/networking.html
四、RabbitMQ运行机制
AMQP 中的消息路由
? AMQP 中消息的路由过程和 Java 开发者熟悉的 JMS 存在一些差别,AMQP 中增加了 Exchange 和Binding 的角色。生产者把消息发布到 Exchange 上,消息最终到达队列并被消费者接收,而 Binding 决定交换器的消息应该发送到那个队列。
Exchange 类型
Exchange分发消息时根据类型的不同分发策略有区别,目前共四种类型:direct、fanout、topic、headers 。headers 匹配 AMQP 消息的 header 而不是路由键,headers 交换器和 direct 交换器完全一致,但性能差很多,目前几乎用不到了,所以直接看另外三种类型:
Direct Exchange
消息中的路由键(routing key)如果和Binding 中的 binding key 一致, 交换器就将消息发到对应的队列中。路由键与队列名完全匹配,如果一个队列绑定到交换机要求路由键为“dog”,则只转发 routingkey 标记为“dog”的消息,不会转发“dog.puppy”,也不会转发“dog.guard” 等等。它是完全匹配、单播的模式。
Fanout Exchange
每个发到 fanout 类型交换器的消息都会分到所有绑定的队列上去。fanout 交换器不处理路由键,只是简单的将队列绑定到交换器上,每个发送到交换器的消息都会被转发到与该交换器绑定的所有队列上。很像子网广播,每台子网内的主机都获得了一份复制的消息。fanout 类型转发消息是最快的。
Topic Exchange
topic 交换器通过模式匹配分配消息的路由键属性,将路由键和某个模式进行匹配,此时队列需要绑定到一个模式上。它将路由键和绑定键的字符串切分成单词,这些单词之间用点隔开。它同样也会识别两个通配符:符号“#”和符号“*”。#匹配0个或多个单词,*匹配一个单词。
五、RabbitMQ整合
1. 引入 spring-boot-starter-amqp
org.springframework.boot
spring-boot-starter-amqp
2. application.yml配置
spring:
rabbitmq:
virtual-host: /
host: 192.168.56.10
3. 测试RabbitMQ
1. AmqpAdmin:管理组件
//创建rabbitMQ交换机
@Test
public void createExchange() {
DirectExchange directExchange = new DirectExchange("hello-java-exchange", true, false);
amqpAdmin.declareExchange(directExchange);
log.info("Exchange[]创建成功");
}
//创建队列
@Test
public void createQueue(){
new Queue("hello-java-queue",true,false,false);
amqpAdmin.declareQueue();
log.info("队列创建成功");
}
//创建绑定关系
@Test
public void createBing(){
/*
String destination目的地,
DestinationType destinationType目的地类型,
String exchange交换机,
String routingKey路由键,
@Nullable Map arguments 自定义参数
*/
Binding binding = new Binding("hello-java-exchange",
Binding.DestinationType.QUEUE,
"hello-java-exchange",
"hello.java", null);
amqpAdmin.declareBinding(binding);
log.info("绑定关系建立成功");
}
2. RabbitTemplate:消息发送处理组件
//发送消息
@Test
public void sendMessage(){
rabbitTemplate.convertAndSend("hello-java-exchange","hello-java","hello RabbitMQ");
log.info("成功发送消息");
}
3.接收消息
接收消息必须在启动类添加此注解@EnableRabbit
@RabbitListener(queues = {"hello-java-queue"}) //监听队列
@Service("orderItemService")
public class OrderItemServiceImpl extends ServiceImpl implements OrderItemService {
/**
* queues:声明需要监听的队列
* channel:当前传输数据的通道
*/
@RabbitHandler //根据不同的消息体可以重载处理不同消息
public void revieveMessage(Message message,
OrderReturnReasonEntity content) {
//拿到主体内容
byte[] body = message.getBody();
//拿到的消息头属性信息
MessageProperties messageProperties = message.getMessageProperties();
System.out.println("接受到的消息...内容" + message + "===内容:" + content);
}
@RabbitHandler
public void revieveMessage(OrderEntity content) {
System.out.println(content);
}
}
六、RabbitMQ消息确认机制
1、发送端确认
? 保证消息不丢失,可靠抵达,可以使用事务消息,性能下降250倍,为此引入确认机制
? publisher confirmCallback 确认模式
? publisher returnCallback 未投递到 queue 退回模式
? consumer ack机制
可靠抵达-ConfirmCallback
spring.rabbitmq.publisher-confirms=true
? 在创建 connectionFactory 的时候设置 PublisherConfirms(true) 选项,开启
confirmcallback 。
? CorrelationData:用来表示当前消息唯一性。
? 消息只要被 broker 接收到就会执行 confirmCallback,如果是 cluster 模式,需要所有
broker 接收到才会调用 confirmCallback。
? 被 broker 接收到只能表示 message 已经到达服务器,并不能保证消息一定会被投递
到目标 queue 里。所以需要用到接下来的 returnCallback 。
@Configuration
public class MyRabbitConfig {
@Override
private RabbitTemplate rabbitTemplate;
//设置序列化为json将消息发至MQ,不设置则使用java默认序列化
@Bean
public MessageConverter messageConverter() {
return new Jackson2JsonMessageConverter();
}
/**
* 定制RabbitTemplate
* 1、服务收到消息就会回调
* 1、spring.rabbitmq.publisher-confirms: true
* 2、设置确认回调
*/
// @PostConstruct //MyRabbitConfig对象创建完成以后,执行这个方法
public void initRabbitTemplate() {
/**
* 1、只要消息抵达Broker就ack=true
* correlationData:当前消息的唯一关联数据(这个是消息的唯一id)
* ack:消息是否成功收到
* cause:失败的原因
*/
//设置确认回调
rabbitTemplate.setConfirmCallback((correlationData,ack,cause) -> {
System.out.println("confirm...correlationData["+correlationData+"]==>ack:["+ack+"]==>cause:["+cause+"]");
});
}
}
可靠抵达-ReturnCallback
spring.rabbitmq.publisher-returns=true
spring.rabbitmq.template.mandatory=true
? confrim 模式只能保证消息到达 broker,不能保证消息准确投递到目标 queue 里。在有
些业务场景下,我们需要保证消息一定要投递到目标 queue 里,此时就需要用到
return 退回模式。
? 这样如果未能投递到目标 queue 里将调用 returnCallback ,可以记录下详细到投递数
据,定期的巡检或者自动纠错都需要这些数据。
/**
* 只要消息没有投递给指定的队列,就触发这个失败回调
* message:投递失败的消息详细信息
* replyCode:回复的状态码
* replyText:回复的文本内容
* exchange:当时这个消息发给哪个交换机
* routingKey:当时这个消息用哪个路邮键
*/
rabbitTemplate.setReturnCallback((message,replyCode,replyText,exchange,routingKey) -> {
System.out.println("Fail Message["+message+"]==>replyCode["+replyCode+"]" +
"==>replyText["+replyText+"]==>exchange["+exchange+"]==>routingKey["+routingKey+"]");
});
2、消费端确认
?消费者获取到消息,成功处理,可以回复Ack给Broker
?basic.ack用于肯定确认;broker将移除此消息
?basic.nack用于否定确认;可以指定broker是否丢弃此消息,可以批量
?basic.reject用于否定确认;同上,但不能批量
?默认自动ack,消息被消费者收到,就会从broker的queue中移除
?queue无消费者,消息依然会被存储,直到消费者消费
?消费者收到消息,默认会自动ack。但是如果无法确定此消息是否被处理完成,
或者成功处理。我们可以开启手动ack模式
?消息处理成功,ack(),接受下一个消息,此消息broker就会移除
?消息处理失败,nack()/reject(),重新发送给其他人进行处理,或者容错处理后ack
?消息一直没有调用ack/nack方法,broker认为此消息正在被处理,不会投递给别人,此时客户
端断开,消息不会被broker移除,会投递给别人
开启手动确认消息
spring.rabbitmq.listener.simple.acknowledge-mode=manual
签收与拒签
@RabbitHandler
public void revieveMessage(Message message,
OrderReturnReasonEntity content, Channel channel) throws IOException {
long deliveryTag = message.getMessageProperties().getDeliveryTag();
//签收消息
channel.basicAck(deliveryTag,false);
//拒签
channel.basicNack(deliveryTag,false,true);
}
七、RabbitMQ延时队列(实现定时任务)
场景:
比如未付款订单,超过一定时间后,系统自动取消订单并释放占有物品。
常用解决方案:
spring的 schedule 定时任务轮询数据库
缺点:
消耗系统内存、增加了数据库的压力、存在较大的时间误差
解决:rabbitmq的消息TTL和死信Exchange结合
消息的TTL(Time To Live)
? 消息的TTL就是消息的存活时间。
? RabbitMQ可以对队列和消息分别设置TTL。
? 对队列设置就是队列没有消费者连着的保留时间,也可以对每一个单独的消息做单独的
设置。超过了这个时间,我们认为这个消息就死了,称之为死信。
? 如果队列设置了,消息也设置了,那么会取小的。所以一个消息如果被路由到不同的队
列中,这个消息死亡的时间有可能不一样(不同的队列设置)。这里单讲单个消息的
TTL,因为它才是实现延迟任务的关键。可以通过设置消息的expiration字段或者x- message-ttl属性来设置时间,两者是一样的效果。
Dead Letter Exchanges(DLX)
一个消息在满足如下条件下,会进死信路由,记住这里是路由而不是队列,
一个路由可以对应很多队列。(什么是死信)
? 一个消息被Consumer拒收了,并且reject方法的参数里requeue是false。也就是说不
会被再次放在队列里,被其他消费者使用。(basic.reject/ basic.nack)requeue=false
? 上面的消息的TTL到了,消息过期了。
? 队列的长度限制满了。排在前面的消息会被丢弃或者扔到死信路由上
? Dead Letter Exchange其实就是一种普通的exchange,和创建其他
exchange没有两样。只是在某一个设置Dead Letter Exchange的队列中有
消息过期了,会自动触发消息的转发,发送到Dead Letter Exchange中去。
? 我们既可以控制消息在一段时间后变成死信,又可以控制变成死信的消息
被路由到某一个指定的交换机,结合二者,其实就可以实现一个延时队列
? 手动ack&异常消息统一放在一个队列处理建议的两种方式
? catch异常后,手动发送到指定队列,然后使用channel给rabbitmq确认消息已消费
? 给Queue绑定死信队列,使用nack(requque为false)确认消息消费失败
延时队列实现-1
延时队列实现-2
推荐使用
SpringBoot中使用延时队列
? 1、Queue、Exchange、Binding可以@Bean进去
? 2、监听消息的方法可以有三种参数(不分数量,顺序)
? Object content, Message message, Channel channel
? 3、channel可以用来拒绝消息,否则自动ack;