MQ如何保证消息不丢失?

  1. 1. MQ的组成
    1. 1-1.provider
    2. 1-2.broker
    3. 1-3.consumer
  2. 2.消息可靠
    1. 2-1.发送可靠
    2. 2-2.接受可靠
    3. 2-3.消息丢失

通过消息队列(MsgQueue,MQ)发送任务和消息,万一MQ重启了怎么办?能否保证MQ不丢消息?

1. MQ的组成

不丢消息,MQ架构设计的核心方向是什么?

MQ要想消息必达,架构上有两个核心设计点:

  • 消息落地;
  • 消息超时、重传、确认;

为了实现上述两个核心点,MQ架构如何?

img

上图是一个MQ的核心架构图,可以分为三大块:

  • 发送方: 左侧粉色部分;
  • MQ核心集群 : 中间蓝色部分;
  • 接收方: 右侧黄色部分;

1-1.provider

粉色发送方又由两部分构成:

  • 业务调用方;
  • MQ-client-sender;

其中后者向前者提供了两个核心API

  • SendMsg(bytes[] msg);: 发出消息
  • SendCallback();:发送消息后回调

1-2.broker

蓝色MQ核心集群又分为四个部分:

  • MQ-server
  • zk;
  • db;
  • 管理后台web;

1-3.consumer

黄色接收方也由两部分构成:

  • 业务接收方;
  • MQ-client-receiver;

其中后者向前者提供了两个核心API

  • RecvCallback(bytes[] msg);: 消费/接受消息
  • SendAck();: 成功处理消息后,发送应答信号

2.消息可靠

MQ是一个系统间解耦的利器,它能够很好的解除发布订阅者之间的耦合,它将上下游的消息投递解耦成两个部分,如架构图中的1箭头和2箭头:

img

箭头1:发送方将消息投递给MQ,上半场;

箭头2:MQ将消息投递给接收方,下半场;

MQ消息可靠投递核心流程如何?

MQ既然将消息投递拆成了上下半场,为了保证消息的可靠投递,上下半场都必须保证消息必达。

2-1.发送可靠

img

MQ消息投递上半场,MQ-client-sender到MQ-server流程:

  • MQ-client将消息发送给MQ-server;

    此时业务方调用API:SendMsg

  • MQ-server将消息落地,落地后即为发送成功;
  • MQ-server将应答发送给MQ-client;

    此时回调业务API:SendCallback。

2-2.接受可靠

img

MQ消息投递下半场,MQ-server到MQ-client-receiver流程:

  • MQ-server将消息发送给MQ-client;

    此时回调业务API:RecvCallback

  • MQ-client回复应答给MQ-server;

    此时业务方主动调用API:SendAck

  • MQ-server收到ack,将之前已经落地的消息删除,完成消息的可靠投递;

2-3.消息丢失

如果消息丢了怎么办?

MQ消息投递的上下半场,都可以出现消息丢失,为了保证消息可达性,MQ需要进行超时重传

上半场如何实施超时与重传?

img

MQ上半场的1、2、3三个地方都会出现丢失或者超时,MQ-client-sender内的timer会重发消息,直到期望收到3,如果重传N次后还未收到,则SendCallback回调发送失败。

警告

重传这个过程中MQ-server可能会收到同一条消息的多次重发。(注意幂等操作)

下半场如何实施超时与重传?

img

MQ下半场的4、5、6都会发生丢失或者超时,MQ-server内的timer会重发消息,直到收到5并且成功执行6。

警告

这个过程可能会重发很多次消息。(注意幂等操作)

总结

MQ是系统之间的解耦利器,MQ为了保证消息必达,架构设计方向为:

  • 消息收到先落地;
  • 消息超时、重传、确认保证消息必达;

转载请注明来源,欢迎指出任何有错误或不够清晰的表达。可以在下面评论区评论,也可以邮件至 157162006@qq.com

文章标题:MQ如何保证消息不丢失?

字数:865

本文作者:沐雨云楼

发布时间:2020-06-20, 17:03:18

最后更新:2020-09-12, 21:21:47

原始链接:https://iworkh.gitee.io/blog/2020/06/20/fw-mq-message-missing/

版权声明: "署名-非商用-相同方式共享 4.0" 转载请保留原文链接及作者。

目录
×

喜欢就点赞,疼爱就打赏

pgmanor iworkh gitee