先说结果:会造成数据丢失
再说依据:
RocketMQ要求同一个消费者组内的消费者必须订阅关系一致,如果订阅关系不一致会出现消息丢失的问题。
官网入口:订阅关系一致 | RocketMQ
不想看官网的,直接看结论
什么叫订阅关系一致
1.订阅的Topic相同,或者订阅的Topic相同 tag也相同,或者Topic相同,tag的顺序也相同。
2.什么叫不一致呢?
就是订阅的Topic不同,或者Topic相同,但是Tag不同,或者Topic相同tag也相同,但是顺序不同
再说为什么会导致丢失数据呢?
为了 提高消费效率,RocketMQ 引入了 ConsumeQueue,ConsumerQueue 中保存消息在 CommitLog 文件中的物理偏移量。ConsumerQueue 中的元素内容如下:
-
前 8 个字节记录消息在 CommitLog 中的偏移量。
-
中间 4 个字节记录消息消息大小。
-
最后 8 个字节记录消息中 tag 的 hashcode。
关键在于最后这个tag的hashcode值,这个 tag 的作用是过滤消息,假如一个 Consumer 订阅了 Topic1 中的 Tag1,那这个 Consumer 拉取消息时,首先从 Name Server 获取订阅关系,得到当前 Consumer 订阅的所有 tag 的 hashcode 集合 codeSet。每次从 ConsumerQueue 获取一条记录,就要判断最后 8 个字节 tag hashcode 是否在 codeSet 中,比如 Tag2 不在 codeSet 中,就会被过滤掉。
如上图,比如Topic1里面有个TagA,TagB。 consumer1订阅了TagA,consumer订阅了TagB,那 Consumer1 从 ConsumeQueue1 和 ConsumeQueue2 消费消息时,就会把 TagB 中的消息过滤掉,这样即使 Consumer2 订阅了 TagB,也不能消费到 ConsumeQueue1 和 ConsumeQueue2 里 TagB 中的消息了。
最后一个问题,怎么看是不是存在订阅关系不一致的 现象?
问题描述
在使用消息队列RocketMQ版实例时,可能会出现订阅关系不一致的情况,具体的问题现象如下:
- 消息队列RocketMQ版控制台中订阅关系是否一致显示为否。
- 消费者(Consumer)实例未收到订阅的消息。
请参考以下步骤进行检查
您可在消息消息队列RocketMQ版控制台Group 详情页面查看指定Group的订阅关系是否一致。若查询结果不一致,请参见本文(3 常见订阅关系不一致问题)排查Consumer实例的消费代码。
- 检查您Consumer实例中与订阅相关的配置代码,确保配置同一个Group ID的所有Consumer实例均订阅相同的Topic及Tag。
- 重启客户端应用。
- 登录消息队列RocketMQ版控制台,在左侧导航栏中单击实例列表,选择您的目标实例,进入实例详情页面。
- 在左侧导航栏中单击Group管理,选择对应的协议后,单击消费者状态,确认订阅关系是否一致显示为是。
- 测试并确认消息能够被预期的Consumer实例所消费。