背景:
我们知道rabbitmq是支持消息路由的功能的,但是当我们统一消息中间件到kafka后,有一些旧的应用依然想要使用消息路由的功能时,我们可以怎么让kafka也支持消息路由的功能呢?
技术实现:
为了不影响kafka服务端,我们选择改造kafka的客户端,主要的想法是通过消息过滤的方式来达到消息路由的效果,怎么做呢,比如有两个消费者组消费同一个topic主题,每个消费者组只处理自己需要的消息,其他的消息统统丢弃掉.流程图类似下图所示:
消费者组和要消费的消息的规则表达式可以从配置中心进行配置,这样运行的过程中可以动态修改消息的路由,那现在只要生产者发送消息到topic的时候把路由key放到header消息头中,这个方案就可以顺利做到使用kafka模拟rabbitmq的路由功能了.
方案缺点:
每个消费者组都会收到这个topic的所有的消息,会消耗很多的网络流量,并且消费者组越多,浪费的网络流量就越多.