kafka 1个consumer 多个partition 只消费一个partition

栏目: 后端 · 发布时间: 7年前

内容简介:一个topic创建了几个partition,启动consumer的时候,只会消费一个partition,消费完了后,会把这个consumer给关闭掉。再启动consumer时,还是只会消费上次消费的那个partition。中间没有任何报错。consumer启动时,只会消费一个partition,然后不能关闭consumer,然后在进行consumer.poll的时候,就可以从其他partition消费了。就算consumer不关闭,偶尔也会从一个分区读取数据,consumer,timeout的时候,cons

一个topic创建了几个partition,启动consumer的时候,只会消费一个partition,消费完了后,会把这个consumer给关闭掉。再启动consumer时,还是只会消费上次消费的那个partition。中间没有任何报错。

1,产生这个问题的原因

consumer启动时,只会消费一个partition,然后不能关闭consumer,然后在进行consumer.poll的时候,就可以从其他partition消费了。

就算consumer不关闭,偶尔也会从一个分区读取数据,consumer,timeout的时候,consumer会自启动,这个时候,也只会从一个分区读取

2,partition和consumer对应规则,总结出来一句话。

consumer对partition,是一对一,一对多都可以

partition对consumer,只能是一对一

如果consumer启动数,大于partition数,肯定有consumer消费不到数据的。

关于网上有的说只消费一个partition,根kafka-clients包版本有关,试了二个版本,发现根版本没关系。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。

代码大全(第2版)

代码大全(第2版)

[美] 史蒂夫·迈克康奈尔 / 金戈、汤凌、陈硕、张菲 译、裘宗燕 审校 / 电子工业出版社 / 2006-3 / 128.00元

第2版的《代码大全》是著名IT畅销书作者史蒂夫·迈克康奈尔11年前的经典著作的全新演绎:第2版不是第一版的简单修订增补,而是完全进行了重写;增加了很多与时俱进的内容。这也是一本完整的软件构建手册,涵盖了软件构建过程中的所有细节。它从软件质量和编程思想等方面论述了软件构建的各个问题,并详细论述了紧跟潮流的新技术、高屋建瓴的观点、通用的概念,还含有丰富而典型的程序示例。这本书中所论述的技术不仅填补了初......一起来看看 《代码大全(第2版)》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

UNIX 时间戳转换
UNIX 时间戳转换

UNIX 时间戳转换