2020-09-08 10:02发布
Kafka如何管理自身的offset
OffsetManager主要提供对offset的保存和读取,每个broker都有一个OffsetManager实例,kafka管理topic的偏移量有2种方式:
1、ZookeeperOffsetManager:调用zookeeper来存储和接收offset
Consumer offset:/consumers/[groupId]/offsets/[topic]/[partitionId] /offset number
2、DefaultOffsetManager:提供消费者offsets内置的offset管理,即把偏移量提交至kafka内部,主要由offsets.storage参数决定,默认为zookeeper。也就是说如果配置offsets.storage= kafka,则kafka会把这种offsetcommit请求转变为一种Producer,保存至topic为“__consumer_offsets”的log里面。
最多设置5个标签!
OffsetManager主要提供对offset的保存和读取,每个broker都有一个OffsetManager实例,kafka管理topic的偏移量有2种方式:
1、ZookeeperOffsetManager:调用zookeeper来存储和接收offset
Consumer offset:
/consumers/[groupId]/offsets/[topic]/[partitionId] /offset number
2、DefaultOffsetManager:提供消费者offsets内置的offset管理,即把偏移量提交至kafka内部,主要由offsets.storage参数决定,默认为zookeeper。也就是说如果配置offsets.storage= kafka,则kafka会把这种offsetcommit请求转变为一种Producer,保存至topic为“__consumer_offsets”的log里面。
一周热门 更多>