重置kafka的offset
2024-04-04 17:49:54
如果你在使用Kafka来分发消息，在数据处理的过程中可能会出现处理程序出异常或者是其它的错误，会造成数据丢失或不一致。这个时候你也许会想要通过kafka把数据从新处理一遍，我们知道kafka默认会在磁盘上保存到7天的数据，你只需要把kafka的某个topic的consumer的offset设置为某个值或者是最小值，就可以使该consumer从你设置的那个点开始消费。
查询topic的offset的范围
用下面命令可以查询到topic:DynamicRange broker:SparkMaster:9092的offset的最小值：
$ /opt/cloudera/parcels/KAFKA/bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list SparkMaster: —topic DynamicRange --time -
输出
DynamicRange::
查询offset的最大值：
$ /opt/cloudera/parcels/KAFKA/bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list SparkMaster: —topic DynamicRange --time -
输出
DynamicRange::
从上面的输出可以看出topic:DynamicRange只有一个partition:0 offset范围为:[1288,7885]
设置consumer group的offset
启动zookeeper client
$ /opt/cloudera/parcels/CDH/lib/zookeeper/bin/zkCli.sh
通过下面命令设置consumer group:DynamicRangeGroup topic:DynamicRange partition:的offset为1288:
set /consumers/DynamicRangeGroup/offsets/DynamicRange/ 1288
注意如果你的kafka设置了zookeeper root，比如为/kafka，那么命令应该改为：
set /kafka/consumers/DynamicRangeGroup/offsets/DynamicRange/
生效
重启相关的应用程序，就可以从设置的offset开始读数据了。
参考：https://metabroadcast.com/blog/resetting-kafka-offsets
转载请注明出处：http://www.cnblogs.com/keitsi/p/5685576.html
最新文章
- 基础3.Jquery操作Dom
- iOS 面试总结 一
- IOS - 多态
- [Spring MVC] - 表单提交
- js页面跳转整理（转载未整理）
- Ognl基本使用
- Nodejs异步异常处理domain
- php常见判断
- POJ 3252 Round Numbers（组合）
- EntityFramework版本下载和更新
- OpenJudge 2774 木材加工
- ios ViewController的生命周期分析和基本使用逻辑
- linux下环境变量PS1设置
- HashSet实现原理
- Linux 虚拟网络设备 veth-pair 详解，看这一篇就够了
- Android中系统键盘的自动弹出、隐藏和显示
- Interllij IDEA中启动web项目
- py3+urllib+re，爬虫下载捧腹网图片
- Jenkins与Gitlab集成
- could not launch process: decoding dwarf section info at offset 0x0: too short