zoukankan      html  css  js  c++  java
  • kafka 的offset的重置

    最近在spark读取kafka消息时,每次读取都会从kafka最新的offset读取。但是如果数据丢失,如果在使用Kafka来分发消息,在数据处理的过程中可能会出现处理程序出异常或者是其它的错误,会造成数据丢失或不一致。这个时候你也许会想要通过kafka把数据从新处理一遍,或者指定kafka的offset读取。kafka默认会在磁盘上保存到7天的数据,你只需要把kafka的某个topic的consumer的offset设置为某个值或者是最小值,就可以使该consumer从你设置的那个点开始消费。这就需要从zk里面修改offset的值。

    查询topic的offset的范围
    用下面命令可以查询到topic:DynamicRange broker:SparkMaster:9092的offset的最小值:

    bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list slave6:9092 -topic videoplay --time -2
    输出

    DynamicRange:0:1288
    查询offset的最大值:

    bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list slave6:9092 -topic videoplay --time -1
    输出

    DynamicRange:0:7885
    从上面的输出可以看出topic:DynamicRange只有一个partition:0 offset范围为:[1288,7885]

    设置consumer group的offset
    启动zookeeper client

    /zookeeper/bin/zkCli.sh
    通过下面命令设置consumer group:DynamicRangeGroup topic:DynamicRange partition:0的offset为1288:

    set /consumers/DynamicRangeGroup/offsets/DynamicRange/0 1288
    注意如果你的kafka设置了zookeeper root,比如为/kafka,那么命令应该改为:

    set /kafka/consumers/DynamicRangeGroup/offsets/DynamicRange/0 1288

    生效
    重启相关的应用程序,就可以从设置的offset开始读数据了。

  • 相关阅读:
    三层架构及生活实例
    初识ADO.NET
    remoting与socket、web service的比较及实例
    ERP与MES
    25人赛跑问题-得出前三名
    WPF导学目录
    心目中的职业初规划
    应用服务器
    2015广深骑行记
    ASP.NET的几个试题(《C#与.NET程序员面试宝典》)
  • 原文地址:https://www.cnblogs.com/sgjk/p/12318895.html
Copyright © 2011-2022 走看看