各位好:
背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同 操作步骤:1.使用SavePoint取消任务。 2.修改代码将B去掉,只消费A主题。 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。 想知道为什么修改代码不生效。 |
你好,确认以下两个点
1.是否给每个算子设置了id 2.设置savepoint恢复的路径是否正确 ------------------ 原始邮件 ------------------ 发件人: "milan183sansiro"<[hidden email]>; 发送时间: 2020年7月6日(星期一) 晚上7:55 收件人: "user-zh"<[hidden email]>; 主题: Flink从SavePoint启动任务,修改的代码不生效 各位好: 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同 操作步骤:1.使用SavePoint取消任务。 2.修改代码将B去掉,只消费A主题。 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。 想知道为什么修改代码不生效。 |
你好:
1.没有给算子手动设置id 2.设置savepoint恢复的路径是正确的 在2020年7月6日 20:32,wujunxi<[hidden email]> 写道: 你好,确认以下两个点 1.是否给每个算子设置了id 2.设置savepoint恢复的路径是否正确 ------------------ 原始邮件 ------------------ 发件人: "milan183sansiro"<[hidden email]>; 发送时间: 2020年7月6日(星期一) 晚上7:55 收件人: "user-zh"<[hidden email]>; 主题: Flink从SavePoint启动任务,修改的代码不生效 各位好: 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同 操作步骤:1.使用SavePoint取消任务。 2.修改代码将B去掉,只消费A主题。 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。 想知道为什么修改代码不生效。 |
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是,看起来像是 Kafka Connector 早期的一个问题。
作业停止的时候,Topic B 的 partition offset 被存储到 Savepoint 中,然后在恢复的时候,尽管代码中 Topic B 已经被移除,但它的 partition offset 还是被恢复了。 这个问题在后来的版本,估计是 1.8 或 1.9,被修复了。 Best, Paul Lam > 2020年7月6日 20:55,milan183sansiro <[hidden email]> 写道: > > 你好: > 1.没有给算子手动设置id > 2.设置savepoint恢复的路径是正确的 > > > 在2020年7月6日 20:32,wujunxi<[hidden email]> 写道: > 你好,确认以下两个点 > 1.是否给每个算子设置了id > 2.设置savepoint恢复的路径是否正确 > > > > ------------------ 原始邮件 ------------------ > 发件人: "milan183sansiro"<[hidden email]>; > 发送时间: 2020年7月6日(星期一) 晚上7:55 > 收件人: "user-zh"<[hidden email]>; > > 主题: Flink从SavePoint启动任务,修改的代码不生效 > > > > 各位好: > 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同 > 操作步骤:1.使用SavePoint取消任务。 > 2.修改代码将B去掉,只消费A主题。 > 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。 > 想知道为什么修改代码不生效。 |
好的,感谢。
在2020年7月7日 10:28,Paul Lam<[hidden email]> 写道: 估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是,看起来像是 Kafka Connector 早期的一个问题。 作业停止的时候,Topic B 的 partition offset 被存储到 Savepoint 中,然后在恢复的时候,尽管代码中 Topic B 已经被移除,但它的 partition offset 还是被恢复了。 这个问题在后来的版本,估计是 1.8 或 1.9,被修复了。 Best, Paul Lam 2020年7月6日 20:55,milan183sansiro <[hidden email]> 写道: 你好: 1.没有给算子手动设置id 2.设置savepoint恢复的路径是正确的 在2020年7月6日 20:32,wujunxi<[hidden email]> 写道: 你好,确认以下两个点 1.是否给每个算子设置了id 2.设置savepoint恢复的路径是否正确 ------------------ 原始邮件 ------------------ 发件人: "milan183sansiro"<[hidden email]>; 发送时间: 2020年7月6日(星期一) 晚上7:55 收件人: "user-zh"<[hidden email]>; 主题: Flink从SavePoint启动任务,修改的代码不生效 各位好: 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同 操作步骤:1.使用SavePoint取消任务。 2.修改代码将B去掉,只消费A主题。 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。 想知道为什么修改代码不生效。 |
Free forum by Nabble | Edit this page |