Flink从SavePoint启动任务,修改的代码不生效

classic Classic list List threaded Threaded
5 messages Options
Reply | Threaded
Open this post in threaded view
|

Flink从SavePoint启动任务,修改的代码不生效

milan183sansiro
各位好:
        背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
        操作步骤:1.使用SavePoint取消任务。
        2.修改代码将B去掉,只消费A主题。
        3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
        想知道为什么修改代码不生效。

Reply | Threaded
Open this post in threaded view
|

回复:Flink从SavePoint启动任务,修改的代码不生

KrisWu
你好,确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确



------------------ 原始邮件 ------------------
发件人:&nbsp;"milan183sansiro"<[hidden email]&gt;;
发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
收件人:&nbsp;"user-zh"<[hidden email]&gt;;

主题:&nbsp;Flink从SavePoint启动任务,修改的代码不生效



各位好:
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤:1.使用SavePoint取消任务。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉,只消费A主题。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。
Reply | Threaded
Open this post in threaded view
|

回复:Flink从SavePoint启动任务,修改的代码不生

milan183sansiro
你好:
    1.没有给算子手动设置id
    2.设置savepoint恢复的路径是正确的


在2020年7月6日 20:32,wujunxi<[hidden email]> 写道:
你好,确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确



------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;"milan183sansiro"<[hidden email]&gt;;
发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
收件人:&nbsp;"user-zh"<[hidden email]&gt;;

主题:&nbsp;Flink从SavePoint启动任务,修改的代码不生效



各位好:
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤:1.使用SavePoint取消任务。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉,只消费A主题。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。
Reply | Threaded
Open this post in threaded view
|

Re: Flink从SavePoint启动任务,修改的代码不生效

Paul Lam
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是,看起来像是 Kafka Connector 早期的一个问题。

作业停止的时候,Topic B 的 partition offset 被存储到 Savepoint 中,然后在恢复的时候,尽管代码中 Topic B 已经被移除,但它的 partition offset 还是被恢复了。

这个问题在后来的版本,估计是 1.8 或 1.9,被修复了。

Best,
Paul Lam

> 2020年7月6日 20:55,milan183sansiro <[hidden email]> 写道:
>
> 你好:
>    1.没有给算子手动设置id
>    2.设置savepoint恢复的路径是正确的
>
>
> 在2020年7月6日 20:32,wujunxi<[hidden email]> 写道:
> 你好,确认以下两个点
> 1.是否给每个算子设置了id
> 2.设置savepoint恢复的路径是否正确
>
>
>
> ------------------&nbsp;原始邮件&nbsp;------------------
> 发件人:&nbsp;"milan183sansiro"<[hidden email]&gt;;
> 发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
> 收件人:&nbsp;"user-zh"<[hidden email]&gt;;
>
> 主题:&nbsp;Flink从SavePoint启动任务,修改的代码不生效
>
>
>
> 各位好:
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤:1.使用SavePoint取消任务。
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉,只消费A主题。
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。

Reply | Threaded
Open this post in threaded view
|

回复: Flink从SavePoint启动任务,修改的代码不生效

milan183sansiro
好的,感谢。


在2020年7月7日 10:28,Paul Lam<[hidden email]> 写道:
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是,看起来像是 Kafka Connector 早期的一个问题。

作业停止的时候,Topic B 的 partition offset 被存储到 Savepoint 中,然后在恢复的时候,尽管代码中 Topic B 已经被移除,但它的 partition offset 还是被恢复了。

这个问题在后来的版本,估计是 1.8 或 1.9,被修复了。

Best,
Paul Lam

2020年7月6日 20:55,milan183sansiro <[hidden email]> 写道:

你好:
1.没有给算子手动设置id
2.设置savepoint恢复的路径是正确的


在2020年7月6日 20:32,wujunxi<[hidden email]> 写道:
你好,确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确



------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;"milan183sansiro"<[hidden email]&gt;;
发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
收件人:&nbsp;"user-zh"<[hidden email]&gt;;

主题:&nbsp;Flink从SavePoint启动任务,修改的代码不生效



各位好:
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤:1.使用SavePoint取消任务。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉,只消费A主题。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。