Flink 消费Kafka Window不触发计算

classic Classic list List threaded Threaded
4 messages Options
Reply | Threaded
Open this post in threaded view
|

Flink 消费Kafka Window不触发计算

王佩-2
Flink 消费Kafka, 有的并发没数据,导致Watermark不更新,进而Window不触发计算。

请教下:

    像这种情况,一般解决方式有那些?

感谢!
Reply | Threaded
Open this post in threaded view
|

回复:Flink 消费Kafka Window不触发计算

Ever
参考下:

idling sources的说明



------------------ 原始邮件 ------------------
发件人: "王佩"<[hidden email]>;
发送时间: 2019年10月20日(星期天) 上午10:38
收件人: "user-zh"<[hidden email]>;
主题: Flink 消费Kafka Window不触发计算

Flink 消费Kafka, 有的并发没数据,导致Watermark不更新,进而Window不触发计算。

请教下:

    像这种情况,一般解决方式有那些?

感谢!
Reply | Threaded
Open this post in threaded view
|

Re: 回复:Flink 消费Kafka Window不触发计算

Utopia
idling sources 只能解决 Kafka 没有数据的问题,如果是在业务逻辑里长时间没有收到某个用户新的数据呢?我想到的一个解决方法是接收到数据时在 Trigger 的 onElement 方法中注册一个 ProcessingTimer 用来触发 Window 计算,后续有新的数据就删除之前的 ProcessingTimer.
2019年10月21日 +0800 01:38 Ever <[hidden email]>,写道:

> 参考下:
> https://ci.apache.org/projects/flink/flink-docs-release-1.9/dev/event_time.html
>
> idling sources的说明
>
> <>
>
>
> ------------------ 原始邮件 ------------------
> 发件人: "王佩"<[hidden email]>;
> 发送时间: 2019年10月20日(星期天) 上午10:38
> 收件人: "user-zh"<[hidden email]>;
> 主题: Flink 消费Kafka Window不触发计算
>
> Flink 消费Kafka, 有的并发没数据,导致Watermark不更新,进而Window不触发计算。
>
> 请教下:
>
>     像这种情况,一般解决方式有那些?
>
> 感谢!
Reply | Threaded
Open this post in threaded view
|

Re: 回复:Flink 消费Kafka Window不触发计算

王佩-2
把 Kafka Source 标记为 Idling source,有地方可以设置吗。没找到这个入口。

Utopia <[hidden email]> 于2019年10月21日周一 下午2:58写道:

> idling sources 只能解决 Kafka
> 没有数据的问题,如果是在业务逻辑里长时间没有收到某个用户新的数据呢?我想到的一个解决方法是接收到数据时在 Trigger 的 onElement
> 方法中注册一个 ProcessingTimer 用来触发 Window 计算,后续有新的数据就删除之前的 ProcessingTimer.
> 2019年10月21日 +0800 01:38 Ever <[hidden email]>,写道:
> > 参考下:
> >
> https://ci.apache.org/projects/flink/flink-docs-release-1.9/dev/event_time.html
> >
> > idling sources的说明
> >
> > <>
> >
> >
> > ------------------ 原始邮件 ------------------
> > 发件人: "王佩"<[hidden email]>;
> > 发送时间: 2019年10月20日(星期天) 上午10:38
> > 收件人: "user-zh"<[hidden email]>;
> > 主题: Flink 消费Kafka Window不触发计算
> >
> > Flink 消费Kafka, 有的并发没数据,导致Watermark不更新,进而Window不触发计算。
> >
> > 请教下:
> >
> >     像这种情况,一般解决方式有那些?
> >
> > 感谢!
>