晚于watermark的数据何时被抛弃

classic Classic list List threaded Threaded
4 messages Options
Reply | Threaded
Open this post in threaded view
|

晚于watermark的数据何时被抛弃

lec ssmi
Hi:
  如果有晚于watermark的数据,只有涉及到时间的算子,比如时间窗口,才会自动地过滤掉这些数据吗?或者说其他算子,比如map,join
也会自动过滤掉而不处理?
 感觉类似于ProcessFunction,提供了一个获取currentWatermark的方法,是否不处理,都取决于自己的代码逻辑。
Reply | Threaded
Open this post in threaded view
|

Re: 晚于watermark的数据何时被抛弃

Benchao Li
Hi,

你的理解是对的,只有涉及到时间的一些算子才会有可能丢弃迟到的数据,比如典型的就是Window和CEP。
像普通的算子Map、Filter这种,不涉及到时间的概念,不会丢弃数据的。

lec ssmi <[hidden email]> 于2020年4月27日周一 下午5:38写道:

> Hi:
>   如果有晚于watermark的数据,只有涉及到时间的算子,比如时间窗口,才会自动地过滤掉这些数据吗?或者说其他算子,比如map,join
> 也会自动过滤掉而不处理?
>  感觉类似于ProcessFunction,提供了一个获取currentWatermark的方法,是否不处理,都取决于自己的代码逻辑。
>


--

Benchao Li
School of Electronics Engineering and Computer Science, Peking University
Tel:+86-15650713730
Email: [hidden email]; [hidden email]
Reply | Threaded
Open this post in threaded view
|

Re: 晚于watermark的数据何时被抛弃

lec ssmi
谢谢回答。
但这样存在一个问题,加入我不使用window,用普通的group by hour
来实现聚合,hour为string类型。我也需要丢弃掉晚于watermark的数据,
sql中,在 TableAggregateFunction   里面是无法操作的。
DataStream 有ProcessFunction,当然是可以实现的。

Benchao Li <[hidden email]> 于2020年4月27日周一 下午5:47写道:

> Hi,
>
> 你的理解是对的,只有涉及到时间的一些算子才会有可能丢弃迟到的数据,比如典型的就是Window和CEP。
> 像普通的算子Map、Filter这种,不涉及到时间的概念,不会丢弃数据的。
>
> lec ssmi <[hidden email]> 于2020年4月27日周一 下午5:38写道:
>
> > Hi:
> >   如果有晚于watermark的数据,只有涉及到时间的算子,比如时间窗口,才会自动地过滤掉这些数据吗?或者说其他算子,比如map,join
> > 也会自动过滤掉而不处理?
> >  感觉类似于ProcessFunction,提供了一个获取currentWatermark的方法,是否不处理,都取决于自己的代码逻辑。
> >
>
>
> --
>
> Benchao Li
> School of Electronics Engineering and Computer Science, Peking University
> Tel:+86-15650713730
> Email: [hidden email]; [hidden email]
>
Reply | Threaded
Open this post in threaded view
|

Re: 晚于watermark的数据何时被抛弃

Benchao Li
嗯,如果是普通的group by,的确是做不到的。

lec ssmi <[hidden email]> 于2020年4月27日周一 下午5:59写道:

> 谢谢回答。
> 但这样存在一个问题,加入我不使用window,用普通的group by hour
> 来实现聚合,hour为string类型。我也需要丢弃掉晚于watermark的数据,
> sql中,在 TableAggregateFunction   里面是无法操作的。
> DataStream 有ProcessFunction,当然是可以实现的。
>
> Benchao Li <[hidden email]> 于2020年4月27日周一 下午5:47写道:
>
> > Hi,
> >
> > 你的理解是对的,只有涉及到时间的一些算子才会有可能丢弃迟到的数据,比如典型的就是Window和CEP。
> > 像普通的算子Map、Filter这种,不涉及到时间的概念,不会丢弃数据的。
> >
> > lec ssmi <[hidden email]> 于2020年4月27日周一 下午5:38写道:
> >
> > > Hi:
> > >   如果有晚于watermark的数据,只有涉及到时间的算子,比如时间窗口,才会自动地过滤掉这些数据吗?或者说其他算子,比如map,join
> > > 也会自动过滤掉而不处理?
> > >  感觉类似于ProcessFunction,提供了一个获取currentWatermark的方法,是否不处理,都取决于自己的代码逻辑。
> > >
> >
> >
> > --
> >
> > Benchao Li
> > School of Electronics Engineering and Computer Science, Peking University
> > Tel:+86-15650713730
> > Email: [hidden email]; [hidden email]
> >
>


--

Benchao Li
School of Electronics Engineering and Computer Science, Peking University
Tel:+86-15650713730
Email: [hidden email]; [hidden email]