flink waterMark 相关问题

classic Classic list List threaded Threaded
11 messages Options
Reply | Threaded
Open this post in threaded view
|

flink waterMark 相关问题

张锴
hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

Re:flink waterMark 相关问题

anonnius
可以看一下 ExecutionConfig这个类
在 2021-01-12 17:55:47,"张锴" <[hidden email]> 写道:
>hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

回复:flink waterMark 相关问题

Ball's Holy
hi&nbsp;张锴, 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig 对应的属性autoWatermarkInterval




------------------&nbsp;原始邮件&nbsp;------------------
发件人: "anonnius"<[hidden email]&gt;;
发送时间: 2021年1月13日(星期三) 上午9:19
收件人: "user-zh"<[hidden email]&gt;;
主题: Re:flink waterMark 相关问题



可以看一下 ExecutionConfig这个类
在 2021-01-12 17:55:47,"张锴" <[hidden email]&gt; 写道:
&gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

Re: flink waterMark 相关问题

张锴
In reply to this post by anonnius
谢谢你

anonnius <[hidden email]> 于2021年1月13日周三 上午9:19写道:

> 可以看一下 ExecutionConfig这个类
> 在 2021-01-12 17:55:47,"张锴" <[hidden email]> 写道:
> >hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
>
Reply | Threaded
Open this post in threaded view
|

Re: flink waterMark 相关问题

张锴
In reply to this post by Ball's Holy
ok,谢谢你

Ball's Holy <[hidden email]> 于2021年1月13日周三 上午9:42写道:

> hi&nbsp;张锴,
> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
> 对应的属性autoWatermarkInterval
>
>
>
>
> ------------------&nbsp;原始邮件&nbsp;------------------
> 发件人: "anonnius"<[hidden email]&gt;;
> 发送时间: 2021年1月13日(星期三) 上午9:19
> 收件人: "user-zh"<[hidden email]&gt;;
> 主题: Re:flink waterMark 相关问题
>
>
>
> 可以看一下 ExecutionConfig这个类
> 在 2021-01-12 17:55:47,"张锴" <[hidden email]&gt; 写道:
> &gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

Re: flink waterMark 相关问题

张锴
In reply to this post by Ball's Holy
我从ExecutionConfig找到了,private long autoWatermarkInterval =
0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗

Ball's Holy <[hidden email]> 于2021年1月13日周三 上午9:42写道:

> hi&nbsp;张锴,
> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
> 对应的属性autoWatermarkInterval
>
>
>
>
> ------------------&nbsp;原始邮件&nbsp;------------------
> 发件人: "anonnius"<[hidden email]&gt;;
> 发送时间: 2021年1月13日(星期三) 上午9:19
> 收件人: "user-zh"<[hidden email]&gt;;
> 主题: Re:flink waterMark 相关问题
>
>
>
> 可以看一下 ExecutionConfig这个类
> 在 2021-01-12 17:55:47,"张锴" <[hidden email]&gt; 写道:
> &gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

Re:Re: flink waterMark 相关问题

anonnius
在 StreamExecutionEnvironmennt的方法<br/>@PublicEvolving<br/> public void setStreamTimeCharacteristic(TimeCharacteristic characteristic) {<br/> this.timeCharacteristic = Preconditions.checkNotNull(characteristic);<br/> if (characteristic == TimeCharacteristic.ProcessingTime) {<br/> getConfig().setAutoWatermarkInterval(0);<br/> } else {<br/> getConfig().setAutoWatermarkInterval(200);<br/> }<br/> }
在 2021-01-13 10:09:54,"张锴" <[hidden email]> 写道:

>我从ExecutionConfig找到了,private long autoWatermarkInterval =
>0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗
>
>Ball's Holy <[hidden email]> 于2021年1月13日周三 上午9:42写道:
>
>> hi&nbsp;张锴,
>> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
>> 对应的属性autoWatermarkInterval
>>
>>
>>
>>
>> ------------------&nbsp;原始邮件&nbsp;------------------
>> 发件人: "anonnius"<[hidden email]&gt;;
>> 发送时间: 2021年1月13日(星期三) 上午9:19
>> 收件人: "user-zh"<[hidden email]&gt;;
>> 主题: Re:flink waterMark 相关问题
>>
>>
>>
>> 可以看一下 ExecutionConfig这个类
>> 在 2021-01-12 17:55:47,"张锴" <[hidden email]&gt; 写道:
>> &gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

回复: flink waterMark 相关问题

Ball's Holy
In reply to this post by 张锴
master分支应该是200毫秒,1.10版本的话参考这个参数默认值。代表生成watermark时间间隔



------------------&nbsp;原始邮件&nbsp;------------------
发件人: "张锴"<[hidden email]&gt;;
发送时间: 2021年1月13日(星期三) 上午10:09
收件人: "user-zh"<[hidden email]&gt;;
主题: Re: flink waterMark 相关问题



我从ExecutionConfig找到了,private long autoWatermarkInterval =
0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗

Ball's Holy <[hidden email]&gt; 于2021年1月13日周三 上午9:42写道:

&gt; hi&amp;nbsp;张锴,
&gt; 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
&gt; 对应的属性autoWatermarkInterval
&gt;
&gt;
&gt;
&gt;
&gt; ------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
&gt; 发件人: "anonnius"<[hidden email]&amp;gt;;
&gt; 发送时间: 2021年1月13日(星期三) 上午9:19
&gt; 收件人: "user-zh"<[hidden email]&amp;gt;;
&gt; 主题: Re:flink waterMark 相关问题
&gt;
&gt;
&gt;
&gt; 可以看一下 ExecutionConfig这个类
&gt; 在 2021-01-12 17:55:47,"张锴" <[hidden email]&amp;gt; 写道:
&gt; &amp;gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

回复: flink waterMark 相关问题

Ball's Holy
In reply to this post by 张锴
master分支应该是200毫秒,1.10版本的话参考这个参数默认值。代表生成watermark时间间隔




------------------&nbsp;原始邮件&nbsp;------------------
发件人:                                                                                                                        "user-zh"                                                                                    <[hidden email]&gt;;
发送时间:&nbsp;2021年1月13日(星期三) 上午10:09
收件人:&nbsp;"user-zh"<[hidden email]&gt;;

主题:&nbsp;Re: flink waterMark 相关问题



我从ExecutionConfig找到了,private long autoWatermarkInterval =
0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗

Ball's Holy <[hidden email]&gt; 于2021年1月13日周三 上午9:42写道:

&gt; hi&amp;nbsp;张锴,
&gt; 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
&gt; 对应的属性autoWatermarkInterval
&gt;
&gt;
&gt;
&gt;
&gt; ------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
&gt; 发件人: "anonnius"<[hidden email]&amp;gt;;
&gt; 发送时间: 2021年1月13日(星期三) 上午9:19
&gt; 收件人: "user-zh"<[hidden email]&amp;gt;;
&gt; 主题: Re:flink waterMark 相关问题
&gt;
&gt;
&gt;
&gt; 可以看一下 ExecutionConfig这个类
&gt; 在 2021-01-12 17:55:47,"张锴" <[hidden email]&amp;gt; 写道:
&gt; &amp;gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
Reply | Threaded
Open this post in threaded view
|

Re: Re: flink waterMark 相关问题

张锴
In reply to this post by anonnius
ok,明白了

anonnius <[hidden email]> 于2021年1月13日周三 上午10:20写道:

> 在 StreamExecutionEnvironmennt的方法<br/>@PublicEvolving<br/>       public
> void setStreamTimeCharacteristic(TimeCharacteristic characteristic) {<br/>
>              this.timeCharacteristic =
> Preconditions.checkNotNull(characteristic);<br/>              if
> (characteristic == TimeCharacteristic.ProcessingTime) {<br/>
>  getConfig().setAutoWatermarkInterval(0);<br/>           } else {<br/>
>              getConfig().setAutoWatermarkInterval(200);<br/>
>  }<br/>  }
> 在 2021-01-13 10:09:54,"张锴" <[hidden email]> 写道:
> >我从ExecutionConfig找到了,private long autoWatermarkInterval =
> >0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗
> >
> >Ball's Holy <[hidden email]> 于2021年1月13日周三 上午9:42写道:
> >
> >> hi&nbsp;张锴,
> >> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
> >> 对应的属性autoWatermarkInterval
> >>
> >>
> >>
> >>
> >> ------------------&nbsp;原始邮件&nbsp;------------------
> >> 发件人: "anonnius"<[hidden email]&gt;;
> >> 发送时间: 2021年1月13日(星期三) 上午9:19
> >> 收件人: "user-zh"<[hidden email]&gt;;
> >> 主题: Re:flink waterMark 相关问题
> >>
> >>
> >>
> >> 可以看一下 ExecutionConfig这个类
> >> 在 2021-01-12 17:55:47,"张锴" <[hidden email]&gt; 写道:
> >> &gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
>
Reply | Threaded
Open this post in threaded view
|

Re: Re: flink waterMark 相关问题

Px New
private long autoWatermarkInterval = 200;

/**
 * Interval in milliseconds for sending latency tracking marks from
the sources to the sinks.
 */


张锴 <[hidden email]> 于2021年1月13日周三 上午10:26写道:

> ok,明白了
>
> anonnius <[hidden email]> 于2021年1月13日周三 上午10:20写道:
>
> > 在 StreamExecutionEnvironmennt的方法<br/>@PublicEvolving<br/>       public
> > void setStreamTimeCharacteristic(TimeCharacteristic characteristic)
> {<br/>
> >              this.timeCharacteristic =
> > Preconditions.checkNotNull(characteristic);<br/>              if
> > (characteristic == TimeCharacteristic.ProcessingTime) {<br/>
> >  getConfig().setAutoWatermarkInterval(0);<br/>           } else {<br/>
> >              getConfig().setAutoWatermarkInterval(200);<br/>
> >  }<br/>  }
> > 在 2021-01-13 10:09:54,"张锴" <[hidden email]> 写道:
> > >我从ExecutionConfig找到了,private long autoWatermarkInterval =
> > >0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗
> > >
> > >Ball's Holy <[hidden email]> 于2021年1月13日周三 上午9:42写道:
> > >
> > >> hi&nbsp;张锴,
> > >> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
> > >> 对应的属性autoWatermarkInterval
> > >>
> > >>
> > >>
> > >>
> > >> ------------------&nbsp;原始邮件&nbsp;------------------
> > >> 发件人: "anonnius"<[hidden email]&gt;;
> > >> 发送时间: 2021年1月13日(星期三) 上午9:19
> > >> 收件人: "user-zh"<[hidden email]&gt;;
> > >> 主题: Re:flink waterMark 相关问题
> > >>
> > >>
> > >>
> > >> 可以看一下 ExecutionConfig这个类
> > >> 在 2021-01-12 17:55:47,"张锴" <[hidden email]&gt; 写道:
> > >> &gt;hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
> >
>