Re: 关于直接设置Watermark和flatmap后再设置的疑问
Posted by
LakeShen on
Dec 18, 2019; 6:10am
URL: http://apache-flink.370.s1.nabble.com/flink-sql-confluent-schema-avro-topic-tp1264p1267.html
flatmap 逻辑中,你是否对消息记录的时间处理了吗,watermark 的更新的逻辑是比前一次 watermark 的时间截要大同时非空。
猫猫 <
[hidden email]> 于2019年12月18日周三 上午9:27写道:
> env.addSource(flinkKafkaConsumer).assignTimestampsAndWatermarks(...)
>
> env.addSource(flinkKafkaConsumer).flatMap(...).assignTimestampsAndWatermarks(...);
>
> 使用kafka进行消费,直接设置Watermark和经过flatMap()以后再设置,会产生什么样的区别和影响。
> flatMap可能会将数据处理为1-N条。那么在这种情况下,还能够保证kafka的精确一次吗?