flink sql eos

classic Classic list List threaded Threaded
2 messages Options
Reply | Threaded
Open this post in threaded view
|

flink sql eos

silence-2
大家好

       请问目前flink sql是不是不能没有开启全局端到端精确一致性(eos)的方
式,

目前仅有kafka实现了TwoPhaseCommitSinkFunction,但kafka的ddl中也没有属性去设
置Semantic为EXACTLY_ONCE

 

我们是否可以去支持更多的事务性connector,并可以在flink sql维度支持开启全局的
端到端一致性,并为每个connector是否支持EXACTLY_ONCE进行验证,

当开启全局EXACTLY_ONCE并且所有使用的connector都支持EXACTLY_ONCE,是否整个应
用程序就可以做到端到端的精确一致性

Reply | Threaded
Open this post in threaded view
|

Re: flink sql eos

Leonard Xu
Hi

> 目前仅有kafka实现了TwoPhaseCommitSinkFunction,但kafka的ddl中也没有属性去设
> 置Semantic为EXACTLY_ONCE

除了Kafka还有filesystem connector也是支持 EXACTLY ONCE的,kafka 的已经在1.12支持了[1]


> 当开启全局EXACTLY_ONCE并且所有使用的connector都支持EXACTLY_ONCE,是否整个应
> 用程序就可以做到端到端的精确一致性

是的。

祝好
Leonard
[1] https://issues.apache.org/jira/browse/FLINK-15221 <https://issues.apache.org/jira/browse/FLINK-15221>