关于rebalance和forward的性能

classic Classic list List threaded Threaded
3 messages Options
Reply | Threaded
Open this post in threaded view
|

关于rebalance和forward的性能

nobleyd
如题,如果我确认某2个task我期望是2个task,即不会chain到一起。这种情况下使用foward和rebalannce有哪种固定会性能更好吗。哪种一般性能更好呢?
Reply | Threaded
Open this post in threaded view
|

Re: 关于rebalance和forward的性能

Smile
你好,

不 chain 的话基本取决于上游是否有数据倾斜吧。
有数据倾斜的话 Rebalance 可以让下游算子均衡一点,性能会好一些;没有数据倾斜的话,Forward 是一对一发,Rebalance 是 n 对
m 发,后者网络开销相对会大一些,Forward 的性能可能会稍微好一点点,但是我理解这个差异对作业性能的影响可能微乎其微。

Smile



--
Sent from: http://apache-flink.147419.n8.nabble.com/
Reply | Threaded
Open this post in threaded view
|

Re: 关于rebalance和forward的性能

nobleyd
好的。谢谢。

Smile <[hidden email]> 于2021年3月2日周二 下午2:49写道:

> 你好,
>
> 不 chain 的话基本取决于上游是否有数据倾斜吧。
> 有数据倾斜的话 Rebalance 可以让下游算子均衡一点,性能会好一些;没有数据倾斜的话,Forward 是一对一发,Rebalance 是 n 对
> m 发,后者网络开销相对会大一些,Forward 的性能可能会稍微好一点点,但是我理解这个差异对作业性能的影响可能微乎其微。
>
> Smile
>
>
>
> --
> Sent from: http://apache-flink.147419.n8.nabble.com/