Apache Flink 中文用户邮件列表
Search
everywhere
only in this topic
Advanced Search
关于rebalance和forward的性能
Classic
List
Threaded
♦
♦
Locked
3 messages
nobleyd
Reply
|
Threaded
Open this post in threaded view
♦
♦
|
关于rebalance和forward的性能
如题,如果我确认某2个task我期望是2个task,即不会chain到一起。这种情况下使用foward和rebalannce有哪种固定会性能更好吗。哪种一般性能更好呢?
Smile
Reply
|
Threaded
Open this post in threaded view
♦
♦
|
Re: 关于rebalance和forward的性能
你好,
不 chain 的话基本取决于上游是否有数据倾斜吧。
有数据倾斜的话 Rebalance 可以让下游算子均衡一点,性能会好一些;没有数据倾斜的话,Forward 是一对一发,Rebalance 是 n 对
m 发,后者网络开销相对会大一些,Forward 的性能可能会稍微好一点点,但是我理解这个差异对作业性能的影响可能微乎其微。
Smile
--
Sent from:
http://apache-flink.147419.n8.nabble.com/
nobleyd
Reply
|
Threaded
Open this post in threaded view
♦
♦
|
Re: 关于rebalance和forward的性能
好的。谢谢。
Smile <
[hidden email]
> 于2021年3月2日周二 下午2:49写道:
> 你好,
>
> 不 chain 的话基本取决于上游是否有数据倾斜吧。
> 有数据倾斜的话 Rebalance 可以让下游算子均衡一点,性能会好一些;没有数据倾斜的话,Forward 是一对一发,Rebalance 是 n 对
> m 发,后者网络开销相对会大一些,Forward 的性能可能会稍微好一点点,但是我理解这个差异对作业性能的影响可能微乎其微。
>
> Smile
>
>
>
> --
> Sent from:
http://apache-flink.147419.n8.nabble.com/
Free forum by Nabble
Edit this page