关于flink升级

classic Classic list List threaded Threaded
6 messages Options
Reply | Threaded
Open this post in threaded view
|

关于flink升级

引领
我们的flink是在1.7版本的,所以这次想对flink进行升级,但升级建议直接升级flink1.11.1么?有木有大佬在生产环境部署的么?


| |
引领
|
|
[hidden email]
|
签名由网易邮箱大师定制

Reply | Threaded
Open this post in threaded view
|

Re:关于flink升级

CHENJIE
官网有升级建议

https://ci.apache.org/projects/flink/flink-docs-release-1.11/zh/ops/upgrading.html#compatibility-table














在 2020-08-14 09:15:53,"引领" <[hidden email]> 写道:

>我们的flink是在1.7版本的,所以这次想对flink进行升级,但升级建议直接升级flink1.11.1么?有木有大佬在生产环境部署的么?
>
>
>| |
>引领
>|
>|
>[hidden email]
>|
>签名由网易邮箱大师定制
>
Reply | Threaded
Open this post in threaded view
|

回复:关于flink升级

蒋佳成(Jiacheng Jiang)
In reply to this post by 引领
1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;&quot;引领&quot;<[hidden email]&gt;
发送时间:&nbsp;2020年8月14日(星期五) 上午9:15
收件人:&nbsp;&quot;[hidden email]&quot;<[hidden email]&gt;;
主题:&nbsp;关于flink升级
Reply | Threaded
Open this post in threaded view
|

Re: 回复:关于flink升级

Zhao,Yi(SEC)
经历了1.7到1.8,1.8到1.9,1.9到1.10;前2还好,最后一个有些坑,jdk8版本不要太旧,某个版本和1.10配合会有bug。

在 2020/8/14 上午9:25,“蒋佳成(Jiacheng Jiang)”<[hidden email]> 写入:

    1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------&nbsp;原始邮件&nbsp;------------------
    发件人:&nbsp;&quot;引领&quot;<[hidden email]&gt;
    发送时间:&nbsp;2020年8月14日(星期五) 上午9:15
    收件人:&nbsp;&quot;[hidden email]&quot;<[hidden email]&gt;;
    主题:&nbsp;关于flink升级

Reply | Threaded
Open this post in threaded view
|

Re: 回复:关于flink升级

caozhen

我升级1.7到1.11过程遇到主要下面的问题,可以参考下

1、编译mainjar阶段:flink api的变化,例如env创建有变化,某些类的包名有变化
2、编译mainjar阶段:flink、flinksql环境相关的依赖改为provided,不打进fat包,否则引发NoClassDefFoundError问题
3、测试运行阶段:资源设置:TM、JM 有重大变化
4、测试运行阶段:解决flink和hadoop的依赖问题(1.11开始不再提供hadoop-shade依赖)
---------------------------



Zhao,Yi(SEC) wrote
> 经历了1.7到1.8,1.8到1.9,1.9到1.10;前2还好,最后一个有些坑,jdk8版本不要太旧,某个版本和1.10配合会有bug。
>
> 在 2020/8/14 上午9:25,“蒋佳成(Jiacheng Jiang)”<

> 920334586@

>> 写入:
>
>    
> 1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------&nbsp;原始邮件&nbsp;------------------
>     发件人:&nbsp;&quot;引领&quot;<

> yrx73513@

> &gt;
>     发送时间:&nbsp;2020年8月14日(星期五) 上午9:15
>     收件人:&nbsp;&quot;

> user-zh@.apache

> &quot;<

> user-zh@.apache

> &gt;;
>     主题:&nbsp;关于flink升级





--
Sent from: http://apache-flink.147419.n8.nabble.com/
Reply | Threaded
Open this post in threaded view
|

回复: 关于flink升级

引领


谢谢各位大佬。我测测整体环境吧!!!
| |
引领
|
|
[hidden email]
|
签名由网易邮箱大师定制


在2020年08月14日 10:51,caozhen<[hidden email]> 写道:

我升级1.7到1.11过程遇到主要下面的问题,可以参考下

1、编译mainjar阶段:flink api的变化,例如env创建有变化,某些类的包名有变化
2、编译mainjar阶段:flink、flinksql环境相关的依赖改为provided,不打进fat包,否则引发NoClassDefFoundError问题
3、测试运行阶段:资源设置:TM、JM 有重大变化
4、测试运行阶段:解决flink和hadoop的依赖问题(1.11开始不再提供hadoop-shade依赖)
---------------------------



Zhao,Yi(SEC) wrote
经历了1.7到1.8,1.8到1.9,1.9到1.10;前2还好,最后一个有些坑,jdk8版本不要太旧,某个版本和1.10配合会有bug。

在 2020/8/14 上午9:25,“蒋佳成(Jiacheng Jiang)”<

920334586@

写入:


1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;&quot;引领&quot;<

yrx73513@

&gt;
发送时间:&nbsp;2020年8月14日(星期五) 上午9:15
收件人:&nbsp;&quot;

user-zh@.apache

&quot;<

user-zh@.apache

&gt;;
主题:&nbsp;关于flink升级





--
Sent from: http://apache-flink.147419.n8.nabble.com/