standalone模式下metaspace内存溢出

classic Classic list List threaded Threaded
4 messages Options
Reply | Threaded
Open this post in threaded view
|

standalone模式下metaspace内存溢出

胡泽康
flink版本:1.10
standalone模式下,同一个batch作业提交多次后,taskmananger会metaspace内存溢出。

我用visualVm观察到,多次提交后,taskmanager的metaspace如下图:

虽然可以通过启动时调大jvm参数,但是这个应该是有问题的
Reply | Threaded
Open this post in threaded view
|

Re: standalone模式下metaspace内存溢出

Xintong Song
你好,

社区已经发现过一些与 metaspace
泄漏相关的问题,其中部分已经修复,还有一些则与第三方依赖有关。由于你的图片没有显示出来,我不确定你遇到的是否是相同的问题。

此外,在即将发布的 1.11 中,Flink 针对这一问题进行了优化,作业会采用单独的 ClassLoader 运行,以避免作业结束之后
metaspace 还有泄漏的问题。1.11.0 已经进入发布前的测试阶段,RC1 已经发布,欢迎试用。

Thank you~

Xintong Song



On Fri, Jun 5, 2020 at 9:29 AM 胡泽康 <[hidden email]> wrote:

> flink版本:1.10
> standalone模式下,同一个batch作业提交多次后,taskmananger会metaspace内存溢出。
>
> 我用visualVm观察到,多次提交后,taskmanager的metaspace如下图:
>
> 虽然可以通过启动时调大jvm参数,但是这个应该是有问题的
>
Reply | Threaded
Open this post in threaded view
|

Re: standalone模式下metaspace内存溢出

胡泽康
那我先试试1.11.


thank you~
&nbsp;
&nbsp;
------------------&nbsp;Original&nbsp;------------------
From: &nbsp;"Xintong Song"<[hidden email]&gt;;
Date: &nbsp;Fri, Jun 5, 2020 10:11 AM
To: &nbsp;"user-zh"<[hidden email]&gt;;

Subject: &nbsp;Re: standalone模式下metaspace内存溢出

&nbsp;

你好,

社区已经发现过一些与 metaspace
泄漏相关的问题,其中部分已经修复,还有一些则与第三方依赖有关。由于你的图片没有显示出来,我不确定你遇到的是否是相同的问题。

此外,在即将发布的 1.11 中,Flink 针对这一问题进行了优化,作业会采用单独的 ClassLoader 运行,以避免作业结束之后
metaspace 还有泄漏的问题。1.11.0 已经进入发布前的测试阶段,RC1 已经发布,欢迎试用。

Thank you~

Xintong Song



On Fri, Jun 5, 2020 at 9:29 AM 胡泽康 <[hidden email]&gt; wrote:

&gt; flink版本:1.10
&gt; standalone模式下,同一个batch作业提交多次后,taskmananger会metaspace内存溢出。
&gt;
&gt; 我用visualVm观察到,多次提交后,taskmanager的metaspace如下图:
&gt;
&gt; 虽然可以通过启动时调大jvm参数,但是这个应该是有问题的
&gt;
Reply | Threaded
Open this post in threaded view
|

Re: Re: standalone模式下metaspace内存溢出

amenhub@163.com
In reply to this post by 胡泽康
你好,

社区已经发现过一些与 metaspace
泄漏相关的问题,其中部分已经修复,还有一些则与第三方依赖有关。由于你的图片没有显示出来,我不确定你遇到的是否是相同的问题。

此外,在即将发布的 1.11 中,Flink 针对这一问题进行了优化,作业会采用单独的 ClassLoader 运行,以避免作业结束之后
metaspace 还有泄漏的问题。1.11.0 已经进入发布前的测试阶段,RC1 已经发布,欢迎试用。

Thank you~

Xintong Song



On Fri, Jun 5, 2020 at 9:29 AM 胡泽康 <[hidden email]> wrote:

> flink版本:1.10
> standalone模式下,同一个batch作业提交多次后,taskmananger会metaspace内存溢出。
>
> 我用visualVm观察到,多次提交后,taskmanager的metaspace如下图:
>
> 虽然可以通过启动时调大jvm参数,但是这个应该是有问题的
>