Re:回复:flink1.11 set yarn slots failed

classic Classic list List threaded Threaded
3 messages Options
Reply | Threaded
Open this post in threaded view
|

Re:回复:flink1.11 set yarn slots failed

xiao cai
可以看这里https://ci.apache.org/projects/flink/flink-docs-stable/ops/config.html

 原始邮件
发件人: Zhou Zach<[hidden email]>
收件人: user-zh<[hidden email]>
发送时间: 2020年7月16日(周四) 15:28
主题: Re:回复:flink1.11 set yarn slots failed


-D前缀好使,要设置yarn name用什么参数啊,1.11官网的文档有些都不好使了 在 2020-07-16 15:03:14,"flinkcx" <[hidden email]> 写道: >是不是应该用-D作为前缀来设置,比如-Dtaskmanager.numberOfTaskSlots=4 > > > 原始邮件 >发件人: Zhou Zach<[hidden email]> >收件人: Flink user-zh mailing list<[hidden email]> >发送时间: 2020年7月16日(周四) 14:51 >主题: flink1.11 set yarn slots failed > > >Hi all, 使用如下命令,设置Number of slots per TaskManager /opt/flink-1.11.0/bin/flink run-application -t yarn-application \ -Djobmanager.memory.process.size=1024m \ -Dtaskmanager.memory.process.size=2048m \ -ys 4 \ 发现并不能override/opt/flink-1.11.0/bin/flink/conf/flink-conf.yaml中的默认值,每次要调整只能通过更改flink-conf.yaml的方式才能生效,请问使用run-application的方式,怎样设置Number of slots per TaskManager? 另外,有哪些方式可以增Flink UI中的大Available Task Slots的值,现在每次提交作业都是0
Reply | Threaded
Open this post in threaded view
|

Re:Re:回复:flink1.11 set yarn slots failed

Zhou Zach
nice, 可以不用看Command-Line Interface的文档了

















在 2020-07-16 16:16:00,"xiao cai" <[hidden email]> 写道:

>可以看这里https://ci.apache.org/projects/flink/flink-docs-stable/ops/config.html
>
> 原始邮件
>发件人: Zhou Zach<[hidden email]>
>收件人: user-zh<[hidden email]>
>发送时间: 2020年7月16日(周四) 15:28
>主题: Re:回复:flink1.11 set yarn slots failed
>
>
>-D前缀好使,要设置yarn name用什么参数啊,1.11官网的文档有些都不好使了 在 2020-07-16 15:03:14,"flinkcx" <[hidden email]> 写道: >是不是应该用-D作为前缀来设置,比如-Dtaskmanager.numberOfTaskSlots=4 > > > 原始邮件 >发件人: Zhou Zach<[hidden email]> >收件人: Flink user-zh mailing list<[hidden email]> >发送时间: 2020年7月16日(周四) 14:51 >主题: flink1.11 set yarn slots failed > > >Hi all, 使用如下命令,设置Number of slots per TaskManager /opt/flink-1.11.0/bin/flink run-application -t yarn-application \ -Djobmanager.memory.process.size=1024m \ -Dtaskmanager.memory.process.size=2048m \ -ys 4 \ 发现并不能override/opt/flink-1.11.0/bin/flink/conf/flink-conf.yaml中的默认值,每次要调整只能通过更改flink-conf.yaml的方式才能生效,请问使用run-application的方式,怎样设置Number of slots per TaskManager? 另外,有哪些方式可以增Flink UI中的大Available Task Slots的值,现在每次提交作业都是0
Reply | Threaded
Open this post in threaded view
|

Re: Re:回复:flink1.11 set yarn slots failed

Yang Wang
从长远看,社区是想逐步统一各个deployment下的参数的(Yarn/K8s),所以CLI Config options
会逐渐被废弃,而使用dynamic config options的方式


Best,
Yang

Zhou Zach <[hidden email]> 于2020年7月16日周四 下午4:28写道:

> nice, 可以不用看Command-Line Interface的文档了
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>
> 在 2020-07-16 16:16:00,"xiao cai" <[hidden email]> 写道:
> >可以看这里
> https://ci.apache.org/projects/flink/flink-docs-stable/ops/config.html
> >
> > 原始邮件
> >发件人: Zhou Zach<[hidden email]>
> >收件人: user-zh<[hidden email]>
> >发送时间: 2020年7月16日(周四) 15:28
> >主题: Re:回复:flink1.11 set yarn slots failed
> >
> >
> >-D前缀好使,要设置yarn name用什么参数啊,1.11官网的文档有些都不好使了 在 2020-07-16
> 15:03:14,"flinkcx" <[hidden email]> 写道:
> >是不是应该用-D作为前缀来设置,比如-Dtaskmanager.numberOfTaskSlots=4 > > > 原始邮件 >发件人: Zhou
> Zach<[hidden email]> >收件人: Flink user-zh mailing list<
> [hidden email]> >发送时间: 2020年7月16日(周四) 14:51 >主题: flink1.11 set
> yarn slots failed > > >Hi all, 使用如下命令,设置Number of slots per TaskManager
> /opt/flink-1.11.0/bin/flink run-application -t yarn-application \
> -Djobmanager.memory.process.size=1024m \
> -Dtaskmanager.memory.process.size=2048m \ -ys 4 \
> 发现并不能override/opt/flink-1.11.0/bin/flink/conf/flink-conf.yaml中的默认值,每次要调整只能通过更改flink-conf.yaml的方式才能生效,请问使用run-application的方式,怎样设置Number
> of slots per TaskManager? 另外,有哪些方式可以增Flink UI中的大Available Task
> Slots的值,现在每次提交作业都是0
>