關於LocalExecutionEnvironment使用MiniCluster的配置

classic Classic list List threaded Threaded
4 messages Options
Reply | Threaded
Open this post in threaded view
|

關於LocalExecutionEnvironment使用MiniCluster的配置

月月
您好,
在單機模式使用maven執行專案時,會自動啟動MiniCluster,
我想請問在這種情形下,預設是配置一個JobManager以及一個TaskManager嗎?

找了一下文件中並沒有相關的說明。

感謝!
Reply | Threaded
Open this post in threaded view
|

Re: 關於LocalExecutionEnvironment使用MiniCluster的配置

tison
是这样的。

这里的配置可以参考[1][2]两个类,具体你 Maven 启动的代码路径还跟[3][4]有关。

这边可能确实文档比较缺失。可以看下配置传递的路径,TM 的数量还有 RPC 的共享格式等配置,至少编程接口上都是可以配的。

Best,
tison.

[1]
https://github.com/apache/flink/blob/master/flink-runtime/src/main/java/org/apache/flink/runtime/minicluster/MiniCluster.java
[2]
https://github.com/apache/flink/blob/ab947386ed93b16019f36c50e9a3475dd6ad3c4a/flink-runtime/src/main/java/org/apache/flink/runtime/minicluster/MiniClusterConfiguration.java
[3]
https://github.com/apache/flink/blob/master/flink-clients/src/main/java/org/apache/flink/client/deployment/executors/LocalExecutor.java
[4]
https://github.com/apache/flink/blob/master/flink-clients/src/main/java/org/apache/flink/client/program/PerJobMiniClusterFactory.java




月月 <[hidden email]> 于2020年5月24日周日 下午9:11写道:

> 您好,
> 在單機模式使用maven執行專案時,會自動啟動MiniCluster,
> 我想請問在這種情形下,預設是配置一個JobManager以及一個TaskManager嗎?
>
> 找了一下文件中並沒有相關的說明。
>
> 感謝!
>
Reply | Threaded
Open this post in threaded view
|

Re: 關於LocalExecutionEnvironment使用MiniCluster的配置

Jeff Zhang
在zeppelin也集成了flink的local 模式,可以通过设置 local.number-taskmanager 和
flink.tm.slot来设置tm和slot的数目,
具体可以参考这个视频 https://www.bilibili.com/video/BV1Te411W73b?p=3

tison <[hidden email]> 于2020年5月24日周日 下午9:46写道:

> 是这样的。
>
> 这里的配置可以参考[1][2]两个类,具体你 Maven 启动的代码路径还跟[3][4]有关。
>
> 这边可能确实文档比较缺失。可以看下配置传递的路径,TM 的数量还有 RPC 的共享格式等配置,至少编程接口上都是可以配的。
>
> Best,
> tison.
>
> [1]
>
> https://github.com/apache/flink/blob/master/flink-runtime/src/main/java/org/apache/flink/runtime/minicluster/MiniCluster.java
> [2]
>
> https://github.com/apache/flink/blob/ab947386ed93b16019f36c50e9a3475dd6ad3c4a/flink-runtime/src/main/java/org/apache/flink/runtime/minicluster/MiniClusterConfiguration.java
> [3]
>
> https://github.com/apache/flink/blob/master/flink-clients/src/main/java/org/apache/flink/client/deployment/executors/LocalExecutor.java
> [4]
>
> https://github.com/apache/flink/blob/master/flink-clients/src/main/java/org/apache/flink/client/program/PerJobMiniClusterFactory.java
>
>
>
>
> 月月 <[hidden email]> 于2020年5月24日周日 下午9:11写道:
>
> > 您好,
> > 在單機模式使用maven執行專案時,會自動啟動MiniCluster,
> > 我想請問在這種情形下,預設是配置一個JobManager以及一個TaskManager嗎?
> >
> > 找了一下文件中並沒有相關的說明。
> >
> > 感謝!
> >
>


--
Best Regards

Jeff Zhang
Reply | Threaded
Open this post in threaded view
|

Re: 關於LocalExecutionEnvironment使用MiniCluster的配置

月月
非常感謝,我再研究一下!

Jeff Zhang <[hidden email]> 於 2020年5月24日 週日 下午9:52寫道:

> 在zeppelin也集成了flink的local 模式,可以通过设置 local.number-taskmanager 和
> flink.tm.slot来设置tm和slot的数目,
> 具体可以参考这个视频 https://www.bilibili.com/video/BV1Te411W73b?p=3
>
> tison <[hidden email]> 于2020年5月24日周日 下午9:46写道:
>
> > 是这样的。
> >
> > 这里的配置可以参考[1][2]两个类,具体你 Maven 启动的代码路径还跟[3][4]有关。
> >
> > 这边可能确实文档比较缺失。可以看下配置传递的路径,TM 的数量还有 RPC 的共享格式等配置,至少编程接口上都是可以配的。
> >
> > Best,
> > tison.
> >
> > [1]
> >
> >
> https://github.com/apache/flink/blob/master/flink-runtime/src/main/java/org/apache/flink/runtime/minicluster/MiniCluster.java
> > [2]
> >
> >
> https://github.com/apache/flink/blob/ab947386ed93b16019f36c50e9a3475dd6ad3c4a/flink-runtime/src/main/java/org/apache/flink/runtime/minicluster/MiniClusterConfiguration.java
> > [3]
> >
> >
> https://github.com/apache/flink/blob/master/flink-clients/src/main/java/org/apache/flink/client/deployment/executors/LocalExecutor.java
> > [4]
> >
> >
> https://github.com/apache/flink/blob/master/flink-clients/src/main/java/org/apache/flink/client/program/PerJobMiniClusterFactory.java
> >
> >
> >
> >
> > 月月 <[hidden email]> 于2020年5月24日周日 下午9:11写道:
> >
> > > 您好,
> > > 在單機模式使用maven執行專案時,會自動啟動MiniCluster,
> > > 我想請問在這種情形下,預設是配置一個JobManager以及一個TaskManager嗎?
> > >
> > > 找了一下文件中並沒有相關的說明。
> > >
> > > 感謝!
> > >
> >
>
>
> --
> Best Regards
>
> Jeff Zhang
>