回复:flink1.12版本,yarn-application模式Flink web ui看不到日志

classic Classic list List threaded Threaded
2 messages Options
smq
Reply | Threaded
Open this post in threaded view
|

回复:flink1.12版本,yarn-application模式Flink web ui看不到日志

smq
非常感谢,我明天测试一下,解决之后,我会把这个问题描述下





------------------ 原始邮件 ------------------
发件人: r pp <[hidden email]&gt;
发送时间: 2021年6月4日 18:17
收件人: user-zh <[hidden email]&gt;, smq <[hidden email]&gt;
主题: 回复:flink1.12版本,yarn-application模式Flink web ui看不到日志



上封,复制错了,更正下,看时间顺序。 日志启动
2021-06-04 17:38:15,417 INFO org.apache.flink.runtime.entrypoint.
ClusterEntrypoint [] - -Dlog
.file=/yarn/container-logs/application_1622784975053_0013/container_1622784975053_0013_01_000001/jobmanager.log
cluster 启动
2021-06-04 17:38:15,425 INFO org.apache.flink.runtime.entrypoint.
ClusterEntrypoint [] - YARN daemon is running as: hdfs Yarn client user
obtainer: hdfs

r pp <[hidden email]&gt; 于2021年6月4日周五 下午6:11写道:

&gt; 嗨~
&gt;&nbsp; 我这边是&nbsp; per-job on yarn 的mode
&gt;
&gt;&nbsp; 我查看的 yarn 的container 的日志信息,一般在程序初始化的时候,就会生产日志名,日志路径,变成环境env,
&gt;&nbsp; 然后 形成config ,再启动 cluster。
&gt;
&gt; 而日志路径 是yarn 的配置模式取好的,之后 flink 的获取这个信息,用于web 展示。
&gt;
&gt; 所以,你可能需要定位 你的日志文件路径 是否有改变,我做test,改变日志名,flink-web 还是可以正常显示
&gt; ,但是改变路径,flink-web 就无法显示了
&gt;
&gt; 但是具体的差异可能无法细化了,所提供的信息太少
&gt; env 环境信息
&gt; 2021-06-04 17:38:15,417 INFO org.apache.flink.runtime.entrypoint.
&gt; ClusterEntrypoint [] - -Dlog
&gt; .file=/yarn/container-logs/application_1622784975053_0013/container_1622784975053_0013_01_000001/jobmanager.log
&gt; cluster 启动信息
&gt; 2021-06-04 16:47:01,429 INFO org.apache.flink.runtime.entrypoint.
&gt; ClusterEntrypoint [] - YARN daemon is running as: hdfs Yarn client user
&gt; obtainer: hdfs
&gt;
&gt; zilong xiao <[hidden email]&gt; 于2021年6月3日周四 下午2:17写道:
&gt;
&gt;&gt; 1.10默认用的log4j1,1.12用log4j2
&gt;&gt;
&gt;&gt; smq <[hidden email]&gt; 于2021年6月2日周三 下午3:26写道:
&gt;&gt;
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; 你的意思是在log4j.properties中的配置吗,我门在这个里边配置了生成日志文件的格式,是在安装节点里加的,不过这个应该不是在webui里显示的。奇怪的一点是我们组有别的程序是正常的,但是一部分在webUI不显示日志。我们目前是从1.10升级到1.12,这种情况在1.12出现的
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt; ------------------ 原始邮件 ------------------
&gt;&gt; &gt; 发件人: r pp <[hidden email]&amp;gt;
&gt;&gt; &gt; 发送时间: 2021年6月2日 15:08
&gt;&gt; &gt; 收件人: user-zh <[hidden email]&amp;gt;
&gt;&gt; &gt; 主题: 回复:flink1.12版本,yarn-application模式Flink web ui看不到日志
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt; 嗨~&amp;nbsp; 你们有没有改日志文件的名字
&gt;&gt; &gt;
&gt;&gt; &gt; smq <[hidden email]&amp;gt; 于2021年6月2日周三 下午12:24写道:
&gt;&gt; &gt;
&gt;&gt; &gt; &amp;gt; 你这个解决了吗,我也遇到了同样的问题
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt; ------------------ 原始邮件 ------------------
&gt;&gt; &gt; &amp;gt; 发件人: todd <[hidden email]&amp;amp;gt;
&gt;&gt; &gt; &amp;gt; 发送时间: 2021年4月14日 19:11
&gt;&gt; &gt; &amp;gt; 收件人: user-zh <[hidden email]&amp;amp;gt;
&gt;&gt; &gt; &amp;gt; 主题: 回复:flink1.12版本,yarn-application模式Flink web ui看不到日志
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;&amp;nbsp; yarn上只有.out,.error的日志信息,但是从flink web ui的log框,无法显示日志内容。
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt;
&gt;&gt; &gt; &amp;gt; --
&gt;&gt; &gt; &amp;gt; Sent from: http://apache-flink.147419.n8.nabble.com/
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt;
&gt;&gt; &gt; --
&gt;&gt; &gt; Best,
&gt;&gt; &gt; &amp;nbsp; pp
&gt;&gt;
&gt;
&gt;
&gt; --
&gt; Best,
&gt;&nbsp;&nbsp; pp
&gt;


--
Best,
&nbsp; pp
Reply | Threaded
Open this post in threaded view
|

Re:flink1.12版本,yarn-application模式Flink web ui看不到日志

周瑞
您好请问这个问题解决了么,我也遇到了同样的问题,在Standalone模式下日志是可以正常输出的,部署到yarn之后只有error日志了
&nbsp;
&nbsp;
------------------&nbsp;Original&nbsp;------------------
From: &nbsp;"smq"<[hidden email]&gt;;
Date: &nbsp;Fri, Jun 4, 2021 07:06 PM
To: &nbsp;"r pp"<[hidden email]&gt;; "user-zh"<[hidden email]&gt;;

Subject: &nbsp;回复:flink1.12版本,yarn-application模式Flink web ui看不到日志

&nbsp;

非常感谢,我明天测试一下,解决之后,我会把这个问题描述下





------------------ 原始邮件 ------------------
发件人: r pp <[hidden email]&amp;gt;
发送时间: 2021年6月4日 18:17
收件人: user-zh <[hidden email]&amp;gt;, smq <[hidden email]&amp;gt;
主题: 回复:flink1.12版本,yarn-application模式Flink web ui看不到日志



上封,复制错了,更正下,看时间顺序。 日志启动
2021-06-04 17:38:15,417 INFO org.apache.flink.runtime.entrypoint.
ClusterEntrypoint [] - -Dlog
.file=/yarn/container-logs/application_1622784975053_0013/container_1622784975053_0013_01_000001/jobmanager.log
cluster 启动
2021-06-04 17:38:15,425 INFO org.apache.flink.runtime.entrypoint.
ClusterEntrypoint [] - YARN daemon is running as: hdfs Yarn client user
obtainer: hdfs

r pp <[hidden email]&amp;gt; 于2021年6月4日周五 下午6:11写道:

&amp;gt; 嗨~
&amp;gt;&amp;nbsp; 我这边是&amp;nbsp; per-job on yarn 的mode
&amp;gt;
&amp;gt;&amp;nbsp; 我查看的 yarn 的container 的日志信息,一般在程序初始化的时候,就会生产日志名,日志路径,变成环境env,
&amp;gt;&amp;nbsp; 然后 形成config ,再启动 cluster。
&amp;gt;
&amp;gt; 而日志路径 是yarn 的配置模式取好的,之后 flink 的获取这个信息,用于web 展示。
&amp;gt;
&amp;gt; 所以,你可能需要定位 你的日志文件路径 是否有改变,我做test,改变日志名,flink-web 还是可以正常显示
&amp;gt; ,但是改变路径,flink-web 就无法显示了
&amp;gt;
&amp;gt; 但是具体的差异可能无法细化了,所提供的信息太少
&amp;gt; env 环境信息
&amp;gt; 2021-06-04 17:38:15,417 INFO org.apache.flink.runtime.entrypoint.
&amp;gt; ClusterEntrypoint [] - -Dlog
&amp;gt; .file=/yarn/container-logs/application_1622784975053_0013/container_1622784975053_0013_01_000001/jobmanager.log
&amp;gt; cluster 启动信息
&amp;gt; 2021-06-04 16:47:01,429 INFO org.apache.flink.runtime.entrypoint.
&amp;gt; ClusterEntrypoint [] - YARN daemon is running as: hdfs Yarn client user
&amp;gt; obtainer: hdfs
&amp;gt;
&amp;gt; zilong xiao <[hidden email]&amp;gt; 于2021年6月3日周四 下午2:17写道:
&amp;gt;
&amp;gt;&amp;gt; 1.10默认用的log4j1,1.12用log4j2
&amp;gt;&amp;gt;
&amp;gt;&amp;gt; smq <[hidden email]&amp;gt; 于2021年6月2日周三 下午3:26写道:
&amp;gt;&amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; 你的意思是在log4j.properties中的配置吗,我门在这个里边配置了生成日志文件的格式,是在安装节点里加的,不过这个应该不是在webui里显示的。奇怪的一点是我们组有别的程序是正常的,但是一部分在webUI不显示日志。我们目前是从1.10升级到1.12,这种情况在1.12出现的
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt; ------------------ 原始邮件 ------------------
&amp;gt;&amp;gt; &amp;gt; 发件人: r pp <[hidden email]&amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; 发送时间: 2021年6月2日 15:08
&amp;gt;&amp;gt; &amp;gt; 收件人: user-zh <[hidden email]&amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; 主题: 回复:flink1.12版本,yarn-application模式Flink web ui看不到日志
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt; 嗨~&amp;amp;nbsp; 你们有没有改日志文件的名字
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt; smq <[hidden email]&amp;amp;gt; 于2021年6月2日周三 下午12:24写道:
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; 你这个解决了吗,我也遇到了同样的问题
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; ------------------ 原始邮件 ------------------
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; 发件人: todd <[hidden email]&amp;amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; 发送时间: 2021年4月14日 19:11
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; 收件人: user-zh <[hidden email]&amp;amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; 主题: 回复:flink1.12版本,yarn-application模式Flink web ui看不到日志
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;&amp;amp;nbsp; yarn上只有.out,.error的日志信息,但是从flink web ui的log框,无法显示日志内容。
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt;
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; --
&amp;gt;&amp;gt; &amp;gt; &amp;amp;gt; Sent from: http://apache-flink.147419.n8.nabble.com/
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt;
&amp;gt;&amp;gt; &amp;gt; --
&amp;gt;&amp;gt; &amp;gt; Best,
&amp;gt;&amp;gt; &amp;gt; &amp;amp;nbsp; pp
&amp;gt;&amp;gt;
&amp;gt;
&amp;gt;
&amp;gt; --
&amp;gt; Best,
&amp;gt;&amp;nbsp;&amp;nbsp; pp
&amp;gt;


--
Best,
&amp;nbsp; pp