flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?

classic Classic list List threaded Threaded
5 messages Options
Reply | Threaded
Open this post in threaded view
|

flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?

Jeff
hi all,
在mvnrepository里没找到支持hadoop3.2.1的flink-shaded-hadoop包, 在单独的flink-shaded项目里也没找到相应hadoop模块,请问我要怎么获得这个包呢?
111
Reply | Threaded
Open this post in threaded view
|

回复:flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?

111
Hi,


下载对应的代码,重新编译下就好了。
参考资料:https://mp.weixin.qq.com/s/ox6-gPlVtZb5Cb8Tj6b3nw


best.
Xinghalo
Reply | Threaded
Open this post in threaded view
|

Re: flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?

刘大龙
In reply to this post by Jeff
Hi,
你可以看一下这两个链接:
1: https://www.mail-archive.com/dev@.../msg37293.html
2: https://issues.apache.org/jira/browse/FLINK-11086
> -----原始邮件-----
> 发件人: Jeff <[hidden email]>
> 发送时间: 2020-05-20 10:09:10 (星期三)
> 收件人: flink-zh <[hidden email]>
> 抄送:
> 主题: flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?
>
> hi all,
> 在mvnrepository里没找到支持hadoop3.2.1的flink-shaded-hadoop包, 在单独的flink-shaded项目里也没找到相应hadoop模块,请问我要怎么获得这个包呢?


------------------------------
刘大龙

浙江大学 控制系 智能系统与控制研究所 工控新楼217
地址:浙江省杭州市浙大路38号浙江大学玉泉校区
Tel:18867547281
Reply | Threaded
Open this post in threaded view
|

Re: flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?

Jingsong Li
Hi,

如果能用环境变量HADOOP_CLASSPATH,最好用.

[1]
https://ci.apache.org/projects/flink/flink-docs-master/ops/deployment/hadoop.html#providing-hadoop-classes

Best,
Jingsong Lee

On Wed, May 20, 2020 at 10:22 AM 刘大龙 <[hidden email]> wrote:

> Hi,
> 你可以看一下这两个链接:
> 1: https://www.mail-archive.com/dev@.../msg37293.html
> 2: https://issues.apache.org/jira/browse/FLINK-11086
> > -----原始邮件-----
> > 发件人: Jeff <[hidden email]>
> > 发送时间: 2020-05-20 10:09:10 (星期三)
> > 收件人: flink-zh <[hidden email]>
> > 抄送:
> > 主题: flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?
> >
> > hi all,
> > 在mvnrepository里没找到支持hadoop3.2.1的flink-shaded-hadoop包,
> 在单独的flink-shaded项目里也没找到相应hadoop模块,请问我要怎么获得这个包呢?
>
>
> ------------------------------
> 刘大龙
>
> 浙江大学 控制系 智能系统与控制研究所 工控新楼217
> 地址:浙江省杭州市浙大路38号浙江大学玉泉校区
> Tel:18867547281
>


--
Best, Jingsong Lee
Reply | Threaded
Open this post in threaded view
|

Re:Re: flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?

Jeff
In reply to this post by 刘大龙
好的,刚刚也查了其它资料,flink现在还不支持hadoop3,但用2.X的包也是可以的,只要不用到hadoop3特有API就行了

















在 2020-05-20 09:22:39,"刘大龙" <[hidden email]> 写道:

>Hi,
>你可以看一下这两个链接:
>1: https://www.mail-archive.com/dev@.../msg37293.html
>2: https://issues.apache.org/jira/browse/FLINK-11086
>> -----原始邮件-----
>> 发件人: Jeff <[hidden email]>
>> 发送时间: 2020-05-20 10:09:10 (星期三)
>> 收件人: flink-zh <[hidden email]>
>> 抄送:
>> 主题: flink1.10怎么获得flink-shaded-hadoop包以支持hadoop3.2.1?
>>
>> hi all,
>> 在mvnrepository里没找到支持hadoop3.2.1的flink-shaded-hadoop包, 在单独的flink-shaded项目里也没找到相应hadoop模块,请问我要怎么获得这个包呢?
>
>
>------------------------------
>刘大龙
>
>浙江大学 控制系 智能系统与控制研究所 工控新楼217
>地址:浙江省杭州市浙大路38号浙江大学玉泉校区
>Tel:18867547281