zeppelin指定的依赖去哪找

classic Classic list List threaded Threaded
7 messages Options
Reply | Threaded
Open this post in threaded view
|

zeppelin指定的依赖去哪找

nobleyd
通过zeppelin写sql,之前sql-client可行的sql总是报错。

zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
之前sql-client方式是基于-l方式指定的。
zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
Reply | Threaded
Open this post in threaded view
|

Re: zeppelin指定的依赖去哪找

nobleyd
而且,官网connector中的kafka的flink-sql-connector-kafka_2.11-1.11.2.jar是干嘛用的。
我发现我自己sql-client方式创建kafka流失表,以及查询等都用不到这个依赖。
用的是:flink-connector-kafka_2.12-1.10.0.jar
 flink-connector-kafka-base_2.12-1.10.0.jar .



赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:08写道:

> 通过zeppelin写sql,之前sql-client可行的sql总是报错。
>
> zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
> 之前sql-client方式是基于-l方式指定的。
>
> zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
>
>
>
>
Reply | Threaded
Open this post in threaded view
|

Re: zeppelin指定的依赖去哪找

Jeff Zhang
In reply to this post by nobleyd
flink.execution.packages 下的包会从maven仓库下载,看这里关于如何在zeppelin里管理第三方依赖的方法
https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s


赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:09写道:

> 通过zeppelin写sql,之前sql-client可行的sql总是报错。
>
> zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
> 之前sql-client方式是基于-l方式指定的。
>
> zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
>


--
Best Regards

Jeff Zhang
Reply | Threaded
Open this post in threaded view
|

Re: zeppelin指定的依赖去哪找

nobleyd
这就有点麻烦了,公司机器一般不允许连接外部网络的。

Jeff Zhang <[hidden email]> 于2020年9月24日周四 下午3:15写道:

> flink.execution.packages 下的包会从maven仓库下载,看这里关于如何在zeppelin里管理第三方依赖的方法
> https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s
>
>
> 赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:09写道:
>
> > 通过zeppelin写sql,之前sql-client可行的sql总是报错。
> >
> > zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
> > 之前sql-client方式是基于-l方式指定的。
> >
> >
> zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
> >
>
>
> --
> Best Regards
>
> Jeff Zhang
>
Reply | Threaded
Open this post in threaded view
|

Re: zeppelin指定的依赖去哪找

nobleyd
看了你文章,有jars。想继续问下,jars必须完全路径嘛,有没有什么默认的搜索路径,我简单写jar名字的。不想写死路径。

赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:17写道:

> 这就有点麻烦了,公司机器一般不允许连接外部网络的。
>
> Jeff Zhang <[hidden email]> 于2020年9月24日周四 下午3:15写道:
>
>> flink.execution.packages 下的包会从maven仓库下载,看这里关于如何在zeppelin里管理第三方依赖的方法
>> https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s
>>
>>
>> 赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:09写道:
>>
>> > 通过zeppelin写sql,之前sql-client可行的sql总是报错。
>> >
>> > zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
>> > 之前sql-client方式是基于-l方式指定的。
>> >
>> >
>> zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
>> >
>>
>>
>> --
>> Best Regards
>>
>> Jeff Zhang
>>
>
Reply | Threaded
Open this post in threaded view
|

Re: zeppelin指定的依赖去哪找

Jeff Zhang
In reply to this post by nobleyd
两个办法:
1. 用私有的maven 仓库
2. 自己打jar包,用 flink.exection.jars 来指定
https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s#3BNYl

赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:17写道:

> 这就有点麻烦了,公司机器一般不允许连接外部网络的。
>
> Jeff Zhang <[hidden email]> 于2020年9月24日周四 下午3:15写道:
>
> > flink.execution.packages 下的包会从maven仓库下载,看这里关于如何在zeppelin里管理第三方依赖的方法
> > https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s
> >
> >
> > 赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:09写道:
> >
> > > 通过zeppelin写sql,之前sql-client可行的sql总是报错。
> > >
> > > zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
> > > 之前sql-client方式是基于-l方式指定的。
> > >
> > >
> >
> zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
> > >
> >
> >
> > --
> > Best Regards
> >
> > Jeff Zhang
> >
>


--
Best Regards

Jeff Zhang
Reply | Threaded
Open this post in threaded view
|

Re: zeppelin指定的依赖去哪找

Jeff Zhang
In reply to this post by nobleyd
没有搜索路径,需要用绝对路径

赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:22写道:

> 看了你文章,有jars。想继续问下,jars必须完全路径嘛,有没有什么默认的搜索路径,我简单写jar名字的。不想写死路径。
>
> 赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:17写道:
>
> > 这就有点麻烦了,公司机器一般不允许连接外部网络的。
> >
> > Jeff Zhang <[hidden email]> 于2020年9月24日周四 下午3:15写道:
> >
> >> flink.execution.packages 下的包会从maven仓库下载,看这里关于如何在zeppelin里管理第三方依赖的方法
> >> https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s
> >>
> >>
> >> 赵一旦 <[hidden email]> 于2020年9月24日周四 下午3:09写道:
> >>
> >> > 通过zeppelin写sql,之前sql-client可行的sql总是报错。
> >> >
> >> > zeppelin配置的FLINK_HOME的目录中lib下是有相关包的,但远程remote集群没有。
> >> > 之前sql-client方式是基于-l方式指定的。
> >> >
> >> >
> >>
> zeppelin情况下,貌似有个flink.execution.packages,但是并没说明这个指定的包去哪找的?是zeppelin配置的FLINK_HOME中的lib嘛?我lib中有包,但还是报错。
> >> >
> >>
> >>
> >> --
> >> Best Regards
> >>
> >> Jeff Zhang
> >>
> >
>


--
Best Regards

Jeff Zhang