flinksql

classic Classic list List threaded Threaded
4 messages Options
Reply | Threaded
Open this post in threaded view
|

flinksql

arhuawu
您好:
       我现在用flink1.10.1版本在研究那个sql-client共hive集成,目前遇到这样一个问题想请教一下:
       standalone部署,3台机器,hive用的是cdh5版本 hive1.1.0
       按官方文档,进行了集成,hive建的表在flink sql-client下能查询,但反过来,flink sql-client下建的表无法查询。(sql-client与hive都不能查)
       Could not find a suitable table factory for 'org.apache.flink.table.factories.TableSourceFactory' in
the classpath.
       Reason: Required context properties mismatch.
       The following properties are requested:
       schema.0.data-type=INT
       schema.0.name=id
       The following factories have been considered:
       org.apache.flink.table.sources.CsvBatchTableSourceFactory
       org.apache.flink.table.sources.CsvAppendTableSourceFactory
       好象是少什么包,我查了一下,好象这个包里有flink-table-common-1.10.1.jar,放上去还不行。不知什么问题(详见附件)?
       集成要求用的包也都放到了lib下:
       flink-connector-hive_2.11-1.10.0.jar
       flink-shaded-hadoop-2-uber-2.6.5-8.0.jar
       hive-metastore-1.1.0.jar
       hive-exec-1.1.0.jar
       libfb303-0.9.2.jar 


 

Reply | Threaded
Open this post in threaded view
|

Re: flinksql

Leonard Xu
Hi,
这个报错通常是缺少了 connector 相关的jar包,或者 connector 的with参数填写错误。
> flink sql-client下建的表
这是什么表,可以把建表 SQL 发出来看看吗?

Best,
Leonard Xu
Reply | Threaded
Open this post in threaded view
|

Re: flinksql

Rui Li
是要通过Flink SQL
client创建一张hive表么?在1.10里可能需要给表的参数加上'is_generic'='false'才行,否则创建出来的表默认是非hive表,hive那边是读不了的

On Mon, Jun 22, 2020 at 3:53 PM Leonard Xu <[hidden email]> wrote:

> Hi,
> 这个报错通常是缺少了 connector 相关的jar包,或者 connector 的with参数填写错误。
> > flink sql-client下建的表
> 这是什么表,可以把建表 SQL 发出来看看吗?
>
> Best,
> Leonard Xu



--
Best regards!
Rui Li
Reply | Threaded
Open this post in threaded view
|

Re: flinksql

Jingsong Li
Hi,

在1.11之前,注意:flink sql-client只能创建flink的表而不是hive的表。
如果你用create table t (i int, j
int);的这个一个简短的语句,是不能创建出flink表来的。完整的Flink表需要with参数。[1]

在1.11中支持的hive dialect,才支持用create table t (i int, j int);这种简单的DDL创建Hive表。

[1]
https://ci.apache.org/projects/flink/flink-docs-release-1.10/dev/table/connect.html

Best,
Jingsong Lee

On Wed, Jun 24, 2020 at 8:44 PM Rui Li <[hidden email]> wrote:

> 是要通过Flink SQL
>
> client创建一张hive表么?在1.10里可能需要给表的参数加上'is_generic'='false'才行,否则创建出来的表默认是非hive表,hive那边是读不了的
>
> On Mon, Jun 22, 2020 at 3:53 PM Leonard Xu <[hidden email]> wrote:
>
> > Hi,
> > 这个报错通常是缺少了 connector 相关的jar包,或者 connector 的with参数填写错误。
> > > flink sql-client下建的表
> > 这是什么表,可以把建表 SQL 发出来看看吗?
> >
> > Best,
> > Leonard Xu
>
>
>
> --
> Best regards!
> Rui Li
>


--
Best, Jingsong Lee