数据湖探索 DLI-导入数据(废弃):请求消息

时间:2023-11-27 11:52:36

请求消息

表2 请求参数

参数名称

是否必选

参数类型

说明

data_path

String

导入的数据路径(当前仅支持导入OBS上的数据)。

data_type

String

导入的数据类型(当前支持csv、parquet、orc、json、avro数据类型)。

说明:

不支持导入Hive表生成的avro格式数据。

database_name

String

导入表所属的数据库名称。

table_name

String

导入表的名称。

with_column_header

Boolean

导入数据中的第一行数据是否包括列名,即表头。默认为“false”,表示不包括列名。导入CSV类型数据时可指定。

delimiter

String

用户自定义数据分隔符,默认为逗号。导入CSV类型数据时可指定。

quote_char

String

用户自定义引用字符,默认为双引号。导入CSV类型数据时可指定。

escape_char

String

用户自定义转义字符,默认为反斜杠。导入CSV类型数据时可指定。

date_format

String

指定特定的日期格式,默认为“yyyy-MM-dd”。日期格式字符定义详见表3。导入CSV及JSON类型数据时可指定。

bad_records_path

String

作业执行过程中的bad records存储目录。设置该配置项后,bad records不会导入到目标表。

timestamp_format

String

指定特定的时间格式,默认为“yyyy-MM-dd HH:mm:ss”。时间格式字符定义详见表3。导入CSV及JSON类型数据时可指定。

queue_name

String

指定执行该任务的队列。若不指定队列,将采用default队列执行操作。

overwrite

Boolean

是否覆盖写。默认为“false”,表示追加写。为“true”,表示覆盖写。

partition_spec

Object

表示需要导入到哪个分区。

  • 不配置表示动态导入整表数据,导入的数据需要包含分区列的数据;
  • 如果导入时,配置所有分区信息,则表示导入数据到指定分区,导入的数据不能包含分区列的数据;
  • 如果导入时,配置了部分分区信息,而导入的数据必须包含非指定的分区数据,不能包含指定的分区数据,否则数据导入后,非指定的数据分区字段列会存在null值等异常值。

conf

Array of Strings

用户定义适用于此作业的配置参数。目前支持的配置项:“dli.sql.dynamicPartitionOverwrite.enabled”默认值为“false”,对于DataSource表,表示动态插入覆盖整表数据,为“true”表示覆盖指定分区数据。

说明:

对于Hive分区表的动态覆盖写,仅支持覆盖涉及到的分区数据,不支持覆盖整表数据。

表3 日期及时间模式字符定义

模式字符

日期或时间元素

示例

G

纪元标识符

AD

y

年份

1996; 96

M

月份

July; Jul; 07

w

年中的周数

27(该年的第27周)

W

月中的周数

2(该月的第2周)

D

年中的天数

189(该年的第189天)

d

月中的天数

10(该月的第10天)

u

星期中的天数

1 = 星期一, ..., 7 = 星期日

a

am/pm 标记

pm(下午时)

H

24小时数(0-23)

2

h

12小时数(1-12)

12

m

分钟数

30

s

秒数

55

S

毫秒数

978

z

时区

Pacific Standard Time; PST; GMT-08:00

support.huaweicloud.com/api-dli/dli_02_0019.html