应用与数据集成平台 ROMA CONNECT-配置源端数据信息:MRS HDFS

时间:2024-05-07 17:09:59

MRS HDFS

返回页首

任务的“集成模式”为“定时”时,可以选择MRS HDFS作为源端数据源。

  1. 在创建任务页面中配置源端信息。
    表19 源端MRS HDFS信息

    参数

    配置说明

    源端实例

    选择当前正在使用的ROMA Connect实例。

    源端集成应用

    选择MRS HDFS数据源所属的集成应用,在接入数据源时已配置。

    源端数据类型

    选择“MRS HDFS”。

    数据源名称

    选择接入数据源中已配置的MRS HDFS数据源。

    分隔符

    填写MRS HDFS数据源中文本数据的字段分隔符,用于区分每行数据中的不同字段。

    存储子路径

    在MRS HDFS的“hdfs:///hacluster”路径下,要集成数据的存储路径。

    存储块大小(M)

    ROMA Connect从MRS HDFS数据源获取数据时,每次读取的数据大小。

    存储类型

    选择MRS HDFS数据源中数据的存储类型,需要与MRS HDFS实际的数据存储类型一致。当前可选择“文本文件”。

    是否解析

    获取到的源端数据是否由ROMA Connect做进一步的数据解析。

    • 若选择是,则ROMA Connect根据配置的解析规则,对获取到的源端数据解析后再集成到目标端。
    • 若选择否,则ROMA Connect会直接透传获取到的源端数据,并集成到目标端。

    元数据

    仅当“是否解析”选择“是”时需要配置。

    指从源端获取到的文本数据中,要集成到目标端的每一个数据字段。元数据必须按照文件中的字段顺序填写。

    • 别名:对元数据的自定义名称。
    • 类型:元数据的数据类型,需要与源端数据中对应字段的数据类型一致。

    源端为MRS HDFS的配置示例如下图所示,id、name和info为从MRS HDFS数据源获取,并要集成到目标端的数据字段。

    图12 MRS HDFS配置示例
  2. 完成源端信息配置后,继续进行下一部分配置,配置目标端数据信息
support.huaweicloud.com/usermanual-roma/fdi-ug-190624006.html