数据接入服务 DIS-使用DIS实时分析车辆位置:添加转储任务

时间:2024-04-15 20:06:58

添加转储任务

  1. 使用注册户登录DIS控制台。
  2. 在左侧列表栏中选择“通道管理”。
  3. 单击申请DIS通道中创建的通道名称,进入所选通道的管理页面,选择“转储管理”页签。
  4. 单击“添加转储任务”按钮,在弹出的“添加转储任务”页面配置转储相关配置项。

    • 每个通道最多可创建5个转储任务。
    • 源数据类型为FILE的通道,不允许添加转储任务。

  5. 单击“立即创建”

    表1 转储任务参数说明

    参数

    参数解释

    配置值

    转储服务类型

    选择CloudTable,通道里的流式数据存储在DIS中,并实时导入表格存储服务Cloudtable集群的HBase表和OpenTSDB。

    CloudTable

    任务名称

    用户创建转储任务时,需要指定转储任务名称,同一通道的转储任务名称不可重复。任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。

    -

    偏移量

    • 最新:最大偏移量,即获取最新的数据。
    • 最早:最小偏移量,即读取最早的数据。

    最新

    CloudTable集群

    单击“选择”,在“选择CloudTable集群”窗口选择一个集群名称。

    此配置项不可配置为空。仅支持选择,不可手动输入。

    cloudtable-demo

    CloudTable表类型

    HBase和openTSDB两种。

    HBase

    CloudTable数据表

    CloudTable数据表:单击“选择”,在“选择CloudTable数据表”窗口选择一个数据表。

    此处路径仅支持选择,不可手动输入。

    说明:

    配置此项必须已配置“CloudTable集群”并创建了HBase表。

    tbl1

    备份开关

    用户数据转储CloudTable服务失败时,是否将转储失败的数据备份至OBS服务。

    • 开启:是,转储失败的数据备份至OBS服务。
    • 关闭:否,转储失败的数据不备份至OBS服务。

    开关默认关闭。

    说明:

    关闭开关,转储失败的数据会存储在DIS中,并在“生命周期”配置的时间到达时将数据清除。

    关闭

    Row Key

    • Json属性名,取值范围为英文字母、数字、下划线和小数点,最大取值为32个字符,不可为空,不可以小数点开头,不可包含连续的小数点 且不可以小数点结尾。最多可添加64个属性。
    • 数据类型,从下拉框选择。
      • Bigint
      • Double
      • Boolean
      • Timestamp
      • String
      • Decimal

    -

    Row Key 分隔符

    支持“.”“,”“|”“;”“-”“_”、和“~”七种字符取值,也可配置为NULL。

    最大长度为一个字符。

    -

    Schema 列

    • 列名,取值范围为英文字母、数字和下划线,最大取值为32个字符,不可为空。最多可添加4096个列。
    • 数据类型,从下拉框选择。
      • Bigint
      • Double
      • Boolean
      • Timestamp
      • String
      • Decimal
    • Json属性名,取值范围为英文字母、数字、下划线和小数点,最大取值为32个字符,不可为空,不可以小数点开头,不可包含连续的小数点 且不可以小数点结尾。
    • 所属列族,从下拉框选择,不可为空。配置此项必须已配置“CloudTable 集群”、“CloudTable 数据表”且CloudTable表类型为HBase。

    参见表2表2Schema 列填写。

    表2 Schema 列填写

    列名

    数据类型

    JSON属性名

    列族

    DeviceID

    String

    DeviceID

    i

    Mileage

    Bigint

    Mileage

    i

    Latitude

    Decimal

    Latitude

    i

    IsACCOpen

    Boolean

    IsACCOpen

    i

    Longitude

    Decimal

    Longitude

    i

    Velocity

    Bigint

    Velocity

    i

    Direction

    String

    Direction

    i

    BaiDuLatitude

    Decimal

    BaiDuLatitude

    i

    BaiDuLongitude

    Decimal

    BaiDuLongitude

    i

    BaiDuAdress

    String

    BaiDuAdress

    i

    ReceiveTime

    Timestamp

    ReceiveTime

    i

    Altitude

    String

    Altitude

    i

support.huaweicloud.com/bestpractice-dis/dis_08_0001.html