云服务器内容精选

  • 相邻消息计算 算子简介 名称:相邻消息计算 功能说明:基于前一消息和当前消息,按照表达式进行数值计算,计算的结果赋值给当前输入消息的属性。 举例:消息中有上报机器的产品总产量,但没有相对上一个上报周期的增量产量。通过相邻消息计算算子,可以用本消息中的产品总量减去上一个消息中的产品总产量,得到的计算结果赋予一个新的属性,比如产品增量。那么经过本算子清洗后的消息中,都将携带产品增量属性了。 约束:下游不允许对接数据源及产品过滤算子。 算子配置 基础配置项 算子名称: 配置项英文名:name 说明:算子名称,对算子进行个性化的命名,以辅助增加可读性。支持中文、英文、数字、中划线、下划线,长度小于等于64个字符。 类型:STRING 必选:否 约束:需要符合正则表达式: ^[\u4E00-\u9FA5A-Za-z0-9_-]{1,64}$ 分区键: 配置项英文名:partitionKeys 说明:分区键,用于作为消息分区/分组的标识,具体填入的内容为消息中获取的JSON Path,比如可以选择消息中设备ID所在的JSON Path。 设置后,拥有该分区键数值相同的所有消息会进入一个分区,比如分区键选择了设备ID后,那么相同设备ID的消息进入一个分区。当选择多个字段时,按指定字段顺序组合成的字符作为算子并行处理的分区的Key。相邻消息计算会针对每个分区中的消息单独作用;举例:1)选择将设备ID作为分区键,那么本算子会将相同设备ID的消息进行分区,然后进行相邻消息计算。比如设备ID为1的所有消息会进入一个分区,设备ID为2的所有消息会进入另一个分区,计算策略会审视每一个分区中的消息进行单独相邻消息计算; 2)选择消息中的设备ID与设备状态为分区键,那么相同设备ID与设备状态的消息会进入一个分区,然后进行单独的相邻计算。比如设备ID为1、设备状态为正常的所有消息会进入一个分区,设备ID为1、设备状态为异常的所有消息进入另一个分区,计算策略会审视每一个分区中的消息进行相邻消息计算。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{1,1000}$ 前一变量: 配置项英文名:previousVariables 说明:前一变量,把前一条消息中的属性作为变量在表达式中使用。对变量进行定义,设置变量名称和变量的取值。 必选:是 子配置项:前一变量包括如下子配置项:变量名称、变量取值。 变量名称: 配置项英文名:variable 说明:变量名称,用户可自定义一个变量名称,计算时使用,以免以配置计算表达式时使用jsonPath。 类型:STRING 必选:是 约束:需要符合正则表达式: ^[a-zA-Z]\w{0,20}$ 变量取值: 配置项英文名:value 说明:取值内容,以JSON Path格式来指定变量从消息中指定的JSON Path属性获取的取值。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{0,1000}$ 当前变量: 配置项英文名:variables 说明:当前变量,把输入消息中的属性作为变量在表达式中使用。对变量进行定义,设置变量名称和变量的取值。 必选:是 子配置项:variables包括如下子配置项:变量名称、变量取值。 变量名称: 配置项英文名:variable 说明:变量名称,用户可自定义一个变量名称,计算时使用,以免以配置计算表达式时使用jsonPath。 类型:STRING 必选:是 约束:需要符合正则表达式: ^[a-zA-Z]\w{0,20}$ 变量取值: 配置项英文名:value 说明:取值内容,以JSON Path格式来指定变量从消息中指定的JSON Path属性获取的取值。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{0,1000}$ 计算表达式: 配置项英文名:calculates 说明:以表达式来计算属性的值。 必选:是 子配置项:计算配置包括如下子配置项:属性、表达式。 属性: 配置项英文名:property 说明:属性名,表达式计算结果赋值给此属性,属性以JSON Path格式来表示,请填写JSON Path。。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{1,1000}$ 表达式: 配置项英文名:expression 说明:计算表达式,支持的表达式详细说明请参考:表达式说明。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{0,1000}$ 存活时长: 配置项英文名:ttl 说明:存活时长,配置前一变量的存活时长。如果超过此时长没有接收到新的消息更新前一变量取值,则前一变量将被老化清除。存活时长的单位为秒,最小清除时间为1s,最大清除时间为30天,如果不设置此参数表示永远不清除。当算子每次接收了消息,更新延长存活时长。 类型:INTEGER 必选:否 约束:最小值1, 最大值 2592000,即30天。 使用输出: 配置项英文名:usingOutput 说明:使用输出,是以算子计算的输出消息来获取前一变量,还是算子输入的原始消息来获取前一变量。通过该参数的设置,实际控制了上一条消息的缓存策略,即缓存上一条消息的原始状态,还是缓存上一条消息经过相邻计算算子处理后的状态,默认为以算子计算更新后的输出消息来获取前一变量。算子输出消息会被表达式修改,会影响前一变量的取值。 类型:STRING 必选:否,默认为TRUE 约束:仅可填写TRUE 或 FALSE 高级配置项 并行数: 配置项英文名:parallelism 说明:并行数,指定算子执行时的并行任务个数。对于性能要求越高的算子,可以设置较高的并行数,但是占用资源越多。如果此参数不设置,那么作业运行时本算子使用作业的并行数设置。 类型:INTEGER 必选:否 约束:最小值1,最大值 1024。 父主题: 转换类算子
  • 数据模板 资产数据输入 数据模板 字段名 字段说明 是否必填 { "type": "FunctionCall", "message": { "projectId": "080dd91ecc802xxxxxx01be5f9d68d", "jobId": "J_79519506820943xxx", "context": { "assetId": "assetId01", "analysisId": "analysisId01" }, "input": { "integer": "", "double": "", "string": "", "object": { "a": "", "b": "" } }, "timestamp": 1624440752632 }, "msgVersion": "1.0" } type 数据类型,必须模板默认值,用户不能修改 是 message 消息体,必须模板默认值,用户不能修改 是 projectId 租户id,必须模板默认值,用户不能修改 是 jobId 当前实时分析任务id,必须模板默认值,用户不能修改 是 context 资产信息,必须模板默认值,用户不能修改 是 input 输入数据,必须包含算子配置的“参数名称”。例如input中包含“integer”字段。 数据支持integer、double、string、object(josn)类型 是 timestamp 时间戳字段,Long类型,用户可自定义数值。 是 msgVersion 消息版本,必须模板默认值,用户不能修改 是 管道数据输入 数据模板 字段名 字段说明 是否必填 { "header": { "projectId": "080dd91ecc8026bxxxxx01be5f9d68d", "dataSourceId": "", "pipelineId": "J_79519506820943xxx", "rtaOutputName": "output01" }, "body": { "eventTime": "1624442214553", "data": { "integer": "", "double": "", "string": "", "object": { "a": "", "b": "" } } } } header 消息头,必须模板默认值,用户不能修改。 是 projectId 租户id,必须模板默认值,用户不能修改。 是 dataSourceId 数据源id,必须模板默认值,用户不能修改。 是 pipelineId 管道任务id,必须模板默认值,用户不能修改。 是 rtaOutputName RTA 的数据名称,必须模板默认值,用户不能修改。 是 body 输入数据,必须包含算子配置的“参数名称”。例如input中包含“integer”字段。 是 eventTime 时间戳字段,Long类型,用户可自定义数值。 是 data 管道输出字段集合,数据支持integer、double、string、object(josn)类型。用户可自定义data内部字段名和值。 是 资产数据输入(旧) 数据模板 字段名 字段说明 是否必填 { "type": "MeasPointValue", "message": { "projectId": "092b845deb00dxxxxxx0181be20fa1", "viewId": "trace_test", "viewName": "", "assetId": "", "assetName": "", "assetCategory": "", "measurePointId": "", "measurePointName": "", "measurePointCategory": "", "valueType": "", "value": "", "eventTime": "20210623T181127+0800" }, "msgVersion": "1.0" } type 数据类型,必须模板默认值,用户不能修改 是 message 消息体,必须模板默认值,用户不能修改 是 projectId 租户id,必须模板默认值,用户不能修改 是 viewId 视图id,必须模板默认值,用户不能修改 是 viewName 视图名称 否 assetId 资产id 否 assetName 资产名称 否 assetCategory 资产目录 否 measurePointId 测点id 否 measurePointName 测点名称 否 measurePointCategory 测点目录 否 valueType 数据类型,数据支持integer、double、string、object(josn)类型,用户自行定义。 是 value 数据值,数据支持integer、double、string、object(josn)类型,用户自行定义。 是 eventTime 时间字段,用户可自定义数值。 是 msgVersion 消息版本,必须模板默认值,用户不能修改。 是 数据存储数据源(旧) 数据模板 字段名 字段说明 是否必填 { "header": { "projectId": "092b845deb00d45cxxxxxx1be20fa1", "dataSourceId": "", "pipelineId": "", "dataStoreId": "0264bbad-xxxx-4f5d-xxxx-5d87c1bfaa90" }, "body": { "deviceId": "", "eventTime": "1624503993013", "data": { "integer": "", "double": "", "string": "", "object": { "a": "", "b": "" } } } } header 消息头,必须模板默认值,用户不能修改。 是 projectId 租户id,必须模板默认值,用户不能修改。 是 dataSourceId 数据源id,必须模板默认值,用户不能修改。 是 pipelineId 管道任务id,必须模板默认值,用户不能修改。 是 dataStoreId 数据存储id,必须模板默认值,用户不能修改。 是 body 输入数据,必须包含算子配置的“参数名称”。例如input中包含“integer”字段。 是 deviceId 设备id,用户可自定义。 否 eventTime 时间戳字段,Long类型,用户可自定义数值。 是 data 管道输出字段集合,数据支持integer、double、string、object(josn)类型。用户可自定义data内部字段名和值。 是 父主题: 作业调试
  • 开通服务 用户首次进入IoT数据分析服务控制台后,将会自动开通IoT数据分析服务。 图1 总览页面 基础配置 为了能够开始正常使用IoT数据分析服务,需要用户完成如下基础配置: 1. 配置数据源:通过配置数据源,将待分析的数据注入IoT数据分析服务。用户可以根据自己的情况选择不同类型的数据源配置。具体内容可参考 数据源配置 2. 配置数据管道:通过配置数据管道,用户可指定数据存储的位置,如果需要,也可以在管道中实现对数据的实时清洗。具体内容可参考数据管道 3. 配置存储:通过配置存储,用户可指定存储管理的策略,比如设置温存储各自的老化周期。 具体内容可参考存储管理 完成上述3步后,最基础的配置就完成,IoT数据分析服务已经准备好接收用户的数据了。 用户后续可根据数据分析的需要,再逐步配置更多的内容,比如资产模型或者实时流作业等。
  • 数据扁平 算子简介 名称:数据扁平 功能说明:数据扁平算子,把数据流中的嵌套Json字段转换为多个独立字段。 约束:下游不允许对接数据源及产品过滤算子。 算子配置 基础配置项 算子名称: 配置项英文名:name 说明:算子名称,对算子进行个性化的命名,以辅助增加可读性。支持中文、英文、数字、中划线、下划线,长度小于等于64个字符。 类型:STRING 必选:否 约束:需要符合正则表达式: ^[\u4E00-\u9FA5A-Za-z0-9_-]{1,64}$ 扁平字段配置: 配置项英文名:flatFiedConfig 说明:扁平字段配置,配置需要进行扁平处理的字段列表。 必选: 是 子配置项:扁平字段配置包括如下子配置项:源数据路径、字段名称。 源数据路径: 配置项英文名:path 说明:源数据路径,以JSON Path格式来指定变量从消息中指定的JSON Path属性获取的取值。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{1,1000}$ 字段名称: 配置项英文名:field 说明:字段名称,输出字段的字段名称。如果字段名与上游输入字段名相同,则此字段被重新赋值。 类型:STRING 必选:是 约束:需要符合正则表达式: ^[a-z_A-Z]\w{0,64}$ 高级配置项 并行数: 配置项英文名:parallelism 说明:并行数,指定算子执行时的并行任务个数。对于性能要求越高的算子,可以设置较高的并行数,但是占用资源越多。如果此参数不设置,那么作业运行时本算子使用作业的并行数设置。 类型:INTEGER 必选:否 约束:最小值1, 最大值 1024。 父主题: 转换类算子
  • 界面介绍 启动按钮 启动调试任务 任务状态栏 查看任务状态。 状态说明 状态名称 描述 就绪 任务完成编辑后,无错误配置,等待启动。 提交中 任务提交后台服务中,此时任务处于初始化中,无法处理上报的测试数据 运行中 任务已完成初始化,等待或正在处理上报测试数据,除当任务异常或人为停止,否则将一直正常运行。 停止中 当任务异常或人为停止任务时,任务将停止处理测试数据。 停止 任务正常停止,可编辑。 输入输出 上报测试数据的控制页面。用户可在数据源类型选择对应数据源;下载对应数据源的测试数据模板文本并修改数据内容;最后上传测试数据文本。 数据监控 数据监控也是查看数据处理结果的查询页面。页面查看方式包括单算子查询和多算子查询。 单算子查询 下拉“算子”下拉框选择查看“数据计算”。 点击搜索输入框 按钮搜索查询,搜索框支持以消息id或data内容匹配查询。 和 分别显示“数据计算”算子结果。 多算子查询 下拉“算子1(上游)”下拉框选择查看“API接入数据源”的“输出”;下拉“算子2(下游)”下拉框选择查看“DIS输出”的“输入”。 点击搜索输入框 按钮搜索查询,搜索框支持以消息id或data内容匹配查询。 显示“API接入数据源”的“输出”结果。 显示“DIS输出”的“输入”结果。 父主题: 调试数据管道
  • 存储 存储是保存数据的对象,通常来说,同一种设备的数据会保存在同一个存储中。存储中定义了设备的标签与设备的属性。其中设备ID(deviceId)就是最常用的一种标签(tag)。一个标签包括标签名与标签值,例如设备ID:标签名为 deviceId,而它的标签值则是具体的某个设备ID,设备的ID是通过设备数据上报到IoT数据分析服务而保存下来的。在查询中指定标签名与某个标签值(例如具体的某个设备ID),可以快速地找到对应的设备数据。 创建存储 删除存储 父主题: 存储管理
  • 分析任务类型 分析任务有三种类型,“转换计算”和“聚合计算”这两种类型的计算公式在资产建模模块进行定义,而“流分析”类分析任务的计算过程通过编辑对应的实时分析作业来定义。 表1 分析任务的类型和功能 类型 功能说明 转换计算 转换计算表达式含义:对单个或多个参数的属性值进行常规数学计算,表达式中不能使用时间聚合。 转换计算执行策略:当参数所引用的属性值发生变化时,系统就会执行一次转换计算,当定义了多个参数时,系统取变化参数的值和未变化参数历史5分钟内的最新值进行计算。 聚合计算 聚合计算表达式含义:对单个或多个属性进行周期性的时间聚合计算或空间聚合计算,表达式中可以使用时间聚合算子。 聚合计算执行策略:每隔一定周期,系统对整个公式进行一次计算,输入参数值的变化不会触发运算。 流分析 每当输入参数的属性值变化时,系统就会将该输入参数的属性值(不包含其他未变化的参数值)转发到实时分析作业、触发一次实时分析作业计算。 父主题: 分析任务定义
  • 支持审计的关键操作列表 表1 数据源支持审计的关键操作列表 操作名称 资源类型 事件名称 创建数据源 datasource createDataSource 修改数据源 datasource updateDatasource 删除数据源 datasource deleteDataSource 验证数据源 datasource validateDataSource 表2 资产模型支持审计的关键操作列表 操作名称 资源类型 事件名称 创建资产 asset createAsset 修改资产 asset updateAsset 删除资产 asset deleteAsset 创建测点 measurePoint createMeasurePoint 修改测点 measurePoint updateMeasurePoint 删除测点 measurePoint deleteMeasurePoint 创建视图 view createView 修改视图 view updateView 删除视图 view deleteView 刷新默认视图 view refreshDefaultView 发布视图 view publishView 另存视图 view saveAsView 创建资产模板 assetTemplate createAssetTemplate 修改资产模板 assetTemplate updateAssetTemplate 删除资产模板 assetTemplate deleteAssetTemplate 创建资产分类 assetCategory createAssetCategory 修改资产分类 assetCategory updateAssetCategory 删除资产分类 assetCategory deleteAssetCategory 创建测点分类 measureCategory createMeasureCategory 修改测点分类 measureCategory updateMeasureCategory 删除测点分类 measureCategory deleteMeasureCategory 表3 时序分析支持审计的关键操作列表 操作名称 资源类型 事件名称 更新温数据存储配置 warmStorage updateWarmStorage 保存时序分析收藏夹 tsiFavorites saveTsiFavorites 删除时序分析收藏夹 tsiFavorites deleteTsiFavorites 表4 实时分析支持审计的关键操作列表 操作名称 资源类型 事件名称 创建作业 realTimeJob createJob 更新作业 realTimeJob updateJob 删除作业 realTimeJob deleteJob 启动作业 realTimeJob startJob 停止作业 realTimeJob stopJob 启动测试 realTimeJob startDebug 停止测试 realTimeJob stopDebug 上传测试文件 realTimeJob uploadInputs
  • 修改分析任务 修改分析任务后,修改的内容将自动同步到该模型未发布的资产上,已发布的资产不受影响。 选择要修改的分析任务,点击编辑。 修改类型,类型可以任意切换。 修改输入参数,转换计算和聚合计算类型可以添加和修改参数,流计算类型由于参数是实时分析作业定义的,只能修改属性引用类型和选择属性名称。 修改公式,可以重新定义公式。 修改输出属性,可以重新选择输出属性。 修改时间范围,只有聚合计算类型的分析任务可以修改。 修改周期,只有聚合计算类型的分析任务可以修改。 修改流计算任务,只有流计算类型的分析任务可以修改。 图1 修改“转换计算”分析任务 图2 修改“聚合计算”分析任务 图3 修改“流计算”分析任务 修改分析任务可能导致该模型对应的资产处于异常状态,资产异常状态的场景见资产状态。 父主题: 模型管理
  • 修改属性信息 修改属性信息后,修改的内容将自动同步到该模型未发布的资产上(工作台中的资产为未发布资产),已发布的资产不受影响。 选择要修改的属性,点击编辑,如下图1中①所示。 修改属性的显示名称。 修改属性类别,只有测量数据和分析任务类别可以相互切换,静态配置类别不能切换为其他类别。 修改范围,只有integer、double、string数据类型可以修改范围,object类型无范围。 修改属性的单位。 修改属性值,只有静态配置类别的属性可以修改(该属性值为默认值,如果对应资产上配置过属性值则资产属性值保持不变,如果未配置过则会刷新成该默认值),如下图2中①所示。 图1 编辑测量数据类属性 图2 编辑静态配置类属性 修改属性信息可能导致该模型对应的资产处于异常状态,资产异常状态的场景见资产状态。 父主题: 模型管理
  • DIS数据源 算子简介 名称: DIS数据源,IoT数据分析服务仅在华为云部署形态支持DIS数据源。 功能说明: 使用DIS云服务作为pipeline的数据源,从DIS中获取数据。 约束: 下游不允许对接数据源,目前有:IoT设备接入数据源、DIS数据源,及产品过滤算子。 算子配置 基础配置项 算子名称: 配置项英文名:name 说明: 算子名称,对算子进行个性化的命名,以辅助增加可读性。支持中文、英文、数字、中划线、下划线,长度小于等于64个字符。 类型: STRING 必选: 否 约束: 需要符合正则表达式: ^[\u4E00-\u9FA5A-Za-z0-9_-]{1,64}$ 数据源ID: 配置项英文名:datasSourceId 说明: 数据源ID,指定Pipeline作业的IoTDA数据源ID。 数据源ID可以通过数据源接口: /v1/${project_id}/datasources?type=DIS获取。 类型: STRING 必选: 否 约束: 需要符合正则表达式: ^[\u4E00-\u9FA5A-Za-z0-9_-]{1,64}$ 事件时间: 配置项英文名:eventTime 说明: 事件时间,以JSON Path格式来指定事件时间的获取来源。如果没有指定,则使用接受消息时的系统时间作为消息产生的事件时间。 必选: 是 子配置项:事件时间包括如下子配置项:JSON路径、时间样式、时区。 JSON路径: 配置项英文名:jsonPath 说明: 事件时间字段的Json路径,以JSON Path格式来指定事件时间的获取位置。 类型: STRING 必选: 是 约束: 需要符合正则表达式: ^.{1,100}$ 时间样式: 配置项英文名:pattern 说明: 时间格式,事件事件的样例格式,如yyyyMMdd'T'HHmmss'Z'、MM/dd/yyyy hh:mm等。 类型: STRING 必选: 是 约束: 需要符合正则表达式: ^.{1,100}$ 时区: 配置项英文名:timeZone 说明: 时区,以UTC偏移量表示,请填写-12 ~ 12的数字;若不填写,则默认为UTC时间。。 类型: INTEGER 必选: 否,默认为0时区。 约束: 最小值-12, 最大值12。 高级配置项 分配时间戳提取器和水印: 配置项英文名:assignerWithPeriodicWatermarksType 说明: 时间戳分配器,目前提供3种方式,BoundedOutOfOrdernessTimestampExtractor、AscendingTimestampExtractor、IngestionTimeExtractor。 BoundedOutOfOrdernessTimestampExtractor:允许固定时间延迟的分配器,适用于乱序但预先知道或只允许在流中将会遇到的最大延迟的场景。 AscendingTimestampExtractor:递增时间戳的分配器,适用于每个元素(elements)的时间在每个并行任务(parallel task)里是单调递增的场景。 IngestionTimeExtractor:根据获取到数据时的系统时间分配时间戳,适用于无事件时间的场景。 类型: STRING 必选: 否,默认采用 BoundedOutOfOrdernessTimestampExtractor 。 约束:必须为BoundedOutOfOrdernessTimestampExtractor、AscendingTimestampExtractor、IngestionTimeExtractor 之一 。 允许的最大延迟时间: 配置项英文名:maxOutOfOrdernessInSeconds 说明: 允许的最大延迟时间,该配置仅作用于BoundedOutOfOrdernessTimestampExtractor,具体是在EventTime类型窗口中使用。 类型: STRING 必选: 否, 默认为300秒。 约束: 最小值0,最大值3600秒。 启动配置: 配置项英文名:startup 说明: 启动方式,用于配置启动时的配置参数。 必选: 否。 子配置项: 启动配置包括如下子配置项: 启动模式。 启动模式: 配置项英文名:startupMode 说明: Pipeline启动时数据消费模式,GROUP_OFFSETS表示从上次读取到的位置继续读取,LATEST表示读取最新数据,EARLIEST表示读取最旧的数据。 类型: STRING 必选: 否,默认为 GROUP_OFFSETS。 约束: 仅可填写GROUP_OFFSETS、 LASTEST 与 EARLIEST 。 父主题: 输入类算子
  • 选择属性 算子简介 名称:选择属性 功能说明:在输入数据中选择保留的属性,未选择的属性被删除。 约束:下游不允许对接数据源及产品过滤算子。 算子配置 基础配置项 算子名称: 配置项英文名:name 说明:算子名称,对算子进行个性化的命名,以辅助增加可读性。支持中文、英文、数字、中划线、下划线,长度小于等于64个字符。 类型:STRING 必选:否 约束:需要符合正则表达式: ^[\u4E00-\u9FA5A-Za-z0-9_-]{1,64}$ 属性: 配置项英文名:properties 说明:属性,以JSON Path格式来指定保留的属性。 类型:STRING 必选:是 约束:需要符合正则表达式: ^.{1,1000}$。 高级配置项 并行数: 配置项英文名:parallelism 说明:并行数,指定算子执行时的并行任务个数。对于性能要求越高的算子,可以设置较高的并行数,但是占用资源越多。如果此参数不设置,那么作业运行时本算子使用作业的并行数设置。 类型:INTEGER 必选:否 约束:最小值1, 最大值 1024。 父主题: 转换类算子
  • 使用DIS数据源 点击导航栏上的“数据管理”标签,进入数据管道页面,在“管理列表”部分有一按钮“创建数据管道”,如图所示: 点击“创建数据管道”按钮,弹出“创建数据管道”对话框,用户可自行填写“作业名称”(注意:同一用户所创建的作业名称不可重复)、“描述”,并选择数据源(若列表为空,请跳转到“创建数据源”链接创建数据源,详见数据源章节),如下图所示: 目前可支持的数据源两种类型:IoTDA数据源、DIS数据源。 使用DIS数据源时,需要用户自行配置数据源及数据处理流程,如图所示: 且不再需要“产品过滤”算子: 父主题: 创建数据管道
  • 数据输出配置 数据存储输出 将数据输出到IoT数据分析服务的存储,以便进一步分析(资产建模、实时分析、时序分析)使用。 用户可以配置算子名称、选择存储组、填写存储名称,并选择所需要的属性及属性类型等信息,如图所示: DIS输出 将数据输出到DIS云服务,IoT数据分析服务仅在华为云部署时支持输出到DIS云服务。 用户在“数据源”页面配置好数据源后,在该算子配置处选择即可,如图所示: 父主题: 编辑处理流程
  • 数据清洗配置 目前提供了产品过滤、增改属性类、删除属性类、过滤消息类、增加消息类、规约消息类几个类型的数据清洗算子。增加清洗步骤的操作方式为,在算子节点上点击右键,可以看到”向前”、”向后”两个菜单,如图所示: 部分算子上仅显示”向前”或”向后”菜单,则说明该算子上仅可”向前”添加或”向后”添加算子。 接下来,以产品过滤、数据计算、选择属性、数据过滤、超时插补、数据聚合为例,分别介绍一下不同类型的算子配置。各个算子配置的详细说明请参考”算子使用指南”。 产品过滤 “产品过滤”仅可添加在“IoT设备接入数据源”算子后,因此,仅在“IoT设备接入数据源”算子上点击右键时,可以看到“产品过滤”算子。 添加好算子节点后,在算子节点上点击鼠标左键,即可打开右侧的算子配置面板,如图: 系统会根据所选择的产品,自动生成该算子的输出内容: 数据计算 按照表达式进行数值计算,计算的结果可以赋值给源属性,也可以自定义属性名称及路径。 添加好算子节点后,在算子节点上点击鼠标左键,即可打开右侧的算子配置面板,如图: 选择属性 在输入数据中选择保留的属性,未选择的属性被删除。当数据字段较多时,用户可使用该功能筛选出业务所关系的字段。 添加好算子节点后,在算子节点上点击鼠标左键,即可打开右侧的算子配置面板,如图: 使用该配置筛选出batteryLevel与batteryVoltage两个字段,因为后续处理流程仅使用这两个字段。 数据过滤 根据设置的条件过滤数据,满足条件的数据则输出,不满足条件的数据将被丢弃。 添加好算子节点后,在算子节点上点击鼠标左键,即可打开右侧的算子配置面板,如图: 使用该配置过滤出batteryLevel不等于0且batteryVoltage大于100的数据。 数据过滤算子不会修改数据输出,用户可展开“输出”项检查输出内容。 超时插补 提供基于时间的数据插补功能。时间支持延迟等待时长,以及指定固定时间点。插补数据为上一条实际数据,但是事件时间为插补计算出的时间。 添加好算子节点后,在算子节点上点击鼠标左键,即可打开右侧的算子配置面板,如图: 数据聚合 数据聚合算子,对数据流中的数据根据窗口周期进行汇聚计算。 添加好算子节点后,在算子节点上点击鼠标左键,即可打开右侧的算子配置面板,如图: 父主题: 编辑处理流程