华为云用户手册

  • Token校验 客户端在使用Token校验的流程如下。 已获取大屏分享链接和Token。 例如,分享链接https://console.ulanqab.huawei.com/sve/preview.html?region=cn-north-7#/screen/share/18cd21df7bc-WPgj_GqRc。其中“region”的值为“cn-north-7”,“pageId”的值为“18cd21df7bc-WPgj_GqRc”。 使用代码开发工具将大屏分享链接中的pageId和region拼接成如下格式的字符串。 pageId|region; 使用HmacSHA256算法对拼接的字符串进行签名,并将签名后的字符串使用Base64进行转换。签名时需要使用对应的Token。 HmacSHA256签名和Base64转换的示例如下: import java.security.*; import javax.crypto.*; import javax.crypto.spec.SecretKeySpec; import org.apache.commons.codec.binary.Base64; import java.net.URLEncoder; public class ShareWithTokenTest { public static void main(String[] args) throws Exception { System.out.println(getShareUrlWithToken("********722467a9477b5b*******", "cn-7", "*******r1tyy1C7Jenni3p*********")); } public static String getShareUrlWithToken(String pageId, String region, String token){ String data = pageId + "|" + region; String signature = HMA CS HA256(data.getBytes(), token.getBytes()); String url = "https://console.huaweicloud.com/sve/share/page.html?id=" + pageId + "®ion=" + region + "&sve_signature=" + signature; return url; } //采用HmacSHA256进行签名并进行Base64转换 public static String HMACSHA256(byte[] data, byte[] key) { try { SecretKeySpec signingKey = new SecretKeySpec(key, "HmacSHA256"); Mac mac = Mac.getInstance("HmacSHA256"); mac.init(signingKey); return URLEncoder.encode(Base64.encodeBase64String(mac.doFinal(data))); } catch (NoSuchAlgorithmException e) { e.printStackTrace(); } catch (InvalidKeyException e) { e.printStackTrace(); } return null; } } 将转换后的字符串赋值给sveSignature,sveSignature参数拼接到大屏分享链接中获取新的访问链接。 例如,新的访问链接https://console.ulanqab.huawei.com/sve/preview.html?sveSignature=1OP99N6yxCDmEiH4aNMU1GAwtKspSg4fJ/zh0679k=®ion=cn-north-7#/screen/share/18cd21df7bc-WPgj_GqRc
  • 更多操作 订单支付成功后,返回应用平台控制台“总览”页面,还可执行如表1所示的操作。 表1 更多操作 操作 说明 步骤 快速订购 继续购买新规格。 在“套餐详情”区域单击“快速订购”。 在应用平台AppStage总览页,参照3,继续购买新规格。 升级 将AppStage免费版升级为专业版。 该功能仅对使用AppStage免费版的特定VIP用户可见。 说明: 套餐升级后,有效期与原周期相同,配置费用 = 新套餐价格 * 剩余周期。 订单支付成功后自动升级服务,生效时间以订单时间为准。 升级成功后将不能再使用免费版,只能使用AppStage所有产品的专业版。 在“套餐详情”区域单击“升级”。 确认当前配置和升级后配置信息。 在“协议许可”区域勾选“我已阅读并同意《应用平台AppStage服务声明》”。 单击右下角“立即升级”。 在“支付方式”区域,选择“余额支付”或“在线支付”,然后单击“确认付款”。 支付完成后,系统会提示“订单支付成功”。 单击“查看订单详情”进入“我的订单”详情页,可查看订单详情信息,如支付信息、资源信息等。 单击“返回应用平台控制台”,进入应用平台控制台“总览”页面。 续费 AppStage相关的订单到期后会影响AppStage各中心的使用。如果您想继续使用,需要在指定的时间内续费订单。 说明: 续费操作仅适用于包年/包月资源,按需计费资源不需要续费,只需要保证账户余额充足即可。 关于续费的详细介绍请参见续费。 在应用平台控制台左侧导航栏选择“总览”,然后在“套餐详情”区域单击“续费”,进入费用中心的“续费管理”页面。 在“续费管理”页面,自定义查询条件。 可在“手动续费项”、“自动续费项”、“到期转按需项”、“到期不续费项”页签查询全部待续费项,对套餐进行手动续费的操作,具体操作请参见如何恢复为手动续费。 在列表中找到需要续费的订单,单击操作列的“续费”。 选择续费时长,判断是否勾选“统一到期日”,将套餐到期时间统一到各个月的某一天(详细介绍请参见统一包年/包月资源的到期日)。确认配置费用后单击“去支付”。 进入支付页面,选择支付方式,确认付款,支付订单后即可完成续费。 退订 退订已购买的包年包月资源(适用于退订开发中心/运维中心/运行时引擎/运营中心/AI原生应用引擎的包年/包月资源)。 在应用平台控制台左侧导航栏选择“总览”,然后在“套餐详情”区域单击“退订”,进入费用中心的“云服务退订”页面。 参照云服务退订完成产品退订。 退订已购买的按需计费资源(适用于退订AI原生应用引擎的按需计费资源)。 在应用平台控制台左侧导航栏选择“AI原生应用引擎”,在AI原生应用引擎详情页面的“我的资源”区域的资源列表中,单击需要停止计费的资源“操作”列的“退订”。 在“退订资源”对话框中,确认要退订的资源,单击“一键输入”自动在输入框填入“退订资源”,如图1所示。 图1 退订按需计费的资源 单击“确定”,即可退订该按需计费资源。
  • 操作步骤 登录AppStage管理控制台,默认进入应用平台控制台“总览”页。 单击“立即购买”,进入AppStage的产品订购页面。 在订购页面,区分页签显示AppStage下不同类型产品的套餐对应的服务资源和规格收费(关于计费模式的详细信息,请参见计费说明),请根据实际业务需求选择所需产品(支持多选)。 购买AI原生应用引擎 选择“AI原生应用引擎”页签,选择购买的资源及其对应的计费模式: 购买AI原生应用引擎按需计费的资源操作如下: 单击“按需计费”,在模型列表中勾选要购买的资源。 在“协议许可”区域勾选“我已阅读并同意《应用平台AppStage服务声明》”,单击右下角“下一步”。 在“确认配置”页面确认订购的产品信息。 单击“立即开通”。 页面提示“开通成功”后,默认返回应用平台控制台“总览”页面,可查看已购买产品及其套餐详情等。 购买AI原生应用引擎包年包月资源的操作如下: 单击“包年/包月”,选择资源的实例数,并在“购买时长”区域,可以选择按月购买或者按年购买。 (可选)勾选“自动续费”,订单会在每次到期前自动续费,避免因忘记手动续费而导致资源不可用。自动续订时系统从可用余额扣款。 按月购买:每次续订1个月,次数不限;按年购买:每次续订1年,次数不限。 在“协议许可”区域勾选“我已阅读并同意《应用平台AppStage服务声明》”,单击“下一步”。 在“确认配置”页面确认订购的产品信息。 单击右下角“去支付”。 在“支付方式”区域,选择“余额支付”或“在线支付”,然后单击“确认付款”。 支付完成后,系统会提示“订单支付成功”。 购买开发中心/运维中心/运行时引擎/运营中心 选择“应用生命周期管理”页签,根据业务需求购买所需产品,具体操作如下: 在“选择产品类型”区域显示不同产品的套餐对应的服务资源和规格收费,请根据业务需求选择所需产品(支持多选)。 (可选)在“选择增量包类型”区域,可以选择增加相应中心的服务扩展包或资源增量包。 在“购买时长”区域,可以选择按月购买或者按年购买。 (可选)勾选“自动续费”,订单会在每次到期前自动续费,避免因忘记手动续费而导致资源不可用。自动续订时系统从可用余额扣款。 按月购买:每次续订1个月,次数不限;按年购买:每次续订1年,次数不限。 AppStage的VIP用户购买免费版套餐时,不支持自动续费。 在“协议许可”区域勾选“我已阅读并同意《应用平台AppStage服务声明》”。 单击右下角“立即购买”。 在“确认配置”页面确认订购的产品信息。 “产品信息”中包含可用地域、购买时长、各中心相应的版本规格(最大用户数、应用实例数量等)、购买数量、计费模式等信息。 单击右下角“去支付”。 在“支付方式”区域,选择“余额支付”或“在线支付”,然后单击“确认付款”。 支付完成后,系统会提示“订单支付成功”。 单击“查看订单详情”进入“我的订单”详情页,可查看订单详情信息,如支付信息、资源信息等。 单击“返回应用平台控制台”,进入应用平台控制台“总览”页面,可查看已购买产品及其套餐详情等。 购买专业服务 专业服务时为客户提供aPaaS平台及应用上云和用云全生命周期的服务,支撑客户更好地使用aPaaS平台和应用。 在应用平台控制台左侧导航栏选择“专业服务”,进入“aPaas平台专业服务”页面。 根据购买需要单击“aPaaS确定性运维服务”、“aPaaS上云与实施服务”或“aPaaS咨询与规划服务”服务卡片,单击服务卡片上的“了解更多”,可查看相应服务的服务介绍、计费说明和常见问题解答。
  • 购买须知 需先选购产品套餐,才能选购产品对应的增量包。 如果已开通的产品套餐到期,则对应的增量包不可使用,需将产品套餐续订后增量包才可以继续使用。 AppStage的运行时引擎依赖于运维中心能力,需先选购运维中心才能选购运行时引擎。 运行时引擎实例依赖运维中心实例,如果选购运行时引擎产品套餐和增量包,则运行时引擎的实例数量必须和运维中心的实例数量保持一致。 订单支付成功后自动开通服务,生效时间以订单时间为准。
  • 接入后验证 纳管实例完成后即表示已将数据库接入至AppStage,在实例列表中会显示已纳管的数据库实例,可根据以下内容验证是否接入成功。 在实例列表中查看数据库实例的运行状态、规格与华为云是否一致。 单击实例名称进入实例详情页面,查看实例详细信息是否准确。 在实例列表,单击数据库实例所在行“操作”列的“账号”,单击“治理账号”,在治理账号列表查看是否已创建治理账号。 包括数据查询账号(dbquery)、SQL变更账号(change) 和性能分析账号(monitor)。 纳管后用户无法再持有明文密码,如果需要紧急修改数据库时,可以通过在数据库实例详情页面申请账号,获取账号密码。
  • 更多操作 创建版本完成后,您还可以执行如下表2所示的操作。 表2 更多操作 操作 说明 编辑版本 说明: 可编辑未发布的版本,不可编辑已发布的版本。 在“版本管理”页面的版本列表中,单击“操作”列的“编辑”。 在“编辑版本”页面,可编辑版本描述、版本类型、产能、版本开始时间和版本发布时间。 单击“提交”。 删除版本 说明: 可删除未发布的版本,不可删除已发布的版本。 删除版本后其名下全部内容将同步被清空,此操作无法恢复,请谨慎操作。 在“版本管理”页面的版本列表中,单击“操作”列的“删除”。 在“删除版本”对话框,根据界面提示在文本框输入“确定删除”,并勾选“我已知悉,强制删除”。 单击“确定”。
  • 新建指标 在AppStage首页右上区域单击“运营中心”快捷入口,进入运营中心工作台。 在左侧导航栏选择“指标管理”,进入指标管理页面。 单击“新建指标”。 配置指标信息,参数说明如表1、表2、表3所示。 表1 基础信息 参数 说明 名称 必填。在数据分析或监控系统中使用的指标标识符,通常是一个短字符串或缩写。 指标显示名 必填。在数据分析或监控系统中显示的指标名称,通常是一个更易于理解和识别的字符串。 描述 可选。对指标进行详细说明和解释的文字描述。 表2 指标配置 参数 说明 指标类型 必填。要统计的指标的种类。 固定值:普通型指标。 普通型指标 复合型指标 静态指标 说明: 将多个普通指标合并在一个图展示,即为复合型指标。组合型指标只能选择已发布的普通指标组合而成,且最多可以选择8个。 数据模型 选择已发布的数据模型,该参数的取值在“数据模型”页面配置。 仅当“指标类型”为“普通型指标”时,该参数显示且为必填参数。 计算方式 指标的计算方法。 仅当“指标类型”为“普通型指标”时,该参数显示,此时,“函数”为选填,“字段”为必填。 说明: 简易模式可选择常用聚合函数。 高级模式支持自定义计算公式。 计算时间单位 指标的统计时间单位。 仅当“指标类型”为“普通型指标”时,该参数显示且为可选参数。 不选时表示全部数据。 按天:表示统计昨天的数据,数据存到昨天。 按周:表示统计上周数据,数据存到上周日。 按月:表示统计上月数据,数据存到上月1号。 近1天:表示统计前1天的数据,不包含当天,数据存到当天。 近3天:表示统计前3天的数据,不包含当天,数据存到当天。 近7天:表示统计前7天的数据,不包含当天,数据存到当天。 近10天:表示统计前10天的数据,不包含当天,数据存到当天。 近15天:表示统计前15天的数据,不包含当天,数据存到当天。 近30天:表示统计前30天的数据,不包含当天,数据存到当天。 近60天:表示统计前60天的数据,不包含当天,数据存到当天。 近90天:表示统计前90天的数据,不包含当天,数据存到当天。 统计维度 指标的统计维度。 仅当“指标类型”为“普通型指标”时,该参数显示且为可选参数。 筛选条件 指在统计指标时需要满足的筛选条件。 仅当“指标类型”为“普通型指标”或“静态指标”时,该参数显示且为可选参数。 说明: 单击“并且满足”可以添加多条筛选条件,不同筛选条件之间为“且”、“或”的关系。 且:分析结果同时满足多条筛选条件。 或:分析结果至少满足其中一条筛选条件。 复合类型 指标的类型。仅当“指标类型”为“复合型指标”时,该参数为必填参数。 组合型:指标体系中由多个指标组合而成的指标。 同比增长率:指某个指标在当前时期与同期相比的增长率,通常用于比较不同时间段的数据变化情况。 环比增长率:指某个指标在两个连续时间段内的增长率,通常用于比较同一指标在不同时间段内的变化情况。 组合方式 指多个普通型指标组合成复合型指标的方式。仅当“复合类型”为“组合型”时,该参数为必填参数。 合并 并列 选择指标 可以选择2~8个已发布的指标。仅当“复合类型”为“组合型”时,该参数为必填参数。 同比周期 指同比增长率的计算周期。仅当“复合类型”为“同比增长率”时,该参数为必填参数。 年同比:指某一指标与去年同期相比的增长或下降百分比。 月同比:指某一指标与上个月相比的增长或下降百分比。 周同比:指某一指标与上周相比的增长或下降百分比。 环比周期 指环比增长率的计算周期。仅当“复合类型”为“环比增长率”时,该参数为必填参数。 月环比:指某个月份与上一个月份相比,数据的变化百分比。 周环比:指某个星期与上一个星期相比,数据的变化百分比。 日环比:指某一天与前一天相比,数据的变化百分比。 设定普通型指标 选择已发布的普通型指标。仅当“复合类型”为“同比增长率”和“环比增长率”时,该参数为必填参数。 普通型指标作为复合型指标的组成部分,用于综合分析和比较。 静态数据 参数枚举值在“数据表管理”页面配置。仅当“指标类型”为“静态指标”时,该参数显示且为必填参数。 字段 数据表中的特定列。仅当“指标类型”为“静态指标”时,该参数显示且为必填参数。 说明: 该参数值支持多选。 排序 当数据集中有多个字段需要排序,可以指定它们的排序优先级,可以选择升序或降序排序方式。仅当“指标类型”为“静态指标”时,该参数显示且为可选参数。 数量限制 限制数据的数量。仅当“指标类型”为“静态指标”时,该参数显示且为可选参数。 预览数据 选择是否在配置过程中预览数据,以便确认配置的准确性。 表3 任务信息 参数 说明 任务类型 指定配置的任务类型。 周期性任务 一次性任务 运行周期 指定配置任务的运行周期。仅当“任务类型”为“周期性任务”时,该参数为必填参数。 月:表示每月1号运行。 周:表示每周日运行。 天:表示每天运行。 仅当“指标类型”为“普通型指标”时,任务信息显示且为必填参数。 配置完成后单击“发布”或“保存”,新建指标成功。 单击“发布”时,指标状态为“已发布”。 单击“保存”时,指标状态为“草稿”。
  • 步骤四:企业项目配置 在项目配置区域,单击“新增”。 新增项目配置,具体参数如表3所示。 表3 项目配置参数 名称 说明 部门 选择已录入的部门。 产品 选择已录入的产品。 服务 选择已录入的服务。 华为公有云账号名 选择用户的华为云账号名。 类型 关联项目:关联已有的公有云EPS。 关联且新增项目:在公有云EPS创建一个新项目,同时进行关联。 企业项目名称 关联项目时,选择已有的公有云EPS。 关联且新增时,填写创建的企业项目名称。 单击“确定”。
  • 步骤一:创建环境 进入运维中心工作台。 将鼠标悬停在右上角的账号,选择下拉列表中的“服务环境配置”,选择左侧导航栏的“环境管理”。 单击“创建”,配置环境参数,具体参数如表1所示。 表1 创建环境参数 参数 说明 名称 填写环境名称,名称全局唯一,只能包含小写字母、数字以及下划线,不能以下划线开头。 用途 选择环境的用途。可选用途包括开发、测试、生产、安全和性能。 描述 环境的描述信息。 单击“确定”。
  • 步骤二:环境配置 在“服务环境配置”页面,选择左侧导航栏的“服务关联”。 在环境配置区域,选择待配置环境的环境名称。 单击“新增”,新增环境配置,具体参数如表2所示。 表2 环境配置参数 参数 说明 部门 选择已录入的部门。 产品 选择已录入的产品。 服务 选择已录入的服务。 华为公有云账号名 选择用户的华为云账号名。 区域 选择使用的区域。 容灾区域 选择使用的容灾区域。 模式 单云 双云 单击“确定”,完成环境配置。 配置的环境会显示在环境配置列表中。
  • 操作须知 将主机纳管至VMS,需要完成如下操作: 步骤一:刷新未纳管资源:首先需要刷新未纳管资源,将华为云其他主机同步至未纳管资源列表中。 步骤二:安装OpsAgent:纳管前需要为主机安装OpsAgent。 步骤三:分配资源:纳管主机需要将主机分配到对应的服务及环境下。 绑定已规划的业务账号(可选):主机纳管后需要为主机绑定已规划的业务账号,如果纳管前主机上已有业务账号,分配主机时会自动绑定该业务账号,不需要再单独绑定。 重置密码(可选):主机纳管后可以选择主动重置主机的root账号和所有业务账号的密码,将密码托管给AppStage平台。如果不重置密码将密码托管给AppStage平台,那么系统将不会自动创建主机管理员账号及运维账号。如果需要使用监控服务(ServiceInsight)进行虚拟机监控,需要重置密码将密码托管给AppStage平台。 如果不想密码被修改,需要在纳管主机前配置密码白名单。如果没有配置密码白名单规则,业务密码会定期90天修改一次。
  • 步骤二:安装OpsAgent 在“未纳管资源”页面,单击“部署OpsAgent”。 安装方式选择“远程安装”或“手动安装”。 手动安装:首次安装OpsAgent时,必须使用手动安装方式。 填写基本信息,OpsAgent基本信息参数说明如表1所示。 表1 OpsAgent基本信息参数说明 参数名称 参数说明 租户账号 选择租户账号,为租户VPC下的主机安装OpsAgent。 归属Region 选择租户VPC所属的Region。 OpsAgent版本 选择需要安装的OpsAgent的版本号。 VPC 选择 虚拟私有云VPC ,为该VPC下的主机安装OpsAgent。 说明: 可选VPC为已纳管VPC,如无可选VPC,请完成VPC纳管。 接入方式 当前支持“直接接入(内网)”的接入方式,为华为云主机接入安装OpsAgent。 单击LINUX命令后的,复制安装命令。 使用root账号远程登录主机后,执行安装命令安装OpsAgent。 安装完成后,未纳管资源列表中,该主机的OpsAgent状态为“在线”。 远程安装:选择虚拟私有云下已经安装了OpsAgent的主机作为安装机,安装机将作为中间桥梁安装OpsAgent到同虚拟私有云下的其他主机。 填写基本信息,OpsAgent基本信息参数说明如表1所示。 选择安装机,选择一台已安装OpsAgent的主机作为安装机。 添加主机,选择需要安装OpsAgent的主机所在行“操作”列的“编辑”,输入主机root密码后单击“确定”,然后在列表中勾选该主机。 单击“确定”,安装机将作为执行机主机安装OpsAgent。
  • 更多操作 创建和关联流水线完成后,您还可以执行如下表2所示操作。 表2 更多操作 操作 步骤 查看流水线运行历史 在流水线列表中单击流水线名称,进入“流水线运行历史”页面: 选择“流水线详情”页签,查看流水线编排的详情。 选择“执行历史”页面,选择时间段,可查看该时间段的流水线执行详情信息。 执行流水线 在当前服务版本的流水线列表中已关联的流水线所在行的“操作”列,单击“执行”。 在“执行构建”对话框,单击“确定”,流水线开始构建版本的发布软件包。 说明: 在流水线进行中,单击“操作”列“终止”可停止构建。 一个版本可多次重复执行发布构建,但以最后一次的构建结果为准。 解除关联流水线 在流水线列表“操作”列,单击“解除关联”。 单击“确认”,解除此流水线与当前版本的关联。 基线化 基线化用于将发布构建的产物(软件包)复制至开发中心OBS中心。 在流水线列表右上角单击“基线化”。 在“基线化”页面,选择流水线,单击“基线化”。
  • 使用须知 流水线管理是开发中心结合流水线CodeArts Pipeline和编译构建CodeArts Build服务的能力,提供可视化、可编排的CI/CD持续交付软件生产线,帮助企业快速转型,实现DevOps持续交付高效自动化,缩短应用TTM(Time to Market)交付周期,提升研发效率。 流水线服务本质上是一个可视化的自动化任务调度平台,需要配合软件开发生产线中编译构建、代码检查、测试计划、部署等服务的自动化任务使用。根据用户需要的场景,如开发测试环境应用部署、生产环境应用部署等,对这些自动化任务进行自定义编排,一次配置后就可以一键自动化触发调度执行,避免频繁低效的手工操作。 关于流水线的详细介绍文档请参考流水线CodeArts Pipeline和编译构建 CodeArts Build。
  • Token校验 客户端在使用Token校验的流程如下。 已获取大屏分享链接和Token。 例如,分享链接https://console.ulanqab.huawei.com/sve/preview.html?region=cn-north-7#/screen/share/18cd21df7bc-WPgj_GqRc。其中“region”的值为“cn-north-7”,“pageId”的值为“18cd21df7bc-WPgj_GqRc”。 使用代码开发工具将大屏分享链接中的pageId和region拼接成如下格式的字符串。 pageId|region; 使用HmacSHA256算法对拼接的字符串进行签名,并将签名后的字符串使用Base64进行转换。签名时需要使用对应的Token。 HmacSHA256签名和Base64转换的示例如下: import java.security.*; import javax.crypto.*; import javax.crypto.spec.SecretKeySpec; import org.apache.commons.codec.binary.Base64; import java.net.URLEncoder; public class ShareWithTokenTest { public static void main(String[] args) throws Exception { System.out.println(getShareUrlWithToken("********722467a9477b5b*******", "cn-7", "*******r1tyy1C7Jenni3p*********")); } public static String getShareUrlWithToken(String pageId, String region, String token){ String data = pageId + "|" + region; String signature = HMACSHA256(data.getBytes(), token.getBytes()); String url = "https://console.huaweicloud.com/sve/share/page.html?id=" + pageId + "®ion=" + region + "&sve_signature=" + signature; return url; } //采用HmacSHA256进行签名并进行Base64转换 public static String HMACSHA256(byte[] data, byte[] key) { try { SecretKeySpec signingKey = new SecretKeySpec(key, "HmacSHA256"); Mac mac = Mac.getInstance("HmacSHA256"); mac.init(signingKey); return URLEncoder.encode(Base64.encodeBase64String(mac.doFinal(data))); } catch (NoSuchAlgorithmException e) { e.printStackTrace(); } catch (InvalidKeyException e) { e.printStackTrace(); } return null; } } 将转换后的字符串赋值给sveSignature,sveSignature参数拼接到大屏分享链接中获取新的访问链接。 例如,新的访问链接https://console.ulanqab.huawei.com/sve/preview.html?sveSignature=1OP99N6yxCDmEiH4aNMU1GAwtKspSg4fJ/zh0679k=®ion=cn-north-7#/screen/share/18cd21df7bc-WPgj_GqRc
  • 步骤四:企业项目配置 在项目配置区域,单击“新增”。 新增项目配置,具体参数如表3所示。 表3 项目配置参数 名称 说明 部门 选择已录入的部门。 产品 选择已录入的产品。 服务 选择已录入的服务。 华为公有云账号名 选择用户的华为云账号名。 类型 关联项目:关联已有的公有云EPS。 关联且新增项目:在公有云EPS创建一个新项目,同时进行关联。 企业项目名称 关联项目时,选择已有的公有云EPS。 关联且新增时,填写创建的企业项目名称。 单击“确定”。
  • 步骤一:创建环境 进入运维中心工作台。 将鼠标悬停在右上角的账号,选择下拉列表中的“服务环境配置”,选择左侧导航栏的“环境管理”。 单击“创建”,配置环境参数,具体参数如表1所示。 表1 创建环境参数 参数 说明 名称 填写环境名称,名称全局唯一,只能包含小写字母、数字以及下划线,不能以下划线开头。 用途 选择环境的用途。可选用途包括开发、测试、生产、安全和性能。 描述 环境的描述信息。 单击“确定”。
  • 步骤二:环境配置 在“服务环境配置”页面,选择左侧导航栏的“服务关联”。 在环境配置区域,选择待配置环境的环境名称。 单击“新增”,新增环境配置,具体参数如表2所示。 表2 环境配置参数 参数 说明 部门 选择已录入的部门。 产品 选择已录入的产品。 服务 选择已录入的服务。 华为公有云账号名 选择用户的华为云账号名。 区域 选择使用的区域。 容灾区域 选择使用的容灾区域。 模式 单云 双云 单击“确定”,完成环境配置。 配置的环境会显示在环境配置列表中。
  • 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 result Array of ImageBatchModerationResultBody objects 调用成功时表示调用结果。 调用失败时无此字段。 表5 ImageBatchModerationResultBody 参数 参数类型 描述 url String 图片的URL路径。 suggestion String 审核结果是否通过。 block:包含敏感信息,不通过 pass:不包含敏感信息,通过 review:需要人工复检 说明: 当同时检测多个场景时,suggestion的值以最可能包含敏感信息的场景为准。即任一场景出现了block则总的suggestion为block,所有场景都pass时suggestion为pass,这两种情况之外则一定有场景需要review,此时suggestion为review。 目前本服务不会保存客户的调用结果(如block的历史信息),因为涉及到客户的数据隐私问题,建议您保留接口调用结果的日志信息。 detail ImageDetectionResultDetail object 针对选定的每个检测场景列出结果列表,terrorism为暴恐检测结果,porn为涉黄检测结果。如果检测场景中的最高置信度也未达到threshold则结果列表为空。 category_suggestions Object 具体每个场景的检测结果。 block:包含敏感信息,不通过 pass:不包含敏感信息,通过 review:需要人工复检 表6 ImageDetectionResultDetail 参数 参数类型 描述 porn Array of ImageDetectionResultSimpleDetail objects 涉黄检测结果。 terrorism Array of ImageDetectionResultSimpleDetail objects 暴恐检测结果。 ad Array of ImageDetectionResultAdDetail objects 广告检测结果。 表7 face_detail 参数 参数类型 描述 h Integer 人脸区域高度。 w Integer 人脸区域宽度。 x Integer 人脸区域左上角到y轴距离。 y Integer 人脸区域左上角到x轴距离。 表8 ImageDetectionResultSimpleDetail 参数 参数类型 描述 confidence Float 置信度,取值范围 0-1。 label String 每个检测结果的标签化说明。 terrorism:label为对应的暴恐元素信息。 暴恐场景当前支持label列表如下: normal:正常(表示您上传的图像不涉及暴恐场景) knife:刀 gun:枪 fire:火灾 bloody :血腥 terrorist:暴恐组织及标志 fascist:法西斯组织及标志 cult:邪教组织及标志 special_characters :特殊文字 kidnap:绑架 corpse:尸体 riot:暴乱事件 parade :游行示威 sensitive_landmarks:敏感地标 military_weapon:军事武器 army:警察部队 crowd:人群聚集 porn:label为对应的涉黄分类(涉黄、性感等)信息。 鉴黄场景当前支持label列表如下: normal:正常(表示您上传的图像内容不涉黄) porn:色情 sexy:性感 ad:label为对应的广告识别结果信息。 广告场景当前支持label列表如下: normal:正常(表示您上传的图像不涉及广告内容) ad:广告 图文审核场景当前支持label列表如下: normal:正常 qr_code:二维码 porn:涉黄 ad:广告 abuse:辱骂 contraband:违禁品 其他自定义黑名单词库名称 表9 ImageDetectionResultAdDetail 参数 参数类型 描述 confidence Float 置信度,取值范围 0-1。 label String ad:label为对应的广告识别结果信息。 广告场景当前支持label列表如下: normal:正常 ad:广告 图文审核场景当前支持label列表如下: normal:正常 qr_code:二维码 porn:涉黄 ad:广告 abuse:辱骂 contraband:违禁品 其他自定义黑名单词库名称 hit_contexts Array of strings 图文审核场景命中的文本列表。 状态码: 400 表10 响应Body参数 参数 参数类型 描述 error_code String 调用失败时的错误码,具体请参见错误码。 调用成功时无此字段。 error_msg String 调用失败时的错误信息。 调用成功时无此字段。 fail_category String 当包含多个场景时,调用失败的场景。
  • 响应示例 状态码: 200 成功响应示例 { "result": [ { "url": "https://bucketname.obs.myhwclouds.com/ObjectName1", "suggestion": "block", "category_suggestions": { "terrorism": "pass", "porn": "block" }, "detail": { "terrorism": [ { "confidence": 0, "label": "xxx" }, { "confidence": 1, "label": "normal" } ], "porn": [ { "confidence": 0, "label": "normal" }, { "confidence": 1, "label": "xxx" } ] } } ] } 状态码: 400 失败响应示例 { "error_code" : "AIS.0005", "error_msg" : "The service does not exist." }
  • 请求示例 “endpoint”即调用API的请求地址,不同服务不同区域的endpoint不同,具体请参见终端节点。 例如,服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”,请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/image/batch”,“project_id”为项目ID,获取方法请参见获取项目ID。 识别用户上传的图像内容是否有敏感内容,检测场景为涉黄,暴恐。 POST https://{endpoint}/v2/{project_id}/moderation/image/batch { "urls" : [ "https://bucketname.obs.myhwclouds.com/ObjectName1", "https://bucketname.obs.myhwclouds.com/ObjectName2" ], "categories" : [ "terrorism", "porn" ], "threshold" : "" }
  • 请求参数 表2 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取方法请参见 获取Token 接口,响应消息头中X-Subject-Token的值即为Token。 表3 请求Body参数 参数 是否必选 参数类型 描述 urls 是 Array of strings 图片的URL路径,目前支持: 公网HTTP/HTTPS URL 华为云OBS提供的URL,使用OBS数据需要进行授权。包括对服务授权、临时授权、匿名公开授权。详请参见配置OBS访问权限。 说明: 图片的URL路径列表最多支持10个URL地址。接口响应时间依赖图片的下载时间,如果图片下载时间过长,会返回接口调用失败。请保证被审核图片所在的存储服务稳定可靠,建议您使用华为云OBS存储。 categories 否 Array of strings 检测场景。 terrorism:暴恐元素的检测。 porn:涉黄内容元素的检测。 ad:广告图文的检测。 all:包含terrorism和porn场景的检测。 可通过配置上述场景,来完对应场景元素的检测。 为空或无此参数表示terrorism检测,但不包含porn场景。 说明: 每个检测场景的检测次数会分类统计。 ad_categories 否 Array of strings 图文审核检测场景。当categories包含ad时,该参数生效。 当前支持的场景有系统场景和用户自定义场景: 系统场景为: qr_code:二维码 porn:涉黄 ad:广告 abuse:辱骂 contraband:违禁品 用户自定义场景为:自定义黑名单词库。 说明: 自定义词库的创建和使用请参见配置自定义词库 V2。 threshold 否 Double 结果过滤门限,只有置信度不低于此门限的结果才会呈现在detail的列表中,取值范围 0-1,当未设置此值时各个检测场景会使用各自的默认值。 terrorism检测场景的默认值为0。 ad检测场景的默认值为0。 无特殊需求直接不传此参数或像示例中一样值设为空字符串即可。 说明: 如果检测场景中的最高置信度也未达到threshold,则结果列表为空;反之如果设置的threshold过小,则会使结果列表中内容过多。 threshold参数不支持porn场景筛选。 threshold参数不会对响应中的suggestion产生影响。 moderation_rule 否 String 图像审核 规则名称,默认使用default规则。 说明: 审核规则的创建和使用请参见配置审核规则。 show_ocr_text 否 Boolean 是否返回ocr识别结果,默认值为false。
  • 表达式转换 使用JSP表达式语言(Expression Language)对当前字段或整行数据进行转换。JSP表达式语言可以用来创建算术和逻辑表达式。在表达式内可以使用整型数,浮点数,字符串,常量true、false和null。 表达式支持以下两个环境变量: value:当前字段值。 row:当前行,数组类型。 表达式支持的工具类用法罗列如下,未列出即表示不支持: 如果当前字段为字符串类型,将字符串全部转换为小写,例如将“aBC”转换为“abc”。 表达式:StringUtils.lowerCase(value) 将当前字段的字符串全部转为大写。 表达式:StringUtils.upperCase(value) 如果想将第1个日期字段格式从“2018-01-05 15:15:05”转换为“20180105”。 表达式:DateUtils.format(DateUtils.parseDate(row[0],"yyyy-MM-dd HH:mm:ss"),"yyyyMMdd") 如果想将时间戳转换成“yyyy-MM-dd hh:mm:ss”格式的日期字符串的类型,例如字段值为“1701312046588”,转化后为“2023-11-30 10:40:46”。 表达式:DateUtils.format(NumberUtils.toLong(value),"yyyy-MM-dd HH:mm:ss") 如果想将“yyyy-MM-dd hh:mm:ss”格式的日期字符串转换成时间戳的类型。 表达式:DateUtils.getTime(DateUtils.parseDate(value,"yyyy-MM-dd hh:mm:ss")) 如果当前字段值为“yyyy-MM-dd”格式的日期字符串,需要截取年,例如字段值为“2017-12-01”,转换后为“2017”。 表达式:StringUtils.substringBefore(value,"-") 如果当前字段值为数值类型,转换后值为当前值的两倍。 表达式:value*2 如果当前字段值为“true”,转换后为“Y”,其它值则转换后为“N”。 表达式:value=="true"?"Y":"N" 如果当前字段值为字符串类型,当为空时,转换为“Default”,否则不转换。 表达式:empty value? "Default":value 如果想将日期字段格式从“2018/01/05 15:15:05”转换为“2018-01-05 15:15:05”。 表达式:DateUtils.format(DateUtils.parseDate(value,"yyyy/MM/dd HH:mm:ss"),"yyyy-MM-dd HH:mm:ss") 获取一个36位的UUID(Universally Unique Identifier,通用唯一识别码)。 表达式:CommonUtils.randomUUID() 如果当前字段值为字符串类型,将首字母转换为大写,例如将“cat”转换为“Cat”。 表达式:StringUtils.capitalize(value) 如果当前字段值为字符串类型,将首字母转换为小写,例如将“Cat”转换为“cat”。 表达式:StringUtils.uncapitalize(value) 如果当前字段值为字符串类型,使用空格填充为指定长度,并且将字符串居中,当字符串长度不小于指定长度时不转换,例如将“ab”转换为长度为4的“ab”。 表达式:StringUtils.center(value,4) 删除字符串末尾的一个换行符(包括“\n”、“\r”或者“\r\n”),例如将“abc\r\n\r\n”转换为“abc\r\n”。 表达式:StringUtils.chomp(value) 如果字符串中包含指定的字符串,则返回布尔值true,否则返回false。例如“abc”中包含“a”,则返回true。 表达式:StringUtils.contains(value,"a") 如果字符串中包含指定字符串的任一字符,则返回布尔值true,否则返回false。例如“zzabyycdxx”中包含“z”或“a”任意一个,则返回true。 表达式:StringUtils.containsAny(value,"za") 如果字符串中不包含指定的所有字符,则返回布尔值true,包含任意一个字符则返回false。例如“abz”中包含“xyz”里的任意一个字符,则返回false。 表达式:StringUtils.containsNone(value,"xyz") 如果当前字符串只包含指定字符串中的字符,则返回布尔值true,包含任意一个其它字符则返回false。例如“abab”只包含“abc”中的字符,则返回true。 表达式:StringUtils.containsOnly(value,"abc") 如果字符串为空或null,则转换为指定的字符串,否则不转换。例如将空字符转换为null。 表达式:StringUtils.defaultIfEmpty(value,null) 如果字符串以指定的后缀结尾(包括大小写),则返回布尔值true,否则返回false。例如“abcdef”后缀不为null,则返回false。 表达式:StringUtils.endsWith(value,null) 如果字符串和指定的字符串完全一样(包括大小写),则返回布尔值true,否则返回false。例如比较字符串“abc”和“ABC”,则返回false。 表达式:StringUtils.equals(value,"ABC") 从字符串中获取指定字符串的第一个索引,没有则返回整数-1。例如从“aabaabaa”中获取“ab”的第一个索引1。 表达式:StringUtils.indexOf(value,"ab") 从字符串中获取指定字符串的最后一个索引,没有则返回整数-1。例如从“aFkyk”中获取“k”的最后一个索引4。 表达式:StringUtils.lastIndexOf(value,"k") 从字符串中指定的位置往后查找,获取指定字符串的第一个索引,没有则转换为“-1”。例如“aabaabaa”中索引3的后面,第一个“b”的索引是5。 表达式:StringUtils.indexOf(value,"b",3) 从字符串获取指定字符串中任一字符的第一个索引,没有则返回整数-1。例如从“zzabyycdxx”中获取“z”或“a”的第一个索引0。 表达式:StringUtils.indexOfAny(value,"za") 如果字符串仅包含Unicode字符,返回布尔值true,否则返回false。例如“ab2c”中包含非Unicode字符,返回false。 表达式:StringUtils.isAlpha(value) 如果字符串仅包含Unicode字符或数字,返回布尔值true,否则返回false。例如“ab2c”中仅包含Unicode字符和数字,返回true。 表达式:StringUtils.isAlphanumeric(value) 如果字符串仅包含Unicode字符、数字或空格,返回布尔值true,否则返回false。例如“ab2c”中仅包含Unicode字符和数字,返回true。 表达式:StringUtils.isAlphanumericSpace(value) 如果字符串仅包含Unicode字符或空格,返回布尔值true,否则返回false。例如“ab2c”中包含Unicode字符和数字,返回false。 表达式:StringUtils.isAlphaSpace(value) 如果字符串仅包含ASCII可打印字符,返回布尔值true,否则返回false。例如“!ab-c~”返回true。 表达式:StringUtils.isAsciiPrintable(value) 如果字符串为空或null,返回布尔值true,否则返回false。 表达式:StringUtils.isEmpty(value) 如果字符串中仅包含Unicode数字,返回布尔值true,否则返回false。 表达式:StringUtils.isNumeric(value) 获取字符串最左端的指定长度的字符,例如获取“abc”最左端的2位字符“ab”。 表达式:StringUtils.left(value,2) 获取字符串最右端的指定长度的字符,例如获取“abc”最右端的2位字符“bc”。 表达式:StringUtils.right(value,2) 将指定字符串拼接至当前字符串的左侧,需同时指定拼接后的字符串长度,如果当前字符串长度不小于指定长度,则不转换。例如将“yz”拼接到“bat”左侧,拼接后长度为8,则转换后为“yzyzybat”。 表达式:StringUtils.leftPad(value,8,"yz") 将指定字符串拼接至当前字符串的右侧,需同时指定拼接后的字符串长度,如果当前字符串长度不小于指定长度,则不转换。例如将“yz”拼接到“bat”右侧,拼接后长度为8,则转换后为“batyzyzy”。 表达式:StringUtils.rightPad(value,8,"yz") 如果当前字段为字符串类型,获取当前字符串的长度,如果该字符串为null,则返回0。 表达式:StringUtils.length(value) 如果当前字段为字符串类型,删除其中所有的指定字符串,例如从“queued”中删除“ue”,转换后为“qd”。 表达式:StringUtils.remove(value,"ue") 如果当前字段为字符串类型,移除当前字段末尾指定的子字符串。指定的子字符串若不在当前字段的末尾,则不转换,例如移除当前字段“www.domain.com”后的“.com”。 表达式:StringUtils.removeEnd(value,".com") 如果当前字段为字符串类型,移除当前字段开头指定的子字符串。指定的子字符串若不在当前字段的开头,则不转换,例如移除当前字段“www.domain.com”前的“www.”。 表达式:StringUtils.removeStart(value,"www.") 如果当前字段为字符串类型,替换当前字段中所有的指定字符串,例如将“aba”中的“a”用“z”替换,转换后为“zbz”。 表达式:StringUtils.replace(value,"a","z") 如果当前字段为字符串类型,一次替换字符串中的多个字符,例如将字符串“hello”中的“h”用“j”替换,“o”用“y”替换,转换后为“jelly”。 表达式:StringUtils.replaceChars(value,"ho","jy") 如果字符串以指定的前缀开头(区分大小写),则返回布尔值true,否则返回false,例如当前字符串“abcdef”以“abc”开头,则返回true。 表达式:StringUtils.startsWith(value,"abc") 如果当前字段为字符串类型,去除字段中首、尾处所有指定的字符,例如去除“abcyx”中首尾所有的“x”、“y”、“z”和“b”,转换后为“abc”。 表达式:StringUtils.strip(value,"xyzb") 如果当前字段为字符串类型,去除字段末尾所有指定的字符,例如去除当前字段末尾的"abc"字符串。 表达式:StringUtils.stripEnd(value,"abc") 如果当前字段为字符串类型,去除字段开头所有指定的字符,例如去除当前字段开头的所有空格。 表达式:StringUtils.stripStart(value,null) 如果当前字段为字符串类型,获取字符串指定位置后(索引从0开始,包括指定位置的字符)的子字符串,指定位置如果为负数,则从末尾往前计算位置,末尾第一位为-1。例如获取“abcde”第2个字符(即c)及之后的字符串,则转换后为“cde”。 表达式:StringUtils.substring(value,2) 如果当前字段为字符串类型,获取字符串指定区间(索引从0开始,区间起点包括指定位置的字符,区间终点不包含指定位置的字符)的子字符串,区间位置如果为负数,则从末尾往前计算位置,末尾第一位为-1。例如获取“abcde”第2个字符(即c)及之后、第4个字符(即e)之前的字符串,则转换后为“cd”。 表达式:StringUtils.substring(value,2,4) 如果当前字段为字符串类型,获取当前字段里第一个指定字符后的子字符串。例如获取“abcba”中第一个“b”之后的子字符串,转换后为“cba”。 表达式:StringUtils.substringAfter(value,"b") 如果当前字段为字符串类型,获取当前字段里最后一个指定字符后的子字符串。例如获取“abcba”中最后一个“b”之后的子字符串,转换后为“a”。 表达式:StringUtils.substringAfterLast(value,"b") 如果当前字段为字符串类型,获取当前字段里第一个指定字符前的子字符串。例如获取“abcba”中第一个“b”之前的子字符串,转换后为“a”。 表达式:StringUtils.substringBefore(value,"b") 如果当前字段为字符串类型,获取当前字段里最后一个指定字符前的子字符串。例如获取“abcba”中最后一个“b”之前的子字符串,转换后为“abc”。 表达式:StringUtils.substringBeforeLast(value,"b") 如果当前字段为字符串类型,获取嵌套在指定字符串之间的子字符串,没有匹配的则返回null。例如获取“tagabctag”中“tag”之间的子字符串,转换后为“abc”。 表达式:StringUtils.substringBetween(value,"tag") 如果当前字段为字符串类型,删除当前字符串两端的控制字符(char≤32),例如删除字符串前后的空格。 表达式:StringUtils.trim(value) 将当前字符串转换为字节,如果转换失败,则返回0。 表达式:NumberUtils.toByte(value) 将当前字符串转换为字节,如果转换失败,则返回指定值,例如指定值配置为1。 表达式:NumberUtils.toByte(value,1) 将当前字符串转换为Double数值,如果转换失败,则返回0.0d。 表达式:NumberUtils.toDouble(value) 将当前字符串转换为Double数值,如果转换失败,则返回指定值,例如指定值配置为1.1d。 表达式:NumberUtils.toDouble(value,1.1d) 将当前字符串转换为Float数值,如果转换失败,则返回0.0f。 表达式:NumberUtils.toFloat(value) 将当前字符串转换为Float数值,如果转换失败,则返回指定值,例如配置指定值为1.1f。 表达式:NumberUtils.toFloat(value,1.1f) 将当前字符串转换为Int数值,如果转换失败,则返回0。 表达式:NumberUtils.toInt(value) 将当前字符串转换为Int数值,如果转换失败,则返回指定值,例如配置指定值为1。 表达式:NumberUtils.toInt(value,1) 将字符串转换为Long数值,如果转换失败,则返回0。 表达式:NumberUtils.toLong(value) 将当前字符串转换为Long数值,如果转换失败,则返回指定值,例如配置指定值为1L。 表达式:NumberUtils.toLong(value,1L) 将字符串转换为Short数值,如果转换失败,则返回0。 表达式:NumberUtils.toShort(value) 将当前字符串转换为Short数值,如果转换失败,则返回指定值,例如配置指定值为1。 表达式:NumberUtils.toShort(value,1) 将当前IP字符串转换为Long数值,例如将“10.78.124.0”转换为LONG数值是“172915712”。 表达式:CommonUtils.ipToLong(value) 从网络读取一个IP与物理地址映射文件,并存放到Map集合,这里的URL是IP与地址映射文件存放地址,例如“http://10.114.205.45:21203/sqoop/IpList.csv”。 表达式:HttpsUtils.downloadMap("url") 将IP与地址映射对象缓存起来并指定一个key值用于检索,例如“ipList”。 表达式:CommonUtils.setCache("ipList",HttpsUtils.downloadMap("url")) 取出缓存的IP与地址映射对象。 表达式:CommonUtils.getCache("ipList") 判断是否有IP与地址映射缓存。 表达式:CommonUtils.cacheExists("ipList") 根据IP取出对应的详细地址:国家_省份_城市_运营商,例如“1xx.78.124.0”对应的地址为“中国_广东_深圳_电信”,取不到对应地址则默认“**_**_**_**”。如果需要,可通过StringUtil类表达式对地址进行进一步拆分。 表达式:CommonUtils.getMapValue(CommonUtils.ipToLong(value),CommonUtils.cacheExists("ipLis")?CommonUtils.getCache("ipLis"):CommonUtils.setCache("ipLis",HttpsUtils.downloadMap("url"))) 根据指定的偏移类型(month/day/hour/minute/second)及偏移量(正数表示增加,负数表示减少),将指定格式的时间转换为一个新时间,例如将“2019-05-21 12:00:00”增加8个小时。 表达式:DateUtils.getCurrentTimeByZone("yyyy-MM-dd HH:mm:ss",value, "hour", 8) 如果value值为空或者null时,则返回字符串"aaa",否则返回value。 表达式:StringUtils.defaultIfEmpty(value,"aaa")
  • 约束限制 作业源端开启“使用SQL语句”参数时不支持配置转换器。 如果在字段映射界面, CDM 通过获取样值的方式无法获得所有列(例如从HBase/CloudTable/MongoDB导出数据时,CDM有较大概率无法获得所有列),则可以单击后选择“添加新字段”来手动增加,确保导入到目的端的数据完整。 关系数据库、Hive、 MRS Hudi及 DLI 做源端时,不支持获取样值功能。 SQLServer作为目的端数据源时,不支持timestamp类型字段的写入,需修改为其他时间类型字段写入(如datetime)。 当作业源端为OBS、迁移CSV文件时,并且配置“解析首行为列名”参数的场景下显示列名。 当使用二进制格式进行文件到文件的迁移时,没有配置字段转换器这一步。 自动创表场景下,需在目的端表中提前手动新增字段,再在字段映射里新增字段。 添加完字段后,新增的字段在界面不显示样值,不会影响字段值的传输,CDM会将字段值直接写入目的端。 如果字段映射关系不正确,您可以通过拖拽字段、单击对字段批量映射两种方式来调整字段映射关系。 创建表达式转换器时,表达式的功能是对该字段的数据进行处理,故不建议使用时间宏,如需使用,请根据以下场景处理(源端是文件类的配置时仅支持方式一): 方式一:新建表达式转换器时,表达式需要用''包围。 ${dateformat(yyyy-MM-dd)}不加引号使用时,解析成2017-10-16之后还会进行运算,将'-'识别为减号,导致结果为1991,须使用'${dateformat(yyyy-MM-dd)}',即'2017-10-16'。 图2 使用''包围表达式 方式二:源字段中新增自定义字段,在样值中填写时间宏变量,重新进行字段映射处理。 图3 源字段新增自定义字段 如果是导入到 数据仓库 服务(DWS),则还需在目的字段中选择分布列,建议按如下顺序选取分布列: 有主键可以使用主键作为分布列。 多个数据段联合做主键的场景,建议设置所有主键作为分布列。 在没有主键的场景下,如果没有选择分布列,DWS会默认第一列作为分布列,可能会有数据倾斜风险。
  • 新空间导入作业和连接 请您登录控制台首页,选择并进入新工作空间的“数据集成”模块,然后执行如下操作进行批量导入。 在CDM主界面,单击左侧导航上的“集群管理”,单击集群“操作”列的“作业管理”,进入到“表/文件迁移”界面。 单击作业列表上方的“导入”按钮,准备导入JSON文件。 图3 批量导入 在弹出的窗口中,选择导出作业获取的JSON文件,上传JSON文件。 图4 选择JSON文件 JSON文件上传成功后,单击“设置密码”,配置数据连接的密码或SK。 图5 进入设置密码 在设置密码弹窗中,依次输入各数据连接的密码或SK,完成后单击确认,回到导入作业界面。 图6 设置密码 在导入作业界面,单击确认,开始导入。 图7 开始导入 导入完成后,界面会显示导入情况。如果存在导入失败的情况,请您根据系统报错原因提示,调整后重新导入。
  • 旧空间导出作业和连接 请您登录控制台首页,选择并进入旧工作空间的“数据集成”模块,然后执行如下操作进行批量导出。 在CDM主界面,单击左侧导航上的“集群管理”,单击集群“操作”列的“作业管理”,进入到“表/文件迁移”界面。 单击作业列表上方的“导出”按钮,准备导出连接和作业。 图1 批量导出 在弹出的窗口中,选择“全部作业和连接”,单击“确认”,导出所有作业和连接。 图2 全部导出 导出成功后,通过浏览器下载地址,获取到导出的JSON文件。
  • Django日志 日志样例: [08/Jan/2018 20:59:07 ] settings INFO Welcome to Hue 3.9.0 正则表达式为: ^\[(.*)\] (\w*) (\w*) (.*).* 解析结果如下: 表4 Django日志解析结果 列号 样值 1 08/Jan/2018 20:59:07 2 settings 3 INFO 4 Welcome to Hue 3.9.0
  • Apache server日志 日志样例: [Mon Jan 08 20:43:51.854334 2018] [mpm_event:notice] [pid 36465:tid 140557517657856] AH00489: Apache/2.4.12 (Unix) OpenSSL/1.0.1t configured -- resuming normal operations 正则表达式为: ^\[(.*)\] \[(.*)\] \[(.*)\] (.*).* 解析结果如下: 表5 Apache server日志解析结果 列号 样值 1 Mon Jan 08 20:43:51.854334 2018 2 mpm_event:notice 3 pid 36465:tid 140557517657856 4 AH00489: Apache/2.4.12 (Unix) OpenSSL/1.0.1t configured -- resuming normal operations
  • Tomcat日志 日志样例: 11-Jan-2018 09:00:06.907 INFO [main] org.apache.catalina.startup.VersionLoggerListener.log OS Name: Linux 正则表达式为: ^(\d.*\d) (\w*) \[(.*)\] ([\w\.]*) (\w.*).* 解析结果如下: 表3 Tomcat日志解析结果 列号 样值 1 11-Jan-2018 09:00:06.907 2 INFO 3 main 4 org.apache.catalina.startup.VersionLoggerListener.log 5 OS Name:Linux
  • Log4J审计日志 日志样例: 2018-01-11 08:51:06,156 INFO [org.apache.sqoop.audit.FileAuditLogger.logAuditEvent(FileAuditLogger.java:61)] user=sqoop.anonymous.user ip=189.xxx.xxx.75 op=show obj=version objId=x 正则表达式为: ^(\d.*\d) (\w*) \[(.*)\] user=(\w.*) ip=(\w.*) op=(\w.*) obj=(\w.*) objId=(.*).* 解析结果如下: 表2 Log4J审计日志解析结果 列号 样值 1 2018-01-11 08:51:06,156 2 INFO 3 org.apache.sqoop.audit.FileAuditLogger.logAuditEvent(FileAuditLogger.java:61) 4 sqoop.anonymous.user 5 189.xxx.xxx.75 6 show 7 version 8 x
共100000条