云服务器内容精选

华为云首页用户手册

服务部署节点

AI开发平台MODELARTS-属性总览

属性总览您可以使用ServiceStep来构建服务部署节点，ServiceStep结构如下表1 ServiceStep 属性描述是否必填数据类型 name 服务部署节点的名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)，一个Workflow里的两个step名称不能重复是 str inputs 服务部署节点的输入列表否 ServiceInput或者ServiceInput的列表 outputs 服务部署节点的输出列表是 ServiceOutput或者ServiceOutput的列表 title title信息，主要用于前端的名称展示否 str description 服务部署节点的描述信息否 str policy 节点执行的policy 否 StepPolicy depend_steps 依赖的节点列表否 Step或者Step的列表表2 ServiceInput 属性描述是否必填数据类型 name 服务部署节点的输入名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)。同一个Step的输入名称不能重复是 str data 服务部署节点的输入数据对象是模型列表或服务相关对象，当前仅支持ServiceInputPlaceholder，ServiceData，ServiceUpdatePlaceholder 表3 ServiceOutput 属性描述是否必填数据类型 name 服务部署节点的输出名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)。同一个Step的输出名称不能重复是 str service_config 服务部署相关配置信息是 ServiceConfig 表4 ServiceConfig 属性描述是否必填数据类型 infer_type 推理方式：取值可为real-time/batch/edge。默认为real-time。 real-time代表在线服务，将模型部署为一个Web Service。 batch为批量服务，批量服务可对批量数据进行推理，完成数据处理后自动停止。 edge表示边缘服务，通过华为云智能边缘平台，在边缘节点将模型部署为一个Web Service，需提前在IEF（智能边缘服务）创建好节点。是 str service_name 服务名称，支持1-64位可见字符（含中文），名称可以包含字母、中文、数字、中划线、下划线。说明：该字段不填时默认为自动生成的服务名称。否 str、Placeholder description 服务备注，默认为空，不超过100个字符。否 str vpc_id 在线服务实例部署的虚拟私有云ID，默认为空，此时ModelArts会为每个用户分配一个专属的VPC，用户之间隔离。如需要在服务实例中访问名下VPC内的其他服务组件，则可配置此参数为对应VPC的ID。VPC一旦配置，不支持修改。当vpc_id与cluster_id一同配置时，只有专属资源池参数生效。否 str subnet_network_id 子网的网络ID，默认为空，当配置了vpc_id则此参数必填。需填写虚拟私有云控制台子网详情中显示的“网络ID”。通过子网可提供与其他网络隔离的、可以独享的网络资源。否 str security_group_id 安全组，默认为空，当配置了vpc_id则此参数必填。安全组起着虚拟防火墙的作用，为服务实例提供安全的网络访问控制策略。安全组须包含至少一条入方向规则，对协议为TCP、源地址为0.0.0.0/0、端口为8080的请求放行。否 str cluster_id 专属资源池ID，默认为空，不使用专属资源池。使用专属资源池部署服务时需确保集群状态正常；配置此参数后，则使用集群的网络配置，vpc_id参数不生效；与下方real-time config中的cluster_id同时配置时，优先使用real-time config中的cluster_id参数。否 str additional_properties 附加的相关配置信息。否 dict apps 服务部署支持APP认证。支持填入多个app name。否 str、Placeholder、list envs 环境变量否 dict 示例： example = ServiceConfig() # 主要在服务部署节点的输出中使用如果您没有特殊需求，可直接使用内置的默认值。父主题：服务部署节点

AI开发平台MODELARTS 服务部署节点