区域(Region) 从地理位置和网络时延维度划分,同一个Region内共享弹性计算、块存储、对象存储、VPC网络、弹性公网IP、镜像等公共服务。
删除Ray服务 前提条件 已有至少一个Ray服务。具体操作,请参见创建Ray服务。 操作步骤 Ray服务一旦删除所有记录都会被清理掉,且无法恢复。请谨慎操作。 登录DataArtsFabric工作空间管理台。
升级Ray服务等待时间为3000s,超时会导致升级失败 回退升级Ray服务 如果使用了错误的升级配置或其他原因,可能会导致升级Ray服务失败,此时需要对升级失败的Ray服务进行回退操作。
具体操作,请参见创建Ray服务。 运行推理服务 登录DataArtsFabric工作空间管理台。 选择已创建的工作空间,单击“进入工作空间”,选择“资源与资产 > Ray服务”。 在“Ray服务”页面的“推理地址”列,获取目标Ray服务的推理地址。
服务规格 查询资源规格列表 父主题: API
删除推理服务 当您不想使用推理服务的时候,您可以删除自己创建的推理服务。 前提条件 已有可正常使用的华为云账号。 已有至少一个正常可用的工作空间。 已创建推理服务。 操作步骤 登录DataArtsFabric工作空间管理台。
开通推理服务 对于公共推理服务,用户需要先申请开通,开通后才可以使用。开通公共推理服务之后用户会获得一定的免费配额,并在一定的时间内有效,超过将无法使用。如果用户想继续使用,建议部署推理服务使用。 前提条件 已有可正常使用的华为云账号。 已有至少一个正常可用的工作空间。
创建推理服务 在DataArtsFabric进行推理的时候,除了选择已有的公共推理服务进行推理,用户也可以部署自己的推理服务进行推理。
推理服务接口 发起调用请求 父主题: API
查看公共推理服务 推理端点试用期内,可以直接使用公共推理服务进行推理。
管理Ray服务 创建Ray服务 升级Ray服务 运行推理服务 删除Ray服务 父主题: Ray场景
服务健康检查 健康检查 父主题: API
如果需要对比多个推理服务时,可以单击右上角的“新增对比”按钮进行新增,最多支持3个推理服务进行对比。 父主题: 创建我的推理服务进行推理
父主题: 推理服务接口
创建一个推理服务,记录接口返回推理服务的ID。
部署服务 功能介绍 部署一个服务实例。部署服务实例接口支持输入名称、描述、端点ID、实例规格、最小值和最大值等参数,返回实例ID。此过程包含资源校验:最大值不小于最小值,且不超过端点最大资源数;同一端点下所有服务总资源数亦需符合限制。
父主题: 服务健康检查
获取推理服务实例ID 登录DataArtsFabric工作空间管理台。 选择已创建的工作空间,单击“进入工作空间”,选择“开发与生产 > 推理服务”。 按需选择“我的推理服务”或“公共推理服务”页签,单击推理服务名称。 在“概览”页面,获取推理实例ID。 父主题: 附录
父主题: 服务规格
删除服务实例 功能介绍 删除服务实例,释放该实例的资源。用户可以通过该接口删除服务实例,释放该实例的资源。此接口为异步接口,配套使用接口ShowServiceInstanceDetail,ListServicesInstances来查询服务实例具体情况,无特殊场景。