检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
NPU服务器上配置Lite Server资源软件环境 注意事项 本文旨在指导如何在基于Snt9b资源的裸金属服务器上,进行磁盘合并挂载、安装Docker等环境配置。在配置前请注意如下事项: 首次装机时需要配置存储、固件、驱动、网络访问等基础内容,这部分配置尽量稳定减少变化。
取值范围: BMS:裸金属服务器 ECS:弹性云服务器 HPS:超节点服务器 status String 参数解释:服务器镜像状态。
配置Standard专属资源池可访问公网 场景介绍 当您使用专属资源池创建作业时(如训练作业),如果作业运行过程中需要专属资源池访问外网,首先专属资源池通过打通VPC的方式,使得专属资源池和已绑定EIP的弹性云服务器实现网络对等连接;然后对已绑定EIP的弹性云服务器配置公网NAT网关
更新服务配置 更新当前服务对象配置。 示例代码 在ModelArts notebook平台,Session鉴权无需输入鉴权参数;其它平台的Session鉴权请参考Session鉴权。
of ServiceSecret objects 挂载到服务的密钥列表,不设置此参数表示不更新 priority 否 Integer 抢占优先级,取值范围[1, 3],通过设置优先级保障高优先级的业务调度。
GPU裸金属服务器无法Ping通如何解决 问题现象 在华为云使用GPU裸金属服务器时, 服务器绑定EIP(华为云弹性IP服务)后,出现无法ping通弹性公网IP现象。 原因分析 查看当前GPU裸金属服务器的安全组的入方向规则的配置,发现仅开通了TCP协议的22端口。
状态 Lite Server服务器的运行状态。 虚拟私有云 Lite Server服务器创建时绑定的虚拟私有云,单击链接可跳转到虚拟私有云详情页。 裸金属服务器 Lite Server服务器为一台裸金属服务器,单击链接可跳转至对应裸金属服务器的详情页。
Lite Server的资源类型为裸金属服务器BMS、弹性云服务器ECS时,支持修改服务器名称。但在BMS和ECS侧修改服务器名称后,不会自动同步到Lite Server,需要手动同步,具体操作参见同步Lite Server服务器状态。
取值范围: BMS:裸金属服务器 ECS:弹性云服务器 HPS:超节点服务器 status String 参数解释:服务器镜像状态。
服务部署 自定义镜像模型部署为在线服务时出现异常 部署的在线服务状态为告警 服务启动失败 服务部署、启动、升级和修改时,拉取镜像失败如何处理? 服务部署、启动、升级和修改时,镜像不断重启如何处理? 服务部署、启动、升级和修改时,容器健康检查失败如何处理?
服务管理权限 表1 服务管理细化权限说明 权限 对应API接口 授权项 依赖的授权项 IAM项目 企业项目 部署模型服务 POST /v1/{project_id}/services modelarts:service:create - √ √ 查询模型服务列表 GET /v1/{
同步Lite Server服务器状态 场景描述 Lite Server为一台弹性服务器ECS或裸金属服务器BMS,当用户在ECS或BMS控制台页面修改了服务器状态后,您可通过“同步”功能,同步其状态至ModelArts Lite Server。
(可选)本地服务器安装ModelArts SDK 如果需要在个人PC或虚拟机上使用ModelArts SDK,则需要在本地环境中安装ModelArts SDK,安装后可直接调用ModelArts SDK轻松管理数据集、创建ModelArts训练作业及创建AI应用,并将其部署为在线服务
应用和模型影响:切换操作系统可能影响已部署的应用或模型,因为依赖的软件包或库可能需要重新安装或配置。用户需要重新配置必要的依赖项以确保应用正常运行。 裸金属服务器风险:对于裸金属服务器,升级操作系统内核或驱动可能导致不兼容,影响系统启动或基本功能。
取值范围: BMS:裸金属服务器 ECS:弹性云服务器 HPS:超节点服务器 status String 参数解释:服务器镜像状态。
ECS服务器和SFS的共享硬盘在相同的VPC或者对应VPC能够互联。 ECS服务器基础镜像需要用Ubuntu 18.04的。 ECS服务器和SFS Turbo需要在同一子网中。 操作步骤 在ECS服务器中设置华为云镜像源。 sudo sed -i "s@http://.
图1 停止Server示例 停止服务器为“强制关机”方式,会中断您的业务,请确保服务器上的文件已保存。 父主题: Lite Server资源管理
取值范围: BMS:裸金属服务器 ECS:弹性云服务器 HPS:超节点服务器 status String 参数解释:服务器镜像状态。
图1 对Lite Server服务器执行关机操作 在Lite Server服务器详情页,通过裸金属服务器地址或ECS服务器地址跳转到对应控制台详情页。 图2 Lite Server服务器详情页 在裸金属服务器或ECS服务器控制台,返回到服务器列表页,在操作列中执行制作镜像操作。
ModelArts在线服务和批量服务有什么区别? 在线服务 将模型部署为一个Web服务,您可以通过管理控制台或者API接口访问在线服务。 批量服务 批量服务可对批量数据进行推理,完成数据处理后自动停止。 批量服务一次性推理批量数据,处理完服务结束。