资源类型 必须选择“弹性云服务器”。 计费模式 必须选择“按需计费”。目前策略是免费创建。 区域 选择已购买的边缘小站类型的资源所在区域。 可用区 选择“边缘小站”,在下拉框中勾选已有的CloudPond资源。
您可以准备相同规格的弹性云服务器ECS或者应用本地已有的主机进行自定义镜像的制作。 购买ECS服务器的具体操作请参考购买并登录Linux弹性云服务器。“CPU架构”选择“鲲鹏计算”,“镜像”选择“公共镜像”,推荐使用Ubuntu18.04的镜像。 安装Docker。
在顶部导航栏单击“资源 > 我的配额”,进入服务配额页面。 图6 我的配额 在服务配额页面,单击右上角的“申请扩大配额”,填写申请材料后提交工单。 申请扩大配额主要是申请弹性云服务器ECS实例数、核心数(CPU核数)、RAM容量(内存大小)和云硬盘EVS磁盘容量这4个资源配额。
同步Lite Server服务器状态 场景描述 Lite Server为一台弹性服务器ECS或裸金属服务器BMS,当用户在ECS或BMS控制台页面修改了服务器状态后,您可通过“同步”功能,同步其状态至ModelArts Lite Server。
状态 Lite Server服务器的运行状态。 虚拟私有云 Lite Server服务器创建时绑定的虚拟私有云,单击链接可跳转到虚拟私有云详情页。 裸金属服务器 Lite Server服务器为一台裸金属服务器,单击链接可跳转至对应裸金属服务器的详情页。
(可选)本地服务器安装ModelArts SDK 如果需要在个人PC或虚拟机上使用ModelArts SDK,则需要在本地环境中安装ModelArts SDK,安装后可直接调用ModelArts SDK轻松管理数据集、创建ModelArts训练作业及创建AI应用,并将其部署为在线服务
图1 对Lite Server服务器执行关机操作 在Lite Server服务器详情页,通过裸金属服务器地址或ECS服务器地址跳转到对应控制台详情页。 图2 Lite Server服务器详情页 在裸金属服务器或ECS服务器控制台,返回到服务器列表页,在操作列中执行制作镜像操作。
图1 停止Server示例 停止服务器为“强制关机”方式,会中断您的业务,请确保服务器上的文件已保存。 父主题: Lite Server资源管理
裸金属服务器风险:对于裸金属服务器,升级操作系统内核或驱动可能导致不兼容,影响系统启动或基本功能。如果需要升级,请联系云服务商确认。 用户在进行切换或重置操作系统操作前,应确保节点处于关机状态,检查当前配置,备份重要数据,并在必要时联系技术支持以确认操作的可行性。
下载好后将包上传到服务器并进行安装。 chmod 700 *.run .
网络配置主要分为以下两个场景: 单个弹性公网IP用于单个Server服务器:为单台Server服务器绑定一个弹性公网IP,该Server服务器独享网络资源。
使用Server-Sent Events协议的方式访问在线服务 背景说明 Server-Sent Events(SSE)是一种服务器向客户端推送数据的技术,它是一种基于HTTP的推送技术,服务器可以向客户端推送事件。
密钥对 弹性裸金属支持SSH密钥对的方式进行登录,用户无需输入密码就可以登录到弹性裸金属服务器,因此可以防止由于密码被拦截、破解造成的账户密码泄露,从而提高弹性裸金属服务器的安全性。 说明: 为保证云服务器安全,未进行私钥托管的私钥只能下载一次,请妥善保管。
上传数据和算法至SFS ECS服务器已挂载SFS,请参考在ECS服务器挂载SFS Turbo存储。 已经在ECS中设置权限,请参考在ECS中设置ModelArts用户可读权限。 已经安装和配置obsutil,请参见安装和配置OBS命令行工具。
在ModelArts Standard上运行多机多卡训练作业 操作流程 准备工作: 购买服务资源(VPC/SFS/OBS/SWR/ECS) 配置权限 创建专属资源池(打通VPC) ECS服务器挂载SFS Turbo存储 在ECS中设置ModelArts用户可读权限 安装和配置OBS
ModelArts支持使用ECS创建专属资源池吗? 不支持。创建资源池时,只能选择界面提供的“未售罄”节点规格进行创建。专属资源池的节点规格后台是对应的ECS资源,但是无法使用账号下购买的ECS,作为ModelArts专属资源池。 父主题: Standard专属资源池
支持对昇腾服务器的带宽测试、算力测试、功耗测试、诊断压测等,为AI训练、推理等高负载场景提供硬件保障,同时可批量在多台服务器上均可并行,大幅度提升效率。 约束限制 当前仅支持Ascend Snt9b和Ascend Snt9b23节点。
修改目录/文件权限 修改可能引起服务异常 高 回退相关修改。 服务器操作 禁止在服务器实例发放、初始化、添加磁盘、删除磁盘、删除实例过程中,对服务器执行非查询类操作,如关机、开机等操作。 可能会导致相应的云服务器业务操作失败。
如何减小本地或ECS构建镜像的目的镜像的大小?
制作流程 预置镜像既不满足软件环境要求,同时需要放入模型包,新的镜像超过35G,在服务器(如ECS)上制作。具体案例参考在ECS中通过Dockerfile从0制作自定义镜像用于推理。 图1 模型的自定义镜像制作 约束限制 自定义镜像中不能包含恶意代码。