检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
处理方法 根据报错提示，请您排查代码，是否已添加以下配置，设置该程序可见的GP： os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7' 其中，0为服务器的GP编号，可以为0，1，2，3等，表明对程序可见的GP编号。
获取MaaS DeepSeek模型服务的API地址和模型名称。 在ModelArts Studio（MaaS）控制台左侧导航栏，单击“在线推理”。 在“在线推理”页面的“我的服务”页签，在右上角单击“部署模型服务”，创建模型部署服务。具体操作，请参见使用MaaS部署模型服务。
枚举值如下： BMS：裸金属服务器 ECS：弹性云服务器 HPS：超节点服务器 hps_id String 服务器所属的超节点资源id。
图1 部署模型的流程 在线推理服务，可以实现高并发，低延时，弹性伸缩，并且支持多模型灰度发布、A/B测试。 支持各种部署场景，部署为云端的在线推理服务和批量推理任务。 父主题： Standard功能介绍
政府 提高公共服务的效率和质量，加强公共安全，优化政策方案和决策过程等。 金融 为金融机构带来更加高效、智能、精准的服务。 矿山 提供端到端AI生产线能力和高性能AI算力，提升大模型推理效率，为矿山行业带来更高效、智能、安全和可持续的生产方案。
在“在线推理”页面的“我的服务”页签，在右上角单击“部署模型服务”，创建模型部署服务。具体操作，请参见使用MaaS部署模型服务。 在“状态”为“运行中”的模型服务右侧，单击操作列下的“更多 > 调用说明”。
自定义镜像需上传至容器镜像服务（SWR）才能在ModelArts上用于训练。 父主题： 制作自定义镜像用于训练模型
预置框架启动文件的启动流程说明 ModelArts Standard训练服务为用户预置了多种主流AI框架，并针对不同框架的特点进行了专门的适配优化。在使用这些预置框架进行模型训练时，用户需要根据所选框架的特点，相应地调整训练启动命令，以确保训练任务能够顺利执行。
可切换“训练作业”、“推理服务”、“开发环境”和“逻辑子池”页签查看资源池上创建的训练作业、部署的推理服务、创建的Notebook实例和创建的逻辑子池信息。 图1 删除资源池 删除网络 当AI业务开发不再需要使用网络时，您可以删除网络。
为了方便AI开发者在使用Notebook时访问外部资源，ModelArts提供了一个免费的共享网络代理服务。借助这个代理，开发者可以更加便捷地下载所需的各类资源，助力开发工作的顺利进行。 由于该网络代理免费且共享，其性能会受到实时访问量大小的显著影响。
ModelArts入门指引 本文旨在帮助您了解ModelArts的基本使用流程以及相关的常见问题，帮助您快速上手ModelArts服务。 面向不同AI基础的开发者，本文档提供了相应的入门教程，帮助用户更快速地了解ModelArts的功能，您可以根据经验选择相应的教程。
service_id 是 String 服务ID。 api_id 是 String API编号。 表2 Query参数 参数 是否必选 参数类型 描述 limit 否 String 分页展示时，一页展示多少项。默认为1000。
成本分配 ModelArts支持企业项目管理，可以由企业项目服务来管理同一账号下不同项目的成本。 成本分析 通过华为云费用账单来分析账号下的成本支出情况。 成本优化 长期使用的资源，建议客户使用更优惠的方式购买（包年包月）；针对临时使用的资源，您可选择按需的资源规格，避免浪费。
枚举值如下： BMS：裸金属服务器 ECS：弹性云服务器 HPS：超节点服务器 hps_id String 服务器所属的超节点资源id。
"@modelarts:hard_coefficient" : "0.0", "@modelarts:hard" : "false" }, "score" : 0.66 } ], "source" : "https://test-obs.obs.xxx.com
012f99f3cf405860130b6ed2350c2228", "sample_type" : 0, "labels" : [ { "name" : "car", "type" : 0, "property" : { } } ], "source" : "https://test-obs.obs.xxx.com
使用我的服务接入。 在ModelArts Studio（MaaS）控制台左侧导航栏，单击“在线推理”。 在“在线推理”页面的“我的服务”页签，在右上角单击“部署模型服务”，创建模型部署服务。具体操作，请参见使用MaaS部署模型服务。
查看的账单 运行时，在进行训练作业和部署服务时，会产生不同的账单。 训练作业产生的账单可参考查看训练作业的账单查询。 部署服务产生的账单可参考查看在线服务的账单查询。
如果模型的版本已经部署服务，需先删除关联的服务后再执行删除操作。模型删除后不可恢复，请谨慎操作。 父主题： 管理ModelArts模型
当选择收费CPU资源部署在线服务时会收取少量资源费用，具体费用以界面信息为准。 参数配置完成后，单击“下一步”，确认规格参数后，单击“提交”启动在线服务的部署。 进入“部署上线 > 在线服务”页面，等待服务状态变为“运行中”时，表示服务部署成功。
