检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
按需计费模式:按需付费是后付费方式,可以随时开通/关闭对应资源,支持秒级计费,系统会根据云服务器的实际使用情况每小时出账单,并从账户余额里扣款。 父主题: 计费FAQ
云上部署: 图2 云上部署获取预测大模型API请求地址 边缘部署: 边缘部署-负载均衡访问方式,获取预测大模型API请求地址由三部分组成 图2 边缘部署负载均衡访问时,api请求地址获取 图3 在华为云前端界面搜索ECS,进入弹性云服务器界面 图4 在弹性云服务器界面下,寻找到私有
约束限制: 不涉及 取值范围: zh:中文 en:英文 ar:阿语 fr:法语 th:泰语 mix:混合 unknown:未知 默认取值: 不涉及 timeliness boolean 参数解释: 时效性查询,比如今天天气怎么样 约束限制: 不涉及 取值范围: 不涉及 默认取值:
413 Request Entity Too Large 由于请求的实体过大,服务器无法处理,因此拒绝请求。为防止客户端的连续请求,服务器可能会关闭连接。如果只是服务器暂时无法处理,则会包含一个Retry-After的响应信息。
创建自定义MCP服务 如果您已有可用的工具和API资源,则可以使用MCP服务器来配置您的MCP扩展。完成MCP服务器构建后,只需要在Agent开发平台配置对应的工具即可创建自己的MCP服务。 在左侧导航栏中选择“Agent开发”,跳转至Agent开发平台。
提问器节点 提问器节点为开发者提供了收集用户问题所需信息的功能。该节点会循环执行,直到收集到所有必需的信息为止。 提问器节点为可选节点,若无需配置,可跳过该步骤。 提问器节点配置步骤如下: 单击画布下方“添加节点”按钮,在节点抽屉中拖动“提问器”节点至画布中,单击该节点以打开节点配置页面
Token计算器 功能介绍 为了帮助用户更好地管理和优化Token消耗,平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量,提供费用预估,并优化数据预处理策略。 URI POST /v1/{project_id}/deployments
步骤2:搭建边缘服务器集群 说明搭建边缘服务器集群的步骤。 步骤3:安装Ascend插件 说明安装Ascend插件指导。 步骤4:创建证书 说明创建负载均衡所需证书步骤。 步骤5:创建负载均衡 说明创建负载均衡步骤。
PUT:请求服务器更新指定资源。 POST:请求服务器新增资源或执行特殊操作。 DELETE:请求服务器删除指定资源,如删除对象等。 HEAD:请求服务器资源头部。 PATCH:请求服务器更新资源的部分内容。当资源不存在的时候,PATCH可能会去创建一个新的资源。
创建API服务 API管理模块可以对评测服务的API进行管理,在创建评测任务的时候选择评测服务即可。可以对API进行创建、编辑、删除。 登录ModelArts Studio平台,在“我的空间”模块,单击进入所需空间。 图1 我的空间 在左侧导航栏中选择“评测中心 > API管理”,
开通MCP服务 部分官方预置MCP服务需要开通后才能使用。 登录Agent开发平台。 进入“MCP服务市场”页面。 查看服务开通状态如图1 预置服务开通状态。 图1 预置服务开通状态 单击MCP服务卡片,进入开通页面进行服务开通如图2。 图2 服务开通 父主题: MCP服务管理
创建API服务 API管理模块可以对评测服务的API进行管理,在创建评测任务的时候选择评测服务即可。可以对API进行创建、编辑、删除。 登录ModelArts Studio平台,在“我的空间”模块,单击进入所需空间。 图1 我的空间 在左侧导航栏中选择“评测中心 > API管理”,
配置MCP服务 Agent平台工具调用支持MCP协议,并提供了一个丰富的MCP服务生态系统,以增强智能体的功能。MCP是一种开放协议,它规范了应用程序向大语言模型提供上下文的方式,平台集成了"高德地图"、"车票查询工具"、"必应搜索"等多种实用MCP服务,开通后可以一键集成调用。此外
释放推理服务器上的NPU卡。 父主题: 训练预测大模型
MCP服务介绍 MCP(Model Context Protocol,模型上下文协议) 是由Anthropic推出的一种开放标准,旨在统一大型语言模型(LLM)与外部数据源和工具之间的通信协议。 MCP的主要目的在于解决当前AI模型因数据孤岛限制而无法充分发挥潜力的难题,MCP使得
管理MCP服务 Agent开发平台支持对用户自定的MCP服务进行编辑、删除操作。 编辑MCP服务 登录ModelArts Studio大模型开发平台 图1 ModelArts Studio大模型开发平台 选择“Agent开发”,跳转至Agent开发平台。 进入“我的工作台 >组件库
创建API服务(可选) API管理模块可以对评测服务的API进行管理,在创建评测任务的时候选择评测服务即可。可以对API进行创建、编辑、删除。 登录ModelArts Studio平台,在“我的空间”模块,单击进入所需空间。 图1 我的空间 在左侧导航栏中选择“评测中心 > API
MCP服务节点 MCP服务节点是工作流中实现第三方能力调用的核心组件之一。作为功能扩展的重要载体,该节点允许通过调用MCP服务来执行特定功能任务。每个MCP服务实质上是一个工具集合,可以提供模块化服务来拓宽工作流的能力边界,完成更复杂的任务。 MCP服务类型包括预置服务和个人服务。
MCP服务管理 MCP服务介绍 创建MCP服务 在单智能体应用中使用MCP服务 在工作流中使用MCP服务 管理MCP服务 开通MCP服务 父主题: 管理Agent平台插件
配置服务访问授权 配置OBS访问授权 ModelArts Studio大模型开发平台使用对象存储服务(Object Storage Service,简称OBS)进行数据存储,实现安全、高可靠和低成本的存储需求。因此,为了能够顺利进行存储数据、训练模型等操作,需要用户配置访问OBS服务的权限