实例数 设置部署模型时所需的实例数,单次部署服务时,部署实例个数建议不大于10,否则可能触发限流导致部署失败。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。
使用“体验中心”功能 “体验中心”功能支持用户直接调用已部署的预置服务,使用步骤如下: 登录ModelArts Studio大模型开发平台,进入所需空间。 单击左侧“体验中心”,进入“文本对话”页签,选择服务,参数设置为默认参数,在输入框输入问题,模型将基于问题进行回答。
MCP服务节点:MCP服务节点是工作流中实现第三方能力调用的核心组件之一。作为功能扩展的重要载体,该节点允许通过调用MCP服务来执行特定功能任务。每个MCP服务实质上是一个工具集合,可以提供模块化服务来拓宽工作流的能力边界,完成更复杂的任务。
对于Pangu服务接口,如果调用后返回状态码为“200”,则表示请求成功。 响应消息头 对应请求消息头,响应同样也有消息头,如“Content-Type”。 响应消息体 响应消息体通常以结构化格式返回,与响应消息头中Content-Type对应,传递除响应消息头之外的内容。
平台提供预置部署服务,可直接单击“体验中心”体验模型功能,对于没有提供预置服务的模型,需要到“模型开发 > 模型部署”页面进行模型部署。 在左侧导航栏中选择“模型开发 > 模型部署”,单击界面右上角“创建部署”。
主要包括以下几个方面: 模型优化与部署:将训练好的大模型部署到生产环境中,可能通过云服务或本地服务器进行推理服务。此时要考虑到模型的响应时间和并发能力。 模型监控与迭代:部署后的模型需要持续监控其性能,并根据反馈进行定期更新或再训练。
插件请求超时,检查插件服务。 105013 插件返回结果过大。 当前支持10M大小的返回,超过此大小会报错。 105014 插件request proxy error。 请检查插件服务是否有问题导致无法连接。 认证鉴权 110000 认证失败。 查看认证配置。
表5 Agent平台发布渠道 功能 说明 API 将Agent封装成标准化API接口,供开发者直接调用,适用于需要与其他系统(如企业内部应用、第三方服务)深度集成的场景。
空间管理 ModelArts Studio大模型开发平台为用户提供了灵活且高效的空间资产管理方式。平台支持用户根据不同的使用场景、项目类别或团队需求,自定义创建多个工作空间。每个工作空间都是完全独立的,确保了工作空间内的资产不受其他空间的影响,从而保障数据和资源的隔离性与安全性。用户可以根据需求灵活划分工作空间
使用流程 如何玩转Agent,使用Agent平台创建应用,使用流程分为以下六步: 熟悉平台,Agent平台预置了应用百宝箱,可在百宝箱中体验和熟悉各种应用,当然您也可以参考帮助文档学习相关内容; 创建前准备,在创建Agent之前您可以先创建需要使用到的工作流、插件、知识库、MCP服务
知识检索节点 知识检索节点可以基于用户的输入,从指定知识库内召回匹配的信息,并将匹配结果以列表形式返回。该节点支持选择用户创建的知识库,创建步骤请详见创建知识库。 知识检索节点配置步骤如下: 拖动左侧“知识检索”节点至画布中,单击该节点以打开节点配置页面。 连接知识检索节点和其他节点
使用限制 表1 插件限制说明 类别 说明 最大插件数量 最大数量不超过20个 插件URL URL协议只支持HTTP和HTTPS 请求方法 插件服务的请求方式,POST或GET 添加预置插件 应用支持添加插件技能,可添加“预置插件”和“个人插件”。
模型调用:在模型部署后,用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口,确保用户能够方便地将模型嵌入到自己的应用中,实现智能对话、文本生成等功能。 父主题: 产品功能
代码节点 代码节点支持编写Python代码来处理文本等复杂逻辑,生成业务期望的返回值。 代码节点为可选节点,若无需配置,可跳过该步骤。 代码节点配置步骤如下: 拖动左侧“代码”节点至画布中,单击该节点以打开节点配置页面。 参照表1,完成代码节点的配置。 表1 代码节点配置说明 配置类型
待删除的关键词路径支持从obs中导入关键词,以及文本录入。 参数配置样例: 过滤样例: 比如按关键词测试进行过滤。 加工前: {"text":"关键词测试这是一条测试数据。"} 加工后: {"text":"关键词这是一条数据。"} 敏感词过滤 适用的文件格式:“文本类”。
Agent开发 Agent开发平台为开发者提供了一个全面的工具集,帮助您高效地开发、优化和部署应用智能体。无论您是新手还是有经验的开发者,都能通过平台提供的提示词工程、插件扩展、灵活的工作流设计和全链路调测功能,快速实现智能体应用的开发与落地,加速行业AI应用的创新与应用。 对于零码开发者
其中,“单轮问答”标注项支持“AI辅助标注”功能,若开启该功能,需要选择已部署的NLP服务作为AI辅助标注模型。 可选择开启“多人作业”功能,开启后,可选择多人协同完成作业,并增加审核功能可供选择。参考表2配置标注分配与审核。