平台提供预置部署服务,可直接单击“体验中心”体验模型功能,对于没有提供预置服务的模型,需要到“模型开发 > 模型部署”页面进行模型部署。 在左侧导航栏中选择“模型开发 > 模型部署”,单击界面右上角“创建部署”。
主要包括以下几个方面: 模型优化与部署:将训练好的大模型部署到生产环境中,可能通过云服务或本地服务器进行推理服务。此时要考虑到模型的响应时间和并发能力。 模型监控与迭代:部署后的模型需要持续监控其性能,并根据反馈进行定期更新或再训练。
对于Pangu服务接口,如果调用后返回状态码为“200”,则表示请求成功。 响应消息头 对应请求消息头,响应同样也有消息头,如“Content-Type”。 响应消息体 响应消息体通常以结构化格式返回,与响应消息头中Content-Type对应,传递除响应消息头之外的内容。
插件请求超时,检查插件服务。 105013 插件返回结果过大。 当前支持10M大小的返回,超过此大小会报错。 105014 插件request proxy error。 请检查插件服务是否有问题导致无法连接。 认证鉴权 110000 认证失败。 查看认证配置。
表5 Agent平台发布渠道 功能 说明 API 将Agent封装成标准化API接口,供开发者直接调用,适用于需要与其他系统(如企业内部应用、第三方服务)深度集成的场景。
使用流程 如何玩转Agent,使用Agent平台创建应用,使用流程分为以下六步: 熟悉平台,Agent平台预置了应用百宝箱,可在百宝箱中体验和熟悉各种应用,当然您也可以参考帮助文档学习相关内容; 创建前准备,在创建Agent之前您可以先创建需要使用到的工作流、插件、知识库、MCP服务
使用限制 表1 插件限制说明 类别 说明 最大插件数量 最大数量不超过20个 插件URL URL协议只支持HTTP和HTTPS 请求方法 插件服务的请求方式,POST或GET 添加预置插件 应用支持添加插件技能,可添加“预置插件”和“个人插件”。
模型调用:在模型部署后,用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口,确保用户能够方便地将模型嵌入到自己的应用中,实现智能对话、文本生成等功能。 父主题: 产品功能
开发者能够灵活配置知识来源、更新策略和检索方式,确保Agent在不同场景下快速调用精准信息,完成智能化服务。 添加知识库 应用支持添加知识库。发送消息时,应用能够引用知识库中的内容回答用户问题,当前仅支持关联1个知识库。
其中,“单轮问答”标注项支持“AI辅助标注”功能,若开启该功能,需要选择已部署的NLP服务作为AI辅助标注模型。 可选择开启“多人作业”功能,开启后,可选择多人协同完成作业,并增加审核功能可供选择。参考表2配置标注分配与审核。