云服务器内容精选
-
操作指引 图1 应用编排中心操作指引 表1 应用编排中心操作指引详解 序号 流程环节 说明 1 创建数据集 创建微调数据集/创建知识库数据集 用户根据需要创建微调数据集、知识库数据集,分别用于模型微调、创建知识库。 标注数据 用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 2 创建提示语 选择平台预置提示语或自定义提示语 用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建应用、调测模型中快速引用。 优化提示语 针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 3 创建模型服务 模型需要部署成功后才可正式提供模型推理服务,平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型(即部署模型服务)。 4 创建知识库 自定义创建并管理知识库,创建的知识库启用后可在创建应用时引用。 5 编排应用 创建及发布应用 将准备好的模型服务、提示语、知识库等编排应用,以及将应用程序和相关的组件发布,使其能够正常运行。 体验应用 对应用进行API调测,帮助开发人员发现并解决应用接口上的问题和错误。
-
管理我收藏的应用 在“我的应用”页面的“应用列表”区域,选择“我收藏的”页签。 在收藏的应用列表中,单击应用所在行的“操作”列的“取消收藏”,可从收藏的应用列表中移除我已收藏的应用。 单击“操作”列的“体验”,进入“应用体验”页面。 在“应用体验”页面,参照表7进行相关参数和请求体配置。 表7 应用体验参数配置 参数名称 参数说明 参数配置 API 无需配置,默认为调用应用的URL。 选择应用部署 无需配置,由系统自动部署生成。 选择应用 无需配置,默认为当前应用。 选择接口API 仅体验平台预置的应用时,需要配置此参数。 无需配置,默认为当前应用的接口API。 请求体 输入应用接口中的请求体内容。 示例如下: { "query": "请详细说明AppStage平台有哪些大模型", "file_id": [] } 在“应用体验”页面右侧“API调测”区域,单击查看调测结果。 对话框中输入API调试语句也可进行调测。
-
操作指引 图1 应用编排中心操作指引 表1 应用编排中心操作指引详解 序号 流程环节 说明 1 创建数据集 创建微调数据集/创建知识库数据集 用户根据需要创建微调数据集、知识库数据集,分别用于模型微调、创建知识库。 标注数据 用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 2 创建提示语 选择平台预置提示语或自定义提示语 用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建应用、调测模型中快速引用。 优化提示语 针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 3 创建模型服务 模型需要部署成功后才可正式提供模型推理服务,平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型(即部署模型服务)。 4 创建知识库 自定义创建并管理知识库,创建的知识库启用后可在创建应用时引用。 5 编排应用 创建及发布应用 将准备好的模型服务、提示语、知识库等编排应用,以及将应用程序和相关的组件发布,使其能够正常运行。 体验应用 对应用进行API调测,帮助开发人员发现并解决应用接口上的问题和错误。
-
简单易用的编排语言 AOS编排语言支持 YAML和JSON 语法来定义需要的元素。 AOS编排语言支持参数化,您只需更改输入参数,即可控制要部署对象的规格、实例数量以及执行的操作,从而实现模板的重复利用。 AOS编排语言支持变量引用,包括引用输入参数、引用元素属性和引用映射表。 引用输入参数:获取模板文件中inputs区域中定义的输入参数的值。 引用元素属性:获取模板中定义的其他元素初始化后的结果。例如新建了一个虚拟私有云,再新建弹性云服务器时,可使用已新建的虚拟私有云ID。该方法可用于构建资源间依赖关系并控制资源的创建顺序。 引用映射表:用于获取映射表中的内容。
-
管理我收藏的应用 在“我的应用”页面的“应用列表”区域,选择“我收藏的”页签。 在收藏的应用列表中,单击应用所在行的“操作”列的“取消收藏”,可从收藏的应用列表中移除我已收藏的应用。 单击“操作”列的“体验”,进入“应用体验”页面。 在“应用体验”页面,参照表7进行相关参数和请求体配置。 表7 应用体验参数配置 参数名称 参数说明 参数配置 API 无需配置,默认为调用应用的URL。 选择应用部署 无需配置,由系统自动部署生成。 选择应用 无需配置,默认为当前应用。 选择接口API 仅体验平台预置的应用时,需要配置此参数。 无需配置,默认为当前应用的接口API。 请求体 输入应用接口中的请求体内容。 示例如下: { "query": "请详细说明AppStage平台有哪些大模型", "file_id": [] } 在“应用体验”页面右侧“API调测”区域,单击查看调测结果。 对话框中输入API调试语句也可进行调测。
-
修改公共模板 为了节约容器运行的资源及防止容器超载,可对容器使用的CPU和内存进行申请与限制。本节通过编排公共模板,增加magento前台应用和MySQL数据库应用的CPU和内存的申请与限制参数。 申请:表示容器运行所需最少资源。 限制:如果担心容器超载,导致系统故障,建议设置容器配额的最高限制,确保容器资源不会超额。 登录AOS控制台,选择左侧导航栏的“模板市场”,单击“公共模板”。 在“行业场景模板”下,单击Magento电商应用,查看模板详情。 图2 选择公共模板 在模板详情中,展示了该模板的概述,以及模板图示。magento应用组中包含了一个magento前台应用和MySQL数据库应用。且magento依赖于MySQL应用,需要将数据存储到MySQL中。 单击“复制模板”,复制模板文件到“我的模板”。 图3 复制模板 修改“模板名称”,本例为“my-business-app”,单击“确定”,系统跳转到“my-business-app”模板详情页面。 图4 修改模板名称 单击操作列的“下载模板”,根据业务需要修改模板信息。以下以增加magento前台应用的CPU和内存的申请与限制参数为例编排模板。 name: magento-container resources: requests: cpu: get_input: requestMagentoCPU memory: get_input: requestMagentoMemory limits: cpu: get_input: limitMagentoCPU memory: get_input: limitMagentoMemory ports: - containerPort: 80 protocol: TCP 各属性解释如下: resources:定义容器资源规格。 requests:给容器分配的资源配额。 limits:容器能够使用的资源上限。 cpu:容器使用的CPU需求。 memory:容器使用的Memory需求。 get_input:用于获取模板文件中inputs区域中定义的输入参数的值。 在inputs部分添加输入参数的描述和标签。 inputs: app-name: default: magento description: 应用名称 label: magento mysql-service-name: default: magento-mysql description: MySQL数据库服务的名称 label: mysql requestMagentoCPU: description: MagentoCPU申请 label: magento requestMagentoMemory: description: Magento内存申请 label: magento limitMagentoCPU: description: MagentoCPU限制 label: magento limitMagentoMemory: description: Magento内存限制 label: magento magento-EIP: description: magento服务对外暴露访问地址 label: magento 各属性解释如下: inputs:定义基于模板创建堆栈时的可变部分。 requestMagentoCPU:定义输入参数Magento应用的CPU申请。 requestMagentoMemory:定义输入参数Magento应用的内存申请。 limitMagentoCPU:定义输入参数Magento应用的CPU限制。 limitMagentoMemory:定义输入参数Magento应用的内存限制。 description:参数描述信息。 label:参数的标签,此处定义的标签可在创建堆栈时进行分类展示。 保存本地模板文件。 在“my-business-app”模板详情页面,单击“新增版本”,版本号设置为2.0,上传本地修改后的模板文件。
-
简单易用的编排语言 AOS编排语言支持 YAML和JSON 语法来定义需要的元素。 AOS编排语言支持参数化,您只需更改输入参数,即可控制要部署对象的规格、实例数量以及执行的操作,从而实现模板的重复利用。 AOS编排语言支持变量引用,包括引用输入参数、引用元素属性和引用映射表。 引用输入参数:获取模板文件中inputs区域中定义的输入参数的值。 引用元素属性:获取模板中定义的其他元素初始化后的结果。例如新建了一个虚拟私有云,再新建弹性云服务器时,可使用已新建的虚拟私有云ID。该方法可用于构建资源间依赖关系并控制资源的创建顺序。 引用映射表:用于获取映射表中的内容。
-
堆栈管理接口 堆栈管理接口,包括创建、查询、删除堆栈的接口等。通过这些接口,您可以创建堆栈、删除堆栈,执行堆栈生命周期,查询堆栈列表、堆栈、堆栈元素列表、堆栈元素、堆栈输出、堆栈输入、堆栈执行记录、堆栈执行记录列表。 表2 堆栈管理接口 API 说明 创建堆栈 创建堆栈,堆栈的输入由模板和输入参数两部分组成。 模板:定义了堆栈的骨架,决定了堆栈内部节点的构造以及节点间的关系,以及每个节点的属性的值或来源。 输入参数:是模板内节点属性值的来源之一,定义在模板的inputs字段下,由模板内的get_input函数触发。 删除堆栈 删除一个指定的堆栈。 执行堆栈生命周期 执行特定的堆栈生命周期操作。 查询堆栈列表 查询堆栈列表。 查询堆栈 查询指定堆栈的详细信息,包括堆栈名称、堆栈描述、模板id、模板名称、堆栈状态等。 查询堆栈元素列表 查询堆栈元素列表。 查询堆栈元素 查询堆栈某个元素的详细信息。 查询堆栈输出 查询指定堆栈输出。 查询堆栈输入 查询指定堆栈输入。 查询堆栈执行记录 查询堆栈某一次执行记录。 查询堆栈执行记录列表 查询堆栈最近的执行记录列表。
-
模板管理接口 模板管理接口,包括创建、查询、更新、删除模板的接口等。通过这些接口,您可以创建模板、查询模板列表、更新模板、删除模板、下载模板、查询指定模板和查询模板输入。 表1 模板管理接口 API 说明 创建模板 通过将本地模板文件上传至服务器的方式来创建模板。 查询模板列表 根据提供的参数查询模板列表。 更新模板 更新模板,包括两种方式:本地上传和URL上传更新。 只有当未使用该模板创建堆栈之前才能进行更新。 删除模板 删除一个指定的模板。 只有不存在使用该模板创建的堆栈时才能删除。 下载模板 下载一个指定的模板。 查询模板 查询指定模板的详细信息,包括模板名称、模板版本、模板描述、创建时间、更新时间等。 查询模板输入 查询指定模板的输入参数。 获取模板列表 根据提供的参数获取模板列表。
-
应用上云 应用场景: 应用上云时,很多工作需要重复操作,例如环境的销毁和重建、在扩容的场景下重复完成多个新实例的配置等。同时应用上云时,很多操作非常耗时,例如创建数据库、创建虚拟机等,都需等待分钟级别的时间。一旦需要串行创建多个耗时任务,就需要您持续等待一段时间。而此时如果可以将整个流程自动化,可以减少您的等待过程,完成其他更有价值的任务。 价值: 使用应用编排服务,通过模板对应用及应用所需资源进行统一描述,一键式自动完成部署或销毁操作。您可以同步进行资源规划、应用定义和业务部署,提升应用上云的效率。 优势: 简单易用 通过编写模板,即可完成应用设计与资源的规划,使业务的组织和管理变得轻松。 高效执行 一键式自动完成部署或销毁操作,省去繁琐的人工操作。 快速复制 同一模板可以多次重复使用,自动化构建相同的应用与资源到不同的数据中心。 图1 应用上云场景
-
ISV业务发放 应用场景: 独立软件开发商(ISV)需要让客户快速将软件服务部署到云上,供其自身的客户进行使用。ISV传统的软件发放的方式是在其官网提供软件的代码下载及平台搭建指南。但该方式需要客户自建资源与组网,准备时间长,成本高。并且安装过程完全手动,耗时易出错,软件的版本更新都需要客户自己手动操作,运维压力大。 价值: 应用编排服务的模板提供了标准化的资源和应用交付方式。ISV可以通过将软件服务模板化,通过应用编排服务的一键部署能力,对自身客户进行业务发放。 优势: 快速发放 通过模板,自动化完成软件的部署与资源的开通,用户只需一键部署,分钟级完成。 准确创建 ISV软件本身及所需的云服务资源都通过模板固化,减少人工失误带来的影响。 统一维护 软件的生命周期管理可以统一通过AOS服务实现,一键完成软件的升级、伸缩等操作。 图2 ISV业务发放场景
-
批量创建 应用场景: 如果您需要创建一个包含10个不同规格的弹性云服务器实例的Web应用,或者您需要一次创建10个数据库实例时,您需要一个个单独创建这些资源,然后必须将这些资源配置为结合使用,才能确保应用顺利启动,增加了使用云资源的复杂性和时间成本。 价值: 应用编排服务将大批量的、不同服务、不同规格的资源实例,统一定义在模板中,一键完成创建,实现资源的快速部署和灵活配置。 优势: 快速部署 通过应用编排服务自动化并发创建多个云服务资源,或不同规格的同一服务资源。 灵活配置 丰富的模板语法,支持根据不同场景灵活配置创建资源的种类与规格。 自动回退 批量创建过程中如果失败,用户可选择自动回退,以节省资源成本。 图3 批量创建场景
更多精彩内容
CDN加速
GaussDB
文字转换成语音
免费的服务器
如何创建网站
域名网站购买
私有云桌面
云主机哪个好
域名怎么备案
手机云电脑
SSL证书申请
云点播服务器
免费OCR是什么
电脑云桌面
域名备案怎么弄
语音转文字
文字图片识别
云桌面是什么
网址安全检测
网站建设搭建
国外CDN加速
SSL免费证书申请
短信批量发送
图片OCR识别
云数据库MySQL
个人域名购买
录音转文字
扫描图片识别文字
OCR图片识别
行驶证识别
虚拟电话号码
电话呼叫中心软件
怎么制作一个网站
Email注册网站
华为VNC
图像文字识别
企业网站制作
个人网站搭建
华为云计算
免费租用云托管
云桌面云服务器
ocr文字识别免费版
HTTPS证书申请
图片文字识别转换
国外域名注册商
使用免费虚拟主机
云电脑主机多少钱
鲲鹏云手机
短信验证码平台
OCR图片文字识别
SSL证书是什么
申请企业邮箱步骤
免费的企业用邮箱
云免流搭建教程
域名价格