检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
R1蒸馏模型 方案概述 DeepSeek-R1模型是深度求索公司推出的首款推理模型,基于DeepSeek-V3-Base模型,通过知识蒸馏技术优化,旨在以较低的计算资源实现高性能,支持快速部署与运行。 FunctionGraph应用中心提供DeepSeek-R1蒸馏模型的部署解决方案,支持多种模型参数规模选择(包括1
FunctionGraph函数模型 介绍FunctionGraph函数模型的返回字段。 函数模型 FunctionGraph函数模型如下。 { "functions": [ { "func_urn": "urn:fss:xxxxxx
函数模型介绍 本节内容主要介绍FunctionGraph函数模型和Trigger Management触发器模型的返回字段。通过提前熟悉返回字段的参数说明,方便您快速了解API接口的功能,详细信息请参考API。 FunctionGraph函数模型 函数Trigger Management触发器模型
上传与使用自定义模型(可选) FunctionGraph应用中心的AI对话应用中内置了默认模型ChatGLM3-6B,如需使用更多自定义模型进行AI对话,需要在创建成功的应用中初始化自定义模型挂载文件系统,并添加环境变量使用自定义模型。 前提条件 完成部署AI对话ChatGLM3准备工作,委托中包含“SWR
上传自定义模型(可选) FunctionGraph应用中心的AI绘画Stable Diffusion应用中内置了默认模型,如需使用更多自定义模型进行AI绘画,需要在创建成功的应用中初始化自定义模型挂载文件系统,即可上传自定义模型至文件系统进行AI绘画。 前提条件 FunctionGraph的云服务委托中包含“SWR
上传自定义模型和节点(可选) FunctionGraph应用中心的AI绘画应用中内置了默认模型,如需使用更多自定义模型和自定义节点进行AI绘画并保存生成的结果,需要在创建成功的应用中初始化自定义模型,并挂载文件系统为应用提供持续使用能力。 前提条件 完成部署AI绘画ComfyUI
函数Trigger Management触发器模型 介绍Trigger Management触发器模型的返回字段。 触发器类型模型 { "trigger_type_code":"string", "display_name":"string", "status":"string"
约束与限制 由于网络环境的不确定性,使用ComfyUI Manager在线安装自定义模型和节点可能失败,如需在FunctionGraph应用中心的AI绘画中使用自定义模型和节点,建议采用上传自定义模型和节点(可选)方式进行上传和加载。 前提条件 完成部署和使用AI绘画ComfyUI
ckpt大模型,AI绘画ComfyUI+FLUX应用已内置flux1-dev-fp8.safetensors大模型和黑神话风格的Lora模型,使用内置默认模型和临时域名快速部署AI绘画应用,立即享受文生图的乐趣。 自定义模型和节点:可以根据具体需求挂载文件系统上传自定义模型和节点,
-6B和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统上传自定义模型,搭配不同模型能力获得更个性化的对话效果。 进阶使用:本文还提供多用户使用场景下需要模型文件资源隔离的相关使用方法。 方案优势 轻松部署 部署流程简便,结合弹性的Serve
Python SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Python SDK信息说明 SDK信息 说明 安装 pip install huaweicloudsdkfunctiongraph 相关链接
的访问控制。 身份认证 用户访问FunctionGraph的方式有多种,包括FunctionGraph控制台、API、SDK,无论访问方式封装成何种形式,其本质都是通过FunctionGraph提供的REST风格的API接口进行请求。FunctionGraph支持Token认证和AK/SK认证。
Go SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Go SDK信息说明 SDK信息 说明 安装 go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3
Context Protocol,模型上下文协议)是一种开源协议,旨在以标准化的方式向大语言模型(LLM)提供上下文信息。MCP Server(即MCP服务器)基于模型上下文协议运行,能够使大型语言模型与外部数据源及工具无缝集成,通过标准化的交互,帮助模型获取丰富的上下文信息。其应用类
Java SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Java SDK信息说明 SDK信息 说明 安装 <dependency> <groupId>com.huaweicloud.sdk</groupId>
NET SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 .NET SDK信息说明 SDK信息 说明 安装 使用.NET CLI工具 dotnet add package HuaweiCloud.SDK
PHP SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 PHP SDK信息说明 SDK信息 说明 安装 推荐使用Composer安装 SDK 。 # 安装 Composer curl -sS https://getcomposer
Node.js SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Node.js SDK信息说明 SDK信息 说明 安装 npm i @huaweicloud/huaweicloud-sdk-functiongraph
使用APIG触发器调用一个返回String的FunctionGraph函数时,报500错误 FunctionGraph函数对来自APIG调用的返回结果进行了封装,APIG触发器要求函数的返回结果中必须包含body(String)、statusCode(int)、headers(Map)和isBas
进阶使用:通过挂载同一SFS文件系统实现多用户资源共享 应用场景 模型文件普遍占用大量内存,在多用户使用场景下,每个用户复制一份模型文件会导致不必要的存储空间浪费。通过将不同用户的应用挂载到同一SFS文件系统下,能够满足多人共享模型文件资源的需求,同时为了避免不同用户使用期间的推理结果相互影响,可以在Stable