[快速入门]如何加入ai大模型
盘古NLP大模型

体验 政企知识检索 智能创意营销 行业API助手 行业研发助手 政企会议助手 文档与学习成长 盘古模型 盘古模型 什么是盘古模型 盘古NLP模型能力与规格 盘古模型快速入门 如何调用盘古模型API 查看全部 AI Gallery百模千态社区 AI Gallery百模千态社区

大模型混合云

全链路专业服务,让模型从可用到好用 · 6阶段30+专业服务,覆盖模型建设全流程,加速政企落地大模型 · 创新运营服务模式,实现全场景模型经验沉淀、全流程运营赋能产业,快速孵化模型场景化应用 模型混合云十创新技术 模型混合云十创新技术 了解详情 十创新技术 加速构建企业专属大模型

盘古预测大模型

文档与学习成长 盘古模型 盘古模型 什么是盘古模型 盘古预测模型能力与规格 盘古模型快速入门 如何调用盘古模型API 查看全部 AI Gallery百模千态社区 AI Gallery百模千态社区 优质昇腾云AI模型专区 几行代码自由部署AI应用 丰富多样的AI训练数据集 场景化AI案例,助力AI赋能千行百业

盘古大模型 panguLM

盘古模型 PanguLargeModels 盘古模型 PanguLargeModels 盘古模型是面向B端行业的模型,包含L0中5类基础模型、L1行业大模型及L2场景模型三层架构 盘古模型是面向B端行业的模型,包含L0中5类基础模型、L1行业大模型及L2场景模型三层架构

盘古多模态大模型

广汽借助华为云盘古多模态模型,打造业界首个支持点云生成的模型,为其端到端仿真高效迭代提供强有力支撑。 文档与学习成长 盘古模型 盘古模型 什么是盘古模型 盘古多模态模型能力与规格 用户指南 如何调用盘古模型API 查看全部 AI Gallery百模千态社区 AI Gallery百模千态社区

盘古科学计算大模型

提供高精度的全球模型,无需定制和训练,直接订阅即可推理 多种部署形态 支持公有云、混合云、边缘多种形态,满足不同需求 文档与学习成长 盘古模型 盘古模型 什么是盘古模型 盘古科学计算模型能力与规格 盘古模型用户指南 如何调用盘古模型API 查看全部 AI Gallery百模千态社区

大模型混合云十大场景

模型混合云TOP N 场景 模型混合云TOP N 场景 1对1咨询 了解华为云Stack 模型行业场景落地三要素 模型行业场景落地三要素 场景是模型行业落地的关键所在,而在场景落地过程中,数据、经验和生态是核心要素,数据的数量和质量决定模型效果上限;经验就像“名师指导”

大模型安全护栏 ModelArts Guard

模型安全护栏 ModelArts Guard 模型安全护栏 ModelArts Guard 模型安全护栏(ModelArts Guard),做配套模型的内容安全防线 模型安全护栏(ModelArts Guard),做配套模型的安全防线,开放兼容,适用盘古模型和三方模型

ModelArts Studio大模型开发平台

多语种内容审核,平台全面保护 一站式模型开发平台 一站式模型开发平台 ModelArts Studio模型开发平台是集数据管理、模型训练、模型部署于一体的综合平台,专为开发和应用模型而设计,旨在为开发者提供简单、高效的模型开发和部署方式 为什么选择模型开发平台ModelArts

[相关产品]如何加入ai大模型
AI大模型 算法备案

《互联网信息服务算法推荐管理规定》明确,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息  方便

AI大模型专业服务

湘江鲲鹏目前在人工智能模型领域拥有算力、数据、算法三关键要素的经验积累,构建了模型三个方面的差异化竞争力,盘古模型AI专业服务覆盖从前期咨询、规划设计,到数据工程、模型训练,再到应用工程及模型运维的完整流程。基于华为盘古提供的AI专业服务包,致力于为企业提供一站式人工智能解决方案

大模型及AI应用配套服务

angChain等流行的模型开发框架,构建企业级AI应用;团队拥有成熟的软件工程技术和管理能力。6. 模型使用的技术支持,用户使用模型平台,解答用户使用过程遇到的问题;模型与应用对接集成,以及进行日常巡检、故障处理、模型升级等服务。4. 工业数据模型(CAD模型、CAE模

天尊大模型AIGC场景解决方案

太杉天尊模型AIGC场景解决方案是以AI场景解决方案为核心的全栈Maas综合方案,助力政企客户灵活部署(可公有可私有部署)。具备自研的行业模型能力,主要用于政府/公安/教育等行业的数据处理、文本处理以及多模态处理等多场景。太杉天尊模型AIGC场景解决方案,是一款专为满足政府企

人工智能AI大模型技术研发定制服务

公司集成了世界领先的底层模型,具备打通跨模型和工具链的平台,提供从需求分析、数据收集、模型设计、训练优化、评估、系统集成、用户界面设计、部署维护、合规性检查、技术支持、性能监控、扩展性设计、定制服务到持续研发一站式AI模型定制研发服务。光启慧语是一家围绕模型全栈开展技术研发和产

博匠行业AI大模型专业服务

数据质量。4. 模型训练:设计调优方案,实施模型训练,并进行模型评测。熟悉盘古模型工作流和云服务操作,确保模型效果优化。5. 应用工程:提供基于模型能力的Agent开发和应用对接服务。具备良好的软件开发和沟通能力,实现模型与应用的无缝对接。6. 模型运维: 提供技

盘古大模型专家服务

. 模型更新后,将新模型部署至相应环境。 十一、模型评测1. 设计模型评测方案,对模型各类指标进行评测。2. 能够按评测标准对模型各项能力进行打分,输出模型评测报告。 十二、Agent开发1. 基于场景,设计并开发Agent工具。2. 基于langchain等模型框架,完

天尊大模型AIGC场景解决方案配套服务

天尊模型AIGC场景解决方案配套服务是太杉AIGC解决方案的人工服务,是以AI应用解决方案为核心的全栈Maas综合方案,助力政企客户灵活部署(可公有可私有部署)。主要用于政府/公安/教育等行业的数据处理、文本处理以及多模态处理等多场景。天尊模型AIGC场景解决方案配套服务是太

序列猴子大模型

出门问问模型“序列猴子”是一款具备多模态生成能力的语言模型模型以语言为核心的能力体系涵盖“知识、对话、数学、逻辑、推理、规划”六个维度,能够同时支持文字生成、图片生成、3D内容生成、语言生成和语音识别等不同任务。出门问问模型“序列猴子”是一款具备多模态生成能力的语言模型,模

[相似文章]如何加入ai大模型
华为云盘古大模型_华为云AI大模型_盘古人工智能

华为云盘古模型 华为云盘古模型 AI for Industries 模型重塑千行百业 AI for Industries 模型重塑千行百业 盘古模型致力于深耕行业,打造金融、政务、制造、矿山、气象、铁路等领域行业大模型和能力集,将行业知识know-how与模型能力相结合

ModelArts模型训练_模型训练简介_如何训练模型

ModelArts模型训练 ModelArts模型训练简介 ModelArts模型训练,俗称“建模”,指通过分析手段、方法和技巧对准备好的数据进行探索分析,从中发现因果关系、内部联系和业务规律,为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型模型可以应用到新的数据中,得到预测、评价等结果。

.email域名注册_如何注册.email域名

.email域名注册 什么是.email域名注册? 域名注册(Domain Registration)是用户付费获取Internet上某一域名一段时间使用权的过程。华为云域名注册服务提供域名的注册、购买、实名认证以及管理功能。 华为云的域名注册服务与新网合作,因此通过华为云注册的

ModelArts推理部署_模型_AI应用来源-华为云

ModelArts支持本地准备模型包,编写模型配置文件和模型推理代码,将准备好的模型包上传至对象存储服务OBS,从OBS导入模型创建为AI应用。 制作模型包,则需要符合一定的模型包规范。模型包里面必需包含“model”文件夹,“model”文件夹下面放置模型文件,模型配置文件,模型推理代码文件。

ModelArts模型训练_创建训练作业_如何创建训练作业

ModelArts是什么_AI开发平台_ModelArts功能 ModelArts AI Gallery_市场_资产集市 ModelArts推理部署_服务_访问公网-华为云 ModelArts模型训练_模型训练简介_如何训练模型 ModelArts推理部署_AI应用_部署服务-华为云 Mode

免费AI客服电话_AI智能语音外呼系统_AI人工语音智能电话

免费AI客服电话-云蝠智能AI客户联络中心 免费AI客服电话-云蝠智能AI客户联络中心 “云蝠智能”企业提供AI客户联络中心,包含智能语音电话机器人、智能语音呼叫、短信分发及企业微信SCRM的业务体系。通过提供AI会员回访、通知、精准营销的系统进行产品服务和赋能。 “云蝠智能”企

华为开发者大会2024

CodeLabs训练营(溪村) 参加CodeLabs训练营,学习盘古模型人工智能、数字人等20+华为云产品最佳应用实践,深入了解华为云产品能力,现场技术支持即时进行答疑解惑! 即刻了解 扫地僧见面会 快来与技术咖面对面交流模型技术及行业应用、人工智能、鸿蒙、数字人、云端协同、低代码等50+技术话题,畅谈技术,畅享未来,共赴技术盛宴!

GaussDB数据库模型_GaussDB是什么_高斯数据库模型

端口。 高斯数据库模型-应用场景 金融核心交易 ERP/CRM 政企OA/办公 金融核心交易 金融核心交易 适用于各类银行核心交易系统分布式改造,数据库的原生分布式能力可以极大的降低改造和迁移工作量。两地三中心等极致高可用能力,可以为核心业务保驾护航。 优势 容量高扩展:支持T

安全云脑-安全大屏_综合态势大屏_态势大屏有哪些内容

安全云脑_综合态势屏 安全云脑_综合态势屏 在现场讲解汇报、实时监控等场景下,为了获得更好的演示效果,通常需要将安全云脑服务的分析结果展示在大型屏幕上。 安全云脑默认提供一个综合感知态势屏,可以还原攻击历史,感知攻击现状,预测攻击态势,为用户提供强大的事前、事中、事后安全管理能力,实现一屏全面感知。

如何加入ai大模型

背景介绍

客服系统是企业与消费者沟通的重要桥梁,然而传统的人工客服存在着人工成本高昂、数据收集和分析困难、难以24小时提供服务等痛点。

随着AI大模型的崛起,如何利用先进的大语言模型构建AI智能客服系统,提供更加自然、流畅的对话体验,提高用户使用效率,实现24*7的无间断服务,降低企业在客服场景下的投入成本,提升用户满意度成为企业和用户关注的热门领域。

DeepSeek系列模型是由深度求索(DeepSeek)公司推出的大语言模型。通过使用DeepSeek构建智能聊天机器人,开发者能够借助其强大的语言理解与生成能力,为用户提供更加智能、精准且个性化的交互服务。

基于开源框架Dify构建智能对话助手,系统支持用户直接调用DeepSeek大模型进行开放式问答,适用于智能客服、知识库问答、个性化推荐等多种业务场景。MaaS集成了DeepSeek大模型,基于昇腾AI云服务进行全面适配和优化,使得精度和性能显著提升。

本文介绍如何使用MaaS(大模型即服务平台)的免费DeepSeek-R1 API接入Dify(开源Agent平台),快速构建AI对话机器人并将其嵌入在网页中。

方案架构

图1 方案架构
  1. 用户通过Dify搭建的客服机器人界面提交问题请求。
  2. Dify将请求发送给MaaS DeepSeek。
  3. MaaS DeepSeek大语言模型处理请求后将结果返回给Dify。
  4. Dify将结果优化处理后通过客服机器人界面返回给用户。

计费影响

本文使用MaaS的免费模型服务,您也可以开通预置服务中的商用服务或部署为我的服务付费使用。更多信息请参见计费说明

约束限制

仅“西南-贵阳一”区域支持本解决方案,所以部署Dify平台的区域与MaaS体验模型的区域都必须在“西南-贵阳一”

步骤一:基于 云服务器 单机部署Dify平台

Dify是一个能力丰富的开源AI应用开发平台,为大型语言模型(LLM)应用的开发而设计。它巧妙地结合了后端即服务(Backend as Service)和LLMOps的理念,提供了一套易用的界面和API,加速了开发者构建可扩展的生成式AI应用的过程。

  1. 基于 Flexus云服务 器X实例快速部署Dify平台。具体操作,请参见快速搭建Dify-LLM应用开发平台云服务器单机部署方式。

    部署Dify平台的区域要与MaaS体验模型的区域一致,本文选择在“西南-贵阳一”区域部署Dify平台。

  2. 部署完成后,登录Dify。

    首次登录需注册管理员账号,依次填写邮箱、账号、密码后,单击“设置”进行保存后,即可登录使用。

    图2 注册管理员账户

步骤二:获取MaaS平台的DeepSeek对接信息

  1. 创建API Key,用于调用MaaS DeepSeek模型服务时的鉴权认证。

    最多可创建30个密钥。每个密钥仅在创建时显示一次,请确保妥善保存。如果密钥丢失,无法找回,需要重新创建API Key以获取新的访问密钥。

    1. 登录 ModelArts Studio(MaaS)控制台,在顶部导航栏选择“西南-贵阳一”区域。
    2. 在左侧导航栏,单击“API Key管理”
    3. “API Key管理”页面,单击“创建API Key”,填写标签和描述信息后,单击“确定”

      标签和描述信息在创建完成后,不支持修改。

      表1 创建API Key参数说明

      参数

      说明

      标签

      自定义API Key的标签。标签具有唯一性,不可重复。仅支持大小写英文字母、数字、下划线、中划线,长度范围为1~100个字符。

      描述

      自定义API Key的描述,长度范围为1~100个字符。

    4. “您的密钥”对话框,复制密钥并保存至安全位置。
    5. 保存完毕后,单击“关闭”

      单击“关闭”后将无法再次查看密钥。

  2. 选择常驻模型API,获取API地址和模型名称。
    1. ModelArts Studio(MaaS)控制台左侧导航栏,单击“在线推理”
    2. “在线推理”页面的“预置服务”页签,单击“免费服务”页签,在免费模型服务右侧,单击“调用说明”。
    3. “调用说明”页面,可以查看调用该服务需要的基础API地址和模型名称信息。

步骤三:在Dify平台对接DeepSeek模型服务

  1. 在Dify平台右上角,单击用户头像,选择“设置”
  2. “设置”页面左侧导航栏,单击“模型供应商”
  3. “模型供应商”页面,找到“OpenAI-API-compatible”供应商并单击“添加模型”
  4. “添加 OpenAI-API-compatible”对话框,参照下表配置相关参数,然后单击“保存”
    图3 配置Dify模型供应商
    表2 添加OpenAI-API-compatible参数说明

    参数

    说明

    模型类型

    DeepSeek模型。本案例选择“LLM”

    模型名称

    DeepSeek模型服务的模型名称。步骤2显示的模型名称。

    API Key

    DeepSeek模型服务的API Key,用于调用MaaS DeepSeek模型服务时的鉴权认证。步骤1创建的贵阳一区域的API Key。

    API Endpoint URL

    DeepSeek模型服务的Open API地址。步骤2获取的MaaS服务的基础API地址,需要去掉地址尾部的“/chat/completions”后填入。

    Function calling

    当前MaaS预置服务中仅Qwen2.5-72B-32K-1128、Qwen2.5-72B-Instruct-1128、Qwen2.5-7B-Instruct-1128可以配置Function calling为“Tool Call”,其余服务暂不支持。

    在模型列表可以查看接入的DeepSeek。

    图4 Dify查看接入的DeepSeek

步骤四:在Dify中创建客服机器人

如果想让智能客服能够基于企业内部的知识文档进行问答,可以在Dify中创建一个知识库。Dify能够协助进行数据的分段和清理工作。

Dify提供两种索引方式:高质量和经济。两种索引的区别如下表所示。本文使用经济索引进行演示。

表3 高质量索引与经济索引的区别

比较项目

高质量索引

经济索引

索引原理

通过嵌入模型将文本块转换为数字向量,进行精确匹配,可使用向量检索、全文检索、混合检索。

每个文本块仅使用10个关键词,采用倒排索引方法选择相关文本块。

检索精度

精度高,可使用重排模型等优化结果。

相对较低。

资源消耗

启用重排模型等功能会消耗模型Tokens,对系统资源要求较高。

不消耗Tokens,对资源要求低。

适用场景

适用于对检索准确性和结果质量要求高的场景,例如专业知识查询、科研文献检索等自然语言文本场景。

适用于对检索速度要求较高、对精度要求相对较低的一般性场景,例如快速浏览大量文档获取大致信息。

检索设置

有向量检索、全文检索、混合检索三种检索设置,可配置Rerank模型等。

只提供倒排索引方法,无复杂检索设置和参数配置。

  1. 在Dify中创建知识库。
    1. 在Dify平台左侧导航栏,单击“知识库”,选择“创建知识库”
    2. 在“选择数据源”页面,上传知识文档(可以同时上传多个文本文件),“索引方式”选择“经济”,配置其他信息,单击“保存并处理”
      图5 创建知识库
  2. 创建并调试客服机器人。
    1. 在“工作室”页签,单击“创建空白应用”“应用类型”选择“Agent”,输入名称和描述,进入AI的编排页面。
    2. 进行AI人设设置,在左上角“提示词”处输入Prompt ,设定该AI与用户交谈时的语气和风格。

      Prompt,即智能客服机器人提示词,指导模型生成合适的回答。Prompt示例:你是一个友好的智能客服助手,负责解答用户提出的关于产品的问题、处理订单、提供技术支持。当用户提出的问题你没有找到合适答案的时候,要回答不知道。

    3. 在“上下文”处添加上一步骤创建的知识库,让AI基于内部知识回答问题。
    4. 单击右下角功能的“管理”打开功能开关,配置开场白,即用户进入界面后AI的开场问候语,例如:您好,有什么可以帮到您的?
    5. “添加功能”处开启“下一步问题建议配置”功能,基于业务场景设置AI对于用户问题的指引,例如提供常见问题选项或引导用户进一步说明问题。
    6. 完成以上配置后,单击右上角“发布”菜单中“更新”保存设置。您可以在页面右侧窗口输入Prompt进行效果调试。
      图6 创建与调试客服机器人
  3. 将客服机器人嵌入网页前端页面。
    1. 在Dify平台完成客服机器人的创建与调试后,单击“发布”,选择“嵌入网站”
    2. 选择嵌入方式。本文以第二种“悬浮窗式”为例,将下方的代码复制到您网站<head>或<body> 标签中,更新网站页面,即可与该客服机器人进行对话。

      Dify支持全屏界面式、悬浮窗式、浏览器插件式三种嵌入方式,请您根据需求选择合适的方式。

      图7 选择嵌入方式

常见问题

  • 在ModelArts Studio(MaaS) 创建API Key后需要等待多久才能生效?

    MaaS API Key在创建后不会立即生效,通常需要等待几分钟才能生效。

  • MaaS如何接入Cherry Studio、Chatbox?

    MaaS集成了DeepSeek大模型,支持对接多个平台进行AI开发,详情请参见使用ModelArts Studio(MaaS) DeepSeek API搭建AI应用

如何加入ai大模型常见问题

更多常见问题 >>
  • 盘古大模型致力于深耕行业,打造金融、政务、制造、矿山、气象、铁路等领域行业大模型和能力集,将行业知识know-how与大模型能力相结合,重塑千行百业,成为各组织、企业、个人的专家助手。

  • 首先要熟悉所销售的严选商品,联系经销商所属区域的华为云生态经理提出申请加入相应计划,申请通过之后则可以具备销售严选商品的资质。

  • 优学院如何加入多个班级?优学院平台支持学生同时加入两个或两个以上的班级。加入多个班级的方式与加入首个班级的方法相同,您可以在首页下方点击【加入班级】后,通过“输入班级编号”和“输入教师姓名”两种方式选择班级 加入。

  • 优学院如何加入班级?登录优学院平台,在首页下方当前班级的面板中可以看到【+】的图标,点击【加入新班级】。

  • 模型转换,即将开源框架的网络模型(如Caffe、TensorFlow等),通过ATC(Ascend Tensor Compiler)模型转换工具,将其转换成昇腾AI处理器支持的离线模型。

  • 本次Serverless应用中心上线文生图应用,用户无需下载源代码、了解各种安装部署知识、安装复杂的依赖,通过华为云Serverless应用中心即可一键创建AI文生图应用,体验 “0” 构建门槛、“0” 资源闲置并具备极致弹性的Serverless AI绘图能力。