盘古大模型 盘古大模型 盘古NLP大模型 盘古NLP大模型 优秀的模型结构，完善的工程化能力，最贴合行业落地的NLP大模型 超大参数规模，最贴合行业落地的NLP大模型 重磅发布盘古NLP 718B深度思考模型，多专家+大稀疏比的MOE新架构，昇腾亲和设计，高效训推 专家咨询 ModelArts
了解详情 湘钢人工智能大模型价值评估报告 了解详情 大模型混合云十大创新技术 了解详情 矿山产业集群大模型运营最佳实践 了解详情 矿山大模型最佳实践白皮书 了解详情 政企AI平台架构及应用实践 湘钢人工智能大模型价值评估报告 大模型混合云十大创新技术 了解详情 矿山产业集群大模型运营最佳实践
文档与学习成长 盘古大模型 盘古大模型 什么是盘古大模型 盘古预测大模型能力与规格 盘古大模型快速入门 如何调用盘古大模型API 查看全部 AI Gallery百模千态社区 AI Gallery百模千态社区 优质昇腾云AI模型专区 几行代码自由部署AI应用 丰富多样的AI训练数据集 场景化AI案例，助力AI赋能千行百业
行业大模型 行业大模型 行业大模型 行业大模型 面向B端提供5个基础大模型，包括LLM大模型、多模态大模型、视觉大模型、预测大模型、气象大模型等 面向B端提供5个基础大模型，包括LLM大模型、多模态大模型、视觉大模型、预测大模型、气象大模型等 专家咨询 文档 五大基础模型 夯实行业大模型能力
广汽借助华为云盘古多模态大模型，打造业界首个支持点云生成的大模型，为其端到端仿真高效迭代提供强有力支撑。 文档与学习成长 盘古大模型 盘古大模型 什么是盘古大模型 盘古多模态大模型能力与规格 用户指南 如何调用盘古大模型API 查看全部 AI Gallery百模千态社区 AI Gallery百模千态社区
盘古大模型 盘古大模型 盘古科学计算大模型 盘古科学计算大模型 科学计算大模型致力于将人工智能与科学研究深度融合，为气象、生物医药、化学材料等前沿领域打造高精度模型，助力科研突破，赋能产业升级与创新发展。 科学计算大模型致力于将人工智能与科学研究深度融合，为气象、生物医药、化学材
务智能快速创新赋能 AI高效开发 提供端到端模型生产线，高效开发、调试和调优大模型应用和场景化应用 提供端到端监控工具，智能运营运维 MLOps高效迭代AI模型，持续提升精度 数智融合，数据服务与AI开发全流程打通 对接AI Gallery，便捷使用开源大模型等预置资产 AI高效运行
支持三方开源大模型，加速客户大模型业务上线 构建大模型应用开发工具链，使能大模型开箱即用 构建大模型应用开发工具链，完善云上数据清洗|模型微调|部署|Prompt|评测|Agent，大模型应用开发效率提升； 原生昇腾云组件Agent，构建“大模型+云组件”组合竞争力，如搜索Agent，大数据Agent等,使能云上存量用户零迁移构建大模型应用；
盘古大模型 盘古大模型 大模型开发平台ModelArts Studio 大模型开发平台ModelArts Studio 支持百模千态的大模型工具链平台，构建规模化可复制的行业大模型解决方案，深入行业解决行业难题 支持百模千态的大模型工具链平台，构建规模化可复制的行业大模型解决方案，深入行业解决行业难题
《互联网信息服务算法推荐管理规定》明确，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息 方便
湘江鲲鹏目前在人工智能大模型领域拥有算力、数据、算法三大关键要素的经验积累，构建了大模型三个方面的差异化竞争力，盘古大模型AI专业服务覆盖从前期咨询、规划设计，到数据工程、模型训练，再到应用工程及模型运维的完整流程。基于华为盘古提供的AI专业服务包，致力于为企业提供一站式人工智能解决方案
angChain等流行的大模型开发框架，构建企业级AI应用；团队拥有成熟的软件工程技术和管理能力。6. 大模型使用的技术支持，用户使用大模型平台，解答用户使用过程遇到的问题；大模型与应用对接集成，以及进行日常巡检、故障处理、模型升级等服务。4. 工业数据模型（CAD模型、CAE模
太杉天尊大模型AIGC场景解决方案是以AI场景解决方案为核心的全栈Maas综合方案，助力政企客户灵活部署(可公有可私有部署）。具备自研的行业模型能力，主要用于政府/公安/教育等行业的数据处理、文本处理以及多模态处理等多场景。太杉天尊大模型AIGC场景解决方案，是一款专为满足政府企
公司集成了世界领先的底层大模型，具备打通跨模型和工具链的平台，提供从需求分析、数据收集、模型设计、训练优化、评估、系统集成、用户界面设计、部署维护、合规性检查、技术支持、性能监控、扩展性设计、定制服务到持续研发一站式AI大模型定制研发服务。光启慧语是一家围绕大模型全栈开展技术研发和产
&撰写根据大模型微调数据标注规范，通过配套工具进行数据标注。 八、数据转换与导入 完成数据格式的转换，可进行跨网络环境的数据导入。 九、调优方案设计 根据大模型训练及调优工具和平台，输出大模型调优方案。 十、模型训练实施1. 基于大模型训练所需的云服务，完成大模型训练及微调。2.
数据质量。4. 模型训练：设计调优方案，实施模型训练，并进行模型评测。熟悉盘古大模型工作流和云服务操作，确保模型效果优化。5. 应用工程：提供基于大模型能力的Agent开发和应用对接服务。具备良好的软件开发和沟通能力，实现大模型与应用的无缝对接。6. 模型运维： 提供技
，只需人工提供极少量的标注数据，通过平台的自动标注功能，能够提升50%的标注效率，节省人力及时间成本；3、解决模型训练门槛高问题，可视化的模型训练界面，自动推荐训练参数，5分钟快速上手，模型训练成本降低70%；4、克服算法只能解决单一业务场景问题，通过拖拽的方式将多个模型串联起来
出门问问大模型“序列猴子”是一款具备多模态生成能力的大语言模型，模型以语言为核心的能力体系涵盖“知识、对话、数学、逻辑、推理、规划”六个维度，能够同时支持文字生成、图片生成、3D内容生成、语言生成和语音识别等不同任务。出门问问大模型“序列猴子”是一款具备多模态生成能力的大语言模型，模
ModelArts模型训练 ModelArts模型训练简介 ModelArts模型训练，俗称“建模”，指通过分析手段、方法和技巧对准备好的数据进行探索分析，从中发现因果关系、内部联系和业务规律，为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型，模型可以应用到新的数据中，得到预测、评价等结果。
ModelArts训练管理 ModelArts训练管理 ModelArts训练管理模块用于创建训练作业、查看训练情况以及管理训练版本。在训练模块的统一管理下，方便用户试验算法、数据和超参数的各种组合，便于追踪最佳的模型与输入配置，您可以通过不同版本间的评估指标比较，确定最佳训练作业。 M
源，包括高性能算力，高速存储和网络带宽等基础设施，即“大算力、大存力、大运力”的AI基础大设施底座，让算力发展不要偏斜。 从过去的经典AI，到今天人人谈论的大模型，自动驾驶，我们看到AI模型的参数及AI算力规模呈现出指数级的爆发增长，对存储基础设施也带来全新的挑战。 1、高吞吐的数据访问挑战：随着企业使用
ModelArts训练之超参搜索 ModelArts训练之超参搜索 ModelArts训练中新增了超参搜索功能，自动实现模型超参搜索，为您的模型匹配最优的超参。ModelArts支持的超参搜索功能，在无需算法工程师介入的情况下，即可自动进行超参的调优，在速度和精度上超过人工调优。 Mo
本地准备模型包 ModelArts支持本地准备模型包，编写模型配置文件和模型推理代码，将准备好的模型包上传至对象存储服务OBS，从OBS导入模型创建为AI应用。 制作模型包，则需要符合一定的模型包规范。模型包里面必须包含“model”文件夹，“model”文件夹下面放置模型文件，模型配置文件，模型推理代码文件。
使用MindSpore训练手写数字识别模型 基于昇腾AI处理器的算子开发 使用MindSpore训练手写数字识别模型 基于昇腾AI处理器的算子开发 在线课程 体系化的培训课程，快速完成学习覆盖，让您轻松上云 AI基础 AI基础课程--概览 AI基础课程--Python编程知识 AI基础课程--数学基础知识
人工智能学习入门 人工智能课程学习，动手实验，在线考试认证，掌握人工智能技能 人工智能知识图谱 在线课程 01 AI基础、技术领域、应用场景、华为云EI AI基础、技术领域、应用场景、华为云EI 动手实验 02 包括初级、中级实验 包括初级、中级实验 AI基础 AI基础 AI基础课程--概览
青楠数字人直播运营课程 林子AI数字人实训营 数字人智能交互 产品介绍 用户自定义问答知识库，快速配置可视化的数字客服交互问答体验 关键能力 1.5s超低交互时延 开放性接入不同大模型 灵活的接入方式 建议搭配使用 华为云智能问答机器人 ai数字人常见问题 ai数字人常见问题 MetaStudio支持哪些区域？
16:08 云上AI开发-运行训练作业 云上AI开发-运行训练作业 云上AI开发-运行训练作业 为什么需要云上AI开发 06:30 为什么需要云上AI开发 为什么需要云上AI开发 云上AI开发-调试代码 23:43 云上AI开发-调试代码 云上AI开发-Notebook调试代码 云上AI开发-运行训练作业
ai大模型怎么训练
什么是模型精调
在大模型训练中，精调（或“微调”）（Fine-tuning） 是指通过特定领域的数据集对已经做过全量预训练模型（Pre-trained Model, PT）进行二次训练的方法。通过精调能够更新模型权重，使模型能够更有效地应对具体的任务需求。这一阶段使模型能够精确执行如文案生成、代码生成和专业问答等特定场景中的任务。
模型精调使用场景
在模型开发过程中，精调的主要的使用场景如表1所示。
前提条件
- 由于精调作业运行需消耗资源，为了避免精调失败请确保账户无欠费。
- 已经将用于训练作业的数据上传至OBS目录。关于如何创建OBS桶和上传文件，请参见OBS控制台快速入门。
- 已经在OBS目录下创建了至少1个空的文件夹，用于存储训练输出的内容。
- 确保使用的OBS目录与ModelArts在同一区域。
- 检查是否配置了访问授权。如果未配置，请参见快速配置ModelArts委托授权完成操作。
步骤一：进入创建训练作业页面
- 登录ModelArts管理控制台。
- 在左侧导航栏中，选择进入训练作业列表。
- 单击“创建训练作业”，进入创建训练作业页面，默认进入新版页面，以下内容主要介绍新版创建训练页面操作。
步骤二：配置精调参数
| 参数 | 说明 | |
|---|---|---|
| 训练模式 | 精调作业 | 适用于基于已有预训练模型（如Qwen系列）进行微调的场景。 低门槛模型训练，使用平台预置的优质模型资产，用户无需关注 镜像 构建、环境依赖或代码调试，只需上传业务训练数据，调整关键参数。 此处选择“精调作业”。 |
| 自定义作业 | 适用于希望完全自定义训练流程，使用自研代码或特定框架镜像的场景。 | |
| 基本信息 | 任务名称 | 自定义调优作业名称。支持1~64位，只包含字母、数字、中划线、下划线的名称。 |
| 描述（可选） | 自定义调优作业简介。该字段为可选，支持最大输入256字符。 | |
| 训练配置 | 选择模型 | 单击“请选择模型”，在“选择模型”对话框中选择“预制模型”或“我的模型”下面的模型。支持按照来源、类型、品牌过滤模型，也支持在搜索框搜索关键字查找模型。 说明： 在“选择模型”对话框中，可以选择的模型代表该模型支持调优，未显示的模型不支持调优，请以实际环境为准。 |
| 训练类型 | 当前支持对模型做“微调”。 | |
| 训练目标 | ModelArts支持全量微调、LoRA微调两种调优类型。不同模型支持的调优类型不同。
| |
| 模型输出路径 | 支持精调后的模型存储至OBS和SFS Turbo。当前仅支持精调后模型存储至OBS，后续将支持存储至SFS Turbo。 说明： 注意：精调后的模型存储至OBS，需要保证提前订阅OBS服务，并且保证OBS有充足空间。 | |
| 资源配置 | 资源池类型 | 资源池分为公共资源池与专属资源池，目前仅支持使用公共资源池。
|
| 规格 | 选择规格，规格中描述了服务器类型、型号等信息，仅显示模型支持的资源。 | |
| 实例数 | 必填，根据需要选择实例数的个数。默认值为“1”。
| |
| 数据配置 | 训练集 | 在弹出对话框可以选择“预置数据”和“我的数据”。预置数据是平台内置的常用的数据集。我的数据是自己的原始或者处理过的数据集。请根据需要选择不同数据集。 |
| 训练参数 | 学习率/learning_rate | 设置每个迭代步数（iteration）模型参数/权重更新的速率。学习率设置的过高会导致模型难以收敛，过低则会导致模型收敛速度过慢。 |
| 学习率衰减比率/min_learning_rate | 用于控制训练过程中学习率下降的幅度。 计算公式为：最低学习率 = 初始学习率 × 学习率衰减比率。 | |
| 迭代步数/Iterations | 计算得出的模型参数/权重更新的次数。 当数据集是数百量级，则建议迭代4~8个epoch（epoch表示整个数据集被完整地用于一次训练的次数）；当数据集是数千量级，则建议迭代2~4个epoch；当数据集是更大数量，则建议迭代1~2个epoch。 总Iterations = 整个数据集完整训练需要的Iterations * epoch。例如，当一个数据集有3200条数据，完整训练一个数据集的Iterations为100，迭代2个epoch，总Iterations就是200。 | |
| 训练轮数/Epoch | 表示完成全部训练数据集训练的次数。每个轮次都会遍历整个数据集一次。 | |
| 数据批量大小/batch_size | 数据批量是指训练过程中将数据集分成小批次进行读取，并设定每个批次的数据大小。 通常，较大的批量能够使梯度更加稳定，有助于模型的收敛。然而，较大的批量也会占用更多显存，可能导致显存不足，并延长每次训练时间。 | |
| 序列长度/sequence_length | 训练单条数据的最大长度，超过该长度的数据在训练时将被截断。 | |
| 热身比例/warmup_ratio | 热身比例是指在模型训练初期逐渐增加学习率的过程。 由于训练初期模型的权重通常是随机初始化的，预测能力较弱，若直接使用较大的学习率，可能导致更新过快，进而影响收敛。为解决这一问题，通常在训练初期使用较小的学习率，并逐步增加，直到达到预设的最大学习率。通过这种方式，热身比例能够避免初期更新过快，从而帮助模型更好地收敛。 | |
| 数据条数 | 输入数据集中的总数据条数。 | |
| 数据类型/data_type | 对于部分精炼模型，需要使用开源格式数据集。如Alpaca\ShareGPT格式。 可选参数：AlpacaStyleInstructionHandler, SharegptStyleInstructionHandler，GeneralInstructionHandler | |
| 权重衰减系数 | 通过在损失函数中加入与模型权重大小相关的惩罚项，鼓励模型保持较小的权重，防止过拟合或模型过于复杂。 | |
| 模型保存策略 | save_checkpoint_steps/save_checkpoint_epoch，训练过程中是按迭代步数，还是训练轮数保存Checkpoint文件。 | |
| Checkpoint保存间隔 | save_checkpoint_steps，训练过程中每隔多少个训练步长保存一次模型Checkpoint文件。 | |
| 模型保存步数 | save_checkpoint_epoch，训练过程中每个多少训练轮数保存一次模型Checkpoint文件。 | |
| 发布模型 | 自动发布到资产 | 勾选开关后，训练后的模型将自动发布至控制台“资产管理-我的模型”列表。 |
| 选择发布方式 | 精调后的模型可以发布为新模型或已有模型新版本，请根据需要选择不同的发布方式。 新模型：发布的精调模型为一个全新的模型，在控制台选择“资产管理-我的模型”列表中是一个新的模型。 已有模型新版本：发布的精调模型是“资产管理-我的模型”中的同一个命名的模型，仅模型版本号有变化，在模型详情中可以查看该模型的新版本号。 | |
| 模型名称 | 设置调优后产生的新模型的名称。 支持2-128位，只包含中文、字母、数字、中划线、下划线，且以中文、字母开头，以中文、字母、数字结尾。 | |
| 模型版本号 | 发布为新模型时，版本号为V1。 发布为已有模型新版本时，版本号在该模型上一个版本号自动加1。 注意：模型版本号不支持修改，为系统自动生成。 | |
| 描述 | 训练后模型的描述信息。该字段可选，最大长度256字符。 | |
| 更多配置 | checkpoints配置 | checkpoints：在模型训练过程中，用于保存模型权重和状态的机制。
|
步骤三：提交精调作业并查看作业状态
当参数配置完成后，单击“提交”，创建精调作业任务。
精调作业一般需要运行一段时间，前往精调作业列表，可以查看精调作业的基本情况。
- 在精调作业列表中，刚创建的精调作业状态为“等待中”。
- 当精调作业的状态变为“已完成”时，表示精调作业运行结束，其生成模型将存放至模型资产供后续使用。
- 当精调作业的状态变为“运行失败”或“异常”时，可以单击训练作业的名称进入详情页面，通过查看日志等手段处理问题。
精调常见问题
- 如何让训练产出的模型具备思考模式？
如果想要训练带思考模式的模型，需要在Alpaca的output字段的头尾增加<think>和</think>标签，或者在output字段的头增加引导思考的prompt，比如“Let's think step by step”。当前预置数据是Alpaca格式数据，不带<think>标签，训练后的模型大概率只能回答不能思考。
示例一：
{ "instruction": "不要问我从哪里来，我的故乡在青龙山 ", "input": "", "output": "<think>用户分享了一句歌词：“不要问我从哪里来，我的故乡在青龙山”。首先，我要确认这首歌的出处，xxx，最后xxx\n</think>\n\n“不要问我从哪里来，我的故乡在青龙山”这句话似乎是对经典歌曲《橄榄树》的歌词改编（原词为“不要问我从哪里来，我的故乡在远方”）。" }示例二：
{ "instruction": "Karin 's science class weighed plastic rings for an experiment . They found that the orange ring weighed 0.08333333333333333 ounce , the purple ring weighed 0.3333333333333333 ounce , and the white ring weighed 0.4166666666666667 ounce . What was the total weight of the plastic rings ?", "input": "", "output": "Let's think step by step. \n\nThe orange ring weighed 0.08333333333333333 ounce. \nThe purple ring weighed 0.3333333333333333 ounce. \nThe white ring weighed 0.4166666666666667 ounce. \n\nTo find the total weight of the plastic rings, we need to add the weights of the orange ring, the purple ring, and the white ring. \n\n0.08333333333333333 + 0.3333333333333333 + 0.4166666666666667 = 0.8333333333333334 \nTherefore, the answer (arabic numerals) is 0.8333333333333334." }
ai大模型怎么训练常见问题
更多常见问题 >>-
ModelArts模型训练旨在提升开发者模型训练的开发效率及训练性能。提供了可视化作业管理、资源管理、版本管理等功能，基于机器学习算法及强化学习的模型训练自动超参调优；预置和调优常用模型，简化模型开发和全流程训练管理。
-
在自然语言处理（NLP）领域中，使用语言模型预训练方法在多项NLP任务上都获得了不错的提升，广泛受到了各界的关注。本课程将简单介绍一下预训练的思想，几个代表性模型和它们之间的关系。
-
训练管理模块是ModelArts不可或缺的功能模块，用于创建训练作业、查看训练情况以及管理训练版本。模型训练是一个不断迭代和优化的过程。在训练模块的统一管理下，方便用户试验算法、数据和超参数的各种组合，便于追踪最佳的模型与输入配置，您可以通过不同版本间的评估指标比较，确定最佳训练作业。
-
模型转换，即将开源框架的网络模型（如Caffe、TensorFlow等），通过ATC（Ascend Tensor Compiler）模型转换工具，将其转换成昇腾AI处理器支持的离线模型。
-
本实验指导用户在短时间内，了解和熟悉使用ModelArts进行模型开发和训练的基本流程，并利用ModelArts训练管理服务完成一次训练任务。
-
本课程主要介绍如何让TensorFlow脚本运行在昇腾910处理器上，并进行精度、性能等方面的调优。通过对教材的解读，使学员能够结合教材+实践，迁移自己的训练脚本到昇腾平台上进行训练。
