该解决方案有何用途?

该解决方案基于魔坊(ModelArts)模型训推平台在ModelArts Lite DevServer裸金属服务器部署大语言模型。大语言模型常用于企业级智能客服、专业内容生成、代码辅助开发、企业内部知识库问答、科研教育辅助以及金融医疗法律等垂直行业的深度文本分析场景,能够充分满足高并发、低延迟、数据安全合规及模型个性化微调的需求。 

方案架构

该解决方案是基于昇腾云ModelArts Lite DevServer裸金属服务器部署大语言模型。

昇腾云DevServer快速部署大语言模型

版本:1.0.0

上次更新日期:2026年3月

来源:由华为云构建

部署:预计15分钟

卸载:预计5分钟

支持区域:

架构描述

架构描述

  • 魔坊(ModelArts)模型训推平台创建一台昇腾云ModelArts Lite DevServer裸金属,用于部署大语言模型。

  • 创建一个弹性公网IP EIP并关联ModelArts Lite DevServer裸金属服务器,提供访问公网和被公网访问能力。 

  • 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。 

展开内容
收起内容