该解决方案有何用途?
该解决方案基于魔坊(ModelArts)模型训推平台在ModelArts Lite DevServer裸金属服务器部署大语言模型。大语言模型常用于企业级智能客服、专业内容生成、代码辅助开发、企业内部知识库问答、科研教育辅助以及金融医疗法律等垂直行业的深度文本分析场景,能够充分满足高并发、低延迟、数据安全合规及模型个性化微调的需求。
架构描述
架构描述
-
在魔坊(ModelArts)模型训推平台创建一台昇腾云ModelArts Lite DevServer裸金属,用于部署大语言模型。
-
创建一个弹性公网IP EIP并关联ModelArts Lite DevServer裸金属服务器,提供访问公网和被公网访问能力。
-
创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。
展开内容
收起内容