云服务器内容精选

华为云首页用户手册

产品发布记录

AI开发平台MODELARTS-昇腾云服务6.3.T051版本发布说明

昇腾云服务6.3.T051版本发布说明昇腾云服务6.3.T051版本发布支持的软件包和能力说明如下，软件包获取路径：Support网站。此版本仅支持部分客户的beam-search、AWQ量化和SmoothQuant量化特性使用。发布包软件包特性说明配套说明备注昇腾云模型代码包名：AscendCloud-3rdLLM 三方大模型，包名：AscendCloud-3rdLLM PyTorch框架下支持如下模型训练： llama2-7b llama2-13b llama2-70b qwen-7b qwen-14b qwen-72b baichuan2-13b chatglm3-6b llama3-8b llama3-70b yi-6B yi-34B qwen1.5-7B qwen1.5-14B qwen1.5-32B qwen1.5-72B PyTorch框架下支持如下模型推理： llama-7B llama-13b llama-65b llama2-7b llama2-13b llama2-70b llama3-8b llama3-70b yi-6b yi-9b yi-34b deepseek-llm-7b deepseek-coder-instruct-33b deepseek-llm-67b qwen-7b qwen-14b qwen-72b qwen1.5-0.5b qwen1.5-7b qwen1.5-1.8b qwen1.5-14b qwen1.5-32b qwen1.5-72b qwen1.5-110b baichuan2-7b baichuan2-13b chatglm2-6b chatglm3-6b gemma-2b gemma-7b mistral-7b 配套CANN8.0.RC2镜像（非商发）其中Llama/Llama2/Llama3系列、Qwen系列、Qwen1.5系列推理支持AWQ（W4A16）, SmoothQuant(W8A8)量化所有推理请求均支持beam-search短期方案。无算子，包名：AscendCloud-OPP 配套W4A16和W8A8的算子配套CANN8.0.RC2镜像(非商发）无基础镜像 PyTorch：西南-贵阳一 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2.1.0-cann_8.0.rc2-py_3.9-hce_2.0.2312-aarch64-snt9b-20240518201626-e439695 镜像发布到SWR（非商发）无父主题：产品发布记录

AI开发平台MODELARTS 产品发布记录
AI开发平台MODELARTS-ModelArts 6.5.0版本配套关系表

ModelArts 6.5.0版本配套关系表当前华为云中国站和国际站所有Region均已上线ModelArts 6.5.0版本。 ModelArts6.5版本中针对Ascend snt9B资源的周边依赖组件配套版本关系如下表所示。表1 ModelArts 6.5.0版本配套关系表强依赖组件 Ascend snt9B配套版本 CCE 1.25/1.23（推荐）/1.21 Volcano插件 1.11.9 Device-Plugin 2.1.5 Lite模式DevServer节点操作系统 EulerOS 2.10 Lite模式Cluster节点操作系统 EulerOS 2.10（CCE标准版）/HCE2.0（CCE Turbo） Standard模式集群节点操作系统 EulerOS 2.10（CCE标准版） BMS BMC 3.10.02.49（推荐）/3.10.02.29 BMS BIOS 7.09（推荐）/6.63 BMS CPLD 主板CPLD：3.03 背板CPLD：2.07 NPU MCU 23.3.5 NPU 固件&驱动 7.1.0.7.220-23.0.5（推荐） 7.1.0.5.220-23.0.3 NPU CANN 7.0.1.1（推荐） 7.0.1 8.0.RC1 NPU MindSpore 2.2.12（推荐） 2.2.10 2.3.0rc1 NPU PyTorch 2.1.0（推荐） 2.2.0 1.11.0 预置统一镜像 pytorch_2.1.0-cann_7.0.1.1-py_3.9-euler_2.10.7-aarch64-snt9b mindspore_2.2.12-cann_7.0.1.1-py_3.9-euler_2.10.7-aarch64-snt9b pytorch_1.11.0-cann_7.0.1.1-py_3.9-euler_2.10.7-aarch64-snt9b SFS Turbo Client+ 23.09.03 AI Turbo SDK 23.12.3 父主题：产品发布记录

AI开发平台MODELARTS 产品发布记录
AI开发平台MODELARTS-昇腾云服务6.3.T041版本发布

昇腾云服务6.3.T041版本发布昇腾云服务6.3.T041版本发布支持的软件包和能力如下。发布包软件包特性说明镜像配套说明对应操作指导昇腾云模型代码包名：AscendCloud-3rdLLM-6.3.T041-20240424144057.zip 包含大语言模型，具体如下： 1.Qwen-7b 2.Qwen-14b 3.Qwen-72b 4.Llama2-7b 5.Llama2-13b 6.Llama2-70b 7.GLM3-6b 配套CANN7.0的商发基础镜像，地址： swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2.1.0-cann_7.0.1.1-py_3.9-euler_2.10.7-aarch64-snt9b-20240411153110-ca68771 Qwen系列（PyTorch）基于DevServer训练指导 LLama2系列（PyTorch）基于DevServer训练指导 GLM3-6B（PyTorch）基于DevServer训练指导包名：ascendcloud-aigc-6.3.T041-20240425172135.tar.gz 包含AIGC模型，具体如下： 1.SD 1.5 2.SD XL 配套CANN8.0.RC1镜像，见基础镜像Beta包： mindspore_2.3.0-cann_8.0.rc1-py_3.9-euler_2.10.7-aarch64-snt9b-20240422202644-39b975b.tar.partxx SD1.5（PyTorch）文生图Finetune高性能训练适配NPU指导 SD1.5（PyTorch）文生图适配MindSpore Lite NPU推理指导 SDXL（PyTorch）文生图适配MindSpore-Lite NPU推理指导基础镜像Beta包包含模型代码运行的基础镜像，具体如下： mindspore_2.3.0-cann_8.0.rc1-py_3.9-euler_2.10.7-aarch64-snt9b-20240422202644-39b975b.tar.partxx 此基础镜像是非商发版本，仅适配了SD1.5和SD XL模型，后续用CANN8.0.RC1的商发版本收编镜像为分卷压缩，需要合并后使用临时镜像（生态伙伴用）包含SD 1.5自研模型，代码以及镜像 anime_vid2vid_code_split.tar.gzxx 此镜像仅提供给伙伴使用。镜像为分卷压缩，需要合并后使用昇腾云服务6.3.T041版本目前仅适用于部分企业客户，如需使用请联系您所在企业的华为方技术支持。父主题：产品发布记录

AI开发平台MODELARTS 产品发布记录