AICS 灵衢智算集群

产品动态

产品动态

业界首个1024卡大规模互联超节点,高达4PB/s访存带宽,兼容主流模型,欢迎即刻申请公测。

昇腾950超节点规格

昇腾950超节点规格

规格参数

aics.a5-e.64.superpod

64卡超节点,支持万亿参数模型训推

aics.a5-e.1024.superpod

1024卡超节点,支持万亿模型训练,万亿模型高并发推理
NPU型号

NPU代次及型号

 950 DT

950 DT

NPU规格

单个NPU FP16算力 | 显存带宽 | 显存 

486 TFLOPS | 4TB/s | 96GB

486 TFLOPS | 4TB/s | 96GB

NPU数量

规格包含的NPU数量

64

1024

CPU配置

节点数*节点CPU配置

8*192核,共1536核

128*192核,共24576核

内存配置

节点数*节点内存配置

8*1536GB,共12TB

128*1536GB,共768TB

Scale Up互联带宽

每NPU 1.68TB/s , 共107.5TB/s

每NPU 1.68TB/s,共1720TB/s

Scale Out互联带宽

每NPU 200Gb/s, 共12.8Tb/s

每NPU 200Gb/s, 共204.8Tb/s

开服区域

华东二,华北三,西南-贵阳一

华东二,华北三,西南-贵阳一

规格参数

aics.a5-e.64.superpod

64卡超节点,支持万亿参数模型训推

aics.a5-e.1024.superpod

1024卡超节点,支持万亿模型训练,万亿模型高并发推理
NPU型号

NPU代次及型号

 950 DT

950 DT

NPU规格

单个NPU FP16算力 | 显存带宽 | 显存 

486 TFLOPS | 4TB/s | 96GB

486 TFLOPS | 4TB/s | 96GB

NPU数量

规格包含的NPU数量

64

1024

CPU配置

节点数*节点CPU配置

8*192核,共1536核

128*192核,共24576核

内存配置

节点数*节点内存配置

8*1536GB,共12TB

128*1536GB,共768TB

Scale Up互联带宽

每NPU 1.68TB/s , 共107.5TB/s

每NPU 1.68TB/s,共1720TB/s

Scale Out互联带宽

每NPU 200Gb/s, 共12.8Tb/s

每NPU 200Gb/s, 共204.8Tb/s

开服区域

华东二,华北三,西南-贵阳一

华东二,华北三,西南-贵阳一

架构总览带您深入了解 AICS

架构总览带您深入了解 AICS

基于AICS构建AI作业平台

AICS面向大模型训练、推理场景提供高性能、高效率、高可靠的企业级AI算力云服务。您可基于AICS灵活组合CCE,分布式文件系统等,构建您的AI应用平台。

模型加速层:模型开发效率与性能增强

  • CANN软件栈全面兼容主流AI生态
  • 主流LLM模型推理+ vLLM Ascend 开箱性能平均提升20%+
  • 智驾预训练E2E模型,后训练VLA模型开箱性能最高提升50%

任务调度层 CCE:智能任务管理中枢,降本增效

  • 训推一体智能化任务调度
  • 云原生全栈可观测与故障快速恢复
  • podgroup/pod/队列多级资源管理与调配

集群服务层 AICS:高性能,高效率,高可靠集群服务

  • 超节点算力集群,灵活互联管理
  • 全链路故障检测与快速恢复
  • 一键式即开即用,免部署免运维

硬件资源层:多元异构算力与高性能存储底座

  • 全新一代昇腾950 NPU集群,灵衢总线互联
  • 高吞吐、低时延分布式文件系统SFS Turbo

基于AICS构建AI作业平台

AICS面向大模型训练、推理场景提供高性能、高效率、高可靠的企业级AI算力云服务。您可基于AICS灵活组合CCE,分布式文件系统等,构建您的AI应用平台。

模型加速层:模型开发效率与性能增强

  • CANN软件栈全面兼容主流AI生态
  • 主流LLM模型推理+ vLLM Ascend 开箱性能平均提升20%+
  • 智驾预训练E2E模型,后训练VLA模型开箱性能最高提升50%

任务调度层 CCE:智能任务管理中枢,降本增效

  • 训推一体智能化任务调度
  • 云原生全栈可观测与故障快速恢复
  • podgroup/pod/队列多级资源管理与调配

集群服务层 AICS:高性能,高效率,高可靠集群服务

  • 超节点算力集群,灵活互联管理
  • 全链路故障检测与快速恢复
  • 一键式即开即用,免部署免运维

硬件资源层:多元异构算力与高性能存储底座

  • 全新一代昇腾950 NPU集群,灵衢总线互联
  • 高吞吐、低时延分布式文件系统SFS Turbo

基于AICS构建AI作业平台

AICS面向大模型训练、推理场景提供高性能、高效率、高可靠的企业级AI算力云服务。您可基于AICS灵活组合CCE,分布式文件系统等,构建您的AI应用平台。

模型加速层:模型开发效率与性能增强

  • CANN软件栈全面兼容主流AI生态
  • 主流LLM模型推理+ vLLM Ascend 开箱性能平均提升20%+
  • 智驾预训练E2E模型,后训练VLA模型开箱性能最高提升50%

任务调度层 CCE:智能任务管理中枢,降本增效

  • 训推一体智能化任务调度
  • 云原生全栈可观测与故障快速恢复
  • podgroup/pod/队列多级资源管理与调配

集群服务层 AICS:高性能,高效率,高可靠集群服务

  • 超节点算力集群,灵活互联管理
  • 全链路故障检测与快速恢复
  • 一键式即开即用,免部署免运维

硬件资源层:多元异构算力与高性能存储底座

  • 全新一代昇腾950 NPU集群,灵衢总线互联
  • 高吞吐、低时延分布式文件系统SFS Turbo

四大典型应用场景,助力业务成功

四大典型应用场景,助力业务成功

模型推理

全场景推理支持,高并发低延迟极致性能

大模型训练

支持万亿参数模型训练,全链路高可靠保障

自动驾驶

支持主流智驾模型(感知、预测、端到端)

具身智能

支持主流VLA及世界模型的训练与仿真

云宝助手快速解答产品问题

支持术语解析,匹配合适业务场景规格,比较计费方式选出最优成本,依据网络时延挑选最佳地域,助您找到最佳方案

云宝助手快速解答产品问题

支持术语解析,匹配合适业务场景规格,比较计费方式选出最优成本,依据网络时延挑选最佳地域,助您找到最佳方案
内容由AI生成,仅供参考 服务声明
0/500
内容由AI生成,仅供参考 服务声明

相关资源

相关资源

您可能感兴趣的产品

您可能感兴趣的产品

AICS灵衢智算集群

焕新AI集群服务,为AI而生,算力全开 

AICS灵衢智算集群

AI集群服务,为AI而生,算力全开