数据工坊 DWR-什么是弹性内存存储:产品架构
时间:2025-05-23 18:54:02
产品架构
EMS产品架构主要由三部分组成:领域专用服务SDK、分布式内存池和管理面。请参考图1 EMS产品架构。
- 领域专用服务SDK包含一系列面向不同AI应用场景的插件和接口服务SDK,提供业务系统接入、业务数据布局和近数据处理等功能,实现业务请求的内存加速。目前,该SDK主要应用于大语言模型的推理,通过分布式内存池提升处理效率并降低成本。
- 分布式内存池负责跨节点的内存空间管理、数据负载均衡等任务,通过空间池化提供内存缓存共享访问。内存池当前采用融合部署方式,即利用AI服务器中的D RAM (动态随机存取存储器),将DRAM内存池化以实现分布式共享,并进行本地亲和地调度和访问。
- EMS管理面负责EMS服务的部署、监控、升级及运维管理等功能,通过华为云的云原生基础设施为用户提供一站式的云上运维解决方案。
support.huaweicloud.com/productdesc-ems/ems_01_0100.html