华为云计算 云知识 什么是分布式存储
什么是分布式存储

【热门云产品免费试用活动】| 【最新活动】| 【企业应用优惠】

免费试用专区

分布式存储是一种数据存储技术,通过网络使用企业中的每台机器上的磁盘空间,并将这些分散的存储资源构成一个虚拟的存储设备,数据分散的存储在企业的各个角落。

关键技术

数据管理

在大数据环境下,元数据的体量也非常大,元数据的存取性能是整个分布式文件系统性能的关键。常见的元数据管理可以分为集中式和分布式元数据管理架构。集中式元数据管理架构采用单一的元数据服务器,实现简单.但是存在单点故障等问题。分布式元数据管理架构则将元数据分散在多个结点上.进而解决了元数据服务器的性能瓶颈等问题.并提高了元数据管理架构的可扩展性,但实现较为复杂,并引入了元数据一致性的问题。另外,还有一种无元数据服务器的分布式架构,通过在线算法组织数据,不需要专用的元数据服务器。但是该架构对数据一致性的保障很困难.实现较为复杂。文件目录遍历操作效率低下,并且缺乏文件系统全局监控管理功能。

系统弹性扩展技术

在大数据环境下,数据规模和复杂度的增加往往非常迅速,对系统的扩展性能要求较高。实现存储系统的高可扩展性首先要解决两个方面的重要问题,包含元数据的分配和数据的透明迁移。元数据的分配主要通过静态子树划分技术实现,后者则侧重 数据迁移 算法的优化。此外,大数据存储体系规模庞大.结点失效率高,因此还需要完成一定的自适应管理功能。系统必须能够根据数据量和计算的工作量估算所需要的结点个数,并动态地将数据在结点间迁移。以实现 负载均衡 ;同时.结点失效时,数据必须可以通过副本等机制进行恢复,不能对上层应用产生影响。

存储层级内的优化技术

构建存储系统时.需要基于成本和性能来考虑,因此存储系统通常采用多层不同性价比的存储器件组成存储层次结构。大数据的规模大,因此构建高效合理的存储层次结构,可以在保证系统性能的前提下,降低系统能耗和构建成本,利用数据访问局部性原理.可以从两个方面对存储层次结构进行优化。从提高性能的角度,可以通过分析应用特征,识别热点数据并对其进行缓存或预取,通过高效的缓存预取算法和合理的缓存容量配比,以提高访问性能。从降低成本的角度,采用信息生命周期管理方法,将访问频率低的冷数据迁移到低速廉价存储设备上,可以在小幅牺牲系统整体性能的基础上,大幅降低系统的构建成本和能耗。

针对应用和负载的存储优化技术

传统数据存储模型需要支持尽可能多的应用,因此需要具备较好的通用性。大数据具有大规模、高动态及快速处理等特性,通用的数据存储模型通常并不是最能提高应用性能的模型.而大数据存储系统对上层应用性能的关注远远超过对通用性的追求。针对应用和负载来优化存储,就是将数据存储与应用耦合。简化或扩展分布式文件系统的功能,根据特定应用、特定负载、特定的计算模型对文件系统进行定制和深度优化,使应用达到最佳性能。这类优化技术在谷歌、Facebook等互联网公司的内部存储系统上,管理超过千万亿字节级别的大数据,能够达到非常高的性能。

更多相关文章:

1. 域名 建站 专场

2. 商标特惠专场

3. 云速邮箱

5. SSL证书专场

6. 全球云服务专场

7. 云服务器 免费试用

8. 企业免费试用专区

9. 个人免费试用专区

10. 图片文字识别 OCR

11. 网站建设 自助建站

12. 企业应用专场

13. 域名注册 申请

14. 服务器和网关的关系是什么?网关的作用有哪些

15. 域名解析a记录是什么意思

16. 网址域名ip查询方式有哪些?域名和ip地址的区别是什么?

17. 域名和url的区别与联系是什么?

18. 域名和ip地址有什么关系?二者的含义是什么?

19. com域名和cn域名是什么意思?com和cn域名哪个好?

上一篇:构建元宇宙时代,为什么CDN能力必不可少 下一篇:HCIP-IoT高级工程师认证课程

对象存储服务 OBS     

对象存储服务(Object Storage Service)是一款稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据。

 

提供安全稳定、性能领先、无限弹性扩展的存储能力,降低使用成本,满足用户各类存储需求,存储产品低至1元