MapReduce服务 MRS-配置HDFS NodeLabel:多余块副本删除选择
多余块副本删除选择
如果块副本数超过参数“dfs.replication”值(即用户指定的文件副本数,可以参考修改集群服务配置参数进入HDFS服务全部配置页面,搜索对应参数查看),hdfs会删除多余块副本来保证集群资源利用率。
删除规则如下:
- 优先删除不满足任何表达式的副本。
/test标签表达式为“LA[replica=1],LB[replica=1],LC[replica=1]”,
/test文件副本分布的四个节点(D1~D4)以及对应标签(LA~LD):
D1:LAD2:LBD3:LCD4:LD
则选择删除D4节点上的副本块。
- 如果所有副本都满足表达式,删除多于表达式指定的数量的副本。
/test标签表达式为“LA[replica=1],LB[replica=1],LC[replica=1]”,
/test文件副本分布的四个节点以及对应标签:
D1:LAD2:LAD3:LBD4:LC
则选择删除D1或者D2上的副本块。
- 如果文件所有者或文件所有者的组不能访问某个标签,则优先删除映射到该标签的DataNode中的副本。
- MapReduce服务_什么是HDFS_HDFS特性
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- MapReduce服务_什么是Hue_如何使用Hue
- Hudi服务_什么是Hudi_如何使用Hudi
- MRS备份恢复_MapReduce备份_数据备份
- MapReduce服务_什么是Kafka_如何使用Kafka
- MapReduce服务_什么是ZooKeeper_如何使用ZooKeeper
- MapReduce服务_什么是Loader_如何使用Loader
- 什么是Spark_如何使用Spark_Spark的功能是什么
- MapReduce服务_什么是ClickHouse_如何使用ClickHouse