MapReduce服务 MRS-优化HDFS DataNode RPC的服务质量:配置步骤

时间:2023-11-01 16:25:29

配置步骤

引入了新的配置参数“dfs.pipeline.ecn”。当该配置启用时,DataNode会在写入通道超出负荷时从其中发出信号。客户端可以基于该阻塞信号进行退避,从而防止系统超出负荷。引入该配置参数的目的是为了使通道更加稳定,并减少不必要的取消或恢复操作。收到信号后,客户端会退避一定的时间(5000ms),然后根据相关过滤器调整退避时间(单次退避最长时间为50000ms)。

请参考修改集群服务配置参数,进入HDFS的“全部配置”页面,在搜索框中输入参数名称。

表1 DN ECN配置

参数

描述

缺省值

dfs.pipeline.ecn

进行该配置后,DataNode能够向客户端发送阻塞通知。

false

support.huaweicloud.com/cmpntguide-mrs/mrs_01_1673.html