华为云首页用户手册

MapReduce服务 MRS-HBase bulkload任务（单个表有26T数据）有210000个map和10000个reduce，任务失败:回答

MapReduce服务 MRS-HBase bulkload任务（单个表有26T数据）有210000个map和10000个reduce，任务失败:回答

时间：2023-11-01 16:25:29

MapReduce服务 MRS

回答

ZooKeeper IO瓶颈观测手段：

通过Manager的监控页面查看单个节点上ZooKeeper请求监控，判断是否严重超出规格限制。
通过观测ZooKeeper的日志以及HBase的日志，查看是否有大量的IO Exception Timeout或者SocketTimeout Exception异常。

调优建议：

将ZooKeeper实例个数调整为5个及以上，可以通过设置peerType=observer来增加observer的数目。
通过控制单个任务并发的map数或减少每个节点下运行task的内存，降低节点负载。
升级ZooKeeper数据磁盘，如SSD等。

上一篇：MapReduce服务 MRS-如何修复长时间处于RIT状态的Region:回答

下一篇：MapReduce服务 MRS-HMaster等待namespace表上线时超时退出:回答

MapReduce服务 MRS-HBase bulkload任务（单个表有26T数据）有210000个map和10000个reduce，任务失败:回答

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题