检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
brokers = args[1]; String topics = args[2]; String batchTime = args[3]; //新建一个Streaming启动环境. SparkConf sparkConf = new SparkConf()
toBytes("1")); list.add(Bytes.toBytes("2")); list.add(Bytes.toBytes("3")); list.add(Bytes.toBytes("4")); list.add(Bytes.toBytes("5"));
args[1]; String tableName = args[2]; String columnFamily = args[3]; SparkConf sparkConf = new SparkConf().setAppName("J
brokers = args[1]; String topics = args[2]; String batchTime = args[3]; // 新建一个Streaming启动环境。 SparkConf sparkConf = new SparkConf()
xml、hbase-site.xml配置文件。将这些文件拷贝到示例工程的 src/main/resources目录。 如果使用keytab登录方式,按3获取keytab文件;如果使用票据方式,则无需获取额外的配置文件。 获取到的keytab文件默认文件名为user.keytab,若用户需要修
数据连接是否有效。 约束限制: 不涉及 取值范围: true:连接有效 false:连接无效 默认取值: 不涉及 请求参数 无 响应参数 状态码:200 表3 响应Body参数 参数 参数类型 描述 total_count Integer 参数解释: 数据连接总数。 约束限制: 不涉及 取值范围:
分钟,s表示秒。 默认值:3m 取值范围:1-60m或1-3600s proxy_timeout 与代理服务器的tcp连接上两次连续读取或写入操作之间的超时。如果在此时间内没有数据传输,则连接关闭。使用数字和单位组合,m表示分钟,s表示秒。 默认值:3m 取值范围:1-60m或1-3600s
11:20:00,30,11,11 10004,2017-10-01,city6,35,0,2017-10-01 10:00:15,100,3,3 10004,2017-10-03,city7,35,0,2017-10-03 10:20:22,11,6,6 通过Stream Load方式将“test
通过Manager查看组件监控 登录MRS集群Manager界面。 登录集群Manager界面请参考访问MRS集群Manager。 进入服务管理页面。 对于MRS 3.x及之后版本的集群,选择“集群 > 服务”。 对于MRS2.x及之前版本的集群,单击“服务管理”。 查看组件监控。 单击列表中指定服务名称,可查看服务状态及指标信息。
换操作。算子的选择和参数设置具体请参考Loader算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 HBase输出 HTML输入 HBase输出 固定宽度文件输入 HBase输出 图3 算子操作方法示意 设置数据保存信息并运行作业 单击“下一步”
of AutoScalingPolicyV2 objects 参数解释: 弹性伸缩策略列表,具体请参见表3。 约束限制: 不涉及 取值范围: 不涉及 默认取值: 不涉及 表3 AutoScalingPolicyV2 参数 参数类型 描述 node_group_name String
大,一旦操作失误会导致数据丢失,不推荐使用此功能。 约束与限制 使用BulkLoad批量导入的数据不支持加密。 本章节内容仅适用于MRS 3.x及之后版本。 加密HFile和WAL内容 在任一安装HBase服务节点,使用omm用户执行如下命令创建密钥。 sh ${BIGDATA_
是否消除。 是,操作结束。 否,执行步骤 2。 与业务方确认,上报告警时间段是否接入新业务或有大量数据导入、数据搬迁操作。 是,执行步骤 3。 否,执行步骤 4。 请等待两小时后查看告警是否恢复。 是,操作结束。 否,执行步骤 4。 收集故障信息 在FusionInsight Manager界面,选择“运维
据操作”中勾选“OBS接口调用平均时间”,单击“确定”,查看OBS元数据接口调用平均时间,确定是否有接口调用时间超过阈值。 是,执行步骤 3。 否,执行步骤 5。 图1 OBS接口调用平均时间 选择“集群 > 待操作集群的名称 > 运维 > 告警 > 阈值设置 > meta >
是,执行步骤 5。 否,执行步骤 2。 在告警列表中,查看是否有“ALM-27001 DBService服务不可用”告警产生。 是,执行步骤 3。 否,执行步骤 5。 参考ALM-27001 DBService服务不可用的处理步骤处理该故障。 等待几分钟后,在告警列表中查看“Oozi
使用omm用户登录告警的FE节点后台,执行"top"查看进程使用内存情况,找到占用较高的内存的进程,检查是否是本服务的进程,是否合理。 是,执行步骤 3 否,对此进程进行隔离、关闭或调整内存大小,并观察机器内存是否被释放出。 重启受影响的服务或实例,观察界面告警是否清除。 是,处理完毕。 否,执行步骤
的WebUI页面。 单击“Scheduler”,在“Application Queues”中查看root队列是否资源用满。 是,执行步骤 3。 否,执行步骤 4。 对Yarn服务的NodeManager实例进行扩容。扩容后,查看告警是否消除。 是,处理完毕。 否,执行步骤 6。
-anp|grep 进程PID | grep LISTEN 是,执行步骤 4。 否,重启RangerAdmin故障实例或Ranger服务,执行步骤 3。 重启服务期间服务不可用,业务中断。重启实例期间实例不可用,当前实例节点任务会执行失败。 在告警列表中查看“RangerAdmin状态异常”告警是否清除。
若内存使用率超过阈值,对集群内存进行扩容。 执行以下命令,查看系统当前内存使用率。 free -m | grep Mem\: | awk '{printf("%s,", $3 * 100 / $2)}' 等待5分钟,检查该告警是否恢复。 是,处理完毕。 否,执行步骤 6。 收集故障信息。 在主集群的FusionInsight
管理员可以根据业务实际需要,在普通模式集群中配置开启Yarn鉴权,或关闭HDFS和ZooKeeper鉴权。 约束与限制 该章节仅适用于MRS 3.x及之后版本。 对系统的影响 修改开关后服务的配置将过期,需要重启对应的服务使配置生效。 关闭HDFS鉴权 登录MRS集群Manager界面。