MAPREDUCE服务 MRS-配置同步任务的心跳和数据判齐:配置opengauss到Hudi任务的心跳表
配置opengauss到Hudi任务的心跳表
- 在需要同步的opengauss数据库下执行以下命令创建一张心跳表,心跳表归属cdc_cdl Schema,表名为cdc_heartbeat,主键为cdl_job_id:
DROP TABLE IF EXISTS cdc_cdl.cdc_heartbeat;
CREATE TABLE cdc_cdl.cdc_heartbeat (
cdl_job_id int8 NOT NULL,
cdl_last_heartbeat timestamp(6)
);
ALTER TABLE cdc_cdl.cdc_heartbeat ADD CONSTRAINT cdc_heartbeat_pkey PRIMARY KEY (cdl_job_id);
- 将该心跳表加入到DRS任务,以确保心跳表数据正常发送到DRS Kafka。
- 在CDL WebUI界面配置opengauss的thirdparty-kafka连接时增加opengauss的连接信息,如果opengauss部署为一主多备模式,需在“host”填写所有的IP。
- 配置完成之后,在CDL WebUI界面创建从thirdparty-kafka抓取数据到Hudi的任务并启动即可收到心跳数据。
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- 大数据分析是什么_使用MapReduce_创建MRS服务
- Hudi服务_什么是Hudi_如何使用Hudi
- MapReduce服务_什么是Yarn_如何使用Yarn
- MapReduce服务_什么是存算分离_如何配置MRS集群存算分离
- 什么是Manager_Manager的功能_MRS运维管理
- MapReduce工作原理_MapReduce是什么意思_MapReduce流程_MRS_华为云
- GaussDB咋样_openGauss和GaussDB的区别_高斯数据库咋样_华为云
- MapReduce服务_什么是HetuEngine_如何使用HetuEngine
- MRS备份恢复_MapReduce备份_数据备份