获取kafka sink 操作步骤 从Kafka实例的基本信息页面下载SSL证书,解压后将其中的client.jks文件上传到OBS。 图3 下载SSL证书 在DLI控制台,打开“数据管理 > 程序包管理”,单击“创建”,创建client.jks对应的程序包。 主要参数的填写说明:
步骤1:开发Jar包并上传数据至OBS 准备Flink Jar作业程序包并上传至OBS。 步骤2:购买弹性资源池并添加队列 创建提交Flink作业所需的计算资源。 步骤3:使用DEW管理访问凭据 跨源分析场景中,使用DEW管理数据源的访问凭证。 步骤4:创建自定义委托允许DLI访问DEW读取凭证 创建允许DLI访问DEW的委托。
ePrivilege √ × 获取项目下所有Catalog信息 GET /v3/{project_id}/catalogs dli:catalog:list √ × 描述Catalog信息 GET /v3/{project_id}/catalogs/{catalog_name} dli:catalog:get
'sorted-set', "default-score" = '3', 'deploy-mode' = 'master-replica', 'schema-syntax' = 'array-scores' ); 语法格式 1 2 3 4 5 6 7 8 9 create table dwsSink
'sorted-set', "default-score" = '3', 'deploy-mode' = 'master-replica', 'schema-syntax' = 'array-scores' ); 语法格式 1 2 3 4 5 6 7 8 9 create table dwsSink
化的安全管控要求。例如:不允许某用户组删除集群,仅允许DLI基本操作(如创建、查询作业等)。 DLI支持的授权项请参见权限管理概述。 如表3-1所示,包括了DLI的所有系统权限。 系统角色/策略名称 描述 类别 授权方式 DLI FullAccess 数据湖探索所有权限。 系统策略
es/{database_name}?cascade={is_cascade}&async={is_asyn} 请求消息 无 响应消息 表3 响应参数 参数名称 是否必选 参数类型 说明 is_success 否 Boolean 执行请求是否成功。“true”表示请求执行成功。 message
two) +I(one-two-ww-three,ww) +I(one-two-ww-three,three) 即数据输出结果参考如下: 表3 结果表数据 target(STRING) item(STRING) test-flink test test-flink flink flink
two) +I(one-two-ww-three,ww) +I(one-two-ww-three,three) 即数据输出结果参考如下: 表3 结果表数据 target(STRING) item(STRING) test-flink test test-flink flink flink
'[a-z]', '2', 2); 返回 ab22。 select regexp_replace('abcd', '[a-z]', '2', 3); 返回 abc2。 select regexp_replace('abcd', '[a-z]', '2', 4); 父主题: 字符串函数
RESTART:重启队列 SCALE_QUEUE:规格变更 说明: 若需更新的权限列表为空,则表示回收用户在该队列的所有权限。 响应消息 表3 响应参数 参数名称 是否必选 参数类型 说明 is_success 否 Boolean 执行请求是否成功。“true”表示请求执行成功。示例值:true。
返回的数据条数。默认为“10”。 order 否 String 查询结果排序。 asc:升序 desc:降序 默认为“desc”。 请求消息 无请求参数。 响应消息 表3 响应参数说明 参数名称 是否必选 参数类型 说明 is_success 否 Boolean 请求是否成功。 message 否 String
主键名数组。对应于Maxwell记录中的primary_key_columns字段(如果可用)。 ingestion-timestamp TIMESTAMP_LTZ(3) NULL 连接器处理事件的时间戳。对应Maxwell记录中的ts字段。 元数据使用示例如下: CREATE TABLE KafkaTable
使用该案例时,需将上述SQL语句中的文件路径修改为实际存放详单数据的OBS路径。 单击“执行”,创建详单表detail_records,请参见图3。 图3 创建详单表 执行以下SQL语句,在demo数据库下创建告警事件表event_records,步骤同1.d和1.e。 create table
并配置Kyuubi,确保Kyuubi可以连接到DLI。 步骤2:Fine BI安装数据连接驱动:配置Fine BI安装数据连接驱动。 步骤3:配置Fine BI连接Kyuubi:在BI工具中创建一个新的数据连接,通过JDBC连接Kyuubi。 步骤1:安装并配置Kyuubi连接DLI
并配置Kyuubi,确保Kyuubi可以连接到DLI。 步骤2:配置ODBC连接Kyuubi:配置Superset安装数据连接驱动。 步骤3:配置Tableau使用ODBC连接到Kyuubi:在BI工具中创建一个新的数据连接,通过JDBC连接Kyuubi。 步骤1:安装并配置Kyuubi连接DLI
服务器地址。 端口 RDS实例的端口。选择数据库服务器后自动自动关联。 数据库名称 当前需要迁移的RDS MySQL数据库名称。当前示例为3中创建的数据库“testrdsdb”。 用户名 待连接数据库的用户。该数据库用户需要有数据表的读写权限,以及对元数据的读取权限。 本示例使用创建RDS
DLI表。 create table tabletest(id INT, name1 string, name2 string, name3 string); 步骤二:数据迁移 配置CDM数据源连接。 创建源端DWS数据库的连接。 登录CDM控制台,选择“集群管理”,选择已创建的CDM集群,在操作列选择“作业管理”。
Spark作业不支持自定义设置jvm垃圾回收算法。 如果选择Spark版本为3.1.1时,需在Spark参数(--conf)配置跨源作业的依赖模块。配置样例请参考表3。 如果选择Spark版本为3.3.1时,支持在Spark参数(--conf)配置计算资源规格参数, 且conf的配置优先级高于高级配置指定的值。
果该桶未授权,需要单击“立即授权”进行授权。配置该参数,可以在作业异常失败后,将作业日志保存到用户的OBS桶下,方便用户定位故障原因。 图3 保存作业日志 勾选“作业异常告警”,选择1中创建的“SMN主题”。配置该参数,可以在作业异常情况下,向用户指定邮箱或者手机发送消息通知,方便客户及时感知异常。