检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
hdfs://hacluster/”,勾选“user”所在行的“权限”列的“读”、“写”和“执行”权限,单击“确定”,完成角色的创建。 图3 配置HDFS服务权限 选择“用户 > 添加用户”,配置如下参数创建一个用户,详情请参见创建用户。 填写用户名,例如test。 用户类型为“人机”用户。
sk发送到各个Worker中执行,各个Worker将计算的结果上报给Driver(即Master),Driver聚合结果返回给客户端。 图3 Spark的Master和Worker 在此结构中,有几个说明点: 应用之间是独立的。 每个应用有自己的executor进程,Execut
show connector 1 create connection -c 4 2 show connections; 3 show connection; 4 show connection -a; 5 show connections;
SQL”区域的组件插件名称如“Hive”。 在“Masking”页签单击“Add New Policy”,添加Spark2x权限控制策略。 根据业务需求配置相关参数。 表3 Spark2x数据脱敏参数 参数名称 描述 Policy Name 策略名称,可自定义,不能与本服务内其他策略名称重复。 Policy Conditions
”。 在“Masking”页签单击“Add New Policy”,添加HetuEngine数据脱敏策略。 根据业务需求配置相关参数。 表3 HetuEngine数据脱敏参数 参数名称 描述 Policy Name 策略名称,可自定义,不能与本服务内其他策略名称重复。 Policy
(可选)如需给其他网络段用户开通访问Manager的权限,可手动修改安全组,添加对应用户的IP地址范围。 在集群信息页面单击弹性公网IP后的“添加安全组规则”。 图3 集群详情页面 进入“添加安全组规则”页面,添加需要开放权限用户访问公网的IP地址段并勾选确认信息。 图4 添加安全组规则 默认填充的是用户
(可选)如需给其他网络段用户开通访问Manager的权限,可手动修改安全组,添加对应用户的IP地址范围。 在集群信息页面单击弹性公网IP后的“添加安全组规则”。 图3 集群详情页面 进入“添加安全组规则”页面,添加需要开放权限用户访问公网的IP地址段并勾选确认信息。 图4 添加安全组规则 默认填充的是用户
当参数值为“true”时,需要保证“spark-defaults.conf”和“hive-site.xml”中的Keytab和principal的值相同。 表3 参数说明 参数名称 含义 取值示例 spark.kerberos.principal 具有Spark操作权限的principal。请联系M
型同步为bigInt,默认情况可能导致使用sql查询包含timestamp类型字段的hudi表出现错误。 true index相关配置 表3 index相关参数配置 参数 描述 默认值 hoodie.index.class 用户自定义索引的全路径名,索引类必须为HoodieInd
--negotiate -X DELETE 'http://10.64.35.144:9111/templeton/v1/ddl/database/db3?ifExists=true&user.name=user1' 示例中的IP为WebHCat所在节点的业务IP,端口为安装时设置的WebHCat端口。
Worker1线程数超过阈值 ALM-45332 Presto Worker2线程数超过阈值 ALM-45333 Presto Worker3线程数超过阈值 ALM-45334 Presto Worker4线程数超过阈值 ALM-45335 Presto Worker1进程垃圾收集时间超出阈值
kerberos.principal" => "备集群HMaster principal"} add_peer '1','zk1,zk2,zk3:2181:/hbase1' 2181表示集群中ZooKeeper的端口号。 建立主集群与备集群的关系,让其互相对应。 如果启用Bulkload批量写数据容灾还需执行:
on的invoke方法。 def addSink(fun: T => Unit): DataStreamSink[T] 过滤和映射能力 表3 过滤和映射能力的相关接口 API 说明 def map[R: TypeInformation](fun: T => R): DataStream[R]
on的invoke方法。 def addSink(fun: T => Unit): DataStreamSink[T] 过滤和映射能力 表3 过滤和映射能力的相关接口 API 说明 def map[R: TypeInformation](fun: T => R): DataStream[R]
用户自定义的数据输出,addSink方法可以添加Kafka等数据输出,主要实现方法为SinkFunction的invoke方法。 过滤和映射能力 表3 过滤和映射能力的相关接口 API 说明 public <R> SingleOutputStreamOperator<R> map(MapFunction<T
用户自定义的数据输出,addSink方法可以添加Kafka等数据输出,主要实现方法为SinkFunction的invoke方法。 过滤和映射能力 表3 过滤和映射能力的相关接口 API 说明 public <R> SingleOutputStreamOperator<R> map(MapFunction<T