[快速入门]数据仓库服务
数据仓库服务 DWS入门

数据仓库服务 DWS入门 数据仓库服务 DWS入门 新一代、全场景数据仓库,一站式分析,性能、容量无限扩展,守护高价值数据、创享高价值分析,企业数字化转型坚实伙伴 新一代、全场景数据仓库,一站式分析,性能、容量无限扩展,守护高价值数据、创享高价值分析,企业数字化转型坚实伙伴 购买

数据仓库服务 DWS资源

数据仓库服务 DWS资源 数据仓库服务 DWS资源 新一代、全场景数据仓库,一站式分析,性能、容量无限扩展,守护高价值数据、创享高价值分析,企业数字化转型坚实伙伴 新一代、全场景数据仓库,一站式分析,性能、容量无限扩展,守护高价值数据、创享高价值分析,企业数字化转型坚实伙伴 购买

数据仓库服务 DWS定价

计费说明 数据仓库服务 DWS 定价 新一代、全场景数据仓库,一站式分析,性能、容量无限扩展,守护高价值数据、创享高价值分析,企业数字化转型坚实伙伴 价格计算器 专家咨询 计费项 华为云DWS根据您选择的数据仓库节点规格及使用的相关资源进行计费。 计费项 计费说明 数据仓库节点

数据仓库服务 DWS功能

功能概览 数据仓库服务 DWS 功能 新一代、全场景数据仓库,一站式分析,性能、容量无限扩展,守护高价值数据、创享高价值分析,企业数字化转型坚实伙伴 购买 控制台 文档 企业级数据仓库和标准SQL的支持 当创建好DWS集群后,用户就可以使用SQL客户端工具连接集群,然后执行创建数

数据仓库服务应用场景_数据仓库服务客户案例_GaussDB(DWS)

GaussDB(DWS)场景与案例 GaussDB(DWS)场景与案例 标准数仓、实时数仓、云数仓等多种产品形态,覆盖政府、金融、企业、教育、通信、互联网等各种行业的各种应用场景。 标准数仓、实时数仓、云数仓等多种产品形态,覆盖政府、金融、企业、教育、通信、互联网等各种行业的各种应用场景。

数据仓库服务 GaussDB(DWS)数据备份恢复

数据仓库服务 GaussDB(DWS)备份恢复 GaussDB(DWS)提供了多层次、多类型的备份/恢复方案,无惧误删,让您的数据更安全。 技术特点: 支持多种介质 支持备份集群数据库到磁盘、OBS、爱数、NBU等多种存储方式。 支持全量+增量备份 支持全量物理备份,差异增量,累积增量等多种类型备份。

数据仓库服务 GaussDB(DWS)兼容性

数据仓库服务 GaussDB(DWS)兼容性 GaussDB(DWS)采用开放性的设计理念,不但支持标准数仓功能,还致力于融合大数据平台、与云原生服务互联互通。 无缝对接Hadoop GaussDB(DWS)可以无缝对接HDFS存储,通过外表机制,能够交互式查询分析Hadoop平

数据仓库服务GaussDB(DWS)核心技术介绍

数据仓库服务 GaussDB(DWS)核心技术 GaussDB(DWS)采用分布式shared-nothing集群架构,支持行列混合存储计算,集成高可用、高可靠、高安全、高可扩展、智能化技术栈。 Shared-nothing架构 GaussDB(DWS)各个数据库实例(DN)拥有

数据仓库服务 GaussDB(DWS)产品架构_技术特点

数据仓库服务 GaussDB(DWS)产品架构 介绍GaussDB(DWS)的产品架构、集群逻辑架构和技术特点。 产品架构 GaussDB(DWS)由数据库内核部分及一系列相关工具组成,其产品架构如图1-1所示。 图 1-1 GaussDB(DWS)产品架构 GaussDB(DWS)支持标准ANSI

[相关产品]数据仓库服务
永洪BI-小微企业永久版(HCS版)

nse商品服务监管流程进行交付。注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。 注3:服务可以通过云市场商品“Yonghong

永洪BI-中型企业版

nse商品服务监管流程进行交付。注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。注3:服务可以通过云市场商品“Yonghong

永洪BI-大型企业版

nse商品服务监管流程进行交付。注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。注3:服务可以通过云市场商品“Yonghong

永洪BI-小微企业版(HCS版)

se商品服务监管流程进行交付。 注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。    注3:服务可以通过云市场商品“Yonghong

永洪BI-中大型企业永久版(HCS版)

se商品服务监管流程进行交付。 注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。    注3:服务可以通过云市场商品“Yonghong

永洪BI-小微企业永久版

nse商品服务监管流程进行交付。注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。注3:服务可以通过云市场商品“Yonghong

永洪BI-小微企业版

nse商品服务监管流程进行交付。注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。注3:服务可以通过云市场商品“Yonghong

永洪BI-大型企业版(HCS版)

se商品服务监管流程进行交付。 注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。    注3:服务可以通过云市场商品“Yonghong

永洪BI-中型企业版(HCS版)

nse商品服务监管流程进行交付。注2:此商品为软件License,企业需要另行购买虚拟机、网络部署软件;此商品需配套华为云数据仓库服务进行使用,数据仓库服务规格需企业根据实际业务需求另行购买;此商品不包含前端数据ETL工具,企业根据业务需求自行购买配置。注3:服务可以通过云市场商品“Yonghong

[相似文章]数据仓库服务
数据仓库服务GaussDB(DWS)_SQL on Anywhere

数据仓库服务_SQL on Anywhere 数据仓库服务GaussDB(DWS)_SQL on Anywhere 华为云数据仓库服务-SQL on Anywhere 华为云数据仓库服务-SQL on Anywhere 数据仓库服务(Data Warehouse Service,

DWS安全_数据仓库服务安全_DWS数据安全管理_DWS安全保障_DWS安全策略

操作方式。 如何给指定用户赋予某个SCHEMA的权限? 给指定用户授权某个SCHEMA的权限的具体操作步骤。 更多精选文章推荐 什么是数据仓库服务GaussDB(DWS) 怎样选择弹性云服务器 ECS弹性云服务器 如何实时查看日志? 如何配置云日志告警? 如何使用EIP? 弹性公网IP有什么作用?

调用GaussDB(DWS) API接口_数据仓库服务调用API_如何调用API_在DWS中调用API

API接口 数据仓库服务所提供的接口为自研接口,您可以使用数据仓库服务的可用区、集群管理、快照管理、事件管理、数据源、审计日志、资源管理、告警管理、连接管理、标签管理、配额管理、容灾管理、任务管理以及主机监控等功能。 数据仓库服务所提供的接口为自研接口,您可以使用数据仓库服务的可用区

大数据分析学习与微认证

。利用数据仓库服务,带您探索球星薪酬影响的决定性因素。 数据仓库服务结合Python对球星薪酬进行分析,探索影响球星薪酬的决定性因素 适合人群:对大数据技术感兴趣的人员,社会大众和高校师生 培训方案:数据仓库服务结合球星薪酬决定性因素分析的实践 技术能力:掌握数据仓库服务等云服务的使用,提高大数据分析能力

大数据分析学习与微认证

、处理以及分析。利用数据仓库服务,带您探索球星薪酬影响的决定性因素。 了解详情 【初级】球星薪酬决定性因素分析 随着大数据、云计算的发展,数据规模也随之扩大,也更加关注数据的存放、处理以及分析。利用数据仓库服务,带您探索球星薪酬影响的决定性因素。 数据仓库服务结合Python对球

GAUSS(DWS)工具_gsql工具_DataStudio工具_DSC工具

据分析。 数据在数据仓库服务中是否安全? 安全。在大数据时代,数据是用户的核心资产。公有云将继续秉承多年来向社会做出的“上不碰应用,下不碰数据”的承诺,保证用户核心资产的安全。这是我们对用户和社会的承诺,也是公有云及其伙伴商业成功的保障和基石。 我们的数据仓库服务工程师对整个数据

DWS产品介绍_DWS产品优势_DWS功能_DWS使用场景_DWS是什么

GaussDB(DWS)热门视频 看视频轻松了解和使用DWS 数据仓库服务产品介绍 04:38 数据仓库服务快速入门 03:29 DWS助力消费者BG大数据平台云化 05:30 数据仓库服务集群管理 05:30 数据仓库服务产品介绍 04:38 数据仓库服务快速入门 03:29 DWS助力消费者BG大数据平台云化

大数据应用范围有哪些_大数据技术与应用要学习什么课程

。利用数据仓库服务,带您探索球星薪酬影响的决定性因素。 数据仓库服务结合Python对球星薪酬进行分析,探索影响球星薪酬的决定性因素 适合人群:对大数据技术感兴趣的人员,社会大众和高校师生 培训方案:数据仓库服务结合球星薪酬决定性因素分析的实践 技术能力:掌握数据仓库服务等云服务的使用,提高大数据分析能力

大数据分析系统包括哪些方面_大数据分析要满足什么条件

。利用数据仓库服务,带您探索球星薪酬影响的决定性因素。 数据仓库服务结合Python对球星薪酬进行分析,探索影响球星薪酬的决定性因素 适合人群:对大数据技术感兴趣的人员,社会大众和高校师生 培训方案:数据仓库服务结合球星薪酬决定性因素分析的实践 技术能力:掌握数据仓库服务等云服务的使用,提高大数据分析能力

数据仓库服务

功能描述

DLI 将Flink作业从数据仓库服务(DWS)中读取数据。DWS 数据库 内核兼容 PostgreSQL ,PostgreSQL数据库可存储更加复杂类型的数据,支持空间信息服务、多版本并发控制(MVCC)、高并发,适用场景包括位置应用、金融保险、互联网电商等。

数据仓库服务(Data Warehouse Service,简称DWS)是一种基于基础架构和平台的在线数据处理数据库,为用户提供海量数据挖掘和分析服务。DWS的更多信息,请参见《数据仓库服务管理指南》

前提条件

  • 请务必确保您的账户下已在数据仓库服务(DWS)里创建了DWS集群。

    如何创建DWS集群,请参考《数据仓库服务管理指南》中“创建集群”章节。

  • 请确保已创建DWS数据库表。
  • 该场景作业需要运行在DLI的独享队列上,因此要与DWS集群建立增强型跨源连接,且用户可以根据实际所需设置相应安全组规则。
  • 如何建立增强型跨源连接,请参考《 数据湖探索 用户指南》中增强型跨源连接章节。
  • 如何设置安全组规则,请参见 虚拟私有云 用户指南》中“安全组”章节。

语法格式

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
create table dwsSource (
  attr_name attr_type 
  (',' attr_name attr_type)* 
  (','PRIMARY KEY (attr_name, ...) NOT ENFORCED)
  (',' watermark for rowtime_column_name as watermark-strategy_expression)
)
with (
  'connector.type' = 'gaussdb',
  'connector.url' = '',
  'connector.table' = '',
  'connector.username' = '',
  'connector.password' = ''
);

参数说明

表1 参数说明

参数

是否必选

说明

connector.type

connector类型,需配置为'gaussdb'

connector.url

jdbc连接地址,格式为:jdbc:postgresql://${ip}:${port}/${dbName} 。DWS数据库版本为8.1.0以后的版本时,格式为:jdbc:gaussdb://${ip}:${port}/${dbName}。

connector.table

操作的表名。如果该DWS表在某schema下,则格式为:'schema\".\"具体表名',具体可以参考示例说明。

connector.driver

jdbc连接驱动,默认为: org.postgresql.Driver。

DWS数据库版本为8.1.0以后的版本时,连接驱动为:com.huawei.gauss200.jdbc.Driver。

connector.username

数据库认证用户名,需要和'connector.password'一起配置

connector.password

数据库认证密码,需要和'connector.username'一起配置

connector.read.partition.column

用于对输入进行分区的列名

与connector.read.partition.lower-bound、connector.read.partition.upper-bound、

connector.read.partition.num必须同时存在或者同时不存在

connector.read.partition.lower-bound

第一个分区的最小值

与connector.read.partition.column、connector.read.partition.upper-bound、

connector.read.partition.num必须同时存在或者同时不存在

connector.read.partition.upper-bound

最后一个分区的最大值

与connector.read.partition.column、connector.read.partition.lower-bound、

connector.read.partition.num必须同时存在或者同时不存在

connector.read.partition.num

分区的个数

与connector.read.partition.column、connector.read.partition.upper-bound、

connector.read.partition.upper-bound必须同时存在或者同时不存在

connector.read.fetch-size

每次从数据库拉取数据的行数。默认值为0,表示忽略该提示

示例

  • 使用gsjdbc4驱动连接时,加载的数据库驱动类为:org.postgresql.Driver。该驱动为默认,创建表时可以不填该驱动参数。

    表car_info没有在schema下时。

     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    11
    12
    create table dwsSource(
      car_id STRING,
      car_owner STRING,
      car_brand STRING,
      car_speed INT
    ) with (
      'connector.type' = 'gaussdb',
      'connector.url' = 'jdbc:postgresql://xx.xx.xx.xx:8000/xx',
      'connector.table' = 'car_info',
      'connector.username' = 'xx',
      'connector.password' = 'xx'
    );
    

    当DWS表test在名为test_schema的schema下时,可以参考如下样例。

     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    11
    12
    create table dwsSource(
      car_id STRING,
      car_owner STRING,
      car_brand STRING,
      car_speed INT
    ) with (
      'connector.type' = 'gaussdb',
      'connector.url' = 'jdbc:postgresql://xx.xx.xx.xx:8000/xx',
      'connector.table' = 'test_schema\".\"test',
      'connector.username' = 'xx',
      'connector.password' = 'xx'
    );
    
  • 使用gsjdbc200驱动连接时,加载的数据库驱动类为:com.huawei.gauss200.jdbc.Driver。
    当DWS表test在名为ads_game_sdk_base的schema下时,可以参考如下样例。
    create table dwsSource(
      car_id STRING,
      car_owner STRING,
      car_brand STRING,
      car_speed INT
    ) with (
      'connector.type' = 'gaussdb',
      'connector.table' = 'ads_game_sdk_base\".\"test',
      'connector.driver' = 'com.huawei.gauss200.jdbc.Driver',
      'connector.url' = 'jdbc:gaussdb://xx.xx.xx.xx:8000/xx',
      'connector.username' = 'xx',
      'connector.password' = 'xx'
    );

数据仓库服务常见问题

更多常见问题 >>
  • 数据仓库服务基于华为FusionInsight LibrA企业级数据仓库内核,提供即开即用、可扩展且完全托管的分析型数据库服务。兼容PostgreSQL生态,您可基于标准SQL,结合商业智能工具,经济高效地挖掘和分析海量数据。

  • GaussDB是华为自主创新研发的分布式关系型数据库。具备企业级复杂事务混合负载能力,同时支持分布式事务,同城跨AZ部署,数据0丢失,支持1000+节点的扩展能力,PB级海量存储。

  • DWS基于Shared-nothing分布式架构,具备MPP大规模并行处理引擎,由众多拥有独立且互不共享的CPU、内存、存储等系统资源的逻辑节点组成。

  • 数据仓库服务(GaussDB(DWS) )支持按需计费,同时您也可以选择更经济的包年包月套餐计费模式。华为云GaussDB(DWS) 根据您选择的数据仓库节点规格及使用的相关资源进行计费。

  • SFS的常见问题解答。

  • DWS数据库内核使用华为自主研发的GaussDB数据库,兼容PostgreSQL 9.2.4的数据库内核引擎,从单机OLTP数据库改造为企业级MPP(大规模并行处理)架构的OLAP分布式数据库,其主要面向海量数据分析场景。