大数据用户画像解决方案
用户画像数据具有如下特征：数据量大、高并发读写、明细数据需要归档、大数据量回流、有动态列需求、查询种类多而且复杂。方案总览 作为面向大数据场景的半结构化、结构化存储系统，Lindorm可以很好的满足用户画像：没有强事务要求，大数据...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
备份与恢复方案概览
将备份数据恢复至云数据库MongoDB实例 恢复云数据库MongoDB单个或多个数据库 MongoDB 4.2及以下版本的副本集本地盘实例。适用于单个或多个数据库快速数据恢复的业务场景，例如误删了某个集合或文档。按时间点将备份数据恢复至新建实例 副本...
用户权限说明
ADB 支持以下四个粒度的权限控制：GLOBAL：集群级别 DB：数据库级别 TABLE：表级别 COLUMN：列（字段）级别 Kafka 作为目标端的权限说明 如果 Kafka 存在鉴权，请参见 新建 Kafka 数据源。Kafka 用户需要具备进行以下操作的权限：创建和...
LogHub（SLS）实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或单击 手工构造数据 按钮自定义输入数据，再单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点对输入数据处理异常，或产生脏数据时，也会反馈出异常信息，能够...
配置MongoDB输入组件
选取Dataphin系统中已配置的数据源，且数据源需同时具备以下两个条件：数据源类型为MongoDB。执行 属性配置 的账号具有该数据源的同步读权限，如果没有权限，则需要申请数据源权限，详情请参见 管理数据源权限。同时您可以单击 数据源 后的...
配置MongoDB输入组件
同步MongoDB数据源的数据至其他数据源的场景中，您需要先配置MongoDB输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置MongoDB输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建MongoDB数据源...
配置Greenplum输入组件
同步Greenplum数据源的数据至其他数据源的场景中，您需要先配置Greenplum输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置Greenplum输入组件。操作步骤 请参见 离线管道组件开发入口，进入离线管道脚本的开发页面...
配置Greenplum输入组件
同步Greenplum数据源的数据至其他数据源的场景中，您需要先配置Greenplum输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置Greenplum输入组件。操作步骤 请参见 离线管道组件开发入口，进入离线管道脚本的开发页面...
管理HBase输入组件
同步HBase数据源的数据至其他数据源的场景中，您需要先配置HBase输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置HBase输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建HBase数据源。具体...
配置Kudu输入组件
配置Kudu输入组件后，可以读取Kudu数据源中的数据至Dataphin，进行数据集成与数据开发。本文为您介绍如何配置Kudu输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建Kudu数据源。具体操作，请参见 创建Kudu数据源。进行...
配置ArgoDB输入组件
同步ArgoDB数据源的数据至其他数据源的场景中，您需要先配置ArgoDB输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置ArgoDB输入组件。使用限制 ArgoDB输入组件支持数据格式为orc、parquet、text、holodesk、rc、seq...
配置OSS输入组件
同步OSS数据源的数据至其他数据源的场景中，您需要先配置OSS输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置OSS输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建OSS数据源。具体操作，请...
配置OSS输入组件
同步OSS数据源的数据至其他数据源的场景中，您需要先配置OSS输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置OSS输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建OSS数据源。具体操作，请...
配置IBM DB2输出组件
选择Dataphin系统已配置的数据源，且数据源需同时具备以下两个条件：数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限，如果没有权限，则需要申请数据源权限，详情请参见 申请、续期和交还数据源权限。...
配置SAP HANA输出组件
选择Dataphin系统已配置的数据源，且数据源需同时具备以下两个条件：数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限，如果没有权限，则需要申请数据源权限，详情请参见 申请数据源权限。同时您也可以...
配置Log Service输入组件
同步Log Service数据源的数据至其他数据源的场景中，您需要先配置Log Service输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置Log Service输入组件。在开始执行操作前，请确认您已完成以下操作：已创建Log Service...
配置Log Service输入组件
同步Log Service数据源的数据至其他数据源的场景中，您需要先配置Log Service输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置Log Service输入组件。在开始执行操作前，请确认您已完成以下操作：已创建Log Service...
支持的数据库
数据同步 数据同步功能帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等多种业务场景。同步支持的数据库、版本和同步类型以及配置文档，请参见...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
配置SAP HANA输出组件
选择Dataphin系统已配置的数据源，且数据源需同时具备以下两个条件：数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限，如果没有权限，则需要申请数据源权限，详情请参见 管理数据源权限。同时您也可以...
配置GBase 8a输出组件
同步其他数据源的数据至GBase 8a数据源的场景中，完成源数据源的信息配置后，需要配置GBase 8a输出组件写入数据的目标数据源。本文为您介绍如何配置GBase 8a输出组件。前提条件 已创建GBase 8a数据源，如何创建，请参见 创建GBase 8a数据源...
配置KingbaseES输出组件
同步其他数据源的数据至KingbaseES数据源的场景中，完成源数据源的信息配置后，需要配置KingbaseES输出组件写入数据的目标数据源。本文为您介绍如何配置KingbaseES输出组件。前提条件 已创建KingbaseES数据源，如何创建，请参见 创建...
配置KingbaseES输出组件
同步其他数据源的数据至KingbaseES数据源的场景中，完成源数据源的信息配置后，需要配置KingbaseES输出组件写入数据的目标数据源。本文为您介绍如何配置KingbaseES输出组件。前提条件 已创建KingbaseES数据源，如何创建，请参见 创建...
配置GBase 8a输出组件
同步其他数据源的数据至GBase 8a数据源的场景中，完成源数据源的信息配置后，需要配置GBase 8a输出组件写入数据的目标数据源。本文为您介绍如何配置GBase 8a输出组件。前提条件 已创建GBase 8a数据源，如何创建，请参见 创建GBase 8a数据源...
配置GoldenDB输出组件
同步其他数据源的数据至GoldenDB数据源的场景中，完成源数据源的信息配置后，需要配置GoldenDB输出组件写入数据的目标数据源。本文为您介绍如何配置GoldenDB输出组件。前提条件 已创建GoldenDB数据源，如何创建，请参见 创建GoldenDB数据源...
配置Impala输出组件
同步其他数据源的数据至Impala数据源的场景中，完成源数据源的信息配置后，需要配置Impala输出组件写入数据的目标数据源。本文为您介绍如何配置Impala输出组件。前提条件 已创建Impala数据源，如何创建，请参见 创建Impala数据源。进行...
配置GoldenDB输出组件
同步其他数据源的数据至GoldenDB数据源的场景中，完成源数据源的信息配置后，需要配置GoldenDB输出组件写入数据的目标数据源。本文为您介绍如何配置GoldenDB输出组件。前提条件 已创建GoldenDB数据源，如何创建，请参见 创建GoldenDB数据源...
配置TiDB输出组件
同步其他数据源的数据至TiDB数据源的场景中，完成源数据源的信息配置后，需要配置TiDB输出组件写入数据的目标数据源。本文为您介绍如何配置TiDB输出组件。前提条件 已创建TiDB数据源，如何创建，请参见 创建TiDB数据源。进行TiDB输出组件...
配置OpenGauss输出组件
同步其他数据源的数据至OpenGauss数据源的场景中，完成源数据源的信息配置后，需要配置OpenGauss输出组件写入数据的目标数据源。本文为您介绍如何配置OpenGauss输出组件。前提条件 已创建OpenGauss数据源，如何创建，请参见 创建OpenGauss...
配置OpenGauss输出组件
同步其他数据源的数据至OpenGauss数据源的场景中，完成源数据源的信息配置后，需要配置OpenGauss输出组件写入数据的目标数据源。本文为您介绍如何配置OpenGauss输出组件。前提条件 已创建OpenGauss数据源，如何创建，请参见 创建OpenGauss...
配置TiDB输出组件
同步其他数据源的数据至TiDB数据源的场景中，完成源数据源的信息配置后，需要配置TiDB输出组件写入数据的目标数据源。本文为您介绍如何配置TiDB输出组件。前提条件 已创建TiDB数据源，如何创建，请参见 创建TiDB数据源。进行TiDB输出组件...
配置Impala输出组件
同步其他数据源的数据至Impala数据源的场景中，完成源数据源的信息配置后，需要配置Impala输出组件写入数据的目标数据源。本文为您介绍如何配置Impala输出组件。前提条件 已创建Impala数据源，如何创建，请参见 创建Impala数据源。进行...
Delta Lake概述
说明 ACID指数据库事务正确执行的四个基本要素的缩写。包含：原子性（Atomicity）、一致性（Consistency）、隔离性（Isolation）和持久性（Durability）。图 1.数据仓库与数据湖 Data Warehouse、Data Lake和Delta Lake对比如下所示。对比...
操作指南
一、大数据专家服务流程指南 二、服务流程说明 用户可以根据自己实际需要，提前或者在问题发生时购买大数据专家服务，服务项包含大数据技术架构方案咨询、大数据解决方案POC、大数据搬站迁云方案咨询、跨地域迁移支持服务、大数据专家高阶...
配置StarRocks输出组件
同步其他数据源的数据至StarRocks数据源的场景中，完成源数据源的信息配置后，需要配置StarRocks输出组件写入数据的目标数据源。本文为您介绍如何配置StarRocks输出组件。前提条件 已创建StarRocks数据源，如何创建，请参见 创建StarRocks...
配置StarRocks输出组件
同步其他数据源的数据至StarRocks数据源的场景中，完成源数据源的信息配置后，需要配置StarRocks输出组件写入数据的目标数据源。本文为您介绍如何配置StarRocks输出组件。前提条件 已创建StarRocks数据源，如何创建，请参见 创建StarRocks...
MaxCompute作业概述
MaxCompute中数据开发作业主要存在以下三种类型：周期性调度作业、数据集成作业、数据分析作业。典型场景 创建作业：创建ODPS SQL节点、数据传输作业：数据集成、数据分析作业。查看作业运行信息：使用Logview查看作业运行信息、在...
面临的业务挑战
数据散乱不一致 传统企业的数据具有多样性，包括结构化、半结构化以及非结构化的数据。数据来源上包含数据库数据、日志数据、对象数据以及已有数仓上的存量数据等。这些不同来源、不同格式的数据，各自又有不同的访问和分析方式，而大量...
- 产品推荐
- 这些文档可能帮助您