阿里云文档 2026-06-05

如何新建离线物理表

离线物理表可帮助您统一配置与管理计算任务开发过程中用到的离线物理表,提升开发效率。

阿里云文档 2026-06-05

使用表单加工配置指标以创建离线数据集-智能数据建设与治理 Dataphin-阿里云

Dataphin标签基于离线计算引擎,支持通过表单加工方式配置数据集指标,对来源表字段进行计数(count)、取和(sum)、取最大值(max)、取最小值(min)后定义数据集指标,以供离线标签使用。本文将指导您如何通过表单加工创建离线数据集。前提条件创建离线数据集前需先创建数据集所归属的标签项目。...

阿里云文档 2026-06-05

通过表映射字段创建离线数据集-智能数据建设与治理 Dataphin-阿里云

Dataphin标签基于离线计算引擎,支持通过表映射方式将物理表字段直接定义成为数据集指标。本文将指导您如何通过表映射创建离线数据集。

阿里云文档 2026-01-13

为Fusioninsight Flink流批一体任务配置离线模式资源-智能数据建设与治理 Dataphin-阿里云

Fusioninsight Flink流批一体任务离线模式的资源配置支持配置任务的生产环境和开发的资源队列、引擎版本信息。本文为您如何配置流批一体任务离线模式的资源配置。

阿里云文档 2026-01-13

配置开源Flink流批一体任务的离线模式资源-智能数据建设与治理 Dataphin-阿里云

开源Flink流批一体任务离线模式的资源配置支持配置任务的生产环境和开发的资源队列、引擎版本以及任务的并行度、Task Manager Slots、Job Manager Memory、Task Manager Memory等。本文为您介绍如何配置流批一体任务离线模式的资源配置。

文章 2025-05-07 来自:开发者社区

Dataphin功能Tips系列(57)「预览」vs「运行」:离线集成的神奇按钮

场景一 作为第一次使用Dataphin的数据开发,在离线集成任务中,你遇到了这样的问题:某原始表中存在部分错误记录,需要剔除后生成新字段,再迁移到新库中,因此你在集成管道中设置了过滤和字段计算组件。谨慎的你想知道组件配置是否正确,这时该如何快速验证处理后的数据呢? 解决方案及功能 点击「预览」。 ...

Dataphin功能Tips系列(57)「预览」vs「运行」:离线集成的神奇按钮
文章 2025-05-07 来自:开发者社区

Dataphin功能Tips系列(53)-离线集成任务如何合理配置JVM资源

一、场景 某客户需要将mysql中的数据通过集成任务同步至hive,但是按照初始资源配置运行时,出现了OOM,我们在配置集成管道时哪些因素会影响到任务的资源消耗呢,同时我们可以按照什么步骤逐步调整所需要的CPU和内存资源,最终平衡好运行时长和资源利用率呢? 二、解决方案及功能 1. 资源消耗的核心影响因素 数据量(核心因素) ...

Dataphin功能Tips系列(53)-离线集成任务如何合理配置JVM资源
文章 2025-03-13 来自:开发者社区

Dataphin功能Tips系列(50)-离线集成输入端支持mysql数据源分库分表

一、场景 在日常的数据库中,我们经常会为了提升数据库操作性能进行分库分表,那要如何将这些分库分表的数据集成到Dataphin呢? 二、解决方案及功能 ①Dataphin支持以枚举,类正则,及两者混合的方式,读取不同实例不同库中的表 枚举:table_001,table_002... 类正则: table_abc*...

Dataphin功能Tips系列(50)-离线集成输入端支持mysql数据源分库分表
文章 2025-03-13 来自:开发者社区

Dataphin功能Tips系列(32)-离线集成之增量追加

一、场景 当上游OA系统的MySQL数据库中某条审批数据的审批状态发生变化时,我们如何将这些变动的数据增量地追加到MaxCompute(或hive)的新分区中,后续查询中又如何查到该审批流的状态流转详情? 二、解决方案及功能 ①首先我们需要捕获到变更的数据,目前Dataphin支持在【输入配置】时通过【输入过滤】来获取到最近变更的数据,如下设置【gmt_modified=...

Dataphin功能Tips系列(32)-离线集成之增量追加
问答 2024-05-15 来自:开发者社区

Dataphin通过【离线集成】的方式同步的表,能被镜像表关联不?

Dataphin通过【离线集成】的方式同步的表,能被镜像表关联不?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。