阿里云文档 2025-11-03

使用DistCp任务实现大规模文件迁移

当您需要大文件或多文件的纯文件复制时,可以使用DataWorks创建DistCp任务,该方式能够极大的提高同步传输的效率,实现跨文件系统、大规模数据迁移和同步需求。

阿里云文档 2025-10-16

创建一个具备AI处理能力的数据集成任务

该功能在DataWorks数据集成链路中,原生集成了AI大模型处理能力。它将传统的数据同步从简单的“搬运”升级为智能的“加工”,允许用户在数据从源到端的传输过程中,实时调用AI模型对流经的数据进行内容分析、处理与增强,在数据流转的过程中释放非结构化数据的隐藏价值。

阿里云文档 2025-10-16

通过离线同步任务实现Embedding向量化处理

阿里云DataWorks数据集成推出Embedding向量化功能,支持将分散在OSS、MaxCompute、HDFS等异构来源中的数据抽取并转化为向量,写入Milvus、Elasticsearch、Opensearch等向量库,以及Hologres向量表等具备向量存储能力的目标端,能够大幅简化ETL流程,高效实现知识向量化,助力RAG等AI场景落地。

阿里云文档 2025-09-12

如何配置整库离线同步任务

DataWorks的整库离线同步功能,支持将源数据库中的全部或部分表结构与数据,批量、周期性地进行全量或增量同步至目标端,是实现高效数据迁移的关键解决方案。本文将以MySQL整库迁移至MaxCompute为例,介绍配置此类任务的通用流程。

阿里云文档 2025-08-29

如何配置单表实时同步

DataWorks数据集成提供了单表实时同步任务,旨在实现不同数据源之间低延迟、高吞吐量的数据复制与流转。该功能基于先进的实时计算引擎,能够捕获源端数据的实时变更(增、删、改),并将其快速应用到目标端。本文以Kafka单表实时同步至MaxCompute为例,讲述单表实时的配置方式。

文章 2024-07-17 来自:开发者社区

DataWorks产品使用合集之集成任务发布后,修改了任务调度的配置但没有生效,是什么导致的

问题一:dataworks集成任务发布后,任务调度的配置修改,没有生效,能帮忙处理下么? dataworks集成任务发布后,任务调度的配置修改,没有生效,能帮忙处理下么? 参考回答: 发布成功一般是T+1生效 先可以看下线上周期任务(非实例)的脚本是否已经符合预期 关于本问题的更多回答可点击原文查看: https://dev...

DataWorks产品使用合集之集成任务发布后,修改了任务调度的配置但没有生效,是什么导致的
文章 2024-07-17 来自:开发者社区

DataWorks产品使用合集之下游任务配置了失败自动重跑,上游任务重跑了,下游任务是否会等待上游任务重跑完,再进行重跑

问题一:DataWorks离线数据集成支持调用http接口进行数据采集吗? DataWorks离线数据集成支持调用http接口进行数据采集吗,我看官网上没有http接口源 参考回答: 使用ftp数据源可以读取http接口数据 关于本问题的更多回答可点击原文查看: https://developer.aliyun.com/ask...

DataWorks产品使用合集之下游任务配置了失败自动重跑,上游任务重跑了,下游任务是否会等待上游任务重跑完,再进行重跑
文章 2024-07-17 来自:开发者社区

DataWorks产品使用合集之实时同步任务的配置参数主要包括哪些

问题一:DataWorks实时同步任务配置参数? DataWorks实时同步任务配置参数? 参考回答: DataWorks确实支持实时同步任务的配置参数。 在DataWorks中,实时同步任务的配置参数主要包括以下几个方面: 任务名称:为实时同步子任务指定一个明确的任务名称,以便于管理和识别。 数据集成资源组:设置...

DataWorks产品使用合集之实时同步任务的配置参数主要包括哪些
文章 2024-07-17 来自:开发者社区

DataWorks产品使用合集之没有dev环境的project,如何创建数据集成任务时完成网络与资源配置

问题一:DataWorks调度资源组购买了配置到工作空间多久生效? DataWorks调度资源组购买了配置到工作空间多久生效? 参考回答: 刷新一下浏览器界面 应该是立即生效的 关于本问题的更多回答可点击原文查看: https://developer.aliyun.com/ask/595869 问...

DataWorks产品使用合集之没有dev环境的project,如何创建数据集成任务时完成网络与资源配置
文章 2024-07-17 来自:开发者社区

DataWorks产品使用合集之实时同步任务的配置和执行该如何实现

问题一:DataWorks这个要在哪里去查看?刚才通过这里点击去,警告消失了,是缓存原因吗? DataWorks这个要在哪里去查看?刚才通过这里点击去,警告消失了,是缓存原因吗? 参考回答: ...

DataWorks产品使用合集之实时同步任务的配置和执行该如何实现

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

大数据开发治理平台 DataWorks任务相关内容

大数据开发治理平台 DataWorks更多任务相关

产品推荐

DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。作为阿里巴巴数据中台的建设者,DataWorks从2009年起不断沉淀阿里巴巴大数据建设方法论,同时与数万名政务/金融/零售/互联网/能源/制造等客户携手,助力产业数字化升级。

+关注