Dataphin同步任务速度低
问题描述 Dataphin同步任务出现速度低，或者速度为0。解决方案 1.从网络层面判断，来源数据库、去向数据库是否都是一套专线VPC网络。2.region判断，数据库、dataphin是否部署都是在一起，如果有跨国，并且非VPC专网，速度确实可能会慢。3....
Dataphin集成任务同步失败报“Record columns has no ...
概述 通过修改输入端的字段大小写来解决同步失败问题。问题描述 集成任务从 AS400->odps 同步失败报错 Record columns has no sourceColName[n5mont]。问题原因 Dataphin集成任务同步过程中存在字段大小写敏感校验。从源端数据库（AS400）...
直播出现音视频不同步
概述 本文主要介绍直播出现音视频不同步的问题排查步骤。问题描述 视频播放出现音视频不同步的情况。解决方案 直播的流程是用户将视频主动推到边缘节点后进行直播，目前直播中存在音视频不同步的情况，观看直播流发现确实存在这种现象。...
查看索引同步状态
常见问题处理 如果BDS界面中显示同步的延迟过大，超出业务承受的范围，用户可以通过自查解决问题。同步点位不再推进 如果发现BDS界面中的同步点位不再推进，通常是在HBase中写入了不合法的数据导致同步失败。此时用户可以点击右侧的详情，...
网络时间同步助手
您可以通过物联网边缘计算提供的边缘函数计算功能，很好的解决设备本地时间与网络时间不同步的问题。一、创建时间同步函数 下载时间同步函数 syncNetworkTime-code.zip。该函数会自动和NTP服务器同步网络时间。登录 函数计算控制台。如尚未...
使用MaxCompute访问
如果在创建数据源的时候出现网络超时的报错可以根据 配置资源组与网络连通 进行解决，如果还是有问题，可以 提交工单 联系DataWorks工作人员获取支持。验证MaxCompute数据同步至文件引擎 以下示例用来验证MaxCompute数据是否同步到文件引擎...
MySQL分库分表同步至MaxCompute
步骤一：选择同步方案 步骤二：网络与资源配置 步骤三：分库源表设置 步骤四：设置目标表 步骤五：设置表粒度同步规则 步骤六：DDL消息处理规则 步骤七：设置任务运行资源 步骤八：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务...
MySQL分库分表同步至MaxCompute
步骤一：选择同步方案 步骤二：网络与资源配置 步骤三：分库源表设置 步骤四：设置目标表 步骤五：设置表粒度同步规则 步骤六：DDL消息处理规则 步骤七：设置任务运行资源 步骤八：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务...
实时同步常见问题
实时同步Oracle、PolarDB、MySQL常见问题 实时同步Oracle、PolarDB、MySQL任务重复报错 报错信息与解决方案 报错信息与解决方案 实时同步Kafka数据报错：Startup mode for the consumer set to timestampOffset,but no begin timestamp was...
全增量实时同步至Hologres
例如，CPU、内存、网络等互相影响，可能会导致离线任务变慢或实时任务延迟等问题，甚至在资源不足的极端情况下，可能会出现任务被OOM KILLER杀掉等问题。步骤九：执行同步解决方案任务 进入 数据集成>同步任务 界面，找到已创建的同步方案...
MySQL分库分表同步至Hologres（方案2.0）
例如，CPU、内存、网络等互相影响，可能会导致离线任务变慢或实时任务延迟等问题，甚至在资源不足的极端情况下，可能会出现任务被OOM KILLER杀掉等问题。步骤九：执行同步解决方案任务 在 数据集成 主站页面，单击左侧菜单栏的 同步任务 ...
一键实时同步至Kafka
操作流程 步骤一：选择同步方案 步骤二：配置网络连通 步骤三：设置同步来源与规则 步骤四：设置目标Topic 步骤五：运行资源设置 步骤六：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务，根据需求选择需要同步的源端数据源和...
常见问题
同步解决方案常见问题 MySQL一键同步至Hologres中decimal（7，4）数据类型转换成了numeric（38，18），正常吗？一键实时同步至MaxCompute时,分表是否可以同步到同一张表里?一键实时全增量同步任务中，实时同步时修改源表字段是否会导致报错...
通过image-syncer工具迁移容器镜像
在Kubernetes集群迁移场景中，镜像仓库之间进行镜像迁移和同步是基本需求，image-syncer工具可以解决通用的容器镜像批量迁移和镜像同步复制的问题，将已有的容器镜像平滑的迁移到阿里云镜像服务ACR上。本文主要为您介绍如何通过image-...
通过image-syncer工具迁移容器镜像
在Kubernetes集群迁移场景中，镜像仓库之间进行镜像迁移和同步是基本需求，image-syncer工具可以解决通用的容器镜像批量迁移和镜像同步复制的问题，将已有的容器镜像平滑地迁移到阿里云镜像服务ACR上。本文主要为您介绍如何通过image-...
如何解决增量迁移延迟或同步延迟
问题描述 DTS在进行增量任务时，迁移任务或同步任务出现延迟超过1000毫秒的情况。可能原因 原因1：任务规格受限，且任务数据量过大。DTS的增量迁移或同步链路的各个规格有对应的RPS限制，当源库的数据写入量过大时（例如有大事务），达到了...
应用场景
数据传输服务DTS（Data Transmission Service）支持数据迁移、数据订阅和数据实时同步功能，帮助您实现多种典型应用场景。不停机迁移数据库 传输方式：数据迁移 为了保证数据的一致性，传统的迁移过程需要您在迁移数据时停止向源数据库写入...
迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle...
操作 风险 解决方式 CREATE TABLE（且该表需要同步）如果该表存在目标端是分区表，源和目标端的索引不一致，需要进行 ETL 等情况，可能影响数据迁移性能，导致 ETL 不符合预期。必须开启 DataBase 级别的 PK、UK 补偿日志。手动添加涉及的...
离线同步读取MongoDB数据
DataWorks的数据集成为您提供MongoDB Reader插件，可从MongoDB中读取数据，并将数据同步至其他数据源。本文以一个具体的示例，为您演示如何通过数据集成将MongoDB的数据离线同步至MaxCompute。背景信息 本实践的来源数据源为MongoDB，去向...
MySQL整库离线同步到OSS
以下表格列举了本同步解决方案所支持的高级参数。高级参数名称 说明 离线任务源端最大连接数 离线任务源端最大连接数。数据源维度，同一数据源，同时运行的离线任务并发度不允许超过此值 离线同步任务并发度 并发数是指数据同步任务中，...
资源组操作及网络连通
数据同步网络连通问题 在做离线同步时，我们需要先了解哪些DataWorks及其网络能力？同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下，进行数据同步时如何保障数据库与...
一键实时同步至MaxCompute
一键实时同步至MaxCompute方案支持全增量一体化同步，先进行全量数据迁移，然后再实时同步增量数据至目标端。本文为您介绍如何创建一键实时同步至MaxCompute任务。前提条件 已完成数据源配置。您需要在数据集成同步任务配置前，配置好您...
一键实时同步至MaxCompute
一键实时同步至MaxCompute方案支持全增量一体化同步，先进行全量数据迁移，然后再实时同步增量数据至目标端。本文为您介绍如何创建一键实时同步至MaxCompute任务。前提条件 已完成数据源配置。您需要在数据集成同步任务配置前，配置好您...
离线同步任务调优
同步任务整体速度慢可能出现在同步过程的各个阶段，本文以现象入手，为您提供各个阶段运行慢的解决方案，详情请参见：数据同步慢的场景及解决方案。在数据库性能限制的情况下，同步速度并非越快越好，考虑到速度过高可能对数据库造成过大的...
Windows系统ECS实例激活失败
网络异常导致激活失败 服务器时钟不同步导致激活失败 磁盘空间满了导致激活失败 激活码不正确导致激活失败 Software Protection异常导致激活失败 问题现象 使用 slmgr-ato 命令对Windows系统进行激活时，系统出现以下错误。运行“slui.exe ...
MySQL分库分表同步至Hologres（方案1.0）
例如，CPU、内存、网络等互相影响，可能会导致离线任务变慢或实时任务延迟等问题，甚至在资源不足的极端情况下，可能会出现任务被OOM KILLER杀掉等问题。步骤八：执行同步任务 进入 数据集成>同步任务 界面，找到已创建的同步方案。单击...
一键实时同步至DataHub
操作流程 步骤一：选择同步方案 步骤二：配置网络连通 步骤三：设置同步来源与规则 步骤四：设置目标Topic 步骤五：运行资源设置 步骤六：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务，根据需求选择需要同步的源端数据源和...
一键实时同步至Elasticsearch
操作流程 步骤一：选择同步方案 步骤二：配置网络连通 步骤三：设置同步来源与规则 步骤四：设置目标索引 步骤五：DDL消息处理规则 步骤六：运行资源设置 步骤七：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务，根据需求选择...
通过MySQL分析实例同步至数仓版
说明 同步状态 为 同步中 表明该同步作业正常进行增量同步，更多关于同步任务状态的信息，请参见 DTS同步作业状态。DTS同步作业状态 同步作业状态 状态说明 配置中 同步作业正在配置中。预检查中 同步作业正在进行启动前的预检查。预检查...
一键实时同步至Hologres
步骤一：选择同步方案 步骤二：配置网络连通 步骤三：设置同步来源与规则 步骤四：设置目标表 步骤五：设置表粒度同步规则 步骤六：DDL消息处理规则 步骤七：设置任务运行资源 步骤八：执行同步任务 步骤一：选择同步方案 创建同步解决方案...
离线同步并发和限流之间的关系
实践内容 并发数 阅读此部分，您可以解决和理解如下问题：问题一：如何配置数据同步任务的并发数？问题二：为什么我的数据同步任务跑的比较慢，实际运行的并发数不够？问题三：为什么我的同步任务并发数配置的很高，但是任务运行速度仍然很...
文档修订记录
任务调度属性配置概述 2023年2月更新记录 时间 特性 类别 描述 产品文档 2023.2.28 新增功能 数据治理中心 DataWorks支持您根据业务需要，将 治理工作台>治理项问题 页面待解决的治理项问题以通知的形式，通过系统提示、邮件、钉钉群消息等...
数据集成侧同步任务配置
完成数据源、网络、资源的准备配置后，您可以根据同步场景选择同步解决方案，创建并执行同步任务，将源端数据同步至目标端。本文为您介绍同步任务的通用配置流程，不同的同步方案配置流程可能存在差异，对应方案配置详情请以界面为准。前提...
数据库实时入仓快速入门
如果CTAS/CDAS同步期间发生了不支持的表结构变更，导致作业报错同步失败，该怎么解决？相关文档 CREATE TABLE AS(CTAS)语法功能介绍，请参见 CREATE TABLE AS（CTAS）语句。CREATE DATABASE AS(CDAS)语法功能介绍，请参见 CREATE DATABASE ...
将MaxCompute数据同步到表格存储
MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型，能够更快速的解决用户海量数据计算问题，有效降低企业成本，并保障数据安全。更多信息，请参见 什么是MaxCompute。DataWorks基于MaxCompute、Hologres、EMR、...
离线同步能力说明
说明 脏数据是对于业务没有意义，格式非法或者同步过程中出现问题的数据。单条数据写入目标数据源过程中发生了异常，则此条数据为脏数据。因此只要是写入失败的数据均被归类于脏数据。例如，源端是VARCHAR类型的数据写到INT类型的目标列中...
PolarDB数据源配置
可能会发生实时服务同步出现问题。【少做账号权限变更】账号变更会带来当前实时任务的不能正常消费。同时新版本创建也会受影响。若变更账号密码，需要删除实例重新接入库。常见问题 如果配置PolarDB数据源后，索引重建出现卡住的现象，请在...
PolarDB数据源配置
可能会发生实时服务同步出现问题。【少做账号权限变更】账号变更会带来当前实时任务的不能正常消费。同时新版本创建也会受影响。若变更账号密码，需要删除实例重新接入库。常见问题 如果配置PolarDB数据源后，索引重建出现卡住的现象，请在...
Hadoop DistCp介绍
具体报错：org.apache.hadoop.tools.CopyListing$AclsNotSupportedException:ACLs not supported for file system:hdfs:/xx.xx.xx.xx:8020 建议按照以下方式排查解决：检查旧集群是否有ACL规则要同步。如果有ACL规则要同步，DistCp参数后要...
RDS数据源配置
可能会发生实时服务同步出现问题。【少做账号权限变更】当前OpenSearch实时任务也是MySQL的客户端。账号变更会带来当前实时任务的不能正常消费。同时新版本创建也会受影响。若变更账号密码，需要删除实例重新接入库。OpenSearch需要用户RDS...
- 产品推荐
- 这些文档可能帮助您