问答 2025-03-18 来自:开发者社区

flink 1.18.1 同步oracle 19c 到pg 15,job执行以后一直无法实现资料同步

报错如下:Caused by: java.lang.RuntimeException: SplitFetcher thread 0 received unexpected exception while polling the recordsCaused by: java.io.IOException: org.apache.flink.cdc.connectors.shaded.org.apa....

问答 2025-02-27 来自:开发者社区

Flink 控制台Cancel Job,然后重新提交任务,此时是全量同步,还是增量同步?

如果在 Flink 控制台上点击取消任务(Cancel Job),然后bash bin/flink-cdc.sh tools/test_to_doris.yaml --flink-home /usr/local/flink-1.18.0doris提交任务,此时会进行全量同步,还是增量同步

问答 2025-02-12 来自:开发者社区

Flink-CDC同步oracle数据,为什么要授予FLASHBACK权限?

Flink-CDC同步oracle数据,为什么要在oracle中授予对应表的FLASHBACK权限呢?官方给出的示例授权语句:GRANT FLASHBACK ANY TABLE TO flinkuser;在全量同步阶段或者增量同步阶段,需要闪回权限吗?客户提出这个问题,担心授予闪回权限导致数据不一致。我在网络上也没找到类似的回答。望各位大佬解答疑惑!

问答 2025-01-10 来自:开发者社区

请问一下 Flink CDC 方式同步,目标数据量比源数据偏多问题

同步方式:PIPELINE source源:mysql sink源:starrocks 问题:初始化同步后,部分starrock表的数据比抽取的mysql源表还多 特点:mysql业务库使用了seata中间件做分布式事务,有物理删除行为

文章 2024-12-22 来自:开发者社区

Flink CDC MySQL同步MySQL错误记录

Flink CDC MySQL同步MySQL错误记录 Flink CDC简介 Flink CDC(Change Data Capture)是一种高效的数据同步工具,利用Flink强大的实时流处理能力,从MySQL等数据库捕获数据变更,并将这些变更实时同步到目标数据库。本文将详细介绍Flink CDC MySQL同步到MySQL...

问答 2024-12-11 来自:开发者社区

flink cdc 支持同步mysql 的truncate table 语句吗

flink cdc支持同步MySQL的truncate table吗 在源表运行了 ,同步表没反应。 使用的pipeline模式进行同步的。 在官方文档没找到truncate相关的,求大佬们帮忙看看

问答 2024-10-31 来自:开发者社区

flink同步sqlserver到mysql的时候遇到sqlserver自定义类型的字段属性导致失败

sqlserver字段属性未自定义类型 在同步到mysql的表中:使用flinksql去创建表同步到库里发现flink不支持这个自定义类型会报错: Don t support SqlSever type uid_exch yet, jdbcType: -5 .以下是flink建表同步语句求大佬帮忙看看:CREATE TABLE CARGO ( CGO_ID BIGINT, CGO...

文章 2024-08-29 来自:开发者社区

实时计算 Flink版产品使用问题之同步时,上游批量删除大量数据(如20万条),如何提高删除效率

问题一:有前辈 实现过 单个flink cep operator 跑多个 NFA示例的逻辑吗 ? 有前辈 实现过 单个flink cep operator 跑多个 NFA示例的逻辑吗 想在一个job 里面跑多个规则 ? 参考答案: 需要规则引擎处理 关于本问题的更多回答可点击进行查看: https://develop...

文章 2024-08-29 来自:开发者社区

实时计算 Flink版产品使用问题之全量同步的内存释放该怎么实现

问题一:这种情况 flink cdc3.0支持吗? 有4张表left join成一张表,每张表变化都要查其他几张表的历史数据,这种情况 flink cdc3.0支持吗?之前的2.x版本问过好像不支持。有关联的字段,但是主键不相同怎么做啊?另外字段不同的多张表合并成一张大宽表,如果相同的主键怎么做? 参考答案: 相同主键直接4个cdc ,不要join,需...

实时计算 Flink版产品使用问题之全量同步的内存释放该怎么实现
文章 2024-08-29 来自:开发者社区

实时计算 Flink版产品使用问题之同步MySQL多张表的过程中,内存释放依赖于什么

问题一:Flink cdc在全量阶段所需的TaskManager在增量阶段会释放吗 还是一直占用啊? Flink cdc在全量阶段所需的TaskManager在增量阶段会释放吗 还是一直占用啊?增量阶段应该只需要一个并行度读取binlog数据就行了吧? 参考答案: 需要开启自动释放哈,最好是flink>=1.15版本。 ...

实时计算 Flink版产品使用问题之同步MySQL多张表的过程中,内存释放依赖于什么

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注