问答 2024-04-15 来自:开发者社区

Flink CDC里哪位有上亿数据量的oracle 同步到 hudi的例子,可以分享一下吗?

Flink CDC里哪位有上亿数据量的oracle 同步到 hudi的例子,可以分享一下吗?大数据量一直没有数据同步,也不报错。flink-sql-connector-oracle-cdc-2.3.0.jar,OracleOracle Database 11g Enterprise Edition Release 11.2.0.4.0 - 64bit Production With the Pa....

问答 2024-04-15 来自:开发者社区

Flink CDC里现在能提交,但是数据没同步到doris为啥?

Flink CDC里数据能提交,有个log然后我发现时间差8个小时,然后修改了下taskmanager.sh jobmanager.sh的相关配置 加了个个+GMT+8后来日志的时间正确了但是就是没有把mysql的数据同步过来,这是为什么?。

高性能

Flink CDC 实现企业级实时数据同步

传统的数据集成通常由全量和增量同步两套系统构成,在全量同步完成后,还需要进一步将增量表和全量表进行合并操作,这种架构的组件构成较为复杂,系统维护困难。本方案提供 Flink CDC 技术实现了统一的增量和全量数据的实时集成。
技术解决方案背景图
问答 2024-04-15 来自:开发者社区

Flink CDC里整库同步得时候怎么排除没有主键得表?

Flink CDC里整库同步得时候怎么排除没有主键得表?

问答 2024-04-15 来自:开发者社区

能帮忙解释一下为什么flink cdc 同步数据会这样吗?

flink cdc 同步数据,initial模式先把全量数据同步完后续开始增量数据同步,为啥还会找之前的binlog呢?全量的时候不是会一次全量的快照吗?The connector is trying to read binlog starting at Struct{version=1.9.7.Final,connector=mysql,name=mysql_binlog_source,ts_....

问答 2024-04-15 来自:开发者社区

请教下flink cdc 1.17 、cdc-2.4.1 同步mysql数据使用 出错为啥?

请教下flink cdc 1.17 、cdc-2.4.1 同步mysql数据使用 'scan.startup.mode' = 'timestamp'出现这种错误可能是什么原因?io.debezium.DebeziumException: Encountered change event for table whose schema isn't known to this connector我全量....

问答 2024-04-15 来自:开发者社区

Flink CDC 中ttl是不是只在有开窗时候有效,我这个作业只是简单的同步?

Flink CDC 中ttl只在有开窗时候有效,试过用rocketsdb解决这个问题,但我看rocksdb模式也会占用不小的文件空间;也尝试过设置tableEnv.getConfig().setIdleStateRetention,但是没效果,不知道ttl是不是这样设置呢?

问答 2024-04-14 来自:开发者社区

flink cdc同步mysql数据失败,查了一下是连接中断,网络问题等等,不知道如何解决?

"flink cdc同步mysql数据失败,查了一下是连接中断,网络问题等等,不知道如何解决用的是flinksql 总共是5W多的数据量 同步到4W多开始报错 其他的表可以正常实时增量同步 只是数据量比较少 只有几十条 或者上千条"

问答 2024-04-14 来自:开发者社区

flink cdc同步mysql数据失败,查了一下是连接中断,网络问题等等,不知道如何解决?

"flink cdc同步mysql数据失败,查了一下是连接中断,网络问题等等,不知道如何解决?下面是报错用的是flink sql"

问答 2024-04-10 来自:开发者社区

使用Flink CDC + debezium 同步 sql Server 数据时,报错,怎么解决?

使用Flink CDC + debezium 同步 sql Server 数据时,处理schemaChangeEvent时报错,怎么解决?Caused by: org.apache.kafka.connect.errors.DataException: file is not a valid field name

问答 2024-04-08 来自:开发者社区

flink cdc动态获取同步表数据到es,没有监听数据为啥?

flink cdc动态获取同步表数据到establelist t_abc.*创建表结构 t_abcd,并且向t_abcd insert数据flink cdc 并没有监听获取到t_abcd insert 数据,这样正常吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注