问答 2024-01-18 来自:开发者社区

Flink CDC我使用cdc从oracle同步数据到doris,数据全部加载到内存后,报错怎么办?

Flink CDC里我使用cdc从oracle同步数据到doris,这边将数据全部加载到内存后,报错如下:2024-01-09 15:11:00,825 WARN org.apache.flink.runtime.taskmanager.Task [] - Sink sink-doris.testdb.COMPINTRODUCTION (1/1)#0 (c...

问答 2023-05-01 来自:开发者社区

我在用flink cdc的从oracle同步历史数据到doris,请教一下存量数据是先全部拉到内存,

我在用flink cdc的从oracle同步历史数据到doris,请教一下存量数据是先全部拉到内存,拉完后再从内存存入doris吗?小数据量的时候没有问题,当我拉一个大表(2千万数据量,2个G大小)历史数据的时候,跑3-5分钟就报错了,怀疑是不是资源问题。有大佬指点一下吗。

问答 2023-02-27 来自:开发者社区

从Oracle同步数据到doris怎么操作才能避免在同步时数据出现较大的问题呢,有知道的吗?

场景是:从Oracle同步数据到doris 增量同步的流程是: 1、flink cdc通过datastream获取到Oracle 74张表的数据,然后通过Flink JDBC的方式,将数据写入到Doris, 2、全量是全量使用DataX工具进行同步, 由于公司服务器配置低,需要全量和增量分开做,我怎么操作才能避免在同步时数据出现较大的问题呢,有知道的吗

问答 2023-02-14 来自:开发者社区

用flink oracle cdc同步数据到Doris,怎么才能加快同步速度?

用flink oracle cdc同步数据到Doris,测试发现一秒钟差不多16000行数据,1亿条数据需要一小时。因为oraclecdc是单线程的,加并行度似乎没有用,怎么才能加快同步速度?我现在有一百多亿条数据要同步

问答 2022-07-20 来自:开发者社区

flinksql从Oracle同步数据到Doris,一共50几个字段,Oracle表中3000多万条

flinksql从Oracle同步数据到Doris,一共50几个字段,Oracle表中3000多万条数据,同步速度3000多条每分钟很慢,请教大佬们有没有提高同步速度的方法

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

相关镜像