问答 2023-09-28 来自:开发者社区

Flink CDC分表数据采集的时候,为啥有时候会有些表同步不过来呢?

Flink CDC分表数据采集的时候,为啥有时候会有些表同步不过来呢? 'table-name' = '(pigorder[0-9]*)');?

问答 2023-09-28 来自:开发者社区

Flink CDC读取kafka中的订单和订单明细数据,同步到sink表后,这一般是什么问题啊?

Flink CDC读取kafka中的订单和订单明细数据,同步到sink表后,sink表的数据数量一直跳来跳去,一会几百条一会变成几十条,这一般是什么问题啊?感觉总是最后一次数据【新产生的一小部分流数据】,会把sink表中所有历史数据都清空掉用的mysql: CREATE TABLE sink_sale_order_detail_rt( order_item_id bigin...

高性能

Flink CDC 实现企业级实时数据同步

传统的数据集成通常由全量和增量同步两套系统构成,在全量同步完成后,还需要进一步将增量表和全量表进行合并操作,这种架构的组件构成较为复杂,系统维护困难。本方案提供 Flink CDC 技术实现了统一的增量和全量数据的实时集成。
技术解决方案背景图
问答 2023-09-28 来自:开发者社区

Flink CDC同步mysql数据时,遇到mysql主从节点切换问题怎么处理的?

Flink CDC同步mysql数据时,遇到mysql主从节点切换问题怎么处理的?主从切换了,binlog和pos也变了?

问答 2023-09-28 来自:开发者社区

生产环境Flink CDC 同步 是一个库起一个job么?

生产环境Flink CDC 同步 是一个库起一个job么?

问答 2023-09-28 来自:开发者社区

flink cdc全量同步,可以从checkpoint恢复吗?

flink cdc全量同步,可以从checkpoint恢复吗?

问答 2023-09-27 来自:开发者社区

Flink CDC同步mysql数据到starrocks中,全量数据同步完后,增量数据不同步了?

Flink CDC同步mysql数据到starrocks中,全量数据同步完后,增量数据不同步了?

问答 2023-09-27 来自:开发者社区

请教下Flink CDC多张表同步 一般做多个任务 还是做一个任务?

请教下Flink CDC多张表同步 一般做多个任务 还是做一个任务?

问答 2023-09-27 来自:开发者社区

Flink CDC有没有用mongocdc同步一个大collection?

Flink CDC有没有用mongocdc同步一个大collection碰到taskmanager oom的?尝试过数据不落地,只是按分钟count一下条数,仍然会oom。collection有百亿数据,起了75个10c32g的taskmanager,还是会在半到一个小时内oom,峰值拉取能到2kw/分钟,做checkpoint时候降到一两百万/分钟,后面oom了就跑不下去了,频繁拉起新task....

问答 2023-09-20 来自:开发者社区

flink cdc 同步数据到hudi 以后 date类型都变成1970-01-01的吗怎么解决的?

flink cdc 同步数据到hudi 以后 date类型都变成1970-01-01的吗怎么解决的?

问答 2023-09-20 来自:开发者社区

Flink CDC全量同步阶段的时候, chunk size 是计算所有表的吗?

Flink CDC全量同步阶段的时候, chunk size 是计算所有表的吗. 看了日志, 还没算完直接OOM了?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注