实时计算 Flink版cdc同步的相关内容

问答 2023-06-29 来自：开发者社区

Flink CDC 中刚才了解到现网有个单表2.2数据量的，在数据初始化全量同步时候？

问题1:Flink CDC 中刚才了解到现网有个单表2.2数据量的，在数据初始化全量同步时候flinkcdc支持按主键分组并行抽取吗求解答大佬？问题2:那如果单表数据量像这种非常大的情况咋处理呢

问答 2023-06-29 来自：开发者社区

Flink CDC中做全量数据表同步时候，滑动窗口设置时长设置多大呢？5s可以么？4000w数据？

Flink CDC 实现企业级实时数据同步

传统的数据集成通常由全量和增量同步两套系统构成，在全量同步完成后，还需要进一步将增量表和全量表进行合并操作，这种架构的组件构成较为复杂，系统维护困难。本方案提供 Flink CDC 技术实现了统一的增量和全量数据的实时集成。

查看详情

问答 2023-06-29 来自：开发者社区

Flink CDC这个后台系统是官方的？当前设置的窗口是10s，测试的同步40w数据平均耗时2分20

Flink CDC这个后台系统是官方的？当前设置的窗口是10s，测试的同步40w数据平均耗时2分20秒，感觉有点太慢了。。 es设置的每秒写入100mb数据或者每秒2w条数据，现在每一批提交的数据差不多在60mb的样子，40w是模拟的增量，真实数据在4600w的样子，都是往小了测，实际的话单日增量数据在100~300w之间，这个还只是模拟了单表的全量同步，没测多流join场景；以及反查数据库....

问答 2023-06-29 来自：开发者社区

咨询一个Flink CDC问题，为现在有一个实时同步任务，如果为需要增加几个表进去同步。是不是要先？

咨询一个Flink CDC问题，为现在有一个实时同步任务，如果为需要增加几个表进去同步。是不是要先启动一个新任务，把这几个新增表先全量同步过去，然后再老任务里面加上这几个表之后，重savepoint 重启任务就行？

问答 2023-06-18 来自：开发者社区

请问下，Flink CDC中使用flink sql 的当时做同步没有问题，但是使用流api进行同？

请问下，Flink CDC中使用flink sql 的当时做同步没有问题，但是使用流api进行同步的时候出现 Caused by: com.ververica.cdc.connectors.shaded.com.zaxxer.hikari.pool.HikariPool$PoolInitializationException: Failed to initialize pool: Acces...

问答 2023-06-18 来自：开发者社区

Flink CDC 中这个是从Oracle读出来，下面同步到另一个Oracle怎么弄啊，刚学习？

Flink CDC 中这个是从Oracle读出来，下面同步到另一个Oracle怎么弄啊，oracle->oracle，刚学习flink？

问答 2023-06-18 来自：开发者社区

flink cdc 同步 mongo 的数据到hudi，大概2亿多条数据，目前发现同步历史数据的时？

flink cdc 同步 mongo 的数据到hudi，大概2亿多条数据，目前发现同步历史数据的时候，状态特别大，都100G+了，比source端接收的数据量还大，而且我还做了按天分区的。有人知道啥原因吗？

问答 2023-06-18 来自：开发者社区

Flink CDC读表数据后写kafka，消费者消费后写es；用bulk往es同步时速率较慢导致数？

Flink CDC读表数据后写kafka，消费者消费后写es；用bulk往es同步时速率较慢导致数据积压，这个有好点的解决办法么？我是这么批量往es写的设置的同步提交，不会再存到缓存里，需要做一些处理再往es写，直接用连接器没法实现，我一会来看下，应该也是可以的，水位线那个是啥意思，不支持配置吗？

问答 2023-06-18 来自：开发者社区

有遇到Flink CDC这个没得？有人晓得pg 的solt 数量和同步的数据库是什么关系吗？

有遇到Flink CDC这个没得？有人晓得pg 的solt 数量和同步的数据库是什么关系吗？我应该配置多少个slot

问答 2023-06-18 来自：开发者社区

Flink CDC中还有我要同步多个数据，pg配置文件那个插槽数量需要配置多少呢？pg 13.5 都

Flink CDC中还有我要同步多个数据，pg配置文件那个插槽数量需要配置多少呢？pg 13.5 都没得这个参数了

共有988条

< 1 ... 73 74 75 76 ... 99 >

跳转至： GO

更新时间 2025-04-16 12:41:44

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

实时计算 Flink版cdc相关内容

实时计算 Flink版更多cdc相关

实时计算 Flink版您可能感兴趣

产品推荐

{"moduleinfo":{"card_count":[{"count_phone":1,"count":1}],"search_count":[{"count_phone":7,"count":7}]},"card":[{"des":"阿里云实时计算Flink版(Alibaba Cloud Realtime Compute)，基于开源的Apache Flink，优化后成熟稳定的企业版本，提供批流统一、完全托管、高性能的实时智能计算平台。","link1":"https://www.aliyun.com/product/bigdata/product/sc","link":"https://www.aliyun.com/product/bigdata/product/sc","icon":"https://img.alicdn.com/tfs/TB1yy8cD4D1gK0jSZFyXXciOVXa-200-200.png","btn2":"产品文档","tip":"阿里云实时计算推出独享模式，专属定制的计算大脑，2折试用，<a href=\" https://yq.aliyun.com/live/591\" target=\"_blank\">观看发布会</a>          最新产品和实时动态重磅发布 ，<a href=\"https://www.aliyun.com/product/new?source_type=out_sousuo_feature_0716\" target=\"_blank\">立即查看</a>","btn1":"立即开通","link2":"https://help.aliyun.com/product/45029.html","title":"实时计算Flink版"}],"search":[{"txt":"申请免费试用","link":"https://help.aliyun.com/document_detail/72329.html?spm"},{"txt":"管理控制台","link":"https://stream.console.aliyun.com/zh/dark/"},{"txt":"产品文档介绍","link":"https://help.aliyun.com/document_detail/62438.html?spm"},{"txt":"独享模式价格计算器","link":"https://stream.console.aliyun.com/zh/dark/#/profile/calculator"},{"txt":"独享模式2折试用","link":"https://promotion.aliyun.com/ntms/act/rc.html"},{"txt":"技术解读","link":"https://yq.aliyun.com/articles/669177"},{"txt":"产品动态","link":"https://www.aliyun.com/product/new?source_type=out_sousuo_feature_0716"}],"countinfo":{"search":{"length_pc":0,"length":0},"card":{"length_pc":0,"length":0}},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"icon","icon":"sc","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","title":"实时计算Flink版","des":"阿里云实时计算Flink版(Alibaba Cloud Realtime Compute)，完全兼容开源的Apache Flink，比开源性能提升2～3倍，提供了完整的告警、监控、日志的解决方案、提升开发效率且无运维成本，并有社区专家提供技术支持。","btn1":"立即开通","link1":"https://www.aliyun.com/product/bigdata/product/sc","btn3":"产品文档","link3":"https://help.aliyun.com/product/45029.html","btn2":"产品控制台","link2":"https://realtime-compute.console.aliyun.com/#/dashboard","infoGroup":[{"infoName":"实时同步","infoContent":{"firstContentName":"MySQL 到 Hologres","firstContentLink":"https://help.aliyun.com/document_detail/374270.html","lastContentName":"Kafka 到 Hologres","lastContentLink":"https://help.aliyun.com/document_detail/417217.html"}},{"infoName":"功能对比","infoContent":{"firstContentName":"开源Flink对比","firstContentLink":"https://developer.aliyun.com/article/784034?spm=5176.15088477.J_3921126020.9.1a951708XMCptN"}},{"infoName":"成本优化","infoContent":{"firstContentName":"作业自动调优","firstContentLink":"https://help.aliyun.com/document_detail/212422.html","lastContentName":"","lastContentLink":""}},{"infoName":"学习资料","infoContent":{"firstContentName":"实时数仓入门课程","firstContentLink":"https://developer.aliyun.com/learning/course/807?spm=5176.15088477.J_3921126020.7.1a951708XMCptN"}}],"contentLink":"https://www.aliyun.com/product/bigdata/sc"}]}

{"$env":{"JSON":{}},"$page":{"env":"production"},"$context":{"moduleinfo":{"card_count":[{"count_phone":1,"count":1}],"search_count":[{"count_phone":7,"count":7}]},"card":[{"des":"阿里云实时计算Flink版(Alibaba Cloud Realtime Compute)，基于开源的Apache Flink，优化后成熟稳定的企业版本，提供批流统一、完全托管、高性能的实时智能计算平台。","link1":"https://www.aliyun.com/product/bigdata/product/sc","link":"https://www.aliyun.com/product/bigdata/product/sc","icon":"https://img.alicdn.com/tfs/TB1yy8cD4D1gK0jSZFyXXciOVXa-200-200.png","btn2":"产品文档","tip":"阿里云实时计算推出独享模式，专属定制的计算大脑，2折试用，<a href=\" https://yq.aliyun.com/live/591\" target=\"_blank\">观看发布会</a>          最新产品和实时动态重磅发布 ，<a href=\"https://www.aliyun.com/product/new?source_type=out_sousuo_feature_0716\" target=\"_blank\">立即查看</a>","btn1":"立即开通","link2":"https://help.aliyun.com/product/45029.html","title":"实时计算Flink版"}],"search":[{"txt":"申请免费试用","link":"https://help.aliyun.com/document_detail/72329.html?spm"},{"txt":"管理控制台","link":"https://stream.console.aliyun.com/zh/dark/"},{"txt":"产品文档介绍","link":"https://help.aliyun.com/document_detail/62438.html?spm"},{"txt":"独享模式价格计算器","link":"https://stream.console.aliyun.com/zh/dark/#/profile/calculator"},{"txt":"独享模式2折试用","link":"https://promotion.aliyun.com/ntms/act/rc.html"},{"txt":"技术解读","link":"https://yq.aliyun.com/articles/669177"},{"txt":"产品动态","link":"https://www.aliyun.com/product/new?source_type=out_sousuo_feature_0716"}],"countinfo":{"search":{"length_pc":0,"length":0},"card":{"length_pc":0,"length":0}},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"icon","icon":"sc","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","title":"实时计算Flink版","des":"阿里云实时计算Flink版(Alibaba Cloud Realtime Compute)，完全兼容开源的Apache Flink，比开源性能提升2～3倍，提供了完整的告警、监控、日志的解决方案、提升开发效率且无运维成本，并有社区专家提供技术支持。","btn1":"立即开通","link1":"https://www.aliyun.com/product/bigdata/product/sc","btn3":"产品文档","link3":"https://help.aliyun.com/product/45029.html","btn2":"产品控制台","link2":"https://realtime-compute.console.aliyun.com/#/dashboard","infoGroup":[{"infoName":"实时同步","infoContent":{"firstContentName":"MySQL 到 Hologres","firstContentLink":"https://help.aliyun.com/document_detail/374270.html","lastContentName":"Kafka 到 Hologres","lastContentLink":"https://help.aliyun.com/document_detail/417217.html"}},{"infoName":"功能对比","infoContent":{"firstContentName":"开源Flink对比","firstContentLink":"https://developer.aliyun.com/article/784034?spm=5176.15088477.J_3921126020.9.1a951708XMCptN"}},{"infoName":"成本优化","infoContent":{"firstContentName":"作业自动调优","firstContentLink":"https://help.aliyun.com/document_detail/212422.html","lastContentName":"","lastContentLink":""}},{"infoName":"学习资料","infoContent":{"firstContentName":"实时数仓入门课程","firstContentLink":"https://developer.aliyun.com/learning/course/807?spm=5176.15088477.J_3921126020.7.1a951708XMCptN"}}],"contentLink":"https://www.aliyun.com/product/bigdata/sc"}]}}

实时计算Flink版

阿里云实时计算Flink版(Alibaba Cloud Realtime Compute)，完全兼容开源的Apache Flink，比开源性能提升2～3倍，提供了完整的告警、监控、日志的解决方案、提升开发效率且无运维成本，并有社区专家提供技术支持。

立即开通

产品控制台

产品文档

实时同步

MySQL 到 Hologres

Kafka 到 Hologres

功能对比

开源Flink对比

成本优化

作业自动调优