问答 2025-02-27 来自:开发者社区

Flink 控制台Cancel Job,然后重新提交任务,此时是全量同步,还是增量同步?

如果在 Flink 控制台上点击取消任务(Cancel Job),然后bash bin/flink-cdc.sh tools/test_to_doris.yaml --flink-home /usr/local/flink-1.18.0doris提交任务,此时会进行全量同步,还是增量同步

阿里云文档 2024-11-28

如何在Dataphin自定义Ververica Flink实时任务的资源

Ververica Flink实时任务资源自定义,即指实时计算Flink配置细粒度资源的专家模式 (BETA),Flink全托管引入的全新的资源配置模式,支持对作业所使用的资源进行细粒度的资源控制,以满足作业吞吐的要求。系统会自动根据您配置的资源需求,以Native K8s的模式运行作业,TM的规格和个数将会根据Slot的规格和作业并发度,由系统自动决定。本文将介绍如何在Dataphin自定义Ve...

问答 2024-07-09 来自:开发者社区

flink cdc 任务重启,读取新增的表数据不全,没有读取到全量数据

flink cdc 任务MySqlSource.databaseList处理的表为order_1表,现在由于业务迭代需要新增表order_2,这个表order_2在数据库已经存在,我的处理步骤是这样的:先保存了flink任务checkpoint,然后暂停flink任务,修改flink代码,在 MySqlSource.databaseList里增加表order_2,然后基于checkpoint重启....

文章 2024-06-15 来自:开发者社区

实时计算 Flink版产品使用问题之任务在同步过程中新增同步表后选择全量初始化历史数据,是否会阻塞原先其余表的增量同步

问题一:Flink cdc在同步过程中新增同步表后选择全量初始化历史数据,会阻塞原先其余表的增量同步吗? Flink cdc任务在同步过程中新增同步表后选择全量初始化历史数据,会阻塞原先其余表的增量同步么? 参考答案: 新增表不影响其他,有个feature是新增表不断流。增量数据从任务开始就在同步了。历史数据同步及binlog同步在全量阶段是并行执行的...

实时计算 Flink版产品使用问题之任务在同步过程中新增同步表后选择全量初始化历史数据,是否会阻塞原先其余表的增量同步
问答 2024-05-20 来自:开发者社区

我这边flink sql任务设置了SET 请问怎么 还是全量读取数据呢?

我这边flink sql任务设置了SET 'table.exec.state.ttl' = '24h' 后,从savepoint恢复任务,请问怎么 还是全量读取数据呢? 去掉ttl设置后 从savepoint恢复 则执行正常

问答 2024-05-01 来自:开发者社区

Flink CDC里 我这里有十六个任务 一个正在跑全量 其他的增量停了 我这里应该怎么排查?

Flink CDC里 我这里有十六个任务 一个正在跑全量 其他的增量停了 我这里应该怎么排查?

问答 2024-04-26 来自:开发者社区

Flink cdc任务在同步过程中 新增同步表后选择全量初始化历史数据,什么时候开始增量?

Flink cdc任务在同步过程中 新增同步表后选择全量初始化历史数据,如果十几个小时才能初始化完成,无锁算法开始增量的时候是从十几个小时前的binlog位点增量还是从当前时间位点增量?(如果是从十几个小时前的binlog位点衔接增量,如果binlog已经归档了,就会报错文件找不到)

问答 2024-03-25 来自:开发者社区

.Flink cdc任务在同步过程中 新增同步表后选择全量初始化历史数据,初始化什么时候开始?

Flink cdc任务在同步过程中新增同步表后选择全量初始化历史数据,会阻塞原先其余表的增量同步么?

文章 2024-03-09 来自:开发者社区

Flink CDC产品常见问题之flink-cdc任务抓取全量的mysql数据不生效如何解决

问题一:Flink CDC里我部署的flink-cdc任务抓取全量的mysql数据,不生效怎么办? Flink CDC里我部署的flink-cdc任务抓取全量的mysql数据,checkpoint目前是持久化到oss上,我希望每次重启任务的时候不要从头开始抓取所有的消息。我的想法是在任务里面直接获取oss上最新进度的checkpoint目录,然后通过SavepointResto...

Flink CDC产品常见问题之flink-cdc任务抓取全量的mysql数据不生效如何解决
问答 2024-03-05 来自:开发者社区

flink cdc有什么办法判断任务是全量阶段还是增量阶段吗,想做一个监控,但找了圈,没有对应指标?

flink cdc有什么办法判断任务是全量阶段还是增量阶段吗,想做一个监控,但找了圈,没有对应指标?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注