问答 2024-02-06 来自:开发者社区

bin/flink-cdc.sh 版本3.0,如何从指定的savepoint启动或恢复任务?

bin/flink-cdc.sh 版本3.0 这种方式如何从指定的savepoint或者savepoint启动恢复任务呢?

问答 2024-02-06 来自:开发者社区

flink cdc3中,用flink standalone集群,我如何将这个任务提交到yarn上呢?

flink cdc3中,使用Pipeline Connector JAR的方式,将mysql整库同步到doris中。官网上,用的是flink standalone集群,我如何将这个任务提交到yarn上呢?

问答 2024-02-06 来自:开发者社区

Flink CDC里任务失败会自动清除其他机器的checkpoint文件,只保留本机吗?

Flink CDC里任务失败会自动清除其他机器的checkpoint文件,只保留本机的checkpoint么?我这个问题就是 taskmanager1执行任务 然后挂掉了,重启,taskmanager2接手这个任务,但是在2这个机器里找不到checkpoint的文件。

问答 2024-02-06 来自:开发者社区

flink cdc3.0怎么设置?我想设置任务的节点槽数,来打散任务并行分布的节点。

flink cdc3.0 设置-Dtaskmanager.numberOfTaskSlots=1 怎么设置?flink-conf已经配置,但是启动的任务使用槽集中在一个机器上,我想设置任务的节点槽数,来打散任务并行分布的节点。

问答 2024-02-01 来自:开发者社区

Flink CDC里提交任务异常是为什么?

Flink CDC里提交任务异常是为什么?Exception in thread "main" java.lang.IllegalStateException: Failed to load config file "/Users/lijianqiang/Desktop/workfile/soft/flinkcdc3.0/flink-cdc-3.0.0/bin/../conf/flink-cdc....

问答 2024-02-01 来自:开发者社区

Flink CDC里 job任务,source端30分钟左右没有发送数据到flink什么情况?

Flink CDC里 job任务,source端30分钟左右没有发送数据到flink(小于20分钟左右或有源源不断的数据就是正常的),就会出现这种情况,15分钟左右后数据才到sink端库,调了一些参数优化,反复测试都是这样,有哪位遇到过,咋解决的呀?

问答 2024-02-01 来自:开发者社区

Flink CDC里启动任务之后,为什么莫名出现重复?

Flink CDC里启动任务之后,checkpoint 的 checkpointed data size很小,并且生成时间极长(超过半个小时)的情况吗?似乎没有正常完成checkpoint,很容易失败,导致整个任务挂掉。但是日志没有报错,只有一段比较奇怪的重复,像是一直在重试读取一样的mysql binlog片段,flink 版本1.7.0, cdc 版本 3.0.0,这该怎么解决?

文章 2024-01-26 来自:开发者社区

在使用Spring Boot启动Flink处理任务时

在使用Spring Boot启动Flink处理任务时,如果使用了Spring Boot的@Scheduled注解进行定时任务调度,可能会出现内存占用过高的情况。这是因为Spring Boot的@Scheduled注解会在一个新的线程中执行定时任务,而这个新的线程会持有Flink环境的引用,导致Flink环境无法被垃圾回收。 ...

问答 2024-01-24 来自:开发者社区

用这两个flink run的参数提交任务到集群上,为什么在管理页面显示container数量不一样?

我用这两个flink run的参数提交同一个任务到yarn集群上,在yarn的管理页面显示启动的container数量不一样。为什么?实际应该用那个呢?bin/flink run -t yarn-per-job -ys 2 -yjm 1G -ytm 4G -p 5 -saebin/flink run -t yarn-per-job -p 5 -sae -Djobmanager.memory.p.....

问答 2024-01-24 来自:开发者社区

Flink CDC如果要从检查点重启任务,怎么在yaml中加上检查点的路径呢,有什么文档可以参考吗?

在Flink CDC中要从检查点重启任务,如何在YAML配置文件中添加检查点的路径?是否有相关文档或方法可以参考来重启Flink CDC 3.0的任务?具体怎样使用命令bin/flink run -s进行重启,应该指定哪个JAR包?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注