阿里云文档 2024-11-28

如何在Dataphin自定义Ververica Flink实时任务的资源

Ververica Flink实时任务资源自定义,即指实时计算Flink配置细粒度资源的专家模式 (BETA),Flink全托管引入的全新的资源配置模式,支持对作业所使用的资源进行细粒度的资源控制,以满足作业吞吐的要求。系统会自动根据您配置的资源需求,以Native K8s的模式运行作业,TM的规格和个数将会根据Slot的规格和作业并发度,由系统自动决定。本文将介绍如何在Dataphin自定义Ve...

文章 2024-04-19 来自:开发者社区

【Flink】怎么提交的实时任务,有多少Job Manager?

在 Flink 中提交实时任务时,通常只有一个 JobManager。JobManager 是 Flink 集群的主节点,负责接收、调度和管理作业的执行。一般情况下,每个 Flink 集群只有一个 JobManager,它是整个集群的控制中心。在某些情况下,可以通过配置高可用性(High Availability, HA)模式来启动多个 JobManager 实例,以提高集群的可靠性和容错性。接....

【Flink】怎么提交的实时任务,有多少Job Manager?
问答 2024-04-17 来自:开发者社区

Flink任务没有背压,也没有报错,请教下这种情况需要从哪里入手?

大佬们:Flink任务没有背压,也没有报错,大流量的时候上游Kafka积压很多,但是Flink消费组的消费速率并不会变大;如果重启Flink任务,刚开始的时候会很快消费掉,过一段时间以后,又恒定低速度消费了请教下这种情况需要从哪里入手?

问答 2024-04-15 来自:开发者社区

Flink CDC里我使用3.0的版本 flink1.18版本(官网示例使用版本)启动任务报错咋办?

Flink CDC里使用3.0的版本 flink1.18版本(官网示例使用版本)启动cdc3.0同步mysql 2 doris的任务报错,怎么解决?

问答 2024-04-15 来自:开发者社区

flink cdc读PG启动任务报这个错是什么原因啊?

flink cdc读PG启动任务报这个错是什么原因啊?org.apache.kafka.connect.errors.ConnectException: Error configuring an instance of PostgresConnectorTask; check the logs for detailsorg.apache.kafka.connect.errors.Connect.....

问答 2024-04-15 来自:开发者社区

Flink CDC里最近遇到一些表无法先全量再增量同步,具体表现就是启动任务后,一直没数据怎么办?

Flink CDC里最近遇到一些表无法先全量再增量同步,具体表现就是启动任务后,一直没数据,目前像这种表,我只能新启动个cdc任务从最新的binglog开始做数据同步,表的历史数据用离线补,有没有大佬知道是什么原因?

问答 2024-04-15 来自:开发者社区

flink cdc3.0 MySQL同步到Doris。看文档要编写yaml,后续同步任务添加怎么办?

flink cdc3.0 MySQL同步到Doris。看文档要编写yaml,那后续同步任务需要添加同步表怎么处理啊?

问答 2024-04-15 来自:开发者社区

Flink CDC里有遇到这种情况的吗,快速启动很多任务连接数据库超时?

Flink CDC里有遇到这种情况的吗,快速启动很多任务连接数据库超时?

问答 2024-04-14 来自:开发者社区

flink on yarn,stop 任务后,容器都已经退出了,大家有遇到过嘛?

flink on yarn,stop 任务后,flink job manager 、task manager 容器都已经退出了。但是 yarn 上的 AM 容器要很久(十几分钟,甚至30分钟都有)才会改为 Finished 状态,大家有遇到过嘛,资源回收这么久要如何排查和解决呢?

问答 2024-04-14 来自:开发者社区

flink 任务提交yarn 执行,yarn log有以上堆栈报错,是什么原因哈? 有遇到过的吗?

2024-04-08 10:27:42,328 INFO org.apache.hadoop.yarn.client.api.async.impl.AMRMClientAsyncImpl [] - Interrupted while waiting for queuejava.lang.InterruptedException: null at java.util.concurrent....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注