问答 2024-05-08 来自:开发者社区

请教一下Flink中jm、tm和并行度怎么分配资源合适?

我这边有一个作业,每小时大概有84W的数据量进来,然后业务延时特别高,想请教一下Flink中jm、tm和并行度怎么分配资源合适?作业参考:https://vvp.console.aliyun.com/web/d37a7343e1354f/zh/#/workspaces/d37a7343e1354f/namespaces/xygfmp-default/draft/179f7b8c-cc9d-4ee....

问答 2024-05-08 来自:开发者社区

Flink我创建了一个cdc任务,并且使用的是简单模式,在增量阶段增大并行度,会不会造成浪费资源?

Flink我创建了一个cdc任务,并且使用的是简单模式,在增量阶段增大并行度,会不会造成浪费资源,他后续算子会进行数据均衡吗?当我所有的算子都chain在一起的时候,会浪费资源吗?还是说他只能使用一个并行度的资源?

文章 2023-11-28 来自:开发者社区

在Flink中,每个并行度都需要分配一定的资源

这个问题可能是由于资源不足导致的。在Flink中,每个并行度都需要分配一定的资源,包括CPU、内存和网络带宽等。当任务需要的资源超过了可用资源时,就会出现类似“Could not acquire the minimum required resources”的错误提示。 针对这个问题,您可以尝试以下几种解决方法: 增加并行度&...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注