问答 2022-07-07 来自:开发者社区

请问怎么在Flink OOM的时候生成HeapDump?

请问怎么在Flink OOM的时候生成HeapDump?

问答 2022-02-15 来自:开发者社区

看源码有个小问题,RocksDBStateBackend 的 writeOptions 都把 disableWAL 设为 true, 是为了加速么?那如果地址放在内存盘里,是不是这里就不能这样了? 另外现在 Flink 状态管理很粗放,HeapKeyedStateBackend & DefaultOperatorStateBackend 都是直接放入堆内存且各种 copy,经常导致 OOM,这点 dataArtisans 的同学说暂时没太多改进计划...

转自钉钉群21789141:看源码有个小问题,RocksDBStateBackend 的 writeOptions 都把 disableWAL 设为 true, 是为了加速么?那如果地址放在内存盘里,是不是这里就不能这样了?另外现在 Flink 状态管理很粗放,HeapKeyedStateBackend & DefaultOperatorStateBackend 都是直接放入堆内存且各种 ...

问答 2021-12-06 来自:开发者社区

flink 1.11 local execution oom问题

我在使用1.11版本在本地idea起一个作业时,并发为1,抛出了如下关于内存的异常。。问题是之前从来没有显示配置过taskmanager的memory参数,这是为何? 感觉由1.10升级到1.11问题还是挺多的。。我尝试增加了JVM参数,增加DirectMemory内存配置,还是没有作用,请教大神帮忙看下。 Exception in thread "main" java.lang.OutOfM.....

文章 2021-01-06 来自:开发者社区

详解 Flink 容器化环境下的 OOM Killed

作者:林小铂 在生产环境中,Flink 通常会部署在 YARN 或 k8s 等资源管理系统之上,进程会以容器化(YARN 容器或 docker 等容器)的方式运行,其资源会受到资源管理系统的严格限制。另一方面,Flink 运行在 JVM 之上,而 JVM 与容器化环境并不是特别适配,尤其 JVM 复杂且可控性较弱的内存模型,容易导致进程因使用资源超标而被 kill 掉,造成 Flink 应用的不....

详解 Flink 容器化环境下的 OOM Killed
问答 2019-04-12 来自:开发者社区

求教经验:Flink程序怎么排查OOM问题

现在写的一个flink程序偶尔会出现OOM,但是不知道这问题该如何查起,报错日志可能并不是引起OOM的根本原因。又或者由于多个算子运行在同一个taskmanager上,可能是被另一个算子占用了太多内存。等等。想请教下遇到OOM的问题时,大家都是怎样去进行问题分析排查以及优化的,希望大佬们传授下经验,谢谢。

问答 2018-10-10 来自:开发者社区

请教一下,Standalone的Flink程序运行的时候出OOM了,想DUMP出堆日志来看,请问在Flink里面怎么做类似于HeapDumpOnOutOfMemoryError 的事情?

转自钉钉群21789141:请教一下,Standalone的Flink程序运行的时候出OOM了,想DUMP出堆日志来看,请问在Flink里面怎么做类似于HeapDumpOnOutOfMemoryError 的事情?./flink run /Users/test/project/FlinkSampleMvn/target/FlinkSampleMvn-1.0-SNAPSHOT.jar -yD en....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注