问答 2021-12-07 来自:开发者社区

Flink Job的提交流程 用户提交的Flink Job会被转化成一个DAG任务运行,分别是什么?

Flink Job的提交流程 用户提交的Flink Job会被转化成一个DAG任务运行,分别是什么?

问答 2021-12-07 来自:开发者社区

flink on yarn 的application模式怎么提交多个job组成应用程序呢?

1.flink on yarn 的application模式怎么提交多个job组成应用程序呢?在官网和论坛的文章中这里没有详细展开。 与per-job 模式相比,Application 模式允许提交由多个Job组成的应用程序。Job执行的顺序不受部署模式的影响,但受启动Job的调用的影响。使用阻塞的 execute()方法,将是一个顺序执行的效果,结果就是"下一个"Job的执行被推迟到“该”J.....

问答 2021-12-07 来自:开发者社区

flink的job运行一段时间后, checkpoint就一直失败

ID Status Acknowledged Trigger Time Latest Acknowledgement End to End Duration State Size Buffered During Alignment 295 FAILED 30/5011:55:3811:55:391h 0m 0s205 KB0 B Checkpoint Detail: Path: - Discar....

问答 2021-12-07 来自:开发者社区

flink web UI job overview 中的算子记录条数不更新

Hello,麻烦问下,为啥算子链 默认合并之后,数据更新,算子对应的接收和发送记录数不更新,一直显示为0. 图片发送了看不到,请看附件*来自志愿者整理的flink邮件归档

问答 2021-12-07 来自:开发者社区

Flink如何实现Job间的协同联系?

大家好, 我这边想做一个实时数仓项目。但随着Flink间Job的数量越来越多,发现很多Job之间的代码存在大量的重复,且迫切需要一个类似于Batch的中间层解决方案来减少冗余,增加整体的清晰度和层次感。 我这边能想到的解决方案是:采用Kafka作为Job之间的联系纽带,例如有两个Job Job_1: 从原始kafka topic TOPIC_ORIG获取数据, 进行一定的业务逻辑处理后,写到另一....

问答 2021-12-07 来自:开发者社区

Flink Job 监控

各位好! 请教下各位,Flink Job 在生产上运行时,关于job运行状态的监控和告警一般是采用什么方案处理的? 比如监控job是否在正常运行,如果发现job 挂掉了 或者重启了 就进行告警。我这边有将一些metric 推到prometheus 但是好像没有发现关于job是否挂掉的metric。 希望有做过这种方案的朋友能赐教下,谢谢了!!*来自志愿者整理的flink邮件归档

问答 2021-12-07 来自:开发者社区

Flink 1.11 submit job timed out

使用版本Flink 1.11,部署方式 kubernetes session。 TM个数30个,每个TM 4个slot。 job 并行度120.提交作业的时候出现大量的No hostname could be resolved for the IP address,JM time out,作业提交失败。web ui也会卡主无响应。 用wordCount,并行度只有1提交也会刷,no hostn.....

问答 2021-12-07 来自:开发者社区

flink 聚合 job 重启问题

请教个问题,我通过程序拉取kafka消息后,注册为flink流表。然后执行sql: "select user_id, count(*)cnt from 流表", 将结果写入到mysql 聚合表中(SINK组件为:flink1.11版本JdbcUpsertTableSink)。 但问题是,每次JOB重启后,之前mysql 聚合表结果会被清空。我设置了checkpoint和racksdbbacken....

问答 2021-12-06 来自:开发者社区

job已经跑起来了,但是flink的ui页面卡住了是什么原因?

job已经跑起来了,但是flink的ui页面卡住了,一直出不来。 又遇到过这个问题的么。是什么原因。 *来自志愿者整理的flink邮件归档

问答 2021-12-06 来自:开发者社区

flink sql job 提交到yarn上报错怎么办?

org.apache.flink.runtime.entrypoint.ClusterEntrypointException: Failed to initialize the cluster entrypoint YarnJobClusterEntrypoint. at org.apache.flink.runtime.entrypoint.ClusterEntrypoint.startCl.....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注