问答 2020-04-15 来自:开发者社区

flink写hdfs任务 设置了checkpoint 每天一个新目录 服务正常运行 但是发现有不少处

flink写hdfs任务 设置了checkpoint 每天一个新目录 服务正常运行 但是发现有不少处于inprogress状态的文件 未进行正常flush 是不是缺少什么配置呀?

文章 2020-03-17 来自:开发者社区

SQL 开发任务超 50% !滴滴实时计算的演进与优化

摘要:Apache Flink 是一个分布式大数据处理引擎,可对有限数据流和无限数据流进行有状态计算。可部署在各种集群环境,对各种大小的数据规模进行快速计算。滴滴基于 Apache Flink 做了大量的优化,也增加了更多的功能,比如扩展 DDL、内置消息格式解析、扩展 UDX 等,使得 Flink 能够在滴滴的业务场景中发挥更大的作用。本文中,滴滴出行实时计算负责人、高级技术专家梁李印分享了 ....

文章 2020-03-11 来自:开发者社区

有赞实时任务优化:Flink Checkpoint 异常解析与应用实践

作者:沈磊(有赞大数据) 有赞实时任务主要以 Flink 为主,为了保证实时任务的容错恢复以及停止重启时的状态恢复,几乎所有的实时任务都会开启 Checkpoint 或者触发 Savepoint 进行状态保存。由于 Savepoint 底层原理的实现和 Checkpoint 几乎一致,本文结合 Flink 1.9 版本,重点讲述 Flink Checkpoint 原理流程以及常见原因分析,让用户....

有赞实时任务优化:Flink Checkpoint 异常解析与应用实践
问答 2020-01-03 来自:开发者社区

请教一下,flink任务不开启checkpoint的话,状态后端采用rocksdb的话,这种情况的出

请教一下,flink任务不开启checkpoint的话,状态后端采用rocksdb的话,这种情况的出来逻辑大概是什么样的呀?每条状态都读写rocksdb吗? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。

问答 2019-12-16 来自:开发者社区

flink 一个流计算多个任务和 还是一个流一个任务好?

flink 一个流计算多个任务和 还是一个流一个任务好? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。

问答 2019-12-16 来自:开发者社区

大佬们 flink1.9 停止任务手动保存savepoint的命令是啥?

大佬们 flink1.9 停止任务手动保存savepoint的命令是啥? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。

问答 2019-12-16 来自:开发者社区

请教下现在从哪里可以可以看单任务的运行状况和内存占用情况,flink页面上能看单个任务的内存、cpu

请教下现在从哪里可以可以看单任务的运行状况和内存占用情况,flink页面上能看单个任务的内存、cpu 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。

问答 2019-12-13 来自:开发者社区

flink从checkpoint中恢复任务失败

您好,问题如下。通过命令执行从checkpoint中恢复任务报如下错误,checkpoint是成功的,任务运行时这个文件是存在的,当任务手动cancel之后,这个文件被删除了,手动恢复是找不到这个文件。 Caused by: java.nio.file.NoSuchFileException: /tmp/flink-io-8d0e1ae7-31bf-4789-a68c-8f1bc979f678/....

问答 2019-11-29 来自:开发者社区

各位大佬,flink任务的并发数调大到160+以后,每隔几十分钟就会出现一次TM节点连接丢失的异常,

各位大佬,flink任务的并发数调大到160+以后,每隔几十分钟就会出现一次TM节点连接丢失的异常,导致任务重启。并发在100时运行比较稳定,哪位大佬可以提供下排查的思路? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。

问答 2019-11-22 来自:开发者社区

问一下flink提交任务出现这个问题,有遇到过的吗?

问一下flink提交任务出现这个问题,有遇到过的吗? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注