文章 2022-02-24 来自:开发者社区

美团 Flink 大作业部署与状态稳定性优化实践

摘要:本篇内容整理自美团数据平台工程师冯斐、王非凡在 Flink Forward Asia 2021 的演讲。主要内容包括:相关背景大作业部署优化Checkpoint 跨机房副本状态稳定性相关优化未来规划FFA 2021 直播回放 & 演讲 PDF 下载一、相关背景美团 Flink 的应用场景覆盖了社区定义的三种场景:应用比较多的是数据管道场景,比如数仓 ODS 层数据的实时接入,或跨数....

美团 Flink 大作业部署与状态稳定性优化实践
阿里云文档 2022-01-25

别名变化对Flink状态兼容性的影响

别名的变化不影响状态的兼容性。

文章 2021-12-24 来自:开发者社区

Flink线上问题汇总篇(1)-状态过期导致的sum结果负数问题

flink任务上线运行有一段时间了一直很稳定,这两天忽然发现有些“丢数据”的现象。这是怎么回事呢?用这篇文章记录一下踩坑之路。任务要求: 我们这个任务要达到的效果是汇总每月的业务量,需要按照具体分类分组。业务量绝对不会出现负数的问题,但是现在汇总出来的居然存在负数!肯定是某个环节出现了问题。排查思路: 我这个任务使用的是flink的table api操作比较简单。最先发现数据不正常是发现fl...

文章 2021-12-10 来自:开发者社区

Flink状态管理与Checkpoint实战——模拟电商订单计算过程中宕机的场景,探索宕机恢复时如何精准继续计算订单(下)

public class VideoOrderSourceV2 extends RichParallelSourceFunction<VideoOrder> { private volatile Boolean flag = true; private Random random = new Random(); private static List<V...

Flink状态管理与Checkpoint实战——模拟电商订单计算过程中宕机的场景,探索宕机恢复时如何精准继续计算订单(下)
文章 2021-12-10 来自:开发者社区

Flink状态管理与Checkpoint实战——模拟电商订单计算过程中宕机的场景,探索宕机恢复时如何精准继续计算订单(上)

Flink的状态与容错是这个框架很核心的知识点。其中一致检查点也就是Checkpoints也是Flink故障恢复机制的核心,这篇文章将详细介绍Flink的状态管理和Checkpoints的概念以及在生产环境中的参数设置。什么是State状态?在使用Flink进行窗口聚合统计,排序等操作的时候,数据流的处理离不开状态管理是一个Operator的运行的状态/历史值,在内存中进行维护流程:一个算子的子....

Flink状态管理与Checkpoint实战——模拟电商订单计算过程中宕机的场景,探索宕机恢复时如何精准继续计算订单(上)
问答 2021-12-10 来自:开发者社区

Flink CEP 编程中当状态没有到达的时候会将数据具体保存在哪里呀?

Flink CEP 编程中当状态没有到达的时候会将数据具体保存在哪里呀?

问答 2021-12-10 来自:开发者社区

Flink 中 exactly-once 语义是如何实现的,状态具体是如何存储的呀?

Flink 中 exactly-once 语义是如何实现的,状态具体是如何存储的呀?

问答 2021-12-10 来自:开发者社区

Flink 状态机制到底是什么呢?

Flink 状态机制到底是什么呢?

问答 2021-12-09 来自:开发者社区

Flink中keyed state的托管状态是怎样的?

Flink中keyed state的托管状态是怎样的?

问答 2021-12-09 来自:开发者社区

flink的状态后端机制是什么?

flink的状态后端机制是什么?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注