文章 2022-09-22 来自:开发者社区

Kafka/Spark/Flink Exactly-once语义调研

前言Exactly-once投递语义是分布式系统中最常遇到的话题,Exactly-once保证了哪怕系统发生故障,每一个 ETL 操作也仅会被执行一次,不会产生数据的丢失或者重复。这是数据投递的最强保证,很难实现这个等级的流处理数据投递。接下来是对于一些业界主流的Exactly-once投递语义的调研。本文主要关注的是方案的实现和技术点,重点在于方案的failover机制和高可用,对于分布式系统....

Kafka/Spark/Flink Exactly-once语义调研
问答 2022-02-15 来自:开发者社区

kafka exactly-once语义下,从svaepoint恢复报错怎么办?

您好:kafka在exactly-once语义下,从svaepoint恢复报错。初步排查认为是kafka事务使用了旧的epoch。请问这个问题怎么处理? //todo 通过配置传进来 env.setParallelism(1); env.enableCheckpointing(600000L, CheckpointingMode.EXACTLY_ONCE); // checkpoint的...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

消息队列

消息队列是构建分布式互联网应用的基础设施,通过消息队列实现的松耦合架构设计可以提高系统可用性以及可扩展性,是适用于现代应用的优秀设计方案。

+关注