问答 2024-06-02 来自:开发者社区

Flink exactly once需要Barrier对齐吗

Flink exactly once需要Barrier对齐吗

问答 2024-02-06 来自:开发者社区

Flink CDC里tidb 支持exactly once 这个bug啥时修复?

Flink CDC里tidb 支持exactly once 这个bug啥时修复?

文章 2023-12-27 来自:开发者社区

读Flink源码谈设计:Exactly Once

本文首发于泊浮目的语雀:https://www.yuque.com/17sing 版本 日期 备注 1.0 2022.2.2 文章首发 1.1 2022.2.14 更新3.4部分,增强注释部分 1.2 2022.2.27 更新3.6部分,删除部分对于1.14版本不...

读Flink源码谈设计:Exactly Once
问答 2023-01-15 来自:开发者社区

Flink CDC为了保证数据一致性,其中写入Kafka必须是Exactly Once吗?

Flink CDC消费MySQL写入到Kafka,再消费Kafka到另一个MySQL。为了保证数据一致性,其中写入Kafka必须是Exactly Once,还是At Least Once就可以?(因为binlog是ROW模式,即便是数据重复,只要保证数据顺序,是不是结果就是一致的?)

问答 2022-11-22 来自:开发者社区

flink任务每次重启的时候会丢失一些数据,请问大家有遇到过吗?设置了exactly - once,

flink任务每次重启的时候会丢失一些数据,请问大家有遇到过吗?设置了exactly - once,跟我杀死job的时候和重启没有用savepoint,有关系吗?

文章 2022-09-02 来自:开发者社区

技术解析|Doris Connector 结合 Flink CDC 实现 MySQL 分库分表 Exactly Once 精准接入

本篇文档将演示如何使用 Apache Doris Flink Connector 结合 Flink CDC 以及 Doris Stream Load 的两阶段提交,实现 MySQL 数据库分库分表实时高效接入,并实现 Exactly Once。一、概述在实际业务系统中为了解决单表数据量大带来的各种问题,我们通常采用分库分表的方式对库表进行拆分,以达到提高系统的吞吐量。但是这样给后面数据分析带来了....

技术解析|Doris Connector 结合 Flink CDC 实现 MySQL 分库分表 Exactly Once 精准接入
问答 2021-12-07 来自:开发者社区

Apache中Flink提供的Exactly once的一致性保证是什么意思?

Apache中Flink提供的Exactly once(严格一次)的一致性保证是什么意思?

问答 2021-12-06 来自:开发者社区

Flink连接器这块,如果是sink到mysql,ES等,有对应的实现exactly once语义么

Flink连接器这块,如果是sink到mysql,ES等,有对应的实现exactly once语义么? 比如kafka的连接有sink的exactly once语义,sink时候指定即可. 那么,如果是mysql后者其他的有么? 谢谢. return new FlinkKafkaProducer011<>( "topic", new KeyedSerializationSchemaWr...

问答 2020-07-28 来自:开发者社区

Flink sink kafka EXACTLY ONCE 执行checkpoint失败

#环境 Flink 版本: 1.10.1 kafka 版本:2.12-2.2.2 DAG:source kafka->etl->sink kafka 在at least once模式下运行正常,改为extractly once执行checkpoint每次都不成功。 #配置 尝试过增加以下配置: props.setProperty(ProducerConfig.TRANSACTION_T...

问答 2020-07-06 来自:开发者社区

flink EXACTLY ONCE该怎么理解呢? 如果checkpoint 10秒一次#Flink

flink EXACTLY ONCE该怎么理解呢? 如果checkpoint 10秒一次,那在第九秒系统崩溃,那这9秒内的数据不是又会重新消费?#Flink

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注