问答 2023-03-07 来自:开发者社区

checkpoint保存kafka offset吗?

checkpoint保存kafka offset吗?我模式设置的是从最新开始消费,当任务从checkpoint重启时,感觉没从上次offset开始消费,任务停掉后到重启中间的数据没消费到。

问答 2023-02-14 来自:开发者社区

实时计算 Flink版这种kafka offset模式应该怎么设置?

kafka的offset有没有保存在checkoutpoint里。比如我一个任务每天上午运行,中午后就关掉,第二天早上在启动,早上启动后从最新的kafka数据开始读。但是如果上午任务失败或者重启啥的从上次offset读。这种kafka offset模式应该怎么设置,设置group-offset应该不行吧,中午关闭后到第二天早上启动前的数据都不要

文章 2023-01-10 来自:开发者社区

SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)

pom.xml<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> <version>2.6.0...

SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
文章 2022-11-26 来自:开发者社区

flink 手动维护kafka offset

flink 自定义管理kafka offset我们都知道flink 程序自行设置指定offset配合checkpint 的方式,来获取便宜量。并且可以通过state和设置事件语义,达到exactly-once.但是仍然有一些场景需要自己手工管理offset.用过spark的同学都知道,spark在读取kafka数据后,DStream(准确是InputDStream[ConsumerRecord[....

问答 2022-11-22 来自:开发者社区

请问下,sink还没有成功,执行checkpoint会把这条数据的offset提交到kafka吗?会

请问下,sink还没有成功,执行checkpoint会把这条数据的offset提交到kafka吗?会不会存在还没sink成功,但已经把offset提上去了的情况呢?

问答 2022-11-05 来自:开发者社区

Records Send 和 Received 跟我kafka中的offset对不上是为啥 比off

Records Send 和 Received 跟我kafka中的offset对不上是为啥 比offset多很多

问答 2022-09-10 来自:开发者社区

1.15.1的kafka source consumer offset 存哪里啊?

1.15.1的kafka source consumer offset 存哪里啊?

问答 2022-09-08 来自:开发者社区

首次全量后续从某一个 kafka offset 开始跟上 flink cdc 的同步吗?

mysql 里有一张表需要同步给其他系统,我想使用 "mysql --> flink cdc --> kafka --> 其他系统订阅" 的方式实现,现在的问题是,如果有个系统订阅 kafka 后,只能消费到中途的 binlog,请问这种情况有什么办法 首次全量后续从某一个 kafka offset 开始跟上 flink cdc 的同步吗?

问答 2022-08-30 来自:开发者社区

请教下flink消费kafka后sink算了报错了然后重试了失败后依然提交了offset,这个怎么解

请教下flink消费kafka后sink算了报错了然后重试了失败后依然提交了offset,这个怎么解决啊,有没有老铁知道的。

问答 2022-07-27 来自:开发者社区

写Flink-API代码不是可以指定消费KAFKA的数据是从最新的位置、最早的位置、当前OFFSET

写Flink-API代码不是可以指定消费KAFKA的数据是从最新的位置、最早的位置、当前OFFSET三种方式进行数据读取吗?Flink-SQL 如何指定?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云消息队列

涵盖 RocketMQ、Kafka、RabbitMQ、MQTT、轻量消息队列(原MNS) 的消息队列产品体系,全系产品 Serverless 化。RocketMQ 一站式学习:https://rocketmq.io/

+关注