文章 2022-11-12 来自:开发者社区

【Flink-FlinkUtils】高级自定义封装工具类实现消费kafka数据保存数据到Redis

一、FlinkKafkaToRedis思考一个问题:flink程序运行的时候,我们可以通过神魔样的形式进行传值?1.写死程序传值2.args[0],程序动态传值ParameterTool parameters = ParameterTool.fromPropertiesFile(args[0]); DataStream<String> lines = FlinkUtils.crea.....

【Flink-FlinkUtils】高级自定义封装工具类实现消费kafka数据保存数据到Redis
问答 2022-08-24 来自:开发者社区

大佬们,有kafka监控指标自定义的代码Demo么

大佬们,有kafka监控指标自定义的代码Demo么

问答 2022-08-03 来自:开发者社区

提交的job有使用kafka自定义序列化器有用到第三方jar包,提交job的时候出现异常,有大佬帮

提交的job有使用kafka自定义序列化器有用到第三方jar包,提交job的时候出现异常,有大佬帮帮看看吗

问答 2022-07-07 来自:开发者社区

请教各位大佬,flink kafka 自定义source 如何保证精准一次消费

请教各位大佬,flink kafka 自定义source 如何保证精准一次消费

文章 2022-06-11 来自:开发者社区

【Kafka】(十二)Kafka 自定义分区器

一、默认的分区策略(1) 如果键值为 null,并且使用了默认的分区器,那么记录将被随机地发送到主题内各个可用的分区上。分区器使用轮询(Round Robin)算法将消息均衡地分布到各个分区上。(2) 如果键不为空,并且使用了默认的分区器,那么 Kafka 会对键取 hash 值然后根据散列值把消息映射到特定的分区上。这里的关键之处在于,同一个键总是被映射到同一个分区上,所以在进行映射时,我们会....

文章 2022-06-09 来自:开发者社区

Flink 1.14.0 消费 kafka 数据自定义反序列化类

在最近发布的 Flink 1.14.0 版本中对 Source 接口进行了重构,细节可以参考 FLIP-27: Refactor Source Interface重构之后 API 层面的改动还是非常大的,那在使用新的 API 消费 kafka 数据的时候如何自定义序列化类呢?Kafka SourceKafkaSource<String> source = KafkaSource.&am...

文章 2022-05-30 来自:开发者社区

【源码解读】Flink-Kafka连接器自定义序列器和分区器

@TOC开篇导语Flink将数据sink至Kafka的过程中,在初始化生产者对象FlinkKafkaProducer时通常会采用默认的分区器和序列化器,这样数据只会发送至指定Topic的某一个分区中。对于存在多分区的Topic我们一般要自定义分区器和序列化器,指定数据发送至不同分区的逻辑。此篇博客所涉及的组件版本Flink:1.10.0Kafka:2.3.0序列化器在Kafka生产者将数据写入至....

问答 2022-04-24 来自:开发者社区

我自定义了一个Kafka reporter用来上报flink的metric,但是写不到Kafka

自定义了一个Kafka reporter继承abstractreporter类,实现scheduled接口,重写了report方法,将数据发送至Kafka,在配置文件也正确配置了,但是Kafka里没数据

问答 2021-12-11 来自:开发者社区

Kafka自定义资源组的使用背景是什么?

Kafka自定义资源组的使用背景是什么?

问答 2021-12-07 来自:开发者社区

kafka中如果自定义分区逻辑复杂的话应该用什么参数来自行定义?

kafka中如果自定义分区逻辑复杂的话应该用什么参数来自行定义?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云消息队列

涵盖 RocketMQ、Kafka、RabbitMQ、MQTT、轻量消息队列(原MNS) 的消息队列产品体系,全系产品 Serverless 化。RocketMQ 一站式学习:https://rocketmq.io/

+关注