文章 2021-12-31 来自:开发者社区

《kafka问答100例 -2》 创建Topic的时候 什么时候在Broker磁盘上创建的日志文件

kafka创建Topic的时候 什么时候在Broker磁盘上创建的日志文件?当Controller监听zk节点/brokers/topics变更之后,将新增的Topic 解析好的分区状态流转NonExistentPartition->NewPartition->OnlinePartition 当流转到OnlinePartition的时候会像分区分配到的Broker发送一个leader....

《kafka问答100例 -2》 创建Topic的时候 什么时候在Broker磁盘上创建的日志文件
问答 2021-12-10 来自:开发者社区

Kafka中查看TimeIndex文件的命令是什么?

Kafka中查看TimeIndex文件的命令是什么?

问答 2021-12-10 来自:开发者社区

Kafka中查看log文件的代码是什么?

Kafka中查看log文件的代码是什么?

问答 2021-12-10 来自:开发者社区

Kafka中查看分区.index文件的代码是什么?

Kafka中查看分区.index文件的代码是什么?

问答 2021-12-07 来自:开发者社区

kafka中为什么会导致文件发送失败?

kafka中为什么会导致文件发送失败?

问答 2021-12-01 来自:开发者社区

Flink 消费kafka ,怎么写ORC文件?

【现状如下】 Flink Job消费kafka消息,每半个小时将消费到的消息进行一系列聚合操作(flink 窗口聚合),然后写入一个orc文件。 据了解,flink写orc的桶分配策略[1],有两种: 一种是基于时间,即按时间为目录创建orc文件。[test/realtime/ : 为根目录] test/realtime/ └── 2021-03-23--07 ├── part-0-0.o...

问答 2021-10-24 来自:开发者社区

kafka中的顺序写入是在log文件中写入时,顺序写入吗?

kafkad的顺序读写是指哪些方面???

问答 2021-10-24 来自:开发者社区

kafka将数据文件分割成多段数据查找数据时不慢吗???

分割成多段文件时查找时不慢吗????

问答 2020-03-13 来自:开发者社区

flink将kafka中的数据落地到hdfs,在小文件和落地效率方面有什么好的建议?

背景: 现在使用的是spark streaming消费kafka的数据,然后落地到hdfs目录,产生了2个问题: 1、对于数据量较大的topic,且使用压缩存储之后,spark streaming程序会出现延迟。 2、落地的数据文件里有大量的小文件产生,namenode的压力增大 对于问题1,暂时分析是每小时将落地的临时目录的文件移到正式目录引起的,暂时没有找到解决办法 对于问题2,有...

问答 2019-02-14 来自:开发者社区

flink可以监听kafka, mq等。可以监听文件,或者zookeeper嘛?如果有新的消息,flink要可以读取到。

转自钉钉群21789141:flink可以监听kafka, mq等。可以监听文件,或者zookeeper嘛?如果有新的消息,flink要可以读取到。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云消息队列

涵盖 RocketMQ、Kafka、RabbitMQ、MQTT、轻量消息队列(原MNS) 的消息队列产品体系,全系产品 Serverless 化。RocketMQ 一站式学习:https://rocketmq.io/

+关注