文章 2022-10-10 来自:开发者社区

KafkaConsumer-Kafka从入门到精通(十)

上篇文章说了,消息压缩可以看分情况进行,判断下服务器cpu空闲还是io空闲较多,如果cpu空闲较多,则考虑消息积压,反之则不考虑。还有消费者组,consumer group,对于同一个group,只会发送一条消息进入一个实例。位移提交在0.9.0.0版本之前是保存到zookeeper,后来版本是保存在内部topic的__consumer offsets。消费者组consumer group详解-....

文章 2022-10-10 来自:开发者社区

消费者组consumer group详解-Kafka从入门到精通(九)

上篇文章说了,kafka可以通过实现partitioner自定义分区,producer拦截器,拦截器是在producer发送消息之后,回调之前调用,里面主要重写两个方法,一个是onSend,可以重新定义发送的消息,一个是在回调之前调用,onAcknowledgement在回调之前调用,可以记录发送成功或者失败的消息数量。无消息丢失配置,首先保证一个问题,消息不会丢失,要acks设置为all或者-....

消费者组consumer group详解-Kafka从入门到精通(九)
文章 2022-10-10 来自:开发者社区

producer参数---Kafka从入门到精通(七)

上篇文章说了,kafka需要先构造properties指定server和kafka集群,key 和 value用stringSerialize序列化,通过producer发送send,需要records参数指定topic和value,之后发送消息,有异步和同步,最后关闭。构造producer---Kafka从入门到精通(六)一、producer参数除了前面说的三个servers,和key.ser....

文章 2022-10-10 来自:开发者社区

构造producer---Kafka从入门到精通(六)

上篇文章说了,kafka新版旧版的区别,producer全部异步发消息,并且提供回调机制callback,判断是否成功,通过分批次发送batching保证吞吐量,分区策略更加合理,旧版本默认是在一段时间内把消息发到固定区域,新版本采用轮询,消息更加均匀。Consumer新版为单线程执行,单个consumer线程管理多个socker,在10版本后,加入了心跳线程,这最多也就算了是双线程。偏移量 在....

文章 2022-10-10 来自:开发者社区

Kafka历史---Kafka从入门到精通(五)

上篇文章介绍了kafka以紧凑的二进制来保存kafka的基础数据,这样能提高内存的利用率。Offset有两个不同的概念。ISR意思是replica保证数据与leader同步一致,只有一个partition里的replica集合全部接受到数据,才会标记消息发送成功。Kafka组成&使用场景---Kafka从入门到精通(四)一、kafka的历史、新版本总所周知,kafka是美国一家Linke....

文章 2022-10-10 来自:开发者社区

Kafka组成&使用场景---Kafka从入门到精通(四)

上篇文章介绍了kafka的设计概要,有点对点的队列模式,和消费生产的topic模式,kafka有着高吞吐,低延迟,伸缩性,消息持久化,负载均衡故障转移特性,kafka跟其他处理内存方式不同,内存高命中率来保证发送消息直接在内存操作,而持久化直接交给系统去处理,并且持久化采用的是顺序IO,sendFile零拷贝来保证高吞吐。Kafka的负载均衡则是采用broken和topic每个都有一个maste....

Kafka组成&使用场景---Kafka从入门到精通(四)
文章 2022-10-10 来自:开发者社区

kafka概要设计---Kafka从入门到精通(三)

上篇文章介绍了springboot集成kafka并且成功消费消息。kafka安装及使用---Kafka从入门到精通(二)1、消息引擎范型最常见的消息引擎范型是消息队列模型和发布/订阅 模型。消息队列(message queue)模型是基于队列提供消息传输服务的,多用于进程间的通信以及线程间的通信。该模式定义了消息队列queue,发送者sender,接收者receiver,提供了一种点对点的消息传....

文章 2022-10-10 来自:开发者社区

kafka安装及使用---Kafka从入门到精通(二)

前面说了kafka的topic有分区的概念,每个分区又有leader 和 follower,kafka听过ack机制保证消息的可靠性。初识kafka---Kafka从入门到精通(一)1、下载安装zookeeper下载地址:http://zookeeper.apache.org/releases.html#download1、进入解压地址,进入D:\apache-zookeeper-3.8.0\c....

kafka安装及使用---Kafka从入门到精通(二)
文章 2022-10-10 来自:开发者社区

初识kafka---Kafka从入门到精通(一)

Kafka中的消息是以topic进行分类的,生产者生产消息,消费者消费消息都是面向topic。而每个topic里面都是有分区的概念,一个topic有三个分区,而每个分区都是有分区leader(partition leader)和partition follower,注意重点,每个leader和follower对应的在不同的服务器,否则一个服务器挂掉了,则没有任何备份的意义。每个数据都有offse....

文章 2022-09-11 来自:开发者社区

iLogtail社区版使用入门 - 如何将业务日志采集到Kafka

iLogtail是阿里云日志服务(SLS)团队自研的可观测数据采集Agent,拥有的轻量级、高性能、自动化配置等诸多生产级别特性,可以署于物理机、虚拟机、Kubernetes等多种环境中来采集遥测数据。iLogtail在阿里云上服务了数万家客户主机和容器的可观测性采集工作,在阿里巴巴集团的核心产品线,如淘宝、天猫、支付宝、菜鸟、高德地图等也是默认的日志、监控、Trace等多种可观测数据的采集工具....

iLogtail社区版使用入门 - 如何将业务日志采集到Kafka

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

消息队列

消息队列是构建分布式互联网应用的基础设施,通过消息队列实现的松耦合架构设计可以提高系统可用性以及可扩展性,是适用于现代应用的优秀设计方案。

+关注