云消息队列 Kafka 版
播放视频
云消息队列 Kafka 版是阿里云基于 Apache Kafka 构建的高吞吐量、高可扩展性的分布式消息队列服务,广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等场景,是大数据生态中不可或缺的产品之一,阿里云提供全托管服务,用户无需部署运维,更专业、更可靠、更安全。

产品规格

云消息队列 Kafka 版

专业版独享集群默认部署的 0.10.x 版本,支持无缝升级。
规格类型
专业版(高写版)
实例类型
VPC实例
磁盘容量
900GB

云消息队列 Kafka 版

Kafka 支持 0.10.x ~ 2.x 版本,默认部署的 0.10.x 版本
规格类型
标准版(高写版)
实例类型
VPC实例
磁盘容量
500GB

云消息队列 Kafka 版(Serverless版)

按量后付费,有效提高资源利用率
地域
华北2(北京)
规格类型
标准版
实例类型
VPC实例

产品优势

高弹性超大规格支持
深度优化内核,解决开源版本千级分区性能瓶颈,支持万级分区性能不受损;支持秒级扩容;支持最高 2GB 流量写入
免运维、易观测
全托管开箱即用,兼容主流开源版本和多语言客户端,支持一键升降配、订阅关系可视化、消息查询回溯、数据大盘和监控告警
领先的高 SLA 保障
支持灰度升级、升级/拖冷数据等极端场景写优化保障;全自动巡检运维体系保障,服务可用性达 99.95%,数据可靠性达 99.999999%
支持丰富的数据生态
提供全托管、免运维 Connector,支持连接海量云产品以及自建大数据生态产品,轻松实现数据集成和计算

产品功能

丰富的实例类型针对不同业务规模以及不同读写流量比例场景提供场景匹配的实例规格
标准版高写实例适用业务规模较小、成本敏感的轻量应用场景,实现低成本轻松上云
专业版高写实例适用大规模数据写入场景,提供高达2GB/s高水位数据写入,性能更强劲
专业版高读实例适用写少读多的大规模数据分发场景,提供高达3GB/s的数据读取带宽
全托管免运维服务云消息队列 Kafka 版丰富的运维经验,面向用户提供体系化的管理配套,轻松排查和解决问题
HouseKeeping(健康巡检组件)跨可用区、多副本数据冗余,数据可靠性 99.999999%,服务可用性 99.95%
业务监控与告警在海量消息堆积的情况下,始终保持 Kafka 集群的消息收、发的高吞吐能力
Open API(RESTful)完善的管控类 Open API 帮助用户实现自助资源管理和运维,采用 RESTful 标准,灵活便捷
数据回溯支持对已消费过的消息进行重新回放或清除堆积的消息,是帮助用户故障恢复的利器
全托管、免运维 Connector 支持一键配置即可连接海量云产品以及自建大数据生态产品,轻松实现数据集成和计算
FC Connector通过配置即可实现 Kafka 数据触发 FC 函数运行
MaxCompute Connector支持海量数据从 Kafka 直接导入 MaxCompute 数据表,方便后续离线计算处理
OSS Connector支持 Kafka 数据直接写 OSS 存储,实现数据长期低成本存储
Mysql Connector通过配置实现 Mysql 数据表变同步到 Kafka Topic,实现数据库增量变更同步等场景
海量数据生态对接云消息队列 Kafka 版兼容标准规范,支持海量开源组件或者云产品连接
Logstash 数据收集云消息队列 Kafka 版支持连接自建 Logstash服务,实现丰富的数据源导入和导出
Filebeat 日志收集云消息队列 Kafka 版支持连接自建 Filebeat 日志采集,经由 Kafka 流转到后方 ES 服务
Hbase、Spark 数据处理云消息队列 Kafka 版数据导入 Hbase 等存储,实现低成本存储和计算分析
Flink 实时数仓云消息队列 Kafka 版支持数据流转到 Flink,实现ETL处理、实时数据分析等业务
数据安全支持阿里云主子账号、鉴权与授权机制,提供企业级的安全防护
访问控制VPC 网络隔离,对每次消息收、发请求进行安全访问控制,确保消息的安全性
主子账号全面支持 RAM 主子账号、黑白名单、STS 等功能,提供授权能力
数据安全SASL 用户身份认证与 SSL 加密传输,确保数据传输过程中不被窃取或篡改,保证客户数据的安全

应用场景

构建日志分析平台
网站活动跟踪
流计算处理
数据中转枢纽
构建日志分析平台
淘宝、天猫平台等公司每天都会产生大量的日志。Kafka 性能高效,采集日志时业务无感知以及Hadoop/ODPS 等离线仓库存储和 Storm/Spark 等实时在线分析对接的特性决定它非常适合作为"日志收集中心"。
能够解决
应用与分析解耦
构建应用系统和分析系统的桥梁,并将它们之间的关联解耦;
在线/离线分析系统
支持实时在线分析系统和类似于Hadoop之类的离线分析系统;
推荐搭配使用
网站活动跟踪
通过云消息队列 Kafka 版可以实时收集网站活动数据(包括用户浏览页面、搜索及其他行为等)。发布-订阅的模式可以根据不同的业务数据类型,将消息发布到不同的 Topic;还可通过订阅消息的实时投递,将消息流用于实时监控与业务分析或加载到 Hadoop、ODPS 等离线数据仓库系统进行离线处理。​​
能够解决
高吞吐
网站所有用户产生的行为信息极为庞大,需要非常高的吞吐量来支持;
大数据分析
可对接 Storm/Spark 实时流计算引擎,亦可对接 Hadoop/ODPS 等离线数据仓库系统;
推荐搭配使用
流计算处理
股市走向分析、气象数据测控、网站用户行为分析等领域,由于数据产生快、实时性强、数据量大,所以很难统一采集并入库存储后再做处理,这便导致传统的数据处理架构不能满足需求。而云消息队列 Kafka 版以及 Storm/Samza/Spark 等流计算引擎的出现,可以根据业务需求对数据进行计算分析,最终把结果保存或者分发给需要的组件。
能够解决
高可扩展性
由于数据产生非常快且数据量大,需要非常高的可扩展性;
流计算引擎
可对接开源 Storm/Samza/Spark 以及 EMR、Blink、StreamCompute 等阿里云产品;
推荐搭配使用
数据中转枢纽
近年来KV存储(HBase)、搜索(ElasticSearch)、流式处理(Storm/Spark Streaming/Samza)、时序数据库(OpenTSDB)等专用系统应运而生,产生了同一份数据集需要被注入到多个专用系统内的需求。利用云消息队列 Kafka 版作为数据中转枢纽,同份数据可以被导入到不同专用系统中。
能够解决
一对多消费模型
发布/订阅模型,支持同份数据集能同时被消费多次;
同时支持实时和批处理
本地数据持久以及PageCache,在无性能损耗的情况下能同时传送消息到实时和批处理消费者;
推荐搭配使用

客户案例

骑士卡:基于 Kafka 搭建消息中心,上亿消息推送轻松完成
值得一提的是,使用云产品 Kafka ,无论在生产环境还是本地开发测试环境,都可以直接使用云产品,减少通用产品依赖,让团队专注于业务的开拓实现,极大的提升了团队工作效率。
小麦助教:通过阿里云原生中间件产品组合,加速微服务架构落地
开源自建 Kafka 运维投入大,在大规模场景下稳定性无法保障,开源 bug 没有解决,同时 SLA 无法保障。而阿里云云消息队列 Kafka 对产品内核进行全方位优化,解决开源产品长期以来的痛点,免运维、低成本、更稳定、大数据领域优选数据通道。
车主无忧:Kafka 商业版实践助力车主无忧系统稳健
“商业版的 Kafka 完全兼容开源的生态,接入方便容易,并且提供了优质的SLA保障,各种日常功能操作也简洁易用,综合使用成本有优势。总得来说就是省事省钱,质量有保证,是一款良心制作的基础PAAS产品。”——小迈 CTO温嘉铭
大搜车:云上多地域高可用消息系统的构建
大搜车已经搭建起比较完整的汽车产业互联网协同生态。随着业务的快速发展,大搜车遇到了消息量大幅增加、异地消息同步等一系列的问题,需要更稳定可靠的商业版Kafka产品,减少运维工作量,利用云消息队列Kafka对接大数据生态,即开即用,快速扩容,可靠性更高。

产品动态

2018-03-29 新产品
阿里云消息队列 Kafka 公测发布
查看详情
2018-05-31 新功能/规格
消息队列 Kafka 支持 VPC 专享实例输出
查看详情
2018-07-12 新地域/新可用区
消息队列Kafka-华南 1发布
查看详情
2018-08-29 新功能/规格
消息队列Kafka 经典网络支持
查看详情
2019-04-25 新功能/规格
Kafka消息查询能力发布
查看详情
2020-09-27 新功能/规格
Kafka 专业版系列支持高读版实例规格
查看详情
2020-11-20 新功能/规格
Kafka 支持 MaxCompute Connector
查看详情
2020-12-14 新功能/规格
Kakfa 支持 FC Connector
查看详情
2021-03-03 新功能/规格
消息队列 Kafka 支持 OSS Connector,实现数据转出 OSS
查看详情
2021-03-15 新功能/规格
Kafka 支持 Mysql Connector
查看详情
2021-03-16 新功能/规格
Kafka 专业版支持大容量高效云盘存储规格
查看详情
2022-05-20 新功能/规格
迁移路由功能发布
查看详情
2022-06-10 新功能/规格
Serverless 版本公测
查看详情
2022-06-13 新功能/规格
Prometheus监控支持
查看详情
2022-07-14 新功能/规格
资源组支持
查看详情
查看全部日志

关联产品

云消息队列 RocketMQ 版
“阿里巴巴官方指定消息产品,成熟、稳定、先进的技术体系打造金融级消息服务,感受双十一产品的完美体验”。
消息服务 MNS
“即RocketMQ 轻量版,提供轻量模型、轻量 HTTP RESTful 协议,支持Serverless 弹性计费,拥有较强的灵活性;具备易集成等特点”。
云消息队列 MQTT 版
“移动互联网、物联网、互动直播原生支持,万物互联,端与云双向通信,支撑千万级设备同时在线”。
云消息队列 RabbitMQ 版
“兼容 AMQP 标准协议以及 RabbitMQ 开源生态与多语言客户端,开箱即用,免运维,更安全、更可靠”。

文档与工具