创建RabbitMQ Source Connector

本文介绍如何在 云消息队列 Kafka 控制台创建流入任务,将 云消息队列 RabbitMQ 版 中的数据快速导入至 云消息队列 Kafka 。前提条件 您已购买 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和...

消息查询

能否查询到消息,与 云消息队列 Kafka 的消息清除策略相关:磁盘使用率低于75%,每天凌晨4点集中删除超过消息保留时长的消息。磁盘使用率介于[75%,85%)区间,定期删除超过消息保留时长的消息,直到磁盘水位降到75%以下。磁盘使用率介于...

查看任务执行记录

在某个实例下发起重启类任务(包括实例升降配、定时任务)后,您可以在 云消息队列 Kafka 控制台查看该实例的重启类任务的执行记录,获取任务的类型、开始执行时间、结束执行时间、状态等信息。前提条件 创建并部署 云消息队列 Kafka ...

上迁移Topic

本文介绍如何使用 云消息队列 Kafka 提供的迁移工具将某个 云消息队列 Kafka 实例的Topic迁移到另一个 云消息队列 Kafka 实例。前提条件 您已完成以下操作:下载JDK 8 下载迁移工具kafka-migration-assessment.jar 购买并部署 ...

升级多可

前提条件 您使用云消息队列 Kafka 实例类型为 专业版。实例当前为单可用区部署。实例当前读写流量水位没有接近购买规格峰值。实例大版本必须为2.2.0或以上版本,小版本建议您使用最新版本。升级影响 该操作服务不会中断,但可能导致...

开发参考

本文介绍 云消息队列 Kafka 的SDK和API及Terraform的支持情况,供您进行对应的开发操作。开发参考 API参考指南 SDK参考 Terraform

实践教程

针对各种业务需求,云消息队列 Kafka 提供相关的实践教程,您可以根据本文查看适合您业务的实践教程文档。实践教程 最佳实践 生态对接

Filebeat发送失败问题

问题现象 在 云消息队列 Kafka 控制台 的 Topic 管理 页面,您已成功创建Topic,但使用Filebeat向该Topic发送消息却出现 Request was for a topic or partition that does not exist on this broker.的错误提示。可能原因 Filebeat向...

SSL接入点PLAIN机制收发消息

本文以Java SDK为例介绍如何在公网环境下使用SDK接入 云消息队列 Kafka 的SSL接入点并使用PLAIN机制收发消息。前提条件 步骤三:创建资源 安装1.8或以上版本JDK 安装2.5或以上版本Maven 安装Java依赖库 在 pom.xml 中添加以下依赖。...

接入Logstash

本文介绍如何将 云消息队列 Kafka 接入Logstash。Logstash Logstash是开源的服务器端数据处理管道,能够同时从多个数据源采集数据,然后对数据进行转换,并将数据写入指定的存储中。Logstash的数据处理流程如下:输入:采集各种格式、...

降低实例配置

如果您的 云消息队列 Kafka 实例的公网流量消耗远小于购买的公网流量配置,或者分区的使用量远小于购买的分区数量,您可以降低公网流量和分区数量配置,从而节约成本。本文介绍如何在 云消息队列 Kafka 控制台降低实例的公网流量、...

迁移消费者程序

背景信息 云消息队列 Kafka 控制台提供迁移实例功能,您可以使用该功能将自建Kafka集群或其他云Kafka集群的元数据(Topic和Group配置信息)和消息数据同步到目标集群,迁移完成后目标集群的元数据与源集群的元数据保持一致并且持续更新...

VPC接入

如果仅需要在VPC网络接入 云消息队列 Kafka ,您可以购买并部署VPC实例。前提条件 已授予 云消息队列 Kafka 访问其他云服务资源的权限。具体信息,请参见 步骤一:获取访问授权。已搭建VPC网络。具体操作,请参见 创建和管理专有网络...

创建MNS Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将 云消息队列 Kafka 的数据导出至 消息服务。前提条件 您已购买并部署 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和部署实例。您...

从自建TiDB增量迁移至RDS MySQL

使用 阿里云消息队列Kafka版(MQ for Apache Kafka),详情请参见 阿里云消息队列Kafka版快速入门。说明 为保障正常通信和减少网络延迟对增量数据迁移的影响,部署阿里云消息队列Kafka实例时,需配置和源库服务器相同的专有网络。在自建...

如何进行发送消息的测试?

您可以直接在 云消息队列 Kafka 控制台进行发送消息的测试。您可以在控制台的 Topic管理 页面,单击目标Topic右侧的 发送消息,进行消息发送测试,以验证集群是否运转正常。

使用实例接入点收发消息

使用应用程序与Kafka集群建立连接时,可通过实例接入点接入 云消息队列 Kafka 并收发消息。Kafka实例提供默认接入点、SSL接入点和SASL接入点,以满足您不同的连接和安全需求。默认接入点适用于在保密性较高的VPC环境收发消息;SASL接...

开启ACL

云消息队列 Kafka 专业版实例提供ACL功能,您可以在开启此功能后按需为SASL用户授权,通过SASL接入点接入实例。前提条件 实例规格类型为 专业版。实例运行状态为 服务中。实例大版本为2.2.0版本及以上。如何升级实例大版本,请参见 升级...

为什么消费客户端频繁出现Rebalance?

问题现象 使用 云消息队列 Kafka 时,消费客户端频繁出现Rebalance。可能原因 可能导致故障的原因包括:v0.10.2之前版本的客户端:Consumer没有独立线程维持心跳,而是把心跳维持与poll接口耦合在一起。其结果就是,如果用户消费出现...

Topic的存储有哪些类型?

云存储和Local存储。云消息队列 Kafka 实例支持云存储和Local存储。详情请参见 存储引擎对比。

公网和VPC接入

如果需要同时在VPC网络和公网接入 云消息队列 Kafka ,您需要购买并部署公网/VPC实例。前提条件 已授予 云消息队列 Kafka 访问其他云服务资源的权限。具体信息,请参见 获取访问授权。已搭建VPC网络。具体操作,请参见 创建和管理专有...

创建RabbitMQ Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将 云消息队列 Kafka 的数据导出至 云消息队列 RabbitMQ 版。前提条件 您已购买并部署 云消息队列 Kafka 实例,且实例处于服务中状态。具体步骤,请参见 步骤二:购买和...

仪表盘

借助于阿里云ARMS Prometheus监控服务和Grafana的指标存储和展示能力,云消息队列 Kafka 提供仪表盘功能。该功能可帮助您一站式、全方位、多维度地统计和观测指标,进而快速了解业务的运行状态。前提条件 开通ARMS Prometheus监控服务 ...

创建MNS Source Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流入任务,将 消息服务MNS 中的数据快速导入 云消息队列 Kafka 。前提条件 您已购买 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和部署实例。...

订阅者最佳实践

本文主要介绍 云消息队列 Kafka 订阅者的最佳实践,帮助您减少消费消息出错的可能性。消费消息基本流程 云消息队列 Kafka 订阅者在订阅消息时的基本流程为:Poll数据→执行消费逻辑→再次Poll数据,详情参见下图。负载均衡 每个 ...

创建RocketMQ Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将 云消息队列 Kafka 的数据导出至 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。您已...

创建RocketMQ Source Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流入任务,将 云消息队列 RocketMQ 版 的数据快速导入至 云消息队列 Kafka 。前提条件 您已购买Kafka实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和部署实例。您已...

CreateSaslUser-创建SASL用户

消息队列 Kafka 版使用 SCRAM-SHA-256。默认值为 plain。plain Mechanism string 否 加密方式。取值:SCRAM-SHA-512(默认选中)SCRAM-SHA-256 说明 该参数仅支持 V3 系列(Serverless)实例。SCRAM-SHA-256 返回参数 名称 类型 描述 示例...

默认接入点收发消息

本文以Java SDK为例介绍如何在VPC环境下使用SDK接入 云消息队列 Kafka 的默认接入点并收发消息。前提条件 步骤三:创建资源 安装1.8或以上版本JDK 安装2.5或以上版本Maven 安装编译工具。本文以 IntelliJ IDEA Ultimate 为例。安装Java...

StartInstance-部署实例

如需使用云消息队列 Kafka 收发消息,需要购买并部署才可使用,本文介绍如何调用StartInstance部署实例。接口说明 说明 单用户请求频率限制为 2 QPS。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后...

Topic引流

您在升级 云消息队列 Kafka 实例的流量规格时,可能会触发集群横向扩容。集群横向扩容完成后,您需要进行Topic引流,使Topic流量重新均匀分布到扩容后的集群上。否则原有的Topic流量还是打在扩容前的集群节点上,原有的Topic的峰值流量...

自动创建Topic

云消息队列 Kafka 通过阿里云控制台和OpenAPI管理Topic数据,不建议在生产环境中开启自动化创建Topic,主要原因如下:自动化创建Topic不能进行细粒度的权限管控、资源操作审计等,存在安全管控问题。自动化创建Topic会有资源远远超过...

如何获取部署实例时需要的VPC信息?

在 交换机 页面,查看以下信息:交换机 实例ID/名称 专有网络 可用区 说明 请根据该页面的可用区(A~G)在 云消息队列 Kafka 控制台中选择对应的可用区(A~G)。例如,某VPC交换机(vSwitch)显示在 可用区B,那么在 云消息队列 Kafka...

Ruby SDK收发消息

本文介绍如何使用Ruby SDK通过接入点接入 云消息队列 Kafka 并收发消息。环境准备 您已安装Ruby。更多信息,请参见 安装Ruby。安装Ruby依赖库 执行以下命令安装Ruby依赖库。gem install ruby-kafka-v 0.6.8 准备配置 可选:下载SSL根...

实例规格配置和管理

前提条件 您已购买 云消息队列 Kafka V3系列Serverless实例,且实例处于 服务中 状态。规格配置说明 配置项 含义 变更方式 流量规格 发送能力预留 消息生产预留规格,生产弹性上限为此数值的2倍,超出生产弹性上限的部分将会被限流。...

云消息队列 Kafka 支持被审计的事件说明

云消息队列 Kafka 已与操作审计服务集成,您可以在操作审计中查询操作 云消息队列 Kafka 产生的管控事件。操作审计支持将管控事件投递到日志服务SLS的LogStore或对象存储OSS的存储空间中,满足实时审计、问题回溯分析等需求。事件...

为什么消息已经过期还未被删除?

问题现象 您发送的消息在服务端...磁盘容量充足,使用率低于75%,云消息队列 Kafka 设置的集中清理消息的时间还未到,消息不会被删除。说明 磁盘使用率低于75%时,在每天凌晨4点,云消息队列 Kafka 集中删除超过 消息保留时长 的消息。

实例支持哪些开源版本?

云消息队列 Kafka 标准版与专业版实例支持的开源版本是2.2.0、2.6.2版本,同时兼容对应的2.2.x、2.6.x的客户端。您在购买实例后,可在部署实例时选择2.2.0或2.6.2版本。建议您使用2.2.0及以上的版本。如需升级版本,请参见 升级实例版本...

续费操作

登录 云消息队列 Kafka 控制台,在 概览 页面的 资源分布 区域,选择地域。在 实例列表 页面,单击目标实例名称。在 实例详情 页面,单击 概览 区域右上角的 续费。在 续费 面板,选择购买时长,并选中 消息队列 Kafka(包年包月)服务...

报警项状态显示数据不足怎么办?

可能原因 老版 云消息队列 Kafka 实例不支持报警数据上报。解决方案 登录 云消息队列 Kafka 控制台。在 概览 页面的 资源分布 区域,选择地域。在 实例列表 页面,单击目标实例名称。在 实例详情 页面,单击 配置信息 页签,然后单击...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云消息队列 Kafka 版 阿里邮箱 消息服务 云消息队列 RocketMQ 版 开源大数据平台 E-MapReduce 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用