设置全局YARN资源队列

在DataWorks中,您可通过如下方式配置调度节点运行时使用的YARN资源队列:方式一:配置全局YARN资源队列 设置工作空间级别某DataWorks功能模块运行EMR任务时使用哪个YARN资源队列,并定义此处配置的 YARN资源队列优先级 是否高于 指定模块...

设置基线优先级与YARN队列优先级的映射关系

DataWorks中您可通过如下方式配置调度运行节点任务时使用的YARN队列:方式一(YARN队列全局配置):通过工作空间的管理中心,设置工作空间级别某DataWorks功能模块运行EMR任务时使用哪个YARN队列。详情请参见 配置全局YARN资源队列。方式二...

YARN调度器

队列基础配置 队列基础配置包括队列的层级关系、Capacity与MaxCapacity配置。假如一个YARN集群同时被公司多个组织、团队共享使用,我们可以根据具体的组织方式及预期资源占比来规划YARN队列,如下图所示,一级队列包括dev、test、support、...

队列控制台操作帮助

本文介绍在 消息服务MNS 控制台上可以执行的队列模型相关操作。前提条件 开通消息服务MNS并授权 创建队列 登录 消息服务MNS控制台。在左侧导航栏,单击 队列列表。在顶部菜单栏,选择地域。在 队列列表 页面,单击 创建队列。在 创建队列 ...

Node Labels特性使用

在 capacity-scheduler.xml 中使用如下配置项,配置队列可访问的分区和容量,替换为配置队列,替换为配置分区(DEFAULT分区直接用常规的capacity或maximum-capacity配置即可)。配置项 值 说明 yarn.scheduler.capacity.<queue-path>....

部署异步推理服务

} } 配置队列最大长度或最大数据体积 队列子服务的最大长度和最大数据体积是此消彼长的关系,计算关系如下所示:队列子服务实例内存是固定的,因此如果调整单条数据最大体积,则会导致该队列最大长度减小。说明 在4 GB内存的默认配置下,...

企业铂金版生命周期管理

升降配影响 云消息队列 RocketMQ 版 控制台和实例中每个服务节点可能出现秒级闪断,客户端有自动重试机制,一般不会影响业务,但会有异常日志产生,可能会有消息延迟的现象。消息可能会有重复,建议做好消息幂等处理。具体操作,请参见 ...

收发事务消息

} } 事务回查机制说明 发送事务消息为什么必须要实现回查Check机制?当半事务消息发送完成,但本地事务返回状态为 TransactionStatus.Unknow,或者应用退出导致本地事务未提交任何状态时,从Broker的角度,这条半事务消息的状态是未知的...

队列模型快速入门

本文为您介绍如何在 消息服务MNS控制台 上快速上手使用队列模型。前提条件 开通消息服务MNS并授权 创建队列 登录 消息服务MNS控制台。在左侧导航栏,单击 队列列表。在顶部菜单栏,选择地域。在 队列列表 页面,单击 创建队列。在 创建队列...

消息超时和重试机制

重试机制 云消息队列 RabbitMQ 版 服务端有默认的消息重试机制,不支持您在Consumer客户端重新配置消息重试机制和关闭消息重试机制。云消息队列 RabbitMQ 版 服务端默认的消息重试机制如下:如果您没有开启Consumer客户端消费消息,则不会...

消费失败是否支持重试?

重试机制 云消息队列 RabbitMQ 版 服务端有默认的消息重试机制,不支持您在Consumer客户端重新配置消息重试机制和关闭消息重试机制。云消息队列 RabbitMQ 版 服务端默认的消息重试机制如下:如果您没有开启Consumer客户端消费消息,则不会...

开源对比

云消息队列 RabbitMQ 版 是一款基于高可用分布式存储架构实现的AMQP 0-9-1协议的消息产品,能够兼容开源RabbitMQ客户端,与开源RabbitMQ相比,能够解决各种稳定性痛点(例如消息堆积、脑裂等问题),同时具备高并发、分布式、灵活扩缩容等...

GetInstanceList-查询指定地域的实例信息

如果实例是通过云消息队列 Kafka 版控制台或调用 StartInstance(调用时没有配置安全组)部署的,则返回值为空。如果实例是通过调用 StartInstance(调用时配置了安全组)部署的,则返回值为配置的安全组。sg-bp13wfx7kz9pkow*SslEndPoint ...

顺序消息

顺序消息为 云消息队列 RocketMQ 版 中的高级特性消息,本文为您介绍顺序消息的应用场景、功能原理、使用限制、使用方法和使用建议。应用场景 在有序事件处理、撮合交易、数据实时增量同步等场景下,异构系统间需要维持强一致的状态同步,...

管理资源队列

配置资源队列可以避免某个任务或用户占用过多的资源,降低因其他任务或用户无法获得足够的资源而造成任务失败的情况发生。您也可以将批作业部署到指定资源队列,并配合任务编排功能确定调度优先级,以确保关键或重要作业获得更高的处理优先...

MNS回调事件通知

MNS回调机制 您需要在消息服务MNS中创建队列,并在视频点播中配置相应回调。当事件产生时,视频点播服务会将事件通知内容写入到消息服务MNS的消息队列中。只要视频点播服务将消息写入MNS队列成功即视为回调成功,否则视为回调失败。若因...

云消息队列 RocketMQ 版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建消息流入任务,实现将其他数据源中的数据快速导入 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。创建...

消息队列RocketMQ版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建消息流入任务,实现将其他数据源中的数据快速导入 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。创建...

云消息队列 RocketMQ 版

本文介绍如何在 云消息队列 RabbitMQ 版 控制台创建消息流入任务,将 云消息队列 RocketMQ 版 中的数据快速导入至 云消息队列 RabbitMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 ...

实例升降配

升降配操作影响 业务影响 云消息队列 RocketMQ 版 控制台和实例中每个服务节点可能出现秒级闪断,客户端有自动重试机制,一般不会影响业务,但会有异常日志产生,可能会有消息延迟的现象。消息可能会有重复,建议做好消息幂等处理。具体...

消息检索

当 云消息队列 Kafka 版 控制台提供的按位点查询和按时间查询消息的功能无法满足您搜索消息的需求时,您可以使用 云消息队列 Kafka 版 消息检索功能。消息检索支持按Topic分区、位点范围、时间范围以及消息Key和Value关键字检索。本文介绍...

跨云产品数据流入

您可通过配置 云消息队列 MQTT 版 的数据流入规则来自定义数据从其他阿里云产品流入到 云消息队列 MQTT 版。本文介绍跨产品数据流入的原理、应用场景、使用限制以及 云消息队列 MQTT 版 与其他阿里云产品的资源映射关系。基本原理 如需将...

配置网卡多队列的网络中断亲和性

在使用网卡多队列时,通常需要配置网络中断亲和性(IRQ Affinity),将不同的队列中断分配给特定的CPU处理,而不是由任意的CPU处理,这有助于减少CPU之间的争用并提高网络性能。本文介绍如何配置Linux系统的网卡多队列的网络中断亲和性和...

SDK概述

SASL接入点:在VPC环境下通过SASL接入点接入 云消息队列 Kafka 版 并使用PLAIN机制或者SCRAM机制收发消息。SASL支持两种机制验证身份:PLAIN机制:一种简单的用户名密码校验机制。云消息队列 Kafka 版 的PLAIN机制,支持不重启实例的情况下...

使用限制

本文为您介绍 云消息队列 MQTT 版 对某些具体指标的约束和规范,您在使用 云消息队列 MQTT 版 时请不要超过相应的限制值,以免程序出现异常。具体的限制项和限制值请参见下表。如果您购买了铂金版的 云消息队列 MQTT 版 实例,则可按需定制...

设置消息通知

队列列表页面,单击 创建队列,并配置如下参数。参数 描述 名称 队列名称。消息最大长度 发送到队列的消息体的最大长度。长轮询时间 当队列中没有消息时,该队列的ReceiveMessage请求的最大等待时长。消息可见性超时时间 消息从队列中...

跨云产品的数据流出

您可通过配置 云消息队列 MQTT 版 的数据流出规则来自定义数据从 云消息队列 MQTT 版 流出至其他阿里云产品。本文介绍数据流出的原理、应用场景、使用限制以及 云消息队列 MQTT 版 与其他阿里云产品的资源映射关系。基本原理 如需将 云消息...

收发定时消息和延时消息

重要 社区版的Apache RocketMQ和阿里云 云消息队列 RocketMQ 版 配置方式不同,实现效果也有所差异。社区版的Apache RocketMQ支持延时消息,但不支持定时消息,因此没有专门的定时消息接口。阿里云 云消息队列 RocketMQ 版 不仅同时支持...

使用ACL功能进行访问控制

当需要对不同的用户或用户组授予不同级别的访问权限时,您可以使用 云消息队列 Kafka 版 专业版实例的访问控制列表(ACL)功能,为SASL用户赋予对Topic、Group等资源的操作权限,实现细粒度的权限管理。背景信息 企业A购买了 云消息队列 ...

YARN高安全特性使用指南

队列ACL可以结合Capacity Scheduler调度器队列映射(Queue Mapping)特性使用,在 capacity-scheduelr.xml 配置文件中使用 yarn.scheduler.capacity.queue-mappings 配置用户或用户组提交作业的默认队列规则,通过 yarn.scheduler.capacity...

收发定时和延时消息

重要 社区版的Apache RocketMQ和阿里云 云消息队列 RocketMQ 版 配置方式不同,实现效果也有所差异。社区版的Apache RocketMQ支持延时消息,但不支持定时消息,因此没有专门的定时消息接口。阿里云 云消息队列 RocketMQ 版 不仅同时支持...

消息队列Kafka版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建流出目标为 云消息队列 Kafka 版 的消息流出任务。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。您已购买并部署 云消息队列 ...

使用Canal将MySQL的数据同步至云消息队列 Kafka 版

公网环境,需通过SASL进行身份校验,需要在 bin/startup.sh 配置环境变量,并编辑 kafka_client_producer_jaas.conf 文件,配置 云消息队列 Kafka 版 实例的用户名与密码。执行 vi bin/startup.sh 命令,编辑 startup.sh 文件,配置环境...

微消息队列MQTT版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建流入源为 云消息队列 MQTT 版 的消息流入任务。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。您已创建 云消息队列 MQTT 版 实例...

使用实例接入点收发消息

jaas.conf#SASL接入点PLAIN机制配置 java.security.auth.login.config.plain=xxxx/kafka_client_jaas_plain.conf#SASL接入点SCRAM机制配置 java.security.auth.login.config.scram=xxxx/kafka_client_jaas_scram.conf 参数 描述 bootstrap....

云消息队列 RocketMQ 版

本文介绍如何在 云消息队列 RabbitMQ 版 控制台创建消息流出任务,将 云消息队列 RabbitMQ 版 的数据导出至 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RabbitMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源...

C# SDK收发消息

本文介绍如何使用C#SDK通过接入点接入 云消息队列 Kafka 版 并收发消息。环境配置 您已安装.NET。更多信息,请参见 安装.NET 。安装C#依赖库 执行以下命令安装C#依赖库。dotnet add package-v 1.5.2 Confluent.Kafka 准备配置 可选:下载...

消息队列RocketMQ版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建流出目标为 云消息队列 RocketMQ 版 的消息流出任务。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。创建消息流出任务 登录 云...

消息队列RabbitMQ版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建流出目标为 云消息队列 RabbitMQ 版 的消息流出任务。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。您已购买并部署 云消息队列 ...

云消息队列 MQTT 版

本文介绍如何在 云消息队列 RabbitMQ 版 控制台创建消息流入任务,将 云消息队列 MQTT 版 中的数据快速导入至 云消息队列 RabbitMQ 版。前提条件 您已购买 云消息队列 RabbitMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云消息队列 RocketMQ 版 应用配置管理 (文档停止维护) DDoS防护 云消息队列 Kafka 版 云服务器 ECS 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用