GPU云服务器调度的相关内容

阿里云文档 2026-04-08

GPU-HPN拓扑感知调度

GPU设备的ACS集群支持将多个GPU Pod调度到同一个GPU-HPN节点，Pod之间可以通过NVLink等方式实现GPU之间数据通信。为了保障GPU设备之间的通信效率和公平性，ACS在设备调度时会遵循不同机型的Partition约束。本文介绍ACS GPU的Partition调度机制以及使用场景案例。

阿里云文档 2026-04-03

在ACK Edge集群中使用共享GPU调度能力

通过共享GPU调度能力，您可以将多个Pod调度到同一张GPU卡上，以共享GPU的计算资源，从而提高GPU的利用率并节省成本。在实现GPU共享调度的同时，确保运行在同一张GPU上的多个容器之间能够互相隔离，并根据各自申请的资源使用量运行，避免某个容器的资源使用量超标，进而影响其他容器的正常工作。本文介绍如何在ACK Edge集群中使用共享GPU调度能力。

阿里云文档 2026-03-19

使用MPS（Multi-Process Service,多进程服务）实现GPU共享和显存隔离能力

共享GPU调度支持通过NVIDIA MPS（Multi-Process Service）作为底层GPU隔离模块，实现多个Pod共享同一张GPU卡，并确保各Pod之间的显存隔离。本文将为您介绍如何启用NVIDIA MPS隔离功能，并将其与共享GPU调度组件集成使用。

阿里云文档 2026-03-06

【组件升级】共享GPU调度组件升级公告

共享GPU调度组件的隔离模块cGPU版本小于1.5.13时，残留进程可能导致小概率的内核崩溃。

阿里云文档 2025-12-08

在GPU-HPN节点上使用GPU共享调度

ACS支持在GPU-HPN节点上通过GPU共享调度实现将多个Pod运行在同一个GPU设备上。在GPU独占调度场景，Pod只会按整卡粒度申请资源。当某个Pod没有必要使用整卡的资源时，会造成资源浪费。通过GPU共享调度，您可以为Pod申请更加细粒度的异构资源算力。同时，GPU共享调度支持为Pod配置灵活的requests和limits约束，可以满足多种应用场景的资源隔离和共享需求。

文章 2025-10-21 来自：开发者社区

阿里云ACK托管集群Pro版共享GPU调度操作指南

本文详细介绍了在阿里云容器服务ACK托管集群Pro版中，通过共享GPU调度实现GPU显存和算力精细化分配的操作指南。一、核心功能概述 ACK托管集群Pro版支持为应用申请GPU显存和算力资源，实现以下两种任务模式： • 仅申请显存 • 同时申请显存和算力注意：两种任务模式不能共存于同一节点。二、...

文章 2025-08-06 来自：开发者社区

突破算力瓶颈：库存感知下的多地域 GPU 弹性调度

【阅读原文】戳：突破算力瓶颈：库存感知下的多地域 GPU 弹性调度概述在大模型持续突破的浪潮下，选择自建模型推理服务的企业客户通常会使用 Kubernetes 来进行 AI 推理服务的部署和管理。但单个 Kubernetes 集群建立在单个地域，考虑到当前 GPU 资...

文章 2024-09-10 来自：开发者社区

Kubernetes与GPU的调度：前世今生

目录一、引言 1.1 Kubernetes的重要性 1.2 GPU的重要性 1.3 Kubernetes与GPU的关联性二、Kubernetes简介 2.1 Kubernetes的起源和发展 2.2 Kubernetes的核心概念和基本架构 2.3 Kubernetes如何简化容器化应用程序的管理和扩展三、...

文章 2024-04-24 来自：开发者社区

GPU计算资源智能调度：过去、现在和未来

引言：随着人工智能、大数据和深度学习等技术的迅速发展，对计算资源的需求不断增加。在这一需求背景下，GPU（图形处理器）作为强大的并行计算工具，成为了广泛应用于高性能计算和深度学习任务中的关键组件。然而，合理高效地利用GPU计算资源并进行智能调度是一项重要的挑战。本文将回顾GPU计算资源智能调度的发展历程、当前的应用实践，并展望未来的发展趋势。过去：GPU...

文章 2022-11-21 来自：开发者社区

如何使用 ACK 共享 GPU 调度| 学习笔记

开发者学堂课程【5分钟玩转阿里云容器服务：如何使用 ACK 共享 GPU 调度】学习笔记，与课程紧密联系，让用户快速学习知识。课程地址：https://developer.aliyun.com/learning/course/1038/detail/18167如何使用 ACK 共享 GPU 调度内容介绍一、容器服务之共享 GPU 调度二、实际操作三、共享 GPU 调度的组件功能四、显....