阿里云文档 2024-06-17

如何在ACK灵骏托管版集群中使用共享GPU调度(eGPU)_容器服务灵骏版_容器服务Kubernetes版(ACK)

本文介绍如何在ACK灵骏托管版集群中的灵骏节点上使用共享GPU调度(eGPU),实现GPU的调度和隔离能力。

阿里云文档 2024-05-30

升级共享GPU调度组件ack-ai-installer

当您的集群已经安装共享GPU调度组件,但节点GPU驱动版本与集群中已存在的cGPU版本不兼容,或者节点操作系统版本与集群中已存在的cGPU版本不兼容时,您需要将共享GPU调度组件升级到最新版本。

云原生AI套件:一键训练大模型及部署GPU共享推理服务

1 课时 |
57 人已学 |
免费
开发者课程背景图
文章 2024-04-24 来自:开发者社区

GPU计算资源智能调度:过去、现在和未来

引言: 随着人工智能、大数据和深度学习等技术的迅速发展,对计算资源的需求不断增加。在这一需求背景下,GPU(图形处理器)作为强大的并行计算工具,成为了广泛应用于高性能计算和深度学习任务中的关键组件。然而,合理高效地利用GPU计算资源并进行智能调度是一项重要的挑战。本文将回顾GPU计算资源智能调度的发展历程、当前的应用实践,并展望未来的发展趋势。 过去:GPU...

阿里云文档 2023-08-25

如何在ACK专有版集群中使用共享GPU调度_容器服务 Kubernetes 版_容器服务Kubernetes版(ACK)

如您需要在ACK专有版集群中使用共享GPU调度基础版,请参见以下文档。ACK专有版集群基础版迁移专业版安装共享GPU调度组件运行共享GPU调度组件使用共享GPU调度实现仅共享不隔离能力使用共享GPU调度实现cGPU算力分配策略解决专业版集群升级共享GPU调度失效问题

阿里云文档 2023-08-21

如何配置共享GPU调度cGPU算力调度策略_容器服务 Kubernetes 版_容器服务Kubernetes版(ACK)

ACK集群Pro版的共享GPU功能基于cGPU实现。共享GPU算力隔离提供不同的分配策略,您可以在ACK Pro版集群中通过设置共享GPU组件的Policy来选择不同的分配策略。本文介绍通过配置共享GPU算力分配策略,实现不同效果的算力分配。

阿里云文档 2023-08-21

如何配置共享GPU调度仅共享不隔离策略_容器服务 Kubernetes 版_容器服务Kubernetes版(ACK)

在某些场景下,您可能不需要GPU隔离模块参与共享GPU调度。例如,有些业务应用本身提供显存限制能力,类似于Java应用启动时,可以通过选项指定该应用能够使用的最大内存值。这种情况下,使用GPU隔离模块隔离业务显存反而会有问题。对此,共享GPU调度支持某些节点不安装GPU隔离模块的选项。本文介绍如何配置共享GPU调度仅共享不隔离策略。

文章 2022-11-21 来自:开发者社区

如何使用 ACK 共享 GPU 调度| 学习笔记

开发者学堂课程【5分钟玩转阿里云容器服务:如何使用 ACK 共享 GPU 调度】学习笔记,与课程紧密联系,让用户快速学习知识。课程地址:https://developer.aliyun.com/learning/course/1038/detail/18167如何使用 ACK 共享 GPU 调度 内容介绍一、容器服务之共享 GPU 调度二、...

如何使用 ACK 共享 GPU 调度| 学习笔记
文章 2022-09-09 来自:开发者社区

阿里云容器服务共享GPU调度支持算力分配

ACK Pro集群支持为应用申请GPU显存和算力,能够帮助您更精细化的使用GPU的显存和算力资源。本文介绍如何使用算力分配功能。前提条件已创建ACK Pro版集群,且集群版本为1.20.11。关于Kubernetes的升级操作,请参见升级ACK集群K8s版本。已安装共享GPU组件,且Chart版本>1.2.0。关于安装共享GPU组件的...

阿里云容器服务共享GPU调度支持算力分配
问答 2022-06-13 来自:开发者社区

请问 基于Docker和k8s的GPU计算资源调度机制

请问 基于Docker和k8s的GPU计算资源调度机制

问答 2022-03-28 来自:开发者社区

在深度学习应用中,阿里云容器支持基于 GPU 的调度吗?

在深度学习应用中,阿里云容器支持基于 GPU 的调度吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注