阿里云文档 2026-04-17

使用GPU浅休眠(原浅休眠(原闲置))实例构建实时推理服务

通过本文您可以了解实时推理场景以及如何利用浅休眠(原浅休眠(原闲置))GPU实例构建低延迟、低成本的实时推理服务。

阿里云文档 2026-04-08

GPU实例的准实时推理场景

本文介绍什么是准实时推理场景,以及如何使用GPU按量实例,以及如何基于GPU按量实例构建使用成本较低的准实时推理服务。

阿里云文档 2025-07-23

GPU实例的离线异步任务场景

本文介绍什么是GPU离线异步任务场景以及如何使用函数计算GPU异步调用、异步任务服务离线AI推理、AI训练和GPU加速场景,以及如何基于自定义镜像满足离线GPU应用场景。

文章 2025-03-02 来自:开发者社区

AI 场景下,函数计算 GPU 实例模型存储最佳实践

当前,函数计算 FC 已被广泛应用在各种 AI 场景下,函数计算支持通过使用容器镜像部署 AI 推理应用,并且提供多种选项来访问训练好的模型。为了帮助开发者高效地在函数计算上部署 AI 推理应用,并快速解决不同场景下的模型存储选型问题,本文将对函数计算的 GPU 模型存储的优缺点及适用场景进行对比分析,以期为您的模型存储决策提供帮助。 背景信息 函数的存储选型...

AI 场景下,函数计算 GPU 实例模型存储最佳实践
文章 2025-01-16 来自:开发者社区

AI 场景下,函数计算 GPU 实例模型存储最佳实践

作者:有松 当前,函数计算 FC 已被广泛应用在各种 AI 场景下,函数计算支持通过使用容器镜像部署 AI 推理应用,并且提供多种选项来访问训练好的模型。为了帮助开发者高效地在函数计算上部署 AI 推理应用,并快速解决不同场景下的模型存储选型问题,本文将对函数计算的 GPU 模型存储的优缺点及适用场景进行对比分析,以期为您的模型存储决策提供帮助。 背景信息 ...

AI 场景下,函数计算 GPU 实例模型存储最佳实践
问答 2024-07-04 来自:开发者社区

在SD文生图场景下,DeepGPU和阿里云GPU云服务器结合使用能带来多大的性能提升?

在SD文生图场景下,DeepGPU和阿里云GPU云服务器结合使用能带来多大的性能提升?

问答 2024-04-10 来自:开发者社区

视觉智能开放平台视频增强场景一般用的什么gpu卡?

视觉智能开放平台视频增强场景一般用的什么gpu卡?

文章 2023-12-08 来自:开发者社区

推荐场景GPU优化的探索与实践:CUDA Graph与多流并行的比较与分析

作者:阿里巴巴控股集团-智能引擎事业部-董纪莹背景&问题RTP 系统(即 Rank Service),是一个面向搜索和推荐的 ranking 需求,支持多种模型的在线 inference 服务。在过去的几年里,我们对于RTP业务的GPU性能优化已经做了不少尝试,包括kernel fusion,CUDA Graph等。在此基础上,今年我们又在RTP上集成了Multi Stream,改变了T....

推荐场景GPU优化的探索与实践:CUDA Graph与多流并行的比较与分析
阿里云文档 2023-10-11

介绍GPU产品和神行工具包(DeepGPU)的应用场景

GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景,神行工具包(DeepGPU)为了配合GPU云服务器的计算服务增强能力,也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包(DeepGPU)的具体应用场景。

文章 2023-09-24 来自:开发者社区

NVIDIA T4和A10:不同应用场景下的GPU加速器选择

随着人工智能和深度学习的快速发展,GPU加速器成为了加速计算密集型任务的重要工具。NVIDIA作为GPU领域的领导者,推出了多款针对不同应用场景的GPU加速器。其中,NVIDIA T4和A10是两款备受关注的GPU加速器。 NVIDIA T4是一款适用于数据中心和云计算的GPU加速器。它采用了Turing架构,拥有16GB GDDR6显存和...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注