阿里云文档 2025-06-20

GPU实例的离线异步任务场景

本文介绍什么是GPU离线异步任务场景以及如何使用函数计算GPU异步调用、异步任务服务离线AI推理、AI训练和GPU加速场景,以及如何基于自定义镜像满足离线GPU应用场景。

阿里云文档 2025-06-20

GPU选型指引

传统GPU使用场景存在资源利用率低、使用成本高和弹性能力弱等痛点问题,而Serverless GPU提供了一种更加灵活的方式来利用GPU计算资源,您只需根据自己的实际需求选择合适的GPU型号和计算资源规模即可。本文介绍如何根据您的业务情况选择不同的GPU云产品以及应用场景。

阿里云文档 2024-12-03

函数计算新增闲置GPU使用量计费项

自2024年06月14日0时起,函数计算将新增闲置GPU使用量计费项,单价为0.00004元/CU。函数计算0.00004元/CUCU您可以在配置函数的预留实例数策略时申请启用闲置计费模式,当GPU实例没有请求执行时将被平台自动冻结其GPU资源,使其进入闲置状态。具体操作,请参见配置预留实例。此时产...

阿里云文档 2024-11-04

基于ModelScope模型库和GPU实例闲置计费功能低成本快速搭建LLM应用

LLM(Large Language Model)是指大型语言模型,是一种采用深度学习技术训练的具有大量参数的自然语言处理模型。您可以基于ModelScope模型库和函数计算GPU实例的闲置计费功能低成本快速搭建LLM应用实现智能问答。

阿里云文档 2024-11-04

基于ModelScope模型库和GPU实例闲置计费功能低成本构建Google Gemma服务

Google在2024年02月21日正式推出了首个开源模型族Gemma,并同时上架了2b和7b两个版本。您可以使用函数计算的GPU实例以及函数计算的闲置模式低成本快速部署Gemma模型服务。

问答 2024-01-16 来自:开发者社区

函数计算中,gpu现在也支持闲置模式了吗?gpu怎么选配置?

函数计算中,gpu现在也支持闲置模式了吗?gpu怎么选配置?

文章 2024-01-10 来自:开发者社区

魔搭大模型一键部署到阿里云函数计算,GPU 闲置计费功能可大幅降低开销

面对魔搭 ModelScope 社区提供的海量模型,用户总是希望能快速进行选型并生产使用,但往往会面临算力管理难、模型部署难等一系列问题。那么有没有可能既能快速把选定的模型部署在云端功能强大的 GPU 上,由云端负责服务,扩展,保护和监控模型服务,又同时免于运维和管理云上算力等基础设施呢?魔搭ModelScope +函数计算 FC 提供了这样一种方案。魔搭+函数计算,一键部署模型上云魔搭 Mod....

魔搭大模型一键部署到阿里云函数计算,GPU 闲置计费功能可大幅降低开销
问答 2023-11-14 来自:开发者社区

阿里函数计算中gpu都能支持闲置 为啥内存不行啊?

阿里函数计算中gpu都能支持闲置 为啥内存不行啊?

问答 2023-09-01 来自:开发者社区

函数计算,gpu实例想避免冷启动只能使用闲置吗?

函数计算,gpu实例想避免冷启动只能使用闲置吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云 Serverless

阿里云 Serverless 最新技术内容分享

+关注