文章 2025-03-02 来自:开发者社区

Serverless GPU:助力 AI 推理加速

本文整理自 2024 云栖大会,阿里云智能集团高级技术专家聂大鹏、NVIDIA 解决方案架构师金国强演讲议题《Serverless GPU:助力 AI 推理加速》 近年来,AI 技术发展迅猛,企业纷纷寻求将 AI 能力转化为商业价值,然而,在部署 AI 模型推理服务时,却遭遇成本高昂、弹性不足及运维复杂等挑战。本文将探讨云原生 Serverless GPU 如何从根本上解决这些...

Serverless GPU:助力 AI 推理加速
文章 2025-03-02 来自:开发者社区

函数计算 FC:首发 GPU 极速模式,更弹性、更降本

函数计算 FC 作为轻量灵活、事件驱动的全托管计算服务,一直以来以弹得更快、粒度更细、成本更低为广大开发者与企业客户所青睐。 2024 云栖大会上,函数计算 FC 为 AI 加码,首发 GPU 极速模式,让 GPU 可以更弹性、更便宜。 阿里云智能集团产品专家 洪晓...

函数计算 FC:首发 GPU 极速模式,更弹性、更降本
文章 2025-03-02 来自:开发者社区

AI 场景下,函数计算 GPU 实例模型存储最佳实践

当前,函数计算 FC 已被广泛应用在各种 AI 场景下,函数计算支持通过使用容器镜像部署 AI 推理应用,并且提供多种选项来访问训练好的模型。为了帮助开发者高效地在函数计算上部署 AI 推理应用,并快速解决不同场景下的模型存储选型问题,本文将对函数计算的 GPU 模型存储的优缺点及适用场景进行对比分析,以期为您的模型存储决策提供帮助。 背景信息 函数的存储选型...

AI 场景下,函数计算 GPU 实例模型存储最佳实践
文章 2025-01-16 来自:开发者社区

AI 场景下,函数计算 GPU 实例模型存储最佳实践

作者:有松 当前,函数计算 FC 已被广泛应用在各种 AI 场景下,函数计算支持通过使用容器镜像部署 AI 推理应用,并且提供多种选项来访问训练好的模型。为了帮助开发者高效地在函数计算上部署 AI 推理应用,并快速解决不同场景下的模型存储选型问题,本文将对函数计算的 GPU 模型存储的优缺点及适用场景进行对比分析,以期为您的模型存储决策提供帮助。 背景信息 ...

AI 场景下,函数计算 GPU 实例模型存储最佳实践
阿里云文档 2025-01-10

GPU选型指引

传统GPU使用场景存在资源利用率低、使用成本高和弹性能力弱等痛点问题,而Serverless GPU提供了一种更加灵活的方式来利用GPU计算资源,您只需根据自己的实际需求选择合适的GPU型号和计算资源规模即可。本文介绍如何根据您的业务情况选择不同的GPU云产品以及应用场景。

阿里云文档 2024-11-29

使用容器镜像方式创建GPU函数提升开发和交付效率

如果您需要使用流行AI项目,如Stable Diffusion WebUI、ComfyUI、RAG、TensorRT等底层需要使用GPU实例来加速计算的应用,推荐以镜像方式部署函数应用。将容器镜像作为函数的交付物,提升开发和交付效率。

文章 2024-09-23 来自:开发者社区

函数计算 FC:首发 GPU 极速模式,更弹性、更降本

函数计算 FC 作为轻量灵活、事件驱动的全托管计算服务,一直以来以弹得更快、粒度更细、成本更低为广大开发者与企业客户所青睐。 2024 云栖大会上,函数计算 FC 为 AI 加码,首发 GPU 极速模式,让 GPU 可以更弹性、更便宜。 阿里云智能集团产品专家 洪晓龙 ...

函数计算 FC:首发 GPU 极速模式,更弹性、更降本
文章 2024-08-29 来自:开发者社区

函数计算产品使用问题之如何解决代码需要多个gpu的问题

问题一:在函数计算如果代码需要多个gpu需要怎么处理呢? 在函数计算如果代码需要多个gpu需要怎么处理呢? ...

函数计算产品使用问题之如何解决代码需要多个gpu的问题
文章 2024-08-29 来自:开发者社区

函数计算产品使用问题之gpu实例函数该如何创建

问题一:函数计算的这个如何设置? 函数计算的这个如何设置?Content-disposition inline python ,使用flask 无法直接展示index.html。 参考答案: 要使用Flask框架在发送响应时设置Content-Disposition为inline,以便浏览器直接展示HTML文件(如index.html)而不是提示下载,...

函数计算产品使用问题之gpu实例函数该如何创建
问答 2024-08-12 来自:开发者社区

在阿里函数计算中,怎样使用GPU?

在阿里函数计算中,怎样使用GPU?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

Serverless

快速交付实现商业价值。

+关注