阿里云文档 2025-10-23

在ACK中快速体验大语言模型推理服务

ACK托管集群Pro版提供了测试环境和生产环境部署方案,在无需管理底层硬件与依赖的前提下,快速验证大模型的推理能力。解决开发者在本地验证大语言模型时面临的GPU资源不足和环境配置复杂等问题。

问答 2024-07-31 来自:开发者社区

modelscope-funasr的GPU部署使用2060显卡性能与Cpu相比性能提升多少?

modelscope-funasr的GPU部署使用2060显卡性能与Cpu相比性能提升多少?

问答 2024-01-16 来自:开发者社区

ModelScope本地化部署训练需要多大的显卡,一张4090够吗?

https://modelscope.cn/models/damo/speech_personal_sambert-hifigan_nsf_tts_zh-cn_pretrain_16k/summary ModelScope本地化部署训练需要多大的显卡,一张4090够吗?

问答 2023-12-18 来自:开发者社区

modelscope前部署的CSANMT模型迁移到了另一台服务器上,显卡是一样的翻译速度变慢了好多?

将ModelScope前部署的CSANMT模型迁移到另一台具有相同显卡、代码和环境的服务器后,发现翻译速度变慢,查看日志后发现似乎没有使用GPU。但是在本地环境中,GPU是可用的,nvidia-smi和nvcc等命令也有效。以下是日志信息:"

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐