阿里云文档 2025-10-23

在ACK中快速体验大语言模型推理服务

ACK托管集群Pro版提供了测试环境和生产环境部署方案,在无需管理底层硬件与依赖的前提下,快速验证大模型的推理能力。解决开发者在本地验证大语言模型时面临的GPU资源不足和环境配置复杂等问题。

问答 2024-07-31 来自:开发者社区

在ModelScope上部署大模型RAG对话系统时,推荐使用的GPU服务器配置是什么?

在ModelScope上部署大模型RAG对话系统时,推荐使用的GPU服务器配置是什么?

问答 2024-07-24 来自:开发者社区

如果ModelScope想要部署在云服务器应该怎么操作呢?

"如果ModelScope想要部署在云服务器应该怎么操作呢?一个gitxxxx一个app.py一个.app.md"

问答 2024-07-09 来自:开发者社区

ModelScope的api一键部署有教程吗,需要你们这边或者阿里云的服务器吗?

ModelScope的api一键部署有教程吗,需要你们这边或者阿里云的服务器吗?

问答 2024-07-09 来自:开发者社区

ModelScope中,怎么部署图中内容,需要阿里云的服务器吗?

" ModelScope中,怎么部署图中内容,需要阿里云的服务器吗?"

问答 2024-07-08 来自:开发者社区

在魔塔ModelScope社区部署要多少费用的,需要阿里云的服务器吗?

在魔塔ModelScope社区部署要多少费用的,需要阿里云的服务器吗?

问答 2024-06-09 来自:开发者社区

ModelScope千问1.5本地化部署需要什么配置服务器?有没有相关的配置清单 ?

ModelScope千问1.5本地化部署需要什么配置服务器?有没有相关的配置清单 ? 通义千问 110B

问答 2024-03-18 来自:开发者社区

在modelscope本地windows下执行没有问题,但是部署到服务器上就出现以上错误?

"在conda环境下提示错误: You are using a model of type mt5 to instantiate a model of type t5. This is not supported for all configurations of models and can yield errors.Traceback (most recent call last): Fi.....

问答 2023-12-18 来自:开发者社区

modelscope前部署的CSANMT模型迁移到了另一台服务器上,显卡是一样的翻译速度变慢了好多?

将ModelScope前部署的CSANMT模型迁移到另一台具有相同显卡、代码和环境的服务器后,发现翻译速度变慢,查看日志后发现似乎没有使用GPU。但是在本地环境中,GPU是可用的,nvidia-smi和nvcc等命令也有效。以下是日志信息:"

问答 2023-11-29 来自:开发者社区

ModelScope是要部署自己的GPU服务器的吗?

ModelScope是要部署自己的GPU服务器的吗?不用GPU服务器,能用吗?https://github.com/modelscope/modelscope

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐