阿里云文档 2025-10-23

在ACK中快速体验大语言模型推理服务

ACK托管集群Pro版提供了测试环境和生产环境部署方案,在无需管理底层硬件与依赖的前提下,快速验证大模型的推理能力。解决开发者在本地验证大语言模型时面临的GPU资源不足和环境配置复杂等问题。

问答 2024-07-24 来自:开发者社区

ModelScope的dsw上部署通义千问-7B调用快速开始代码的时候发生了以下错误,请问怎么解决?

"在阿里云的ModelScope的dsw上部署通义千问-7B,调用快速开始代码的时候发生了以下错误,请问怎么解决? "

问答 2024-06-09 来自:开发者社区

有在ModelScope魔搭部署千问模型,并且以本地链接gui界面交互的最佳实践吗?

有在ModelScope魔搭部署千问模型,并且以本地链接gui界面交互的最佳实践吗?目前搜到的都是创空间,文档按步骤也部署不下去。

问答 2024-04-16 来自:开发者社区

modelscope私有化部署的模型,比如千问32B,有上下文限制吗?

modelscope私有化部署的模型,比如千问32B,有上下文限制吗?

问答 2023-12-18 来自:开发者社区

modelscope我部署了一个通义千问的服务然后,然后demo跟以前的不一样了要怎么改?

modelscope我部署了一个通义千问的服务然后,然后demo跟以前的不一样了,我想进行一个多轮对话payload 要怎么改,或者有什么手册吗?

问答 2023-09-26 来自:开发者社区

ModelScope中可以在云服务器部署通义千问,然后调用大模型的API在其他页面输入问题和答案吗?

ModelScope中,可以在云服务器部署通义千问,然后调用大模型的API在其他页面输入和输出问题和答案吗?

问答 2023-08-06 来自:开发者社区

ModelScope如果ECS部署千问,内存型跟GPU型分别有推荐吗?

ModelScope如果ECS部署千问,内存型跟GPU型分别有推荐吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐