阿里云文档 2025-10-23

在ACK中快速体验大语言模型推理服务

ACK托管集群Pro版提供了测试环境和生产环境部署方案,在无需管理底层硬件与依赖的前提下,快速验证大模型的推理能力。解决开发者在本地验证大语言模型时面临的GPU资源不足和环境配置复杂等问题。

问答 2024-09-01 来自:开发者社区

modelscope-funasr从0开始部署并运行C++版本的服务端的详细步骤。

modelscope-funasr一般都是使用docker进行一键部署服务,自己想从0部署一个c++版本的服务端,有详细的部署流程?包括所有环境搭建及运行启动服务流程

问答 2024-08-06 来自:开发者社区

modelscope模型文件都下载成功了,部署报错,是不是说只能在GPU下运行,CPU不行吗?

"请问modelscope模型文件都下载成功了,部署报错,是不是说只能在GPU下运行,CPU不行吗? "

问答 2024-08-06 来自:开发者社区

modelscope的swift昨天部署还是正常运行的,今天重启电脑后就一直报错如下错误,怎么解决?

"modelscope的swift昨天部署还是正常运行的,今天重启电脑后就一直报错如下错误,怎么解决? : "

问答 2024-07-03 来自:开发者社区

modelscope-funasr部署模型,可以运行这个代码吗?

modelscope-funasr部署模型,可以运行这个代码吗?

问答 2024-06-09 来自:开发者社区

我试了几个ModelScope文本链接,有在魔搭部署过,可以直接运行的实例么?

我试了几个ModelScope文本链接,都没法直接在魔搭的notebook中按步骤使用代码运行。。有在魔搭部署过,可以直接运行的实例么?https://www.modelscope.cn/models/qwen/Qwen2-7B-Instruct-GGUF/summary https://www.modelscope.cn/models/dash-infer/Qwen2-7B-DI/summar....

问答 2024-05-15 来自:开发者社区

ModelScope中,本地docker部署了官方镜像,能正常运行,但8888端口访问不了?

"ModelScope中,本地docker部署了官方镜像,能正常运行,但8888端口访问不了? "

问答 2024-05-15 来自:开发者社区

ModelScope中, 部署的时候,用免费的32G的 ,无法运行0.5b模型吗?

ModelScope中, 部署的时候,用免费的32G的 ,无法运行0.5b模型吗?

问答 2024-01-03 来自:开发者社区

ModelScope现在镜像部署且运行成功了我想跑一下模型,该怎么操作,类似这种?

ModelScope现在镜像部署且运行成功了我想跑一下模型,该怎么操作,类似这种?

问答 2023-10-08 来自:开发者社区

ModelScope通过notebook ,openai_api.py部署运行成功,怎么访问?

ModelScope通过notebook ,openai_api.py部署运行成功,怎么访问127.0.0.1:8000,现在直接访问:https://dsw-gateway-cn-hangzhou.data.aliyun.com/dsw-112027/proxy:8000 一直提示404?https://dsw-gateway-cn-hangzhou.data.aliyun.com/dsw-1....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐