阿里云文档 2025-10-23

在ACK中快速体验大语言模型推理服务

ACK托管集群Pro版提供了测试环境和生产环境部署方案,在无需管理底层硬件与依赖的前提下,快速验证大模型的推理能力。解决开发者在本地验证大语言模型时面临的GPU资源不足和环境配置复杂等问题。

问答 2024-08-07 来自:开发者社区

modelscope-funasr部署asr处理并发请求的框架有吗? 除了funasr

modelscope-funasr部署asr处理并发请求的框架有吗? 除了funasr

问答 2024-02-08 来自:开发者社区

在ModelScope中通过PAI-EAS部署两个大模型,例程请求返回400 ?

在ModelScope中通过PAI-EAS部署两个大模型,例程请求返回400 ?

问答 2023-09-03 来自:开发者社区

ModelScope如果我想支持大并发的访问,是不是就是只能集群多部署节点了,一个节点处理一个请求?

ModelScope 如果我想支持大并发的访问,是不是就是只能集群多部署节点了,一个节点处理一个请求的?

问答 2023-08-12 来自:开发者社区

ModelScope在pai按教程,部署chatglm-demo服务,post请求,返回错误为什么?

ModelScope在pai按教程,部署chatglm-demo服务,post请求,返回错误为什么?"None Inference failure: 'input_ids'"

问答 2023-08-06 来自:开发者社区

ModelScope这种EAS部署后,本地可以类似摩搭Token请求API吗?

ModelScope这种EAS部署后,本地可以类似摩搭Token请求API吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐