问答 2023-12-13 来自:开发者社区

ModelScope本地化部署的Qwen-14B 怎么通过 api 访问呢?

ModelScope本地化部署的Qwen-14B 怎么通过 api 访问呢,写个http服务监听,代码直接调用模型是吗,14B 4090 跑得起来吗?

问答 2023-12-10 来自:开发者社区

请问modelscope-funasr离线文件转写服务部署和实时语音听写服务部署有什么区别?

请问modelscope-funasr离线文件转写服务部署和实时语音听写服务部署有什么区别?

问答 2023-12-03 来自:开发者社区

在ModelScope中,我本地已经部署了CSANMT模型的服务,如何解决这个警告问题?

我本地已经部署了CSANMT模型的服务,但是启动时显示Could not find tensorRT,我已经装上了,import tensorrt 再print version 能显示版本,请问如何解决这个警告问题?毕竟tensorrt应该还能让模型速度更上一层楼。

问答 2023-12-03 来自:开发者社区

在ModelScope中,按照弹内部署的文档拉取镜像到本地,run的时候报错嘞,访问令牌设置在哪里?

麻烦问一下,按照弹内部署的文档拉取镜像到本地run的时候报错嘞,访问令牌设置在哪里呢

问答 2023-11-30 来自:开发者社区

在modelscope使用函数计算FC部署,日志报的这个错误怎么解决?

在modelscope使用函数计算FC部署,日志报的这个错误怎么解决?: Set domain cname error,

问答 2023-11-29 来自:开发者社区

ModelScope是要部署自己的GPU服务器的吗?

ModelScope是要部署自己的GPU服务器的吗?不用GPU服务器,能用吗?https://github.com/modelscope/modelscope

问答 2023-11-29 来自:开发者社区

在ModelScope中,部署了自己的openai_api,处理了并发问题呢?

部署了自己的openai_api,处理了并发问题呢?三个用户请求,并行处理,目前看到都是串行等待处理。(使用的fastapi,开启动多个worker,就加载多次大模型,导致显存不够,解决不了多进程共享大模型model变量)

问答 2023-11-29 来自:开发者社区

在ModelScope中,一键部署模型PAI-EAS服务失败是是什么原因

一键部署模型PAI-EAS服务失败,报错原因如下截图,没能排查出错误原因,请求帮助。部署的是未公开模型,在本地可以正常使用,本地正常输出NER结果

问答 2023-11-29 来自:开发者社区

在ModelScope中,ubuntu 有部署文档吗

在ModelScope中,ubuntu 有部署文档吗

问答 2023-11-29 来自:开发者社区

在ModelScope中,centos 部署模型有文档了吗?

centos 部署模型有文档了吗?我们的现在都是 centos,因为一些原因,很难改系统了

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐