问答 2024-07-17 来自:开发者社区

ModelScope如何部署成webui界面,方便交互?

目前的情况是购买了一个99r的ecs实例(2h2g3m,包年包月) 理想的方式是用现有的ecs实例作为桥梁,调用通义百炼/千问的api,这样一年内仅需支付99r+调用次数的费用(每张图0.16/每千t 0.1-0.2左右),ModelScope如何部署成webui界面,方便交互? 如果按文档用魔搭,痛点就在于,魔搭和大模型得部署在本地或云端魔搭环境中,前者需要购买好的显卡,后者需要租gpu实例(....

问答 2024-07-17 来自:开发者社区

ModelScope中,对于部署llm,在需要使用多张gpu时,是不是推荐使用偶数张gpu?

ModelScope中,对于部署llm,在需要使用多张gpu时,是不是推荐使用偶数张gpu?

问答 2024-07-11 来自:开发者社区

modelscope-funasr的gpu部署版本支持角色分割吗?

modelscope-funasr的gpu部署版本支持角色分割吗?

问答 2024-07-11 来自:开发者社区

modelscope-funasr有grpc的相关部署文档吗?

modelscope-funasr有grpc的相关部署文档吗?我看容器里的runtime/grpc下 有build.sh 报错

问答 2024-07-11 来自:开发者社区

modelscope-funasr部署的离线语音服务不支持 cam这种模型么 ?

modelscope-funasr部署的离线语音服务不支持 cam这种模型么 ?

问答 2024-07-09 来自:开发者社区

ModelScope中,关于不同参数量大模型部署推理的硬件配比指标,有参考吗?

ModelScope中,关于不同参数量大模型部署推理的硬件配比指标,有参考吗?

问答 2024-07-09 来自:开发者社区

ModelScope中,qwen2-7b有没有在Mac上部署的教程?

ModelScope中,qwen2-7b有没有在Mac上部署的教程?

问答 2024-07-09 来自:开发者社区

ModelScope中,demo里需要用到模板生成文字,需要用到template模板,怎么部署?

请教一下ModelScope中,demo里需要用到模板生成文字,需要用到template模板,怎么部署demo?

问答 2024-07-09 来自:开发者社区

怎么部署chattts接口调用的那种,需要买ModelScope的服务器吗?

怎么部署chattts接口调用的那种,需要买ModelScope的服务器吗?

问答 2024-07-09 来自:开发者社区

ModelScope的api一键部署有教程吗,需要你们这边或者阿里云的服务器吗?

ModelScope的api一键部署有教程吗,需要你们这边或者阿里云的服务器吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐