阿里云文档 2024-06-04

使用EAS部署社区模型

EAS提供了预置镜像以部署社区模型,并针对模型分发和镜像拉起做了加速机制。您只需配置几个参数就可以将社区模型一键快捷的部署到EAS模型在线服务平台。本文为您介绍如何部署HuggingFace和ModelScope的社区模型。

问答 2024-04-03 来自:开发者社区

modelscope-funasr离线文件转写服务在容器里kill不掉的情况如何解决?

modelscope-funasr离线文件转写服务在容器里kill不掉的情况如何解决?kill -9 PID后过一段时间又自动重启了

阿里云文档 2024-03-07

基于ModelScope模型库和GPU实例闲置计费功能低成本构建Google Gemma服务

Google在2024年02月21日正式推出了首个开源模型族Gemma,并同时上架了2b和7b两个版本。您可以使用函数计算的GPU实例以及函数计算的闲置模式低成本快速部署Gemma模型服务。

问答 2023-12-18 来自:开发者社区

modelscope 有没有释放显存的办法除了将服务进程kill掉?

modelscope我使用damo/nlp_structbert_siamese-uninlu_chinese-base模型部署了一个测试服务,但是随着调用量累计变多,显存的使用量也线性的增长,想问一下,有没有释放显存的办法,除了将服务进程kill掉?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。