modelscope部署的相关内容

返回频道 modelscope部署

问答 2023-11-29 来自：开发者社区

在ModelScope中，部署在EAS上，在线调试不知道模型对应如参数是什么

麻烦老师帮忙看一下，部署在EAS上，在线调试不知道模型对应如参数是什么，日志报错如下：这中有什么解决办法吗，请求就用的是下面这个串

问答 2023-11-29 来自：开发者社区

在ModelScope中，类似创空间部署模型一样怎么部署本地模型

请教下类似创空间部署模型一样怎么部署本地模型 https://modelscope.cn/studios/OrionStarAI/OrionStar-Yi-34B-Chat/file/view/master/app.py

问答 2023-11-29 来自：开发者社区

EAS 部署ModelScope模型调试碰到一点问题,这 input 格式是什么？

问答 2023-11-29 来自：开发者社区

在ModelScope中，若是想长期部署的话合适的GPU费用怎么计算？

我希望在创空间部署一个微调后的大模型应用，模型权重等已经上传到魔塔了。推理部分需要17G显存，请问若是想长期部署的话合适的GPU费用怎么计算？

问答 2023-11-29 来自：开发者社区

在ModelScope中，有人用gradio把模型部署到创空间的时候遇到过这种问题吗？

有人用gradio把模型部署到创空间的时候遇到过这种问题吗？在本地调试的时候无法生成公网URL，在local页面调试不会报错，但是一直不会出结果，等半小时也不行。又因为创空间更新app.py文件要审核几分钟，导致现在代码调试没发进行了。设置share＝True了，但是无法创建share link。有人遇到同样的情况，但我按照他的解决方案做了还是不行

问答 2023-11-19 来自：开发者社区

如何在modelscope中的notebook部署motinagent

在notebook中怎么部署motinagent,文档里面介绍的无法运行

问答 2023-11-16 来自：开发者社区

ModelScope我的想法是，用docker部署方便快捷？

ModelScope我的想法是，1. 用docker部署方便快捷，2.映射模型文件目录，在宿主机下载模型，比如Qwen-14B-Chat 3.使用自定义的数据训练这个模型 4.通过http访问api接口进行远程对话或训练。主要是相关文档资料不好找

文章 2023-11-15 来自：开发者社区

ModelScope部署到trt-llm

是的，ModelScope支持将模型部署到TRT-LLM (TensorRT Large Language Model) 上。TensorRT是一种高性能的深度学习推理优化器和运行时，它可以优化经过训练的神经网络模型以更快的速度运行在多种平台上，包括嵌入式设备和数据中心。千问大模型是由阿里云开发的一种大规模预训练语言模型，其中包含了大量的训...

问答 2023-11-15 来自：开发者社区

请问ModelScope内部版本ODPS UDF，提交部署的任务如何更新或下线？

问答 2023-11-15 来自：开发者社区

ModelScope如果有最新的 linux 部署文档，麻烦发到群文件里面哦？

ModelScope如果有最新的 linux 部署文档，麻烦发到群文件里面哦？着急用一下

共有505条

< 1 ... 35 36 37 38 ... 51 >

跳转至： GO

更新时间 2024-12-18 08:47:32

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

modelscope更多部署相关

modelscope您可能感兴趣

产品推荐

{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"img","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","icon":"ModelScope 魔搭社区","iconImg":"https://img.alicdn.com/imgextra/i3/O1CN01WCQZsb1ICYCctdAi1_!!6000000000857-55-tps-240-240.svg","contentLink":"https://modelscope.cn","title":"ModelScope 魔搭社区","des":"为实现“模型即服务”理念，魔搭社区提供最新最热、开放开源的多领域预训练模型和优质数据集，让广大开发者无需写代码就能快速体验模型效果；同时提供抽象编程接口及SDK，对模型进行二次开发，真正让模型应用到不同的场景中。","link1":"https://modelscope.cn","btn1":"社区详情","link2":"https://modelscope.cn/docs","btn2":"文档中心","btn3":"","link3":"","infoGroup":[{"infoName":"立即体验","infoContent":{"firstContentName":"模型库","firstContentLink":"https://modelscope.cn/models","lastContentName":"数据集","lastContentLink":"https://modelscope.cn/datasets"}},{"infoName":"热门活动","infoContent":{"firstContentName":"社区 VIP 招募激励计划","firstContentLink":"https://modelscope.cn/activitys/kol"}}]}],"card":[],"search":[],"infoCard":[{"bannerUrl":"https://img.alicdn.com/imgextra/i3/O1CN01WCQZsb1ICYCctdAi1_!!6000000000857-55-tps-240-240.svg","bannerTitle":"智能计算灵骏","bannerContent":"智能计算灵骏是阿里云自主研发的新一代智能计算产品，提供深度优化的异构计算融合集群实例，满足人工智能、大数据、高性能计算等多种应用场景。","liveButtonName":"查看详情","liveButtonLink":"https://www.aliyun.com/product/ai/lingjun","contentTitle":"","homePageLink":"https://help.aliyun.com/document_detail/444430.html","homePageName":"产品文档","linkGroup":[]}],"title":{"mainTitle":"","subtitle":"","linkUrl":"","btnText":""},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"https://img.alicdn.com/imgextra/i3/O1CN01WCQZsb1ICYCctdAi1_!!6000000000857-55-tps-240-240.svg","textColor":"dark"},"dataList":[],"sceneCard":[],"txt":[]}

{"$env":{"JSON":{}},"$page":{"env":"production"},"$context":{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"img","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","icon":"ModelScope 魔搭社区","iconImg":"https://img.alicdn.com/imgextra/i3/O1CN01WCQZsb1ICYCctdAi1_!!6000000000857-55-tps-240-240.svg","contentLink":"https://modelscope.cn","title":"ModelScope 魔搭社区","des":"为实现“模型即服务”理念，魔搭社区提供最新最热、开放开源的多领域预训练模型和优质数据集，让广大开发者无需写代码就能快速体验模型效果；同时提供抽象编程接口及SDK，对模型进行二次开发，真正让模型应用到不同的场景中。","link1":"https://modelscope.cn","btn1":"社区详情","link2":"https://modelscope.cn/docs","btn2":"文档中心","btn3":"","link3":"","infoGroup":[{"infoName":"立即体验","infoContent":{"firstContentName":"模型库","firstContentLink":"https://modelscope.cn/models","lastContentName":"数据集","lastContentLink":"https://modelscope.cn/datasets"}},{"infoName":"热门活动","infoContent":{"firstContentName":"社区 VIP 招募激励计划","firstContentLink":"https://modelscope.cn/activitys/kol"}}]}],"card":[],"search":[],"infoCard":[{"bannerUrl":"https://img.alicdn.com/imgextra/i3/O1CN01WCQZsb1ICYCctdAi1_!!6000000000857-55-tps-240-240.svg","bannerTitle":"智能计算灵骏","bannerContent":"智能计算灵骏是阿里云自主研发的新一代智能计算产品，提供深度优化的异构计算融合集群实例，满足人工智能、大数据、高性能计算等多种应用场景。","liveButtonName":"查看详情","liveButtonLink":"https://www.aliyun.com/product/ai/lingjun","contentTitle":"","homePageLink":"https://help.aliyun.com/document_detail/444430.html","homePageName":"产品文档","linkGroup":[]}],"title":{"mainTitle":"","subtitle":"","linkUrl":"","btnText":""},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"https://img.alicdn.com/imgextra/i3/O1CN01WCQZsb1ICYCctdAi1_!!6000000000857-55-tps-240-240.svg","textColor":"dark"},"dataList":[],"sceneCard":[],"txt":[]}}

ModelScope 魔搭社区

为实现“模型即服务”理念，魔搭社区提供最新最热、开放开源的多领域预训练模型和优质数据集，让广大开发者无需写代码就能快速体验模型效果；同时提供抽象编程接口及SDK，对模型进行二次开发，真正让模型应用到不同的场景中。

社区详情

文档中心

立即体验

模型库

数据集

热门活动

社区 VIP 招募激励计划