modelscope中本地部署QWEN1.5-32B用两张A10的卡很慢,是需要做多卡优化吗?
modelscope中,本地部署QWEN1.5-32B,用两张A10的卡,吐一句话要一分钟,是需要做多卡优化吗,还是配置不够?
请问modelscope中QWen-VL使用多个GPU微调,学习率一直不下降,保持不变怎么解决?
请问modelscope中QWen-VL使用多个GPU微调,学习率一直不下降,保持不变怎么解决?
modelscope中,知识库问答答非所问,改成langchain+ qwen +嵌入效果更好吗?
qwen32b,结合embeding,用openwebui,modelscope中,知识库问答答非所问,是不是改成langchain+ qwen +嵌入效果更好?
在用qwen微调时遇到错误,是modelscope数据集格式写的不对吗?
"在用qwen微调时遇到ValueError(f'remaining_argv: {remaining_argv}') ,是modelscope数据集格式写的不对吗? "
modelscope的Qwen1.5-14B-Chat-GPTQ-Int4可以修改接受最大长度吗?
"由于算力有限,24G的显卡,只能跑Qwen1.5-14B-Chat-GPTQ-Int4,但rerank之后的prompt还是比较大,大概有1万个汉字,Qwen1.5-14B-Chat-GPTQ-Int4好像就承受不了,报错了。 modelscope的Qwen1.5-14B-Chat-GPTQ-Int4可以修改接受最大长度吗? "
modelscope代码下载Qwen/Qwen-VL-Chat-Int4,下载完后大小就2.8M?
"通过modelscope代码下载Qwen/Qwen-VL-Chat-Int4,下载完后大小就2.8MB,咋回事?"
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
modelscope更多qwen相关
modelscope您可能感兴趣
- modelscope休眠
- modelscope模型
- modelscope月报
- modelscope魔搭社区
- modelscope前端
- modelscope模式
- modelscope gradio
- modelscope ai
- modelscope升级
- modelscope视频
- modelscope报错
- modelscope训练
- modelscope部署
- modelscope微调
- modelscope文件
- modelscope下载
- modelscope数据集
- modelscope版本
- modelscope推理
- modelscope运行
- modelscope代码
- modelscope参数
- modelscope安装
- modelscope数据
- modelscope gpu
- modelscope空间
- modelscope文档
- modelscope设置
- modelscope怎么解决
- modelscope加载