问答 2024-05-15 来自:开发者社区

ModelScope中,使用qlora微调qwen1.5-14b-chat-int4,报错了?

"ModelScope中,使用qlora微调qwen1.5-14b-chat-int4,报错了,是微调参数和报错吗? CUDA_VISIBLE_DEVICES=2 \swift sft \ --model_id_or_path /root/Qwen1.5-14B-Chat-GPTQ-Int4 \ --model_revision master \ --sft_type lo...

问答 2024-05-15 来自:开发者社区

ModelScope中,请问qwen1.5怎么设置stop_words?

ModelScope中,请问qwen1.5怎么设置stop_words?

问答 2024-05-15 来自:开发者社区

ModelScope中,使用的是qwen1half-7b-chat,第一次跑通了,这是为什么?

"[ERROR:swift] Authentication token does not exist, failed to access model qwen/Qwen15-7B-Chat which may not exist or may be private. Please login first.[ERROR:swift] Authentication t...

问答 2024-05-15 来自:开发者社区

ModelScope中,lora可以微调qwen1.5-14b-chat的awq、gptq量化模型?

ModelScope中,lora可以微调qwen1.5-14b-chat的awq、gptq量化模型?

问答 2024-05-15 来自:开发者社区

ModelScope中,Qwen1.5有办法合并参数和原始量化模型参数么?

ModelScope中,Qwen1.5-32B-Chat-GPTQ-Int4 有办法合并微调后lora参数和原始量化模型参数么?

问答 2024-05-15 来自:开发者社区

ModelScope中,如果想对模型qwen有现成的训练框架吗?

ModelScope中,如果想对模型Continue Pretraining,qwen有现成的训练框架吗?

问答 2024-05-15 来自:开发者社区

ModelScope中,如果不通过swift直接用vllm调用qwen1.5进行推理,有相关链接吗?

请问下,ModelScope中,如果不通过swift直接用vllm调用qwen1.5进行推理,有相关的链接吗?

问答 2024-05-15 来自:开发者社区

ModelScope中,想请教一下接入qwen-7b-chat后它会胡说八道,是什么原因呢?

ModelScope中,想请教一下接入qwen-7b-chat后它会胡说八道,是什么原因呢?

问答 2024-05-15 来自:开发者社区

ModelScope中,请问qwen/Qwen1.5-110B-Chat这个模型怎么在魔搭上部署呢?

ModelScope中,请问qwen/Qwen1.5-110B-Chat这个模型怎么在魔搭上部署呢?

问答 2024-05-15 来自:开发者社区

ModelScope中,qwen1.5-14b-chat可以使用qlora进行微调吗?

ModelScope中,qwen1.5-14b-chat可以使用qlora进行微调吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐