问答 2024-05-29 来自:开发者社区

modelscope-funasr在线模型微调量化后,只将这几个文件替换到download模型中吗?

modelscope-funasr在线模型微调量化完后,只将decoder_quant.onnx和model_quant.onnx这几个文件替换到download的模型中吗?

问答 2024-05-15 来自:开发者社区

ModelScope中,qlora微调qwen-14b-chat后,支持量化吗?

ModelScope中,qlora微调qwen-14b-chat后,支持量化吗?

问答 2024-05-15 来自:开发者社区

ModelScope中,lora可以微调qwen1.5-14b-chat的awq、gptq量化模型?

ModelScope中,lora可以微调qwen1.5-14b-chat的awq、gptq量化模型?

问答 2024-05-15 来自:开发者社区

ModelScope中,只微调了身份认知然后合并成量化模型,为什么模型的能力会下降很多呢?

ModelScope中,只微调了身份认知然后合并成量化模型,为什么模型的能力会下降很多呢,回答的内容变的很短?问题:发生工伤后应该在多久内提出工伤认定申请?原版模型回答:在中国,职工发生工伤后,应当自事故伤害发生之日或者被诊断、鉴定为职业病之日起30日内,向统筹地区社会保险行政部门提出工伤认定申请。如果职工或者其近亲属、工会组织在知道或者应当知道事故发生之日或者被诊断、鉴定为职业病之日起1年内未....

问答 2024-05-15 来自:开发者社区

ModelScope中,对微调后的模型做合并量化,出现这个问题,如何解决?

ModelScope中,对微调后的模型做合并量化,出现这个问题,pip install awq 也不行 ,如何解决?

问答 2024-04-16 来自:开发者社区

modelscope微调后模型量化的时候, swift是源码部署的报错怎么处理?

"modelscope微调后模型量化的时候,用qwen1half-14b-chat-awq 微调的 swift是源码部署的报错怎么处理?,用这个:CUDA_VISIBLE_DEVICES=0 swift export \ --ckpt_dir 'output/qwen1half-4b-chat/vx-xxx/checkpoint-xxx' \ --merge_lora true...

问答 2024-03-18 来自:开发者社区

modelscope中,建议用lora微调后再去量化还是直接用qlora去微调呢?

modelscope中,建议用lora微调后再去量化还是直接用qlora去微调呢?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐