对比发现Qwen2-72B-int2效果优于Qwen2-72B，ModelScope有什么优化思路？
目前使用V100部署了Qwen2-72B（6卡）和Qwen2-72B-int2（单卡）模型，对比发现Qwen2-72B-int2效果优于Qwen2-72B，ModelScope是否有什么好的优化思路？
有人测过qwen2-72B-int4么，ModelScope量化后，精度下降了很多？
有人测过qwen2-72B-int4么，ModelScope量化后，精度下降了很多？
qwen-vl可以用lora而不是qlora去微调int4版本的ModelScope模型吗?
qwen-vl可以用lora而不是qlora去微调int4版本的ModelScope模型吗?
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。