问答 2024-07-04 来自:开发者社区

modelscope中关于用swift对LLM量化时,参数的含义咨询

https://modelscope.cn/docs/LLM%E9%87%8F%E5%8C%96%E6%96%87%E6%A1%A3 链接中对原始模型量化,类似这样的命令: CUDA_VISIBLE_DEVICES=0 swift export \ --model_type qwen1half-7b-chat --quant_bits 4 \ --dataset alpaca-z...

问答 2024-05-21 来自:开发者社区

modelscope使用baichuan2-7b-chat ,swift 跑量化,需要指定哪个参数?

modelscope中,使用baichuan2-7b-chat ,swift 跑量化模型,需要指定哪个参数 ?

问答 2024-05-21 来自:开发者社区

请问ModelScope中,swift量化后的权重保存路径是用什么参数设置?

请问ModelScope中,swift量化后的权重保存路径是用什么参数设置?

问答 2024-05-15 来自:开发者社区

ModelScope中,用swift的push_to_hub参数是一样的吧?

ModelScope中,用swift的push_to_hub参数是一样的吧?

问答 2024-04-23 来自:开发者社区

modelscope的 swift微调参数有没有可以设置loss的呢?

modelscope的 swift微调参数有没有可以设置loss的呢?

问答 2024-04-02 来自:开发者社区

modelscope用swift微调加载微调后的模型,设置哪些参数能增加GPU、CPU的效率?

modelscope用swift微调加载微调后的模型,设置哪些参数能增加GPU、CPU的效率?

问答 2023-12-13 来自:开发者社区

ModelScope在swift框架下使用进行lora微调,有参数可以加载本地数据集吗?

ModelScope在swift框架下使用examples/pytorch/llm_sft.py进行lora微调,有参数可以加载本地数据集吗?

问答 2023-09-12 来自:开发者社区

ModelScope我用了swift里面的only_save_model参数,是我用的不对吗?

ModelScope我用了swift里面的only_save_model参数,看起来还是保存了状态,是我用的不对吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐