问答
2023-11-08
来自：开发者社区
ModelScope中，Qwen-14B-Chat-Int4的这个示例在多卡服务器上跑需要设置什么？
问题一：ModelScope中，请问Qwen-14B-Chat-Int4的这个示例在多卡服务器上跑需要设置什么吗？这边一直卡在加载模型跑不下去呢问题二;可以指定多卡服务器的其中一直卡吗？我改了device_map='cuda:0'，跑到cpu去了而且也是卡在加载模型跑不下去
问答
2023-11-08
来自：开发者社区
ModelScope中，请问这边在运行14B-Chat-Int4z这个示例的时候没有获得正确结果？
ModelScope中，请问这边在运行14B-Chat-Int4z这个示例的时候没有获得正确结果应该怎么排查呢？
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。