问答 2025-03-12 来自:开发者社区

Qwen2.5-14B-Instruct-GPTQ-Int4量化模型是只能在GPU上运行吗?

Qwen2.5 GPTQ系列的量化模型是只支持在GPU上运行吗?不支持在CPU上运行?

问答 2023-11-08 来自:开发者社区

ModelScope中,请问Qwen-14B-Chat-Int4运行最少需要多少内存?

ModelScope中,请问Qwen-14B-Chat-Int4运行最少需要多少内存?这边显存剩余21G,内存剩余12G跑起来提示out of memory

问答 2019-02-14 来自:开发者社区

UDAF实际调用时传入int类型,定义时是long类型,运行时报参数不匹配,int不能转成long类型吗?发现Flink-SQL在编写的时候需要写很多的CAST

转自钉钉群21789141:UDAF实际调用时传入int类型,定义时是long类型,运行时报参数不匹配,int不能转成long类型吗?发现Flink-SQL在编写的时候需要写很多的CAST

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。