文章 2024-10-16 来自:开发者社区

Tensorflow error(二):x and y must have the same dtype, got tf.float32 != tf.int32

原代码 with tf.GradientTape() as tape: # 打平操作,[b, 28, 28] => [b, 784] x = tf.reshape(x, (-1, 28*28)) # Step1. 得到模型输出output [b, 784] => [b, 10] out = model(x) ...

Tensorflow error(二):x and y must have the same dtype, got tf.float32 != tf.int32
问答 2023-01-29 来自:开发者社区

请问对TensorFlow模型量化优化时如何执行离线INT8优化?

请问对TensorFlow模型量化优化时如何执行离线INT8优化?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

人工智能

了解行业+人工智能最先进的技术和实践,参与行业+人工智能实践项目

+关注