文章 2017-11-27 来自:开发者社区

float数据类型研究,发现其能显示的有效数字极为有限

float数据类型研究,发现其能显示的有效数字极为有限

文章 2017-11-15 来自:开发者社区

float数据类型研究,发现其能显示的有效数字极为有限

范围 float和double的范围是由指数的位数来决定的。 float的指数位有8位,而double的指数位有11位,分布如下: float: 1bit(符号位) 8bits(指数位) 23bits(尾数位) double: 1bit(符号位) 11bits(指数位) 52bits(尾数位) 于是,float的指数范围为-127~+128,而double的指数范围为-1023~+1...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。