问答
2017-09-29
来自:开发者社区
MaxCompute 中double类型的字段 sum之后,结果小数点后出现十多位,请问怎么解决
MaxCompute 中double类型的字段 sum之后,结果小数点后出现十多位,请问怎么解决
问答
2016-06-29
来自:开发者社区
mysql中float和double精度问题,sum奇怪的结果
今天开发中遇到了一个问题,感觉很奇怪。见下面 sql:a 是 bigint,b 是 float(5,4), c 是 float(8,4), d 不是数据库里的字段是我要的结果。b 数据都是 0.2211 之类的数据,c 是 0.0032 之类的数据。SELECTsum( ceil(a *(1 - b))* c ) AS dFROMtablea如果不加上 sum,我会得到 31.4600,137.....
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
double您可能感兴趣
- double float
- double解析
- double浮点数
- double变量
- double java
- double string
- double方法
- double区别
- double小数
- double precision
- double int
- double c++
- double write
- double精度
- double小数点
- double报错
- double数据库
- double位数
- double计算
- double科学计数法
- double null
- double isnan
- double q-learning
- double doublevalue
- double found
- double native
- double异常
- double查询
- double用法
- double字节数