小白之前写 hql 代码很简单 两个表 union all 以后对某个字段进行 sum 语法已经跑通验证了没有问题 今天就直接造数测试 然后问题来了!!! 我对要 sum 的字段设了五个相同的值 345.78 sum 以后就应该是 1728.9 但是 sum 后值确是 1728.8999999999999 小数位溢出 我又测试了其他相同的小数 都没有这个问题 各位大佬看看 可能是什么情况呢 小白被这个问题搞了一天了 哭泣。。。。 提前感谢各位老师了!!!
小白之前写 hql 代码很简单 两个表 union all 以后对某个字段进行 sum 语法已经跑通验证了没有问题 今天就直接造数测试 然后问题来了!!! 我对要 sum 的字段设了五个相同的值 345.78 sum 以后就应该是 1728.9 但是 sum 后值确是 1728.8999999999999 小数位溢出 我又测试了其他相同的小数 都没有这个问题 各位大佬看看 可能是什么情况呢 小白被这个问题搞了一天了 哭泣。。。。 提前感谢各位老师了!!!
1
CloudnuY Oct 22, 2020 via iPhone
double 精度缺失问题
|
2
lpts007 Oct 22, 2020
这个问题百度不到吗
|
3
thelostsheep OP 所有的字段都是 string 类型
|
4
thelostsheep OP 就是百度不到 哭了 很神奇的问题 不知道问题出在哪里了
|