V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
thelostsheep
V2EX  ›  问与答

各位数据库大佬 求解一个小数溢出的问题

  •  
  •   thelostsheep · 2020-10-22 17:20:36 +08:00 · 728 次点击
    这是一个创建于 1493 天前的主题,其中的信息可能已经有所发展或是发生改变。

    小白之前写 hql 代码很简单 两个表 union all 以后对某个字段进行 sum 语法已经跑通验证了没有问题 今天就直接造数测试 然后问题来了!!! 我对要 sum 的字段设了五个相同的值 345.78 sum 以后就应该是 1728.9 但是 sum 后值确是 1728.8999999999999 小数位溢出 我又测试了其他相同的小数 都没有这个问题 各位大佬看看 可能是什么情况呢 小白被这个问题搞了一天了 哭泣。。。。 提前感谢各位老师了!!!

    4 条回复    2020-10-23 09:47:38 +08:00
    CloudnuY
        1
    CloudnuY  
       2020-10-22 17:29:45 +08:00 via iPhone
    double 精度缺失问题
    lpts007
        2
    lpts007  
       2020-10-22 17:44:00 +08:00
    这个问题百度不到吗
    thelostsheep
        3
    thelostsheep  
    OP
       2020-10-23 09:47:03 +08:00
    所有的字段都是 string 类型
    thelostsheep
        4
    thelostsheep  
    OP
       2020-10-23 09:47:38 +08:00
    就是百度不到 哭了 很神奇的问题 不知道问题出在哪里了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2764 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 07:39 · PVG 15:39 · LAX 23:39 · JFK 02:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.