Fxshiny
V2EX  ›  问与答

有没有懂 excel 的小伙伴?

  •  
  •   Fxshiny · Aug 17, 2023 · 1486 views
    This topic created in 1025 days ago, the information mentioned may be changed or developed.

    1692286411654.png

    很奇怪,这个是为什么

    3 replies    2023-08-18 06:33:51 +08:00
    geelaw
        1
    geelaw  
       Aug 17, 2023 via iPhone   ❤️ 2
    D 列估计是公式计算的,有浮点误差。存储货币的时候请格式化单元格选择货币,然后计算货币的公式外面套一层 ROUND(…, 6) 保留六位小数,格式化的时候指定精度。
    akira
        2
    akira  
       Aug 18, 2023
    不喜欢这种用法,比较喜欢就让他用两列来显示
    msg7086
        3
    msg7086  
       Aug 18, 2023
    因为 36.89 和 35.99 都不是二进制下的有限小数。
    比如说在单精度 IEEE754 下,
    36.89 其实是 36.8899993896484375 ,
    35.99 其实是 35.990001678466796875 ,
    -0.9 其实是-0.89999997615814208984375 。

    如果要显示 0.9 ,需要四舍五入到一定的精度。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   6174 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 43ms · UTC 02:38 · PVG 10:38 · LAX 19:38 · JFK 22:38
    ♥ Do have faith in what you're doing.