用 floor 会出现这种问题,但是 round 就没事
但是其他浮点数我也试了下 floor 正常
用 floor 会出现这种问题,但是 round 就没事
但是其他浮点数我也试了下 floor 正常
|
ClarkAbeAug 24, 2020 via iPhone
1
计算机浮点 0.1+0.2 不等于 0.3
|
|
ClarkAbeAug 24, 2020 via iPhone
2
好吧……眼睛快了
|
|
3
@ClarkAbe 297.9 会出现 297.89 ,但是 1297.9 就没问题……
|
|
cheng6563Aug 24, 2020
4
浮点数 k 默认算不准吧,不要靠碰巧了。
概率什么的用用浮点数还行, 其他地方就不要用了。 |
|
misaka19000Aug 24, 2020
5
IEEE754
|
|
6
试一下就知道了
floor(297.9 * 100)和 round(297.9 * 100)的结果就已经不一样了 |
|
7
因为 297.9 * 100 = 29789.999999999996
|
|
8
@jimages 膜拜大佬~~~~
|
|
msg7086Aug 24, 2020
9
因为计算机无法用有限位数浮点来存储 297.9 。
最接近的可以用 IEEE-754 表示的数,是 297.899993896484375 。 他下一个可以用 IEEE-754 表示的数,是 297.9000244140625 。 可以看到,297.9 是一个无法存储的数字。 |
|
lovecyAug 24, 2020
10
精度问题上面大佬#9 说得很清楚了。另外 floor 向下取整,返回 float ; round 四舍五入,返回 float 。对于 297.9,两个函数的返回值本来就不一样,不知道你这里为啥要用这里俩对比。
|
|
ClutchBearAug 24, 2020
11
计算机浮点数存储机制的问题
|
|
b00tyhunt3rAug 25, 2020
12
|
|
a7217107Aug 25, 2020
13
IEEE754 月经贴
|
|
14
你用 var_export(297.9 * 100); 就知道了,得到的是 29789.999999999996
|