1
jingniao 2017-03-15 19:33:50 +08:00 via Android 1
典型的浮点数问题
|
2
Reficul 2017-03-15 19:46:40 +08:00 via Android
0.1+0.2!=0.3 ,浮点数无解。只能想办法减少误差
|
3
0915240 2017-03-15 19:50:34 +08:00 1
|
6
mcfog 2017-03-15 20:48:32 +08:00
不用那么长,我也来个短的 0.58*100
|
7
Shura 2017-03-15 20:49:29 +08:00 via Android
建议楼主去学习一下计算机组成原理(
|
8
SoloCompany 2017-03-15 21:56:43 +08:00
一大谜团 - 为啥楼主不用 append 也能编辑帖子?
|
9
Mutoo 2017-03-15 22:00:51 +08:00
keyword: IEEE 754 浮点数计算
|
10
SoloCompany 2017-03-15 22:04:04 +08:00
https://developer.mozilla.org/en-US/docs/Web/JavaScript/Reference/Global_Objects/Math/round#Decimal_rounding
然后你可以试一下 Math.round10(123+Math.floor(123*0.008*100)/100+10, -10) |
11
misaka19000 2017-03-15 22:10:23 +08:00 1
|
12
Quaintjade 2017-03-15 22:38:23 +08:00
@SoloCompany
Mozilla 这个还只是一半,负数部分得自己写,因为 js 的 Math.Round()总是向正无穷大取整: If the fractional portion is exactly 0.5, the argument is rounded to the next integer in the direction of +∞ 比如 Math.round10(-1.005,-2)的结果是 -1 而不是 -1.01 |
13
wly19960911 2017-03-15 22:47:06 +08:00 via Android
@SoloCompany 我没记错的话,短时间内能编辑的,
|
14
codelegant 2017-03-15 23:06:58 +08:00 via Android
@0915240 这个网站,的确非常的有意思。
|
15
a87150 2017-03-15 23:09:27 +08:00 via Android
世界的错
|
16
zhuziyi 2017-03-16 00:00:41 +08:00
![]( )
|