Python3 Decimal + round 函数小坑

from decimal import Decimal

round(Decimal(0.123456789), 3) + Decimal(0.01)  # out: Decimal('0.1330000000000000002081668171')

round(Decimal(0.123456789) + Decimal(0.01), 3)  # out: Decimal('0.133')

测试环境 python 3.6.5 + ipython

DECIMAL

Round

Python

out

20 replies • 2019-07-23 09:20:25 +08:00

nooper

Jul 22, 2019

不是 python 的坑，是所有计算机指令的问题。你在好好查一下，有专门的文档 decimal round_up 等处理这个问题。

chenstack

Jul 22, 2019

>>> round(Decimal('0.123456789'), 3) + Decimal('0.01')
Decimal('0.133')

Decimal 初始化时不要传 float 类型，要传字符串，因为传 float 时，float 值本身就有精度丢失问题
>>> Decimal(0.01)
Decimal('0.01000000000000000020816681711721685132943093776702880859375')
>>> Decimal('0.01')
Decimal('0.01')

lyy16384

Jul 22, 2019

我试了没有 round 也一样
Decimal(0.123) + Decimal(0.01)

chenstack

Jul 22, 2019

Construct a new Decimal object. 'value' can be an integer, string, tuple, or another Decimal object. If no value is given, return Decimal('0'). The context does not affect the conversion and is only passed to determine if the InvalidOperation trap is active.

XIVN1987

Jul 22, 2019

使用 decimal 不就是为了避免 float 的误差吗？

对 decimal 使用 round 不就把精确表示又带回了 float 的不精确表示了吗？

jingniao

Jul 22, 2019 via Android

对 decimal round 有自己的函数

djj510620510

Jul 22, 2019

@chenstack 感谢告知 :D

@XIVN1987 但是 round 返回的还是 decimal 类型

XIVN1987

Jul 22, 2019

@djj510620510
抱歉，我看错了，，我以为是把 decimal 加法结果传给了 round，，

djj510620510

Jul 22, 2019

@jingniao 还真是。。。。

djj510620510

Jul 22, 2019

@jingniao 但按照 python 设计理念，不是应该 Decimal 类里实现一个__round__吗，然后这个__round__的逻辑跟 decimal.round 的逻辑一样。

hjq98765

Jul 22, 2019

我还是为是说 [四舍六入五成双]

djj510620510

Jul 22, 2019

@hjq98765 应该 JS 才会出现吧 /doge

pkuphy

PRO

Jul 22, 2019

>>> round(1.5)
2
>>> round(2.5)
2

poet00

Jul 22, 2019

`round(Decimal("0.123456789"), 3) + Decimal("0.01") #Decimal('0.133')`

```
from decimal import *

getcontext().prec

```

不是 decimal 的坑, 初始化 decimal 变量，推荐使用 string 或者在运算时手动指定 percesion