Python十進制&;包提供錯誤的結果
更新時間:2024-04-02 12:21:35問題闡述
我嘗試通過設置getcontext().prec = 800
計算以下結果。
>>> from decimal import *
>>> getcontext().prec = 800
>>> Decimal(22.0) / Decimal ( 10.0) - Decimal ( 0.2 )
Decimal('1.999999999999999988897769753748434595763683319091796875')
>>>
但預期結果為2
。我哪里做錯了?
精準答案
從浮點數構造小數時,會得到浮點數的精確值,但可能與小數值不完全匹配,因為浮點數就是這樣工作的。
如果要進行精確的小數運算,請使用字符串而不是浮點數來構造Decimal對象:
>>> Decimal('22.0') / Decimal('10.0') - Decimal('0.2')
Decimal('2.0')