python学习笔记：浮点数计算问题（20180920）

 

 

python输出过程：一个十进制数———以二进制形式（近似值）存储到计算机———输出该二进制近似值的十进制近似值

举例：浮点数0.3的二进制表示

十进制小数转二进制采用"乘2取整，顺序排列"法。具体做法是：用2乘十进制小数，将积的整数部分取出，再用2乘余下的小数部分，再将积的整数部分取出，如此循环，直到积中的小数部分为零，此时0或1为二进制的最后一位。或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来，先取的整数作为二进制小数的高位有效位，后取的整数作为低位有效位。

0.3×2=0.6    取0

0.6×2=1.2    取1

0.2×2=0.4    取0

0.4×2=0.8    取0

0.8×2=1.6    取1

0.6×2=1.2    取1（此处开始循环）

故：0.3的二进制表示为0.010011001......（1001循环），对于计算机而言，只能存储有限位数的二进制数。

二进制换为十进制，过程如下：

0.010011001=2^(-2)+2^(-5)+2^(-6)+2^(-9)≈1/4+1/32+1/64+1/512≈0.25+0.03125+0.015625+0.001953125≈0.298828125

☆所以，在python中直接将两个浮点数进行大小比较，或者做精确的计算，往往会得到意想不到的结果。

一、大小比较问题：可以用math模块解决。

>import math

>webbrowser.open("https://docs.python.org/3/library/math.html")

#never use == with floats!
print("equality testing with math.isclose")
print("The problem...")
d1=0.1+0.1+0.1
d2=0.3
print(d1==d2)                #false
print()
print("The solution...")
print(math.isclose(d1,d2))   #true
#math.isclose checks import mathif the two numbers are almost equal within a small error!     

二、数值计算问题：可以用decimal.Decimal解决

import decimal      #or from decimal import Decimal
decimal.Decimal('3')-decimal.Decimal('1.3')      #output 1.7

 **注意Decimal(str(n))，括号内是先将其转换为字符串！