详谈javascript精度问题与调整

一个经典的问题：

0.1+0.2==0.3

答案是：false

因为：0.1+0.2=0.30000000000000004

第一次看到这个结果就是无比惊讶，下巴碰到地上，得深入了解下问题出在哪里，该怎么去调整。

产生问题的原因

在JS中数值类型就只有number类型，没有int，float，double之分，number类型实际上存储的就是IEEE754标准的浮点数，计算规则也是。

在表达式计算前，先要按照标准将两个数转成浮点数。

IEEE 754规定：

1.32位的浮点数（单精度），最高的1位是符号位S，接着的8位是指数E，剩下的23位为有效数字M。

浮点数的表现形式：

x=(-1)^S*m*2^(e+127)

m=1.M

E=e+127

2.64位的浮点数（双精度），最高的1位是符号位S，接着的11位是指数E，剩下的52位为有效数字M。

浮点数的表现形式：

x=(-1)^S*m*2^(e+1023)

m=1.M

E=e+1023

我们就按照双精度浮点数的标准转一下看看。

首先按照规则将0.1转成二进制的浮点数。

0.1*2=0.2 //00.2*2=0.4 //000.4*2=0.8 //0000.8*2=1.6 //00010.6*2=1.2 //000110.2*2=0.4 //0001100.4*2=0.8 //00011000.8*2=1.6 //000110010.6*2=1.2 //0001100110.2*2=0.4 //00011001100.4*2=0.8 //000110011000.8*2=1.6 //0001100110010.6*2=1.2 //00011001100110.2*2=0.4 //000110011001100.4*2=0.8 //0001100110011000.8*2=1.6 //00011001100110010.6*2=1.2 //00011001100110011//省略

在转换中，会发现小数位的二进制值在不停的重复，转换没完没了了，因为乘不尽啊，不是10的倍数。

转换也不可能一直重复下去，按照标准规格化的要求凑满。

转换结果：

0.00011001100110011001100110011001100110011001100110011001

精度问题产生的第一个原因就在这里诞生了，按照标准算出来的二进制浮点数并不能都精确的表示一个小数，只是无限近似，0.5可以，因为5是10的倍数，转出来的小数位二进制不会重复。

我们看看再转回小数会怎么样，按照公式写成：

0*2^-1 + 0*2^-2 + 0*2^-3 + 1*2^-4 + 1*2^-5 + 0*2^-6 + 0*2^-7 + 1*2^-8 + 1*2^-9 + 0*2^-10 + 0*2^-11 + 1*2^-12 + 1*2^-13 + 0*2^-14 + 0*2^-15 + 1*2^-16 + 1*2^-17 + 0*2^-18 + 0*2^-19 + 1*2^-20 + 1*2^-21 + 0*2^-22 + 0*2^-23 + 1*2^-24 + 1*2^-25 + 0*2^-26 + 0*2^-27 + 1*2^-28 + 1*2^-29 + 0*2^-30 + 0*2^-31 + 1*2^-32 + 1*2^-33 + 0*2^-34 + 0*2^-35 + 1*2^-36 + 1*2^-37 + 0*2^-38 + 0*2^-39 + 1*2^-40 + 1*2^-41 + 0*2^-42 + 0*2^-43 + 1*2^-44 + 1*2^-45 + 0*2^-46 + 0*2^-47 + 1*2^-48 + 1*2^-49 + 0*2^-50 + 0*2^-51 + 1*2^-52 + 1*2^-53 + 0*2^-54 + 0*2^-55 + 1*2^-56

计算结果：

0.09999999999999999167332731531133

精度就在这里丢了一次。就是转换成小数位的二进制的时候。

按照表现形式的要求，要写成x=(-1)^s*m*2^(e+1023)，m=1.M的格式，按照要求尾数m的左边最高位总是1，所以要上面小数二进制结果的小数点进行移动