浮点数精度计算出现的问题

 

 

 

当我们保存浮点数后再读取浮点数，结果可能会出现一点点偏差。

比如：

float ft1 = 20.2;(这样编译器会报警告，因为小点数默认为double)

CString str;

str.Format(_T("%f"),ft1);

这时候ft1的值等于20.200001。

 

float ft2 = 20.8;

CString str;

str.Format(_T("%f"),ft2);

这时候ft1的值等于20.799999。

 

解决方法1：

将float改用double存储：

double dt1 = 20.2;

 

解决方法2：

使用%g格式化，除去0后的有效位数。

float ft1 = 20.2;

CString str;

str.Format(_T("%g"),ft1);

这时候ft1的值等于20.2。但是没法再用0对齐了，嘿嘿嘿嘿。。。。。。

 

解决方法3：

使用%0.4格式化

float ft1 = 20.2;

CString str;

str.Format(_T("%0.4f"),ft1);

这时候ft1的值等于20.2000。

 

还有些比较复杂的，比如说计算过程中出现了精度损失。

如

我们通过简单的代码试验一下：

int newWidth, newHeight;

GetThumbnailSize(200, 200, 100, 100, out newWidth, out newHeight);
Console.WriteLine("{0}, {1}", newWidth, newHeight);

GetThumbnailSize(300, 300, 100, 100, out newWidth, out newHeight);
Console.WriteLine("{0}, {1}", newWidth, newHeight);

得到的结果是：

100, 100
99, 100

第一个结果自然没有问题，但是在第二个结果中为什么是99而不是100？为此，我们再通过以下的代码来观察一番：

ratio: 0.3333333333333333333333333333
new value: 99.99999999999999999999999999
to int: 99

可见，虽然使用了decimal，精度已经非常高的，但是在经过了一除一乘，它还是没有恢复到最精确值。虽然一直说要注意浮点数计算时的精度问题，但是对于这个问题许多朋友往往只是理解到“不能直接两个浮点数相等”，包括我自己的第一印象。但事实上，从上面的结果也可以看出，把一个浮点数直接转换成整形，它便是使用了“去尾”而不是“四舍五入”的方法。因此，虽然newValue的值无比接近100，但是在强制去尾后它还是变成了99。

如果要在原来的方法中改变这个问题，最简单的方法可能是把最后的强制转型替换成Math.Round方法。Math.Round方法使用四舍五入，应该能够解决问题。不过如果只是这样的话收获不大，我们再仔细想想，应该如何做到尽可能的精确。

两个浮点数相除可能会丧失精度，但如果是乘法操作，在一般情况下精度是不会丢失的，除非发生了溢出的话，或者小数位数太多。因此在计算过程中为了保持精度，我们应该尽可能的做乘法，而不是作除法。例如以下的判断：

if ((decimal)desiredWidth / originalWidth < (decimal)desiredHeight / originalHeight)

其实最好改写成“等价”的乘法操作。