zoukankan      html  css  js  c++  java
  • C/C++ 双精度double 数据相加出错缺陷解释

    不知道有没有人和我一样遇到过这样一个问题,请看下面代码。

     1 #include<iostream>
     2 using namespace std;
     3 int main(){
     4     double a=2.3,b=1.9,c=4.2;
     5     if(a+b==c){
     6         cout<<"进来了"<<endl;
     7     }else{
     8         cout<<"没哦"<<endl;
     9     }
    10     return 0;
    11 }

    这段代码在 VS 2012上面执行是  输出 没哦  的,也就是说里面的 2.3+1.9居然不等于4.2。

    当时遇到也是百思不等其解

    后来断点测试显示,在if处的a和b 的值 居然变了,增加了小数点后7~8位

    最后得出的结果是,语言本身的误差,并非代码错误!

    解决方法是 加入 fabs函数,就可以了,0.0001是误差的范围,可以自己斟酌定义。最好用系统的 DBL_MIN,这个是最小的

     1 #include<iostream>
     2 using namespace std;
     3 int main(){
     4     double a=2.3,b=1.9,c=4.2;
     5     if(fabs((a+b)-4.2)< 0.0001){
     6         cout<<"进来了"<<endl;
     7     }else{
     8         cout<<"没哦"<<endl;
     9     }
    10     return 0;
    11 }
  • 相关阅读:
    Java编程的逻辑 (74)
    Java编程的逻辑 (73)
    Java编程的逻辑 (72)
    Java编程的逻辑 (71)
    Java编程的逻辑 (70)
    Java编程的逻辑 (69)
    Java编程的逻辑 (68)
    Java编程的逻辑 (67)
    透视校正插值
    摄像机成像模型
  • 原文地址:https://www.cnblogs.com/linguanh/p/4135924.html
Copyright © 2011-2022 走看看