zoukankan      html  css  js  c++  java
  • [浮点型数据]数值精度&取值范围 完全不同的概念

    先来看个小程序:

    #include <stdio.h>
    int main()
    {
        double a = 3.14159265358979323846264338327950288419716939937510582097494459230781640628620899862803482534211706798214808651328230664709384460955058223172535940812848111745028410270193852110555964462294895493038196442881097566593344612847564823378678316527120190914564856692346034861045432664821339360726024914127372458700660631558817488152092096282925409171536436789259036001133053054882046652138414695194151160943305727036575959195309218611738193261179310511854807446237996274956735188575272489122793818301194912983367336244065664308602139494639522473719070217986094370277053921717629317675238467481846766940513200056812714526356082778577134275778960917363717872146844090122495343014654958537105079227968925892354201995611212902196086403441815981362977477130996051870721134999999837297804995105973173281609631859502445945534690830264252230825334468503526193118817101000313783875288658753320838142061717766914730359825349042875546873115956286388235378759375195778185778053217122680661300192787661119590921642019893809525720106548586327886593615338182796;
        //这里的a是千位的pi
      if (a == 3.14159265358979323846264338327950288419716939937510582097494459230781640628620899862803482534211706798214808651328230664709384460955058223172535940812848111745028410270193852110555964462294895493038196442881097566593344612847564823378678316527120190914564856692346034861045432664821339360726024914127372458700660631558817488152092096282925409171536436789259036001133053054882046652138414695194151160943305727036575959195309218611738193261179310511854807446237996274956735188575272489122793818301194912983367336244065664308602139494639522473719070217986094370277053921717629317675238467481846766940513200056812714526356082778577134275778960917363717872146844090122495343014654958537105079227968925892354201995611212902196086403441815981362977477130996051870721134999999837297804995105973173281609631859502445945534690830264252230825334468503526193118817101000313783875288658753320838142061717766914730359825349042875546873115956286388235378759375195778185778053217122680661300192787661119590921642019893809525720106548586327886593615338182796) {
            printf("相等
    ");
        }
        else {
            printf("不相等
    ");
        }
        printf("%.30f
    ", a); //这里为了保证a输出小数点后30位
        return 0;
    }

    运行结果为:

    相等
    3.141592653589793115997963468544

    显然a是可以取到千位pi,毕竟pi只是在3.14与3.15之间,这个数值当然在双精度浮点型的所能表示的范围内.所以不会出现错误. 但如果把"3."去掉,会显示1415926535897932384....超过double的取值范围

    另一个问题是:如果我们仔细看运行结果3.141592653589793115997963468544

    会发现只有加粗的16位数字是准确的,后面的部分都是不准确的.

    所以对应我们知道的,double的有效数字一般有15-16位,其余部分都是不准确的.

    同样的可以测试float:

    #include <stdio.h>
    int main()
    {
    
        float a = 3.14159265;
        if (a == 3.14159265) {
             printf("相等
    ");
        }
        else {
            printf("不相等
    ");
        }
        printf("a = %.30f
    ", a);
        return 0;
    }

    运行结果为

    不相等
    a = 3.141592741012573242187500000000

    我们会发现,结果是不相等,虽然我们让a取了3.14159265,但是在计算机内部中却是运行结果里出现的a = 3.1415927410125732421875;

    运行结果里a = 3.141592741012573242187500000000

    只有加粗的7位是准确的,对应知道的:float类型的数据只有7-8位是有效的,其余是不准确的.

  • 相关阅读:
    Macbook键盘的使用基础技巧
    JSTL详解
    为了理想,因为爱情-开课第一天有感(鸡汤向)
    HK游记 Day2迪斯尼(下)
    MP20 MBO issue summary
    音频测量加权
    有没有降噪
    信源编码信源译码和信道编码和译码和加密和解密数字调制和解调和同步
    gcc
    数据挖掘|统计的艺术
  • 原文地址:https://www.cnblogs.com/profesor/p/12750174.html
Copyright © 2011-2022 走看看