zoukankan      html  css  js  c++  java
  • float 类型精度和两数比较大小

    1. Windows VS2008 下,float型精度是7位小数.
    2. 在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
    3. 在精度范围之外,多余数位将被忽略,从而分不同情况 :
    4. 以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.
    • 若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
    • 若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.
    void floatSub() {
    	float a = 0.854698762;
    	float b = 0.854698763;
    	if (a < b) {
    		cout<<"a < b\n";
    	}
    	else if (a == b) {
    		cout<<"a = b\n";
    	}
    	else
    		cout<<"a > b\n";
    }
    void floatSub() {
    	float a = 0.85462836;
    	float b = 0.85462839;
    	if (a < b) {
    		cout<<"a < b\n";
    	}
    	else if (a == b) {
    		cout<<"a = b\n";
    	}
    	else
    		cout<<"a > b\n";
    }
    void floatSub() {
    	float a = 0.8546286;
    	float b = 0.8546289;
    	if (a < b) {
    		cout<<"a < b\n";
    	}
    	else if (a == b) {
    		cout<<"a = b\n";
    	}
    	else
    		cout<<"a > b\n";
    }
     
     

    7位以下小数位都可以进行比较逻辑运算.

  • 相关阅读:
    软件工程个人作业01
    动手动脑
    大道至简感想终结篇
    课后作业
    反思
    课后作业
    不忘初心,方得始终
    课后作业
    沟通,让一切变得简单

  • 原文地址:https://www.cnblogs.com/xiangwengao/p/2417748.html
Copyright © 2011-2022 走看看