zoukankan      html  css  js  c++  java
  • double类型的数值计算

    package jiajian;
    
    public class jiajian {
    	public static void main(String[] args) {
    		System.out.println("0.05+0.01=" +(0.05+0.01));
    		System.out.println("1.0-0.42=" +(1.0-0.42));
    		System.out.println("4.015*100="+(4.015*100));
    		System.out.println("123.3/100="+(123.3/100));
    	}
    
    }
    

     

    这个涉及到二进制与十进制的转换问题。N进制可以理解为:数值×基数的幂,例如我们熟悉的十进制数123.4=1×10²+2×10+3×(10的0次幂)+4×(10的-1次幂);其它进制的也是同理,例如二进制数11.01=1×2+1×(2的0次幂)+0+1×(2的-2次幂)=十进制的3.25。double类型的数值占用64bit,即64个二进制数,除去最高位表示正负符号的位,在最低位上一定会与实际数据存在误差(除非实际数据恰好是2的n次方)。

    结论:使用double类型的的数值进行计算,其结果是不精确的。

  • 相关阅读:
    hdu1069
    hdu1068
    假脱机
    什么是数据的备份与恢复
    DNS(Domain Name System) 域名系统
    Deepnet
    deepweb
    异地备份
    冷备份和热备份
    备份
  • 原文地址:https://www.cnblogs.com/chenyuchun/p/9751243.html
Copyright © 2011-2022 走看看