zoukankan      html  css  js  c++  java
  • 二进制系统不能精确表示 0.9

    我的主力博客:半亩方塘

    首先来看看以下的一个样例:

    public class Test
    {
        public static void main(String[] args)
        {
            System.out.println( 2.0-1.1 );
        }
    }

    将上述代码保存到名为 Test.java 的文件里,运行后得到的结果为 0.8999999999999999,而不是得到想象中的 0.9,这是为什么呢?

    这是由于,浮点数值在 Java 中是採用二进制系统表示的,二进制系统无法精确表示 0.9,我们知道,十进制小数向二进制小数转换的时候分别对 整数部分 和 小数部分 进行转换,第一步,将 整数部分除 2 取余 ,直到商为 0 为止,然后依次 将所得余数逆向排列 ,得到整数部分的二进制结果,第二步,将 小数部分乘 2 取整,直到小数部分为 0 为止,然后依次 将所得整数顺向排列 ,得到小数部分的二进制结果,比如我们要将 12.75 转换成二进制结果,过程例如以下:






    所以最后十进制的 12.75 转换成了二进制的 1100.11,我们来验算一下结果,将每一位数字乘以相应的位权得到:

    1 * 2^3 + 1 * 2^2 + 0 * 2^1 + 0 * 2^0 + 1 * 2^-1 + 1 * 2^-2 = 12.75

    由此可见全然正确,清楚了十进制小数到二进制小数的转换后,以下我们来谈谈为什么二进制不能精确表示 0.9,我们将 0.9 转换成相应的二进制数例如以下:



    由上图可知,绕回去了,照此进行下去的话会不断反复这样的绕回的过程,无休无止,因此,二进制系统不能精确地表示 0.9,同理,基于相同的理由,二进制系统也并不能精确地表示 0.1,这就像十进制系统不能精确地表示 1/3 (无限循环小数)一样。

    最后须要注意的一点是,在 Java 中是这种,可是在 C/C++ 中并非这样,C/C++ 中能精确表示 Java 中不能精确表示的浮点数。


  • 相关阅读:
    fiddler过滤css、js、jpg等文件。
    利用jmeter批量创建测试数据(一)---csv data set config
    【Qt】实现程序重启的两种方法
    【MySQL 基础】MySQL必知必会
    【设计模式】访问者模式
    【设计模式】状态模式
    【设计模式】观察者模式
    【设计模式】备忘录模式
    【设计模式】中介者模式
    【设计模式】迭代器模式
  • 原文地址:https://www.cnblogs.com/gcczhongduan/p/4253644.html
Copyright © 2011-2022 走看看