zoukankan      html  css  js  c++  java
  • 小数计算精度丢失问题之前菜——了解计算机二进制

         二进制表示法。。。。

        这是也是基础知识啦:

       别急我们一点一点的讲解。正整数转二进制,负整数转二进制,小数转二进制


      正整数转二进制:  正整数转成二进制。要点一定一定要记住哈:除二取余,然后倒序排列,高位补零。

                21 /2    -------------------------------余  1

                10/2     -------------------------------余   0

                 5/2      ------------------------------- 余   1

                 2/2      --------------------------------余  0

                  1/2     ---------------------------------余 1

          记住,到着排序  10101  ,验证下转成十进制: 1×2的4次方+1×2的2次方+1×2的0次方=16+4+1=21。正确。

          计算机一般是8 位 16位  32位  64 位的,所以不够位高位补零。8位表示法:00010101


    负整数转二进制:先是将对应的正整数转换成二进制后,对二进制取反,然后对结果再加一。

         取 -21 演示,看口诀,

             21 的二进制表示为: 10101

            取反:  01010

            加一 : 01011


      小数转换为二进制的方法:对小数点以后的数乘以2,有一个结果吧,取结果的整数部分(不是1就是0喽),然后再用小数部分再乘以2,再取结果的整数部分……以此类推,直到小数部分为0或者位数已经够了就OK了。

         演示: 0.125 ×2=0.25 .......................0

                     0.25×2=0.5.............................0

                     0.5×2=1.0................................1

       即 0.125的二进制表示为小数部分为0.001

         记住,乘到小数为0。排序:正序。

    验证: 0.001        0×2的0次方+0×2的-1次方+0×2的-2次方+0×2的-3次方=1/8=0.125.正确。

       现在来说明0.1转二进制不能表示的原因啦:

      0.1×2=0.2 .....................0

     0.2×2=0.4 ......................0

     0.4×2=0.8 .....................0

     0.8×2=1.6.......................1

     0.6×2=1.2.......................1

     0.2×2=0.4.......................0

     .....

     是无限循环的。所以。。。。你懂的!



      for(double i=0;i!=10;i+=0.1)
    {
    }

    有可能是死循环。用浮点数循环需要注意啦。

    欢迎大家来我的 [Gitee仓库](https://gitee.com/jiffyzhang)参观。 同时欢迎关注我的同名公众号:就这样写(keepStarve),未来很大可能会活跃在此地。
  • 相关阅读:
    js判断是否为数字
    sublime3常用插件总结
    npm run build打包后自定义动画没有执行
    css实现未知元素宽高垂直居中和水平居中的方法
    vue3.0的设计目标
    chrome 80版本以后开启了SameSite
    http以及缓存、事件循环......
    vue移动端适配就这么玩
    前端性能监控
    能解决 80% 需求的 10个 CSS动画库
  • 原文地址:https://www.cnblogs.com/zhang-bobo/p/13782458.html
Copyright © 2011-2022 走看看