zoukankan      html  css  js  c++  java
  • Javascript 浮点运算问题分析与解决

    分析

    JavaScript 只有一种数字类型 Number ,而且在Javascript中所有的数字都是以IEEE-754标准格式表示的。 浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的:

    十进制           二进制
    0.1              0.0001 1001 1001 1001 ...
    0.2              0.0011 0011 0011 0011 ...
    0.3              0.0100 1100 1100 1100 ...
    0.4              0.0110 0110 0110 0110 ...
    0.5              0.1
    0.6              0.1001 1001 1001 1001 ...

    所以比如 1.1 ,其程序实际上无法真正的表示 ‘1.1’,而只能做到一定程度上的准确,这是无法避免的精度丢失:

    1.09999999999999999

    在JavaScript中问题还要复杂些,这里只给一些在Chrome中测试数据:

     输入               输出
    1.0-0.9 == 0.1     False
    1.0-0.8 == 0.2     False
    1.0-0.7 == 0.3     False
    1.0-0.6 == 0.4     True
    1.0-0.5 == 0.5     True
    1.0-0.4 == 0.6     True
    1.0-0.3 == 0.7     True
    1.0-0.2 == 0.8     True
    1.0-0.1 == 0.9     True

    解决

    那如何来避免这类 1.0-0.9 != 0.1 的非bug型问题发生呢?下面给出一种目前用的比较多的解决方案, 在判断浮点运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入:

    (1.0-0.9).toFixed(digits)                   // toFixed() 精度参数须在 0 与20 之间
    parseFloat((1.0-0.9).toFixed(10)) === 0.1   // 结果为True
    parseFloat((1.0-0.8).toFixed(10)) === 0.2   // 结果为True
    parseFloat((1.0-0.7).toFixed(10)) === 0.3   // 结果为True
    parseFloat((11.0-11.8).toFixed(10)) === -0.8   // 结果为True

    方法提炼

    // 通过isEqual工具方法判断数值是否相等
    function isEqual(number1, number2, digits){
    	digits = digits == undefined? 10: digits; // 默认精度为10
    	return number1.toFixed(digits) === number2.toFixed(digits);
    }
    
    isEqual(1.0-0.7, 0.3);  // return true
    
    // 原生扩展方式,更喜欢面向对象的风格
    Number.prototype.isEqual = function(number, digits){
    	digits = digits == undefined? 10: digits; // 默认精度为10
    	return this.toFixed(digits) === number.toFixed(digits);
    }
    
    (1.0-0.7).isEqual(0.3); // return true
  • 相关阅读:
    JS框架_(Bootstrap.js)实现简单的轮播图
    Unity3D_(网格导航)简单物体自动寻路
    Android_(菜单)选项菜单
    Android_(传感器)获取手机中的传感器
    Java基础__Java中常用数学类Math那些事
    Java基础__Java中异常处理那些事
    Android_(控件)动态添加或删除Spinner下拉菜单
    Android_(消息提示)多种使用Toast的消息提示
    Java基础__随机生成1~15之间不重复的数字
    Android_(自动化)获取手机存储卡的容量
  • 原文地址:https://www.cnblogs.com/human/p/3284891.html
Copyright © 2011-2022 走看看