zoukankan      html  css  js  c++  java
  • js小数计算的问题,为什么0.1+0.2 != 0.3

    
    //下面可以用原生解决 0.1+0.2 的问题
    parseFloat((0.1 + 0.2).toFixed(10))
    复制代码
    
    
    
    console.log(0.1+0.2===0.3);    //true or false?
    
    
    在正常的数学逻辑思维中,0.1+0.2=0.3这个逻辑是正确的,但是在JavaScript中0.1+0.2!==0.3,这是为什么呢?这个问题也会偶尔被用来当做面试题来考查面试者对JavaScript的数值的理解程度

    在JavaScript中的二进制的浮点数0.1和0.2并不是十分精确,在他们相加的结果并非正好等于0.3,而是一个比较接近的数字 0.30000000000000004 ,所以条件判断结果为 false

    那么应该怎样来解决0.1+0.2等于0.3呢? 最好的方法是设置一个误差范围值,通常称为”机器精度“,而对于 JavaScript 来说,这个值通常是2^-52,而在 ES6 中,已经为我们提供了这样一个属性:Number.EPSILON,而这个值正等于2^-52。这个值非常非常小,在底层计算机已经帮我们运算好,并且无限接近0,但不等于0,。这个时候我们只要判断(0.1+0.2)-0.3小于Number.EPSILON,在这个误差的范围内就可以判定0.1+0.2===0.3为true

    function numbersEqual(a,b){
        return Math.abs(a-b)<Number.EPSILON;
    }
    var a=0.1+0.2, b=0.3;
    console.log(numbersEqual(a,b));    //true
    
    
    
  • 相关阅读:
    app版本升级的测试点
    APP测试完整测试用例设计方法
    多条件组合查询---测试用例设计
    上传文件和导出的测试用例设计
    需求评审时,测试应该做什么?
    什么是PRD?
    什么是测试计划?
    由谁来编写测试计划?
    测试计划模板
    无法预览图片
  • 原文地址:https://www.cnblogs.com/zxyun/p/11496616.html
Copyright © 2011-2022 走看看