zoukankan      html  css  js  c++  java
  • 如何比较js 浮点数

    浮点数的定义,非整数的Number类型无法用 =也不行) 来比较,这就是为什么在JavaScript中,0.1+0.2不能=0.3:

    console.log( 0.1 + 0.2 == 0.3);
    

    这里输出的结果是false,说明两边不相等的,这是浮点运算的特点,浮点数运算的精度问题导致等式左右的结果并不是严格相等,而是相差了个微小的值

    所以实际上,这里错误的不是结论,而是比较的方法,正确的比较方法是使用JavaScript提供的最小精度值:

    console.log( Math.abs(0.1 + 0.2 - 0.3) <= Number.EPSILON);
    

    检查等式左右两边差的绝对值是否小于最小精度,才是正确的比较浮点数的方法。这段代码结果就是 true 了。

    在开发中也遇到这种情况的问题,根据返回值显示出百分数。

    后端的返回值是 value : 0.29;

    这是在 vue 中使用elemeng-ui 将数值格式化的一个方法,返回值是 0.29 ,如果不做除以1000的处理,显示的值不是29%;

    percentFormat (row, column) {
        var percent = row[column.property];
         if(!percent){ // 如果没有值或值为0
                return 0 + "%";
          }
          percent = (percent * 1000)/10 + "%";
          return percent;
    },
    
  • 相关阅读:
    Web测试与App测试的区别-总结篇
    Shell之基本用法
    Samba服务部署
    Linux基础(3)
    linux基础(2)
    linux基础(2)
    Linux基础(1)
    网络基础及网络协议
    操作系统简介
    计算机基础重要性
  • 原文地址:https://www.cnblogs.com/lisaShare/p/10999696.html
Copyright © 2011-2022 走看看