zoukankan      html  css  js  c++  java
  • JS的toFixed方法设置小数点位数后再进行计算,数据出错问题

    这个应该算作失真,或者也不算。情况就是用了toFixed后再进行相关计算,得不到预期的结果

    具体看例子

    比如想动态计算百分比,保留一位小数如94.4%这样子

    var blobTo = 409600;
    var totalSize = 433927;
    var percent = (blobTo / totalSize).toFixed(3) * 100;
    
    percent // 94.39999999999999

    恰巧碰到这个,然而percent并不是预期的结果。于是,测试各段数据

    var blobTo = 409600;
    var totalSize = 433927;
    var percent1 = (blobTo / totalSize);
    var percent2 = (blobTo / totalSize).toFixed(3);
    var percent3 = (blobTo / totalSize).toFixed(3) * 100;
    var percent4 = (blobTo / totalSize).toFixed(3) * 1;
    var percent5 = (blobTo / totalSize).toFixed(3) * 10;
    
    console.log(percent1, typeof(percent1)); // 0.9439375747533572 "number"
    console.log(percent2, typeof(percent2)); // 0.944 string
    console.log(percent3, typeof(percent3)); // 94.39999999999999 "number"
    console.log(percent4, typeof(percent4)); // 0.944 "number"
    console.log(percent5, typeof(percent5)); // 9.44 "number"

    好生奇怪... 乘以10正常,当乘以100时,好像失真了

    不明觉厉

    最后找到一种方法解决,在括号里面先乘上100

    var percent = (100* blobTo / totalSize).toFixed(1);
    
    percent // 94.4

    还不知道具体是为啥这样,知道的可以告诉我哈~

  • 相关阅读:
    noip欢乐赛10.24 分火腿
    noip2014 无线网络发射器选址/wireless.
    noip2012 借教室 线段树最小值做法
    Codevs1021题解---SPFA+路径记录
    Vijos1448题解---线段树+括号法
    Vijos1425题解---栈
    Codevs1022题解---匈牙利算法
    人们总要为曾经的年轻买单
    2017-10-26
    2017-10-24LCA
  • 原文地址:https://www.cnblogs.com/imwtr/p/5956463.html
Copyright © 2011-2022 走看看