zoukankan      html  css  js  c++  java
  • 1.Float精度在JS的解决方法

      最近做了一个有关折扣价的计算的功能,所有的运算都是在前台通过js来做,做完之后经过手工核算发现了一个问题,当时做的一个例子是10*0.94,按照我们正常的思维,这个结果应该是9.4,但是在js中的计算结果是9.39999999.....。其实按照二进制的算法来说js的这个结果是最精确的,但是按照我们正常人的思维来看结果只能是9.4,并且业务要求是不能四舍五入,要强制保留小数位数,所有这样一来就出问题了,后来在一个技术交流群了里有群友推荐了下面的解决方法,成功的解决了这个问题,请往下看:

      核心代码就只有这几行:

      //1.先将其他数据类型转换成String类型

      var m=0,s1=arg1.toString(),s2=arg2.toString();
      try{

        //2.对字符串分割后取出小数位的长度并得到总的小数位数

        m+=s1.split('.')[1].length;

        m+=s2.split('.')[1].length;

        //3.此处原理是将小数转换为整数相乘然后再除10的m次方即得到最终想要的结果
        return Number(s1.replace('.',''))*Number(s2.replace('.',''))/Math.pow(10,m);//9.4

      }catch(e){

        e.pringStack();

      }

      除法和上面的乘法大同小异,只需将两数相乘改为相除,乘法时的除以pow函数改为乘,同时pow函数中m的值取小数位数之差即可。

    http://www.cnblogs.com/haohaoge/
  • 相关阅读:
    MySql自定义函数-关于保留小数位的特殊需求
    MySQL-时区导致的时间前后端不一致
    [计算机基础] 汇编学习(3)
    [计算机基础] 汇编学习(2)
    [计算机基础] 汇编学习(1)
    [安全] metasploit(2)
    [安全] Kali Linux安装TheFatRat
    [安全] metasploit(1)
    [安全] tcpdump使用
    [安全] netcat和socat的使用
  • 原文地址:https://www.cnblogs.com/haohaoge/p/6626098.html
Copyright © 2011-2022 走看看