zoukankan      html  css  js  c++  java
  • Javascript中小数精确计算问题

    前一段时间在项目中遇到JavaScript的数学计算精度不准确的问题,很是烦人,经过一番google最终找到了一些可行的方法:

    //以下四个函数是算术运算得到精确方法

    //除法函数,用来得到精确的除法结果 

    //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 

    //调用:accDiv(arg1,arg2) 

    //返回值:arg1除以arg2的精确结果

    function accDiv(arg1,arg2)

        return accMul(arg1,1/arg2);

    }

    //乘法函数,用来得到精确的乘法结果

    //说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 

    //调用:accMul(arg1,arg2) 

    //返回值:arg1乘以arg2的精确结果

    function accMul(arg1,arg2)

        var m=0,s1=arg1.toString(),s2=arg2.toString(); 

        try{m+=s1.split(".")[1].length}catch(e){} 

        try{m+=s2.split(".")[1].length}catch(e){} 

        return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 

    }

    //加法函数,用来得到精确的加法结果 

    //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 

    //调用:accAdd(arg1,arg2) 

    //返回值:arg1加上arg2的精确结果 

    function accAdd(arg1,arg2)

        var r1,r2,m;

        try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

        try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

        m=Math.pow(10,Math.max(r1,r2));

        return (accMul(arg1,m)+accMul(arg2,m))/m; 

    }

    //减法函数,用来得到精确的减法结果 

    //说明:javascript的减法结果会有误差,在两个浮点数减法的时候会比较明显。这个函数返回较为精确的减法结果。 

    //调用:accSub(arg1,arg2) 

    //返回值:arg1减法arg2的精确结果 

    function accSub(arg1,arg2)

    {

        return accAdd(arg1,-arg2);

    }

  • 相关阅读:
    jmeter如何连接数据库
    jmeter基础之录制篇
    php解压缩
    composer基本使用
    react组件之间的参数传递
    解决VMware Workstation 不可恢复错误: (vcpu-0)
    虚拟机vmware11装Mac ox 10.8 解决windows8.1下unlocker202 vmxsmc.exe已停止工作的问题
    Photoshop学习:打开PS之前需要...
    汇编语言之启航
    Markdown语法介绍
  • 原文地址:https://www.cnblogs.com/lovenan/p/2814695.html
Copyright © 2011-2022 走看看