zoukankan      html  css  js  c++  java
  • Javascript中小数精确计算问题

    前一段时间在项目中遇到JavaScript的数学计算精度不准确的问题,很是烦人,经过一番google最终找到了一些可行的方法:

    //以下四个函数是算术运算得到精确方法

    //除法函数,用来得到精确的除法结果 

    //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 

    //调用:accDiv(arg1,arg2) 

    //返回值:arg1除以arg2的精确结果

    function accDiv(arg1,arg2)

        return accMul(arg1,1/arg2);

    }

    //乘法函数,用来得到精确的乘法结果

    //说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 

    //调用:accMul(arg1,arg2) 

    //返回值:arg1乘以arg2的精确结果

    function accMul(arg1,arg2)

        var m=0,s1=arg1.toString(),s2=arg2.toString(); 

        try{m+=s1.split(".")[1].length}catch(e){} 

        try{m+=s2.split(".")[1].length}catch(e){} 

        return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 

    }

    //加法函数,用来得到精确的加法结果 

    //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 

    //调用:accAdd(arg1,arg2) 

    //返回值:arg1加上arg2的精确结果 

    function accAdd(arg1,arg2)

        var r1,r2,m;

        try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

        try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

        m=Math.pow(10,Math.max(r1,r2));

        return (accMul(arg1,m)+accMul(arg2,m))/m; 

    }

    //减法函数,用来得到精确的减法结果 

    //说明:javascript的减法结果会有误差,在两个浮点数减法的时候会比较明显。这个函数返回较为精确的减法结果。 

    //调用:accSub(arg1,arg2) 

    //返回值:arg1减法arg2的精确结果 

    function accSub(arg1,arg2)

    {

        return accAdd(arg1,-arg2);

    }

  • 相关阅读:
    Unity异步加载场景loading条
    (转)Unity3D命令行Build
    (转)Unity3d UnityEditor编辑器定制和开发插件
    (转)U3D不同平台载入XML文件的方法——IOS MAC Android
    Unity3D中的欧拉角的理解
    (转)在ios android设备上使用 Protobuf (使用dll方式)
    (转)[原创]在ios android设备上使用 Protobuf (使用源码方式)
    (转)欧拉角与万向节死锁
    (转) unity 在移动平台中,文件操作路径详解
    微信小程序四(设置底部导航)
  • 原文地址:https://www.cnblogs.com/lovenan/p/2814695.html
Copyright © 2011-2022 走看看