zoukankan      html  css  js  c++  java
  • JS 精度问题0.1+0.2=0.30000000000000004

    这个问题有多严重,有才的外国网友直接注册了一个域名来解释这个问题。。。 可以点击链接直接访问:0.30000000000000004.com

    //js 加法计算  
    //调用:accAdd(arg1,arg2)  
    //返回值:arg1加arg2的精确结果   
    function accAdd(arg1,arg2){   
      var r1,r2,m;   
      try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   
      try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   
      m=Math.pow(10,Math.max(r1,r2))   
      return ((arg1*m+arg2*m)/m).toFixed(2);   
    }   
    //js 减法计算  
    //调用:Subtr(arg1,arg2)  
    //返回值:arg1减arg2的精确结果   
    function Subtr(arg1,arg2){  
         var r1,r2,m,n;  
         try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
         try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
         m=Math.pow(10,Math.max(r1,r2));  
         //last modify by deeka  
         //动态控制精度长度  
         n=(r1>=r2)?r1:r2;  
         return ((arg1*m-arg2*m)/m).toFixed(2);  
    }   
    //js 除法函数  
    //调用:accDiv(arg1,arg2)  
    //返回值:arg1除以arg2的精确结果   
    function accDiv(arg1,arg2){   
      var t1=0,t2=0,r1,r2;   
      try{t1=arg1.toString().split(".")[1].length}catch(e){}   
      try{t2=arg2.toString().split(".")[1].length}catch(e){}   
      with(Math){   
        r1=Number(arg1.toString().replace(".",""))   
        r2=Number(arg2.toString().replace(".",""))   
        return (r1/r2)*pow(10,t2-t1);   
      }   
    }   
      
    //js 乘法函数  
    //调用:accMul(arg1,arg2)   
    //返回值:arg1乘以arg2的精确结果   
    function accMul(arg1,arg2)   
    {   
      var m=0,s1=arg1.toString(),s2=arg2.toString();   
      try{m+=s1.split(".")[1].length}catch(e){}   
      try{m+=s2.split(".")[1].length}catch(e){}   
      return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)   
    }

     2017年12月21日09:53:58 更新

    用function accAdd(arg1,arg2)做加法0.0012+0.0002的时候 会发生精度问题 ,是由于0.0012*10000的乘法有精度问题。

    在理论上,JS的精度问题是无法彻底解决的。在上面的方法中加法方法 混合有乘法和除法,乘法方法混有加法。当到达特定的条件的时候,还是会产生精度问题。

  • 相关阅读:
    开源:不断创新的动力
    Inkpad中文翻译已合并到官方项目
    Inkpad绘图原理浅析
    Vectoroid
    发布大幅重构优化的 TouchVG 1.0.2
    清理掉一直想研究的开源项目
    函数指针调用方式
    音视频直播优化
    std::unique_lock与std::lock_guard区别示例
    c++容器的操作方法总结
  • 原文地址:https://www.cnblogs.com/CryOnMyShoulder/p/7798106.html
Copyright © 2011-2022 走看看