zoukankan      html  css  js  c++  java
  • JavaScript 解决浮点值运算Bug

    浮点值得精确计算。
      ——JavaScript的浮点值运算,总会存在些奇怪的结果。

      由于有些小数用二进制表示时是无穷的,故有些精确度丢失是无法避免的。
        如:0.2+0.1的的运算结果实际上是:0.30000000000000004
        

      解决方案:通过Math.pow(x,y)函数,返回x的y次幂。
           如果结果是虚数或负数,则该方法将返回 NaN。如果由于指数过大而引起浮点溢出,则该方法将返回 Infinity。

        //加法  
      function FloatAdd(arg1,arg2){  
           var r1,r2,m;  
           try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
           try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
           m=Math.pow(10,Math.max(r1,r2));  
           return (arg1*m+arg2*m)/m;  
      }  
          
         //减法  
      function FloatSub(arg1,arg2){  
          var r1,r2,m,n;  
          try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
          try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
          m=Math.pow(10,Math.max(r1,r2));  
          //动态控制精度长度  
          n=(r1>=r2)?r1:r2;  
          return ((arg1*m-arg2*m)/m).toFixed(n);  
      }  
           
         //乘法  
      function FloatMul(arg1,arg2)   {   
          var m=0,s1=arg1.toString(),s2=arg2.toString();   
          try{m+=s1.split(".")[1].length}catch(e){}   
          try{m+=s2.split(".")[1].length}catch(e){}   
          return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);   
      }   
          
          
        //除法  
      function FloatDiv(arg1,arg2){   
            var t1=0,t2=0,r1,r2;   
            try{t1=arg1.toString().split(".")[1].length}catch(e){}   
            try{t2=arg2.toString().split(".")[1].length}catch(e){}   
            with(Math){   
                r1=Number(arg1.toString().replace(".",""));
    r2
    =Number(arg2.toString().replace(".","")); return (r1/r2)*pow(10,t2-t1); } }
  • 相关阅读:
    vue使用百度编辑器ueditor踩坑记录
    vue项目之webpack打包静态资源路径不准确
    用自己电脑做网站服务器
    telnet测试端口号
    mongodb,redis,mysql的区别和具体应用场景
    移动应用调试之Inspect远程调试
    @vue/cli 3配置文件vue.config.js
    vue+webpack多个项目共用组件动态打包单个项目
    koa/koa2项目搭建
    用Navicat复制数据库到本地(导入.sql文件运行)
  • 原文地址:https://www.cnblogs.com/slowsoul/p/3132821.html
Copyright © 2011-2022 走看看