zoukankan      html  css  js  c++  java
  • js对浮点数计算的bug

    在js中使用浮点数运算,有时候不能得到合适的结果。有时候会发现出现**0000005的样子。

    解决方案,重写js对浮点型的运算。代码来源于网络

    //浮点数加法运算
    function FloatAdd(arg1,arg2){
    	var r1, r2, m, c;
            try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
            try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
            c = Math.abs(r1 - r2);
            m = Math.pow(10, Math.max(r1, r2))
            if (c > 0) {
                var cm = Math.pow(10, c);
                if (r1 > r2) {
                    arg1 = Number(arg1.toString().replace(".", ""));
                    arg2 = Number(arg2.toString().replace(".", "")) * cm;
                }
                else {
                    arg1 = Number(arg1.toString().replace(".", "")) * cm;
                    arg2 = Number(arg2.toString().replace(".", ""));
                }
            }
            else {
                arg1 = Number(arg1.toString().replace(".", ""));
                arg2 = Number(arg2.toString().replace(".", ""));
            }
            return (arg1 + arg2) / m;
    }
     
    //浮点数减法运算
    function FloatSub(arg1,arg2){
    	var r1,r2,m,n;
    	try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    	try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    	m=Math.pow(10,Math.max(r1,r2));
    	//动态控制精度长度
    	n=(r1>=r2)?r1:r2;
    	return ((arg1*m-arg2*m)/m).toFixed(n);
    }
     
    //浮点数乘法运算
    function FloatMul(arg1,arg2)
    {
    	var m=0,s1=arg1.toString(),s2=arg2.toString();
    	try{m+=s1.split(".")[1].length}catch(e){}
    	try{m+=s2.split(".")[1].length}catch(e){}
    	return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
    }
     
     
    //浮点数除法运算
    function FloatDiv(arg1,arg2){
    	var t1=0,t2=0,r1,r2;
    	try{t1=arg1.toString().split(".")[1].length}catch(e){}
    	try{t2=arg2.toString().split(".")[1].length}catch(e){}
    	with(Math){
    		r1=Number(arg1.toString().replace(".",""));
    		r2=Number(arg2.toString().replace(".",""));
    		return (r1/r2)*pow(10,t2-t1);
    	}
    }   
    人生苦短,我用python
  • 相关阅读:
    Spring IOC(二)
    Spring组件注册
    第六章:随机数和expect
    第二十一节:异常处理
    第二十节:基础知识阶段复习
    LVM逻辑卷管理
    第十九节:类的装饰器和数据描述符的应用
    第十八节:上下文管理协议
    第十七节:数据描述符
    第十六节:内置函数补充
  • 原文地址:https://www.cnblogs.com/pigga/p/10098313.html
Copyright © 2011-2022 走看看