zoukankan      html  css  js  c++  java
  • js 精度丢失解决

     试试这些结果,与你想的不一样

     alert(9.839 - 0.001);
     alert(9.839 - 0.001);
     alert(9.999 * 0.001);
     alert(2.0 / 3);

    解决方法,重写 加减乘除方法

    /** 
    * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。 
    * 
    * @param num1加数1 | num2加数2 
    */
    function numAdd(num1, num2) {
        var baseNum, baseNum1, baseNum2;
        try {
            baseNum1 = num1.toString().split(".")[1].length;
        } catch(e) {
            baseNum1 = 0;
        }
        try {
            baseNum2 = num2.toString().split(".")[1].length;
        } catch(e) {
            baseNum2 = 0;
        }
        baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
        return (num1 * baseNum + num2 * baseNum) / baseNum;
    };
    /** 
    * 加法运算,避免数据相减小数点后产生多位数和计算精度损失。 
    * 
    * @param num1被减数 | num2减数 
    */
    function numSub(num1, num2) {
        var baseNum, baseNum1, baseNum2;
        var precision; // 精度 
        try {
            baseNum1 = num1.toString().split(".")[1].length;
        } catch(e) {
            baseNum1 = 0;
        }
        try {
            baseNum2 = num2.toString().split(".")[1].length;
        } catch(e) {
            baseNum2 = 0;
        }
        baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
        precision = (baseNum1 >= baseNum2) ? baseNum1: baseNum2;
        return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
    };
    /** 
    * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。 
    * 
    * @param num1被乘数 | num2乘数 
    */
    function numMulti(num1, num2) {
        var baseNum = 0;
        try {
            baseNum += num1.toString().split(".")[1].length;
        } catch(e) {}
        try {
            baseNum += num2.toString().split(".")[1].length;
        } catch(e) {}
        return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
    };
    /** 
    * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。 
    * 
    * @param num1被除数 | num2除数 
    */
    function numDiv(num1, num2) {
        var baseNum1 = 0,
        baseNum2 = 0;
        var baseNum3, baseNum4;
        try {
            baseNum1 = num1.toString().split(".")[1].length;
        } catch(e) {
            baseNum1 = 0;
        }
        try {
            baseNum2 = num2.toString().split(".")[1].length;
        } catch(e) {
            baseNum2 = 0;
        }
        with(Math) {
            baseNum3 = Number(num1.toString().replace(".", ""));
            baseNum4 = Number(num2.toString().replace(".", ""));
            return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
        }
    };
    View Code
    不积跬步,无以至千里;不积小流,无以成江海。
  • 相关阅读:
    2018常用网站 图片处理
    iOS判断当前时间是否处于某个时间段内
    iOS 页面跳转和返回,持续编写
    模板引擎-freemarker
    HibernateTemplate使用注意点
    hibernate-注解及配置
    hibernate 异常
    javaEncode
    eclipse 创建注释模板
    eclipse 和 javaClass
  • 原文地址:https://www.cnblogs.com/lovedaodao/p/6890370.html
Copyright © 2011-2022 走看看