zoukankan      html  css  js  c++  java
  • js加减乘除精度

    js默认算法0.1+0.2=0.30000000000000004,使用下边算法结果等于0.3

    /** 
    js默认算法0.1+0.2=0.30000000000000004,使用下边算法结果等于0.3
    * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。 
    * 
    * @param num1加数1 | num2加数2 
    */
    function numAdd(num1, num2) {
        var baseNum, baseNum1, baseNum2;
        try {
            baseNum1 = num1.toString().split(".")[1].length;
        } catch (e) {
            baseNum1 = 0;
        }
        try {
            baseNum2 = num2.toString().split(".")[1].length;
        } catch (e) {
            baseNum2 = 0;
        }
        baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
        return (num1 * baseNum + num2 * baseNum) / baseNum;
    };
    /** 
    * 加法运算,避免数据相减小数点后产生多位数和计算精度损失。 
    * 
    * @param num1被减数 | num2减数 
    */
    function numSub(num1, num2) {
        var baseNum, baseNum1, baseNum2;
        var precision; // 精度 
        try {
            baseNum1 = num1.toString().split(".")[1].length;
        } catch (e) {
            baseNum1 = 0;
        }
        try {
            baseNum2 = num2.toString().split(".")[1].length;
        } catch (e) {
            baseNum2 = 0;
        }
        baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
        precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
        return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
    };
    /** 
    * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。 
    * 
    * @param num1被乘数 | num2乘数 
    */
    function numMulti(num1, num2) {
        var baseNum = 0;
        try {
            baseNum += num1.toString().split(".")[1].length;
        } catch (e) {
        }
        try {
            baseNum += num2.toString().split(".")[1].length;
        } catch (e) {
        }
        return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
    };
    /** 
    * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。 
    * 
    * @param num1被除数 | num2除数 
    */
    function numDiv(num1, num2) {
        var baseNum1 = 0, baseNum2 = 0;
        var baseNum3, baseNum4;
        try {
            baseNum1 = num1.toString().split(".")[1].length;
        } catch (e) {
            baseNum1 = 0;
        }
        try {
            baseNum2 = num2.toString().split(".")[1].length;
        } catch (e) {
            baseNum2 = 0;
        }
        with (Math) {
            baseNum3 = Number(num1.toString().replace(".", ""));
            baseNum4 = Number(num2.toString().replace(".", ""));
            return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
        }
    };
    //保留2位小数
    function keepDecimal2(num) {
        var result = parseFloat(num);
        if (isNaN(result)) {
            return 0;
        }
        result = Math.round(num * 100) / 100;
        return result;
    }
    //保留3位小数
    function keepDecimal3(num) {
        var result = parseFloat(num);
        if (isNaN(result)) {
            return 0;
        }
        result = Math.round(num * 1000) / 1000;
        return result;
    }
  • 相关阅读:
    Objective-C之NSArray(数组)默认排序与自定义排序
    Objective-C学习笔记之for( int )机制
    OC之NSString、NSMutableString学习笔记 常用方法
    换行回车的区别 2018-10-30
    Python头部2行 #!/usr/bin/python 和 #!/usr/bin/env 的区别 以及编码方式的指定 2018-10-23
    旧版Windows 睡眠与休眠 2018-10-18
    手机尺寸像素 PPI 2018-10-17
    VMvare 虚拟机扩容 2018-10-11
    批量判断网址能否访问 2018-10-04
    字符串的 strip()方法 2018-10-04
  • 原文地址:https://www.cnblogs.com/webapi/p/13447207.html
Copyright © 2011-2022 走看看