zoukankan      html  css  js  c++  java
  • js小数运算出现多位小数如何解决

    解决方法思路:将小数化成整数后再作运算。具体代码如下:

    /**
     * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
     * 
     * @param num1加数1 | num2加数2
     */
    function numAdd(num1, num2) {
    	var baseNum, baseNum1, baseNum2;
    	try {
    		baseNum1 = num1.toString().split(".")[1].length;
    	} catch (e) {
    		baseNum1 = 0;
    	}
    	try {
    		baseNum2 = num2.toString().split(".")[1].length;
    	} catch (e) {
    		baseNum2 = 0;
    	}
    	baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
    	return (num1 * baseNum + num2 * baseNum) / baseNum;
    };
    /**
     * 加法运算,避免数据相减小数点后产生多位数和计算精度损失。
     * 
     * @param num1被减数  |  num2减数
     */
    function numSub(num1, num2) {
    	var baseNum, baseNum1, baseNum2;
    	var precision;// 精度
    	try {
    		baseNum1 = num1.toString().split(".")[1].length;
    	} catch (e) {
    		baseNum1 = 0;
    	}
    	try {
    		baseNum2 = num2.toString().split(".")[1].length;
    	} catch (e) {
    		baseNum2 = 0;
    	}
    	baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
    	precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
    	return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
    };
    /**
     * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
     * 
     * @param num1被乘数 | num2乘数
     */
    function numMulti(num1, num2) {
    	var baseNum = 0;
    	try {
    		baseNum += num1.toString().split(".")[1].length;
    	} catch (e) {
    	}
    	try {
    		baseNum += num2.toString().split(".")[1].length;
    	} catch (e) {
    	}
    	return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
    };
    /**
     * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
     * 
     * @param num1被除数 | num2除数
     */
    function numDiv(num1, num2) {
    	var baseNum1 = 0, baseNum2 = 0;
    	var baseNum3, baseNum4;
    	try {
    		baseNum1 = num1.toString().split(".")[1].length;
    	} catch (e) {
    		baseNum1 = 0;
    	}
    	try {
    		baseNum2 = num2.toString().split(".")[1].length;
    	} catch (e) {
    		baseNum2 = 0;
    	}
    	with (Math) {
    		baseNum3 = Number(num1.toString().replace(".", ""));
    		baseNum4 = Number(num2.toString().replace(".", ""));
    		return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
    	}
    };
  • 相关阅读:
    云HBase发布全文索引服务,轻松应对复杂查询
    eclipse调试断点
    IntelliJ IDEA使用小技巧
    jQuery遍历not的用法
    request.querystring和request.form的区别
    ppt打不开,显示发现文件中的内容有问题。可尝试修复此演示文稿
    中文乱码 encodeURI来解决URL传递时的中文问题
    Http请求中Content-Type讲解以及在Spring MVC中的应用
    Display Tag Lib Table进行分页
    js刷新页面
  • 原文地址:https://www.cnblogs.com/anakin/p/12515836.html
Copyright © 2011-2022 走看看