zoukankan      html  css  js  c++  java
  • toFixed方法的bug

    最近在工作过程中碰到一个隐藏的bug,经调试发现竟然是toFixed函数不可靠的结果引起的。后端同学在处理价格比较的时候,用foFixed进行价格的四舍五入之后,竟然发现比较的结果有问题;

    大家都知道,Number类型的变量有个toFixed方法,该方法将Number四舍五入为指定小数位数的数字,以字符串返回。

    IE:

    0.6 .toFixed(0); // 0
    1.6 .toFixed(0); // 2

    Chrome:

    0.6 .toFixed(0); // 1
    1.6 .toFixed(0); // 2

    另外还发现,就算是同在Chrome里,四舍五入也不靠谱:

    ( 0.035 ).toFixed( 2 ); // 0.04
    ( 0.045 ).toFixed( 2 ); // 0.04

    这次IE倒是靠谱了:

    ( 0.035 ).toFixed( 2 ); // 0.04
    ( 0.045 ).toFixed( 2 ); // 0.05
    

    结论 :toFixed()函数靠不住,如果有需要精确控制的情况,还是自己写个方法比较好。比如:

    function toFixed(number, decimal) {
    	decimal = decimal || 0;
    	var s = String(number);
    	var decimalIndex = s.indexOf('.');
    	if (decimalIndex < 0) {
    		var fraction = '';
    		for (var i = 0; i < decimal; i++) {
    			fraction += '0';
    		}
    		return s + '.' + fraction;
    	}
    	var numDigits = s.length - 1 - decimalIndex;
    	if (numDigits <= decimal) {
    		var fraction = '';
    		for (var i = 0; i < decimal - numDigits; i++) {
    			fraction += '0';
    		}
    		return s + fraction;
    	}
    	var digits = s.split('');
    	var pos = decimalIndex + decimal;
    	var roundDigit = digits[pos + 1];
    	if (roundDigit > 4) {
    		//跳过小数点
    		if (pos == decimalIndex) {
    			--pos;
    		}
    		digits[pos] = Number(digits[pos] || 0) + 1;
    		//循环进位
    		while (digits[pos] == 10) {
    			digits[pos] = 0;
    			--pos;
    			if (pos == decimalIndex) {
    				--pos;
    			}
    			digits[pos] = Number(digits[pos] || 0) + 1;
    		}
    	}
    	//避免包含末尾的.符号
    	if (decimal == 0) {
    		decimal--;
    	}
    	return digits.slice(0, decimalIndex + decimal + 1).join('');
    }
    var a = 19.02
    var b = 209.01
    // 结果
    console.log(toFixed(a, 2)); //==> 19.02
    console.log(toFixed(b, 2)); //==> 209.01
    console.log(Number(toFixed(a, 2)) < Number(toFixed(b, 2))); //==> true
  • 相关阅读:
    SQL server 统计数据库表数量和列出所有表名称
    mybatis 模糊查询 like的三种方式
    jquery 实现按回车键登录功能的写法
    js 各种事件 如:点击事件、失去焦点、键盘事件等
    ssm框架中从controller传值给jsp的方式
    [GDOI2019]小说
    洛谷5113
    2020.9.26模拟总结
    [IOI2015]分组
    9.19 总结
  • 原文地址:https://www.cnblogs.com/jone-chen/p/5957318.html
Copyright © 2011-2022 走看看