zoukankan      html  css  js  c++  java
  • JS toFixed四舍五入精度校正

    var a = 2.255;
    var b = a.toFixed(2);
    console.log(b);

    以上代码,按预期正常四舍五入得到结果应该是2.26,但实际返回值为2.25

    js浮点数精度作为前端必踩坑,谁也逃不过,不过我们可以改写原型上的方法达到目的

    Number.prototype.toFixed = function (n) {
        if (n > 20 || n < 0) {
            throw new RangeError('toFixed() digits argument must be between 0 and 20');
        }
        const number = this;
        if (isNaN(number) || number >= Math.pow(10, 21)) {
            return number.toString();
        }
        if (typeof (n) == 'undefined' || n == 0) {
            return (Math.round(number)).toString();
        }
    
        let result = number.toString();
        const arr = result.split('.');
    
        // 整数的情况
        if (arr.length < 2) {
            result += '.';
            for (let i = 0; i < n; i += 1) {
                result += '0';
            }
            return result;
        }
    
        const integer = arr[0];
        const decimal = arr[1];
        if (decimal.length == n) {
            return result;
        }
        if (decimal.length < n) {
            for (let i = 0; i < n - decimal.length; i += 1) {
                result += '0';
            }
            return result;
        }
        result = integer + '.' + decimal.substr(0, n);
        const last = decimal.substr(n, 1);
    
        // 四舍五入,转换为整数再处理,避免浮点数精度的损失
        if (parseInt(last, 10) >= 5) {
            const x = Math.pow(10, n);
            result = (Math.round((parseFloat(result) * x)) + 1) / x;
            result = result.toFixed(n);
        }
    
        return result;
    };

    原文地址:http://www.jianshu.com/p/849b0ae36b36

  • 相关阅读:
    关于 <customErrors> 标记的“mode”属性设置为“Off”的问题的解决方案
    ASP.NET MVC的帮助类HtmlHelper和UrlHelper
    js判断手机浏览器操作系统和微信浏览器的方法
    javascript倒计时代码及倒计时弹窗
    修改UISearchBar背景色
    dispatch_group_async
    Block 代替for循环
    GCD 延时操作
    GCD 倒计时
    创建UIButton
  • 原文地址:https://www.cnblogs.com/liangtao999/p/11850570.html
Copyright © 2011-2022 走看看