如何解决2进制小数不精确的问题

如何解决2进制小数不精确的问题

一、总结

一句话总结：

我们可以把需要进行计算的小数转成整数进行计算，然后在变成小数

二、解决js中浮点数（小数）计算不准确问题

转自或参考：解决js中浮点数（小数）计算不准确问题_技术之路-CSDN博客
https://blog.csdn.net/qq_39712029/article/details/81031458

1. 原因

js计算最终也是通过计算机进行计算，而计算机只能识别二进制的0和1，也就是说我们所写的计算都必须转成二进制数才能进行计算，然而有些小数转成二进制数的时候除不尽，出现无限小数位，这时候就只能取近似值进行计算，导致了我们所遇到的不准确的问题。

2. 解决方案

解决思路： 我们可以把需要进行计算的小数转成整数进行计算，然后在变成小数

可以像我这样写一个工具方法：

//四则运算化成整数计算方法
    var floatCalc = function (a, b) {
        a = a + '', b = b + '';
        var aNum = a.indexOf('.'),
            bNum = b.indexOf('.'),
            aSum,
            bSum,
            resultNum,
            inta,
            intb;

        aSum = aNum < 0 ? 0 : a.split('.')[1].length;
        bSum = bNum < 0 ? 0 : b.split('.')[1].length;
        resultNum = aSum > bSum ? aSum : bSum;

        inta = aNum < 0 ? Number(a + (Math.pow(10, resultNum) + '').replace('1', '')) : (function () {
            a = a.replace('.', '');
            a = resultNum == aSum ? a : a + (Math.pow(10, resultNum - aSum) + '').replace('1', '');
            return Number(a);
        }())

        intb = bNum < 0 ? Number(b + (Math.pow(10, resultNum) + '').replace('1', '')) : (function () {
            b = b.replace('.', '');
            b = resultNum == bSum ? b : b + (Math.pow(10, resultNum - bSum) + '').replace('1', '');
            return Number(b);
        }())

        return {
            a: inta,
            b: intb,
            num: resultNum
        };
    }
    //加法
    Number.prototype.add = function (n) {
        var o = floatCalc(this, n);
        return (o.a + o.b) / Math.pow(10, o.num);
    }
    //减法
    Number.prototype.minus = function (n) {
        var o = floatCalc(this, n);
        return (o.a - o.b) / Math.pow(10, o.num);
    }
    //乘法
    Number.prototype.subtract = function (n) {
        var o = floatCalc(this, n);
        return (o.a * o.b) / Math.pow(10, o.num * 2);
    }
    //除法
    Number.prototype.divide = function (n) {
        var o = floatCalc(this, n);
        return (o.a / o.b);
    }

这样就可以直接使用Number原型上的这些方法进行计算了

console.log(686.40.add(62.41));
console.log(1.22.minus(1));
console.log(10.40.subtract(6));
console.log(1..divide(1.22));

注意：Number类型的整数直接调用原型上的方法会报错，引擎不能区分是小数点还是调用方法的点，这时候多写一个点或者加空格都可以（一般业务场景都是变量进行调用）