zoukankan      html  css  js  c++  java
  • js做小数运算精度问题

    当js做小数运算时存在bug,大概是因为二进制和十进制转换之间的关系。

    bug如图

    解决方案

    1.加减法可以用参数乘以1000再用结果除以1000。

    乘除法可以用参数分别*100进行计算后在除以10000

     

    2.使用toFixed()方法,效率貌似没有第一种高,这里返回的值一定有两位小数,要么后台用double接收,要么用parseInt()转换为整数parseInt((35.23*100).toFixed(2))。

    3.自己写算法函数(此种写法数据过大依然会有问题,不推荐)。

    function accDiv(arg1, arg2) {
        var t1 = 0,
        t2 = 0,
        r1, r2;
        try {
            t1 = arg1.toString().split(".")[1].length
        } catch(e) {}
        try {
            t2 = arg2.toString().split(".")[1].length
        } catch(e) {}
        with(Math) {
            r1 = Number(arg1.toString().replace(".", ""));
            r2 = Number(arg2.toString().replace(".", ""));
            return (r1 / r2) * pow(10, t2 - t1);
        }
    }
    /*给Number类型增加一个方法,调用起来更加方便。*/
    Number.prototype.div = function(arg) {
        return accDiv(this, arg);
    }
    function accMul(arg1, arg2) {
        var m = 0,
        s1 = arg1.toString(),
        s2 = arg2.toString();
        try {
            m += s1.split(".")[1].length
        } catch(e) {}
        try {
            m += s2.split(".")[1].length
        } catch(e) {}
        return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
    }
    Number.prototype.mul = function(arg) {
        return accMul(arg, this);
    }
    function accAdd(arg1, arg2) {
        var r1, r2, m;
        try {
            r1 = arg1.toString().split(".")[1].length
        } catch(e) {
            r1 = 0
        }
        try {
            r2 = arg2.toString().split(".")[1].length
        } catch(e) {
            r2 = 0
        }
        m = Math.pow(10, Math.max(r1, r2));
        return (arg1 * m + arg2 * m) / m;
    }
    Number.prototype.add = function(arg) {
        return accAdd(arg, this);
    }

  • 相关阅读:
    scala 数据结构(七 ):集 Set
    scala 数据结构(六):映射 Map
    scala 数据结构(五):队列 Queue
    scala 数据结构(四):列表 List
    scala 数据结构(三):元组Tuple
    scala 数据结构(二):数组
    scala 数据结构(一):数据结构简介
    Scala 面向对象(十三):隐式转换和隐式参数
    vba报表制作
    Apache与Nginx
  • 原文地址:https://www.cnblogs.com/aeolian/p/9232331.html
Copyright © 2011-2022 走看看