zoukankan      html  css  js  c++  java
  • js处理小数加减时精度失真

           最近公司业务有用js处理数据加减,但有时候会出现很多位小数;后来发现是js处理小数时精度失真;为了后边不在犯类似错误,笔者觉得有必要记录下处理方法,当然处理方法有很多种,这里笔者找了一种较为简洁的方法:

    // 返回值:arg1加上arg2的精确结果
    function accAdd(arg1, arg2) {
        var r1, r2, m;
        try {
            r1 = arg1.toString().split(".")[1].length
        } catch (e) {
            r1 = 0
        };
        try {
            r2 = arg2.toString().split(".")[1].length
        } catch (e) {
            r2 = 0
        };
        m = Math.pow(10, Math.max(r1, r2));
        return (arg1 * m + arg2 * m) / m
    }
    
    // 返回值:arg1减去arg2的精确结果
    function accSub(arg1, arg2) {
        var r1, r2, m, n;
        try {
            r1 = arg1.toString().split(".")[1].length
        } catch (e) {
            r1 = 0
        };
        try {
            r2 = arg2.toString().split(".")[1].length
        } catch (e) {
            r2 = 0
        };
        m = Math.pow(10, Math.max(r1, r2));
        // 动态控制精度长度
        n = (r1 >= r2) ? r1 : r2;
        return ((arg1 * m - arg2 * m) / m).toFixed(n);
    }

         如有问题,希望大家提出来,共同进步。

  • 相关阅读:
    杂项
    导出查询数据(大数据量)
    设置现有字段自增
    C++ 矩形交集和并集的面积-离散化
    Python使用flask架构、跨域
    匈牙利命名法
    C++ main函数
    windows编译boost
    mfc HackerTools监控键盘按键
    mfc HackerTools远程线程注入
  • 原文地址:https://www.cnblogs.com/lidelin/p/9755870.html
Copyright © 2011-2022 走看看