zoukankan      html  css  js  c++  java
  • js处理小数加减时精度失真

           最近公司业务有用js处理数据加减,但有时候会出现很多位小数;后来发现是js处理小数时精度失真;为了后边不在犯类似错误,笔者觉得有必要记录下处理方法,当然处理方法有很多种,这里笔者找了一种较为简洁的方法:

    // 返回值:arg1加上arg2的精确结果
    function accAdd(arg1, arg2) {
        var r1, r2, m;
        try {
            r1 = arg1.toString().split(".")[1].length
        } catch (e) {
            r1 = 0
        };
        try {
            r2 = arg2.toString().split(".")[1].length
        } catch (e) {
            r2 = 0
        };
        m = Math.pow(10, Math.max(r1, r2));
        return (arg1 * m + arg2 * m) / m
    }
    
    // 返回值:arg1减去arg2的精确结果
    function accSub(arg1, arg2) {
        var r1, r2, m, n;
        try {
            r1 = arg1.toString().split(".")[1].length
        } catch (e) {
            r1 = 0
        };
        try {
            r2 = arg2.toString().split(".")[1].length
        } catch (e) {
            r2 = 0
        };
        m = Math.pow(10, Math.max(r1, r2));
        // 动态控制精度长度
        n = (r1 >= r2) ? r1 : r2;
        return ((arg1 * m - arg2 * m) / m).toFixed(n);
    }

         如有问题,希望大家提出来,共同进步。

  • 相关阅读:
    小小杨的影视空间
    关于励志的事情
    关于2020年的总结
    关于心情不好的时候
    关于我的2020年
    单链表基本操作的实现
    原型模式
    android—安卓系统文件目录结构
    android——apk安装文件的组成结构
    android——项目的组成结构
  • 原文地址:https://www.cnblogs.com/lidelin/p/9755870.html
Copyright © 2011-2022 走看看