zoukankan      html  css  js  c++  java
  • 处理金钱时-数字加减乘除发生精度丢失问题解决方案及其原理

    一、什么是精度丢失

    1、精度丢失是指计算机在计算浮点形数(小数)或整形数字(整数)时,有可能出现的结果与预期不符,计算错误,如:

    (1)计算浮点数

    (2)计算整形数

    (3)toFixed ( num ) 方法    


    该方法原理是:JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit,因此toFixed ( num ) 在进行部分计算时也会存在精度丢失,从而导致有些计算会四舍五入,有些不会,并且该方法还有浏览器兼容问题。

     2、精度丢失是不是一定发生的?
    不一定,具体要看做四则运算的两个数值转换二为进制是否表现为无限循环数,如果是,会模仿十进制进行四舍五入,所以造成精度丢失。

    浮点数做四则运算很容易发生精度丢失,整形数做四则运算时,若操作的整形数大于2的53次方时容易发生精度丢失。

    3、解决方案

    js:

    原理:将两个数值放大,计算完再缩小

    //除法
    function accDiv(arg1,arg2){ 
     var t1=0,t2=0,r1,r2; 
     try{t1=arg1.toString().split(".")[1].length}catch(e){} 
     try{t2=arg2.toString().split(".")[1].length}catch(e){} 
     with(Math){ 
     r1=Number(arg1.toString().replace(".","")) 
     r2=Number(arg2.toString().replace(".","")) 
     return accMul((r1/r2),pow(10,t2-t1)); 
     } 
     } 
     //乘法 
     function accMul(arg1,arg2) 
     { 
     var m=0,s1=arg1.toString(),s2=arg2.toString(); 
     try{m+=s1.split(".")[1].length}catch(e){} 
     try{m+=s2.split(".")[1].length}catch(e){} 
     return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
     } 
    //加法 
    function accAdd(arg1,arg2){ 
    var r1,r2,m; 
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
    m=Math.pow(10,Math.max(r1,r2)) 
    return (arg1*m+arg2*m)/m 
    } 
    //减法 
    function Subtr(arg1,arg2){ 
     var r1,r2,m,n; 
     try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
     try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
     m=Math.pow(10,Math.max(r1,r2)); 
     n=(r1>=r2)?r1:r2; 
     return ((arg1*m-arg2*m)/m).toFixed(n); 
    }

    // toFixed 修复
    function toFixed(num, s) {
        var times = Math.pow(10, s)
        var des = num * times + 0.5
        des = parseInt(des, 10) / times
        return des + ''
    }

     java:

      直接转成BigDecimal类型的 加减乘除运算

      详情请看:https://blog.csdn.net/weixin_41364598/article/details/106758777

  • 相关阅读:
    磁盘分区对齐的重要性
    linux命令详解:jobs命令
    linux命令详解:df命令
    linux命令详解:cat命令
    <mvc:annotation-driven />注解意义
    maven install 时提示“程序包 javax.crypto不存在”
    Java 字典排序
    Linux查看用户登陆历史记录
    警告: [SetPropertiesRule]{Server/Service/Engine/Host/Context} Setting property ..
    Eclipse启动tomcat 报“ A child container failed during start”
  • 原文地址:https://www.cnblogs.com/liuxuande/p/14585047.html
Copyright © 2011-2022 走看看