一、什么是精度丢失
1、精度丢失是指计算机在计算浮点形数(小数)或整形数字(整数)时,有可能出现的结果与预期不符,计算错误,如:
(1)计算浮点数
(2)计算整形数
(3)toFixed ( num ) 方法
该方法原理是:JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit,因此toFixed ( num ) 在进行部分计算时也会存在精度丢失,从而导致有些计算会四舍五入,有些不会,并且该方法还有浏览器兼容问题。
2、精度丢失是不是一定发生的?
不一定,具体要看做四则运算的两个数值转换二为进制是否表现为无限循环数,如果是,会模仿十进制进行四舍五入,所以造成精度丢失。
浮点数做四则运算很容易发生精度丢失,整形数做四则运算时,若操作的整形数大于2的53次方时容易发生精度丢失。
3、解决方案
js:
原理:将两个数值放大,计算完再缩小
//除法 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return accMul((r1/r2),pow(10,t2-t1)); } } //乘法 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //加法 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } //减法 function Subtr(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); n=(r1>=r2)?r1:r2; return ((arg1*m-arg2*m)/m).toFixed(n); }
// toFixed 修复 function toFixed(num, s) { var times = Math.pow(10, s) var des = num * times + 0.5 des = parseInt(des, 10) / times return des + '' }
java:
直接转成BigDecimal类型的 加减乘除运算
详情请看:https://blog.csdn.net/weixin_41364598/article/details/106758777