zoukankan      html  css  js  c++  java
  • Javascript保证精度的小数乘法

      众所周知,js的小数乘法很容易丢失精度,这是一件很恶心的事情。
    所以我写了这个方法,保证计算精度。

    /** * js小数乘法 *@parameter arg1:被乘数(接受小数和整数) *@parameter arg2:乘数(接受小数和整数) *@parameter fix: 乘积保留几位(接受正负整数以及0) */ function accMul(arg1,arg2,fix) { if(!parseInt(fix)==fix) { return; } var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} if(m>fix){ return (Math.round(Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m-fix))/Math.pow(10,fix)); }else if(m<=fix){ return (Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)).toFixed(fix); }else{ return (arg1*arg2).toFixed(fix); } }
    另外附上 我的测试用例,不全或者有误的地方,欢迎指点批评,谢谢!
    document.writeln("3472.45*0.3 = 1041.735 保留2位: "+accMul(3472.45, 0.3,2)+"<br/>"); document.writeln("3472.45*0.3 = 1041.735 保留1位"+accMul(3472.45, 0.3,1)+"<br/>"); document.writeln("3472.45*0.3 = 1041.735 保留0位"+accMul(3472.45, 0.3,0)+"<br/>"); document.writeln("3472.45*0.3 = 1041.735 保留-1位"+accMul(3472.45, 0.3,-1)+"<br/>"); document.writeln("347245*0.3 = 104173.5 保留2位"+accMul(347245, 0.3,2)+"<br/>"); document.writeln("347245*0.3 = 104173.5 保留1位"+accMul(347245, 0.3,1)+"<br/>"); document.writeln("347245*0.3 = 104173.5 保留0位"+accMul(347245, 0.3,0)+"<br/>"); document.writeln("347245*0.3 = 104173.5 保留-1位"+accMul(347245, 0.3,-1)+"<br/>"); document.writeln("347245*3 = 1041735 保留2位"+accMul(347245, 3,2)+"<br/>"); document.writeln("347245*3 = 1041735 保留1位"+accMul(347245, 3,1)+"<br/>"); document.writeln("347245*3 = 1041735 保留0位"+accMul(347245, 3,0)+"<br/>"); document.writeln("347245*3 = 1041735 保留-1位"+accMul(347245, 3,-1)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留3位"+accMul(0.5, 0.3,3)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留2位"+accMul(0.5, 0.3,2)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留1位"+accMul(0.5, 0.3,1)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留0位"+accMul(0.5, 0.3,0)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留-1位"+accMul(0.5, 0.3,-1)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留-2位"+accMul(0.5, 0.3,-2)+"<br/>"); document.writeln("0.5*0.3 = 0.15 保留-3位"+accMul(0.5, 0.3,-3)+"<br/>");

      

  • 相关阅读:
    「THUWC 2017」随机二分图(概率+容斥+状压dp(记忆化搜索实现))
    「THUWC 2017」在美妙的数学王国中畅游(泰勒展开+高中导数+lct)
    「PKUSC2018」神仙的游戏(border性质+NTT)
    「PKUWC2018」猎人杀(概率+容斥+分治NTT)
    [USACO19OPEN]Valleys P && JZOJ 6525【2020.4.1模拟】Valleys (并查集+平面图欧拉公式):
    iOS学习笔记32-iCloud入门
    iOS学习笔记31-从图册获取图片和视频
    iOS学习笔记30-系统服务(三)蓝牙
    iOS学习笔记29-系统服务(二)通讯录
    iOS学习笔记28-系统服务(一)短信和邮件
  • 原文地址:https://www.cnblogs.com/caoyusongnet/p/5438850.html
Copyright © 2011-2022 走看看