zoukankan      html  css  js  c++  java
  • js中浮点型运算

    js中浮点型是如何运算的呢?

    例如:var a=0.69;

    我想得到6.9 直接这样写 var c=a*10;

    alert(c);   得到结果是:6.8999999999999995

    到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法:

    方法一:有js自定义函数

    <script>
    
    //加法函数,用来得到精确的加法结果 
    //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
    //调用:accAdd(arg1,arg2) 
    //返回值:arg1加上arg2的精确结果 
    function accAdd(arg1,arg2){ 
    var r1,r2,m; 
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
    m=Math.pow(10,Math.max(r1,r2)) 
    return (arg1*m+arg2*m)/m 
    } 
    //给Number类型增加一个add方法,调用起来更加方便。 
    Number.prototype.add = function (arg){ 
    return accAdd(arg,this); 
    }
    
    //加法函数,用来得到精确的加法结果 
    //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
    //调用:accAdd(arg1,arg2) 
    //返回值:arg1加上arg2的精确结果 
    function accSub(arg1,arg2){
        var r1,r2,m,n;
        try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
        try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
        m=Math.pow(10,Math.max(r1,r2));
        //last modify by deeka
        //动态控制精度长度
        n=(r1>=r2)?r1:r2;
        return ((arg1*m-arg2*m)/m).toFixed(n);
    }
    
    //除法函数,用来得到精确的除法结果 
    //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 
    //调用:accDiv(arg1,arg2) 
    //返回值:arg1除以arg2的精确结果 
    function accDiv(arg1,arg2){ 
    var t1=0,t2=0,r1,r2; 
    try{t1=arg1.toString().split(".")[1].length}catch(e){} 
    try{t2=arg2.toString().split(".")[1].length}catch(e){} 
    with(Math){ 
    r1=Number(arg1.toString().replace(".","")) 
    r2=Number(arg2.toString().replace(".","")) 
    return (r1/r2)*pow(10,t2-t1); 
    } 
    } 
    //给Number类型增加一个div方法,调用起来更加方便。 
    Number.prototype.div = function (arg){ 
    return accDiv(this, arg); 
    } 
    
    //乘法函数,用来得到精确的乘法结果 
    //说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 
    //调用:accMul(arg1,arg2) 
    //返回值:arg1乘以arg2的精确结果 
    function accMul(arg1,arg2) 
    { 
    var m=0,s1=arg1.toString(),s2=arg2.toString(); 
    try{m+=s1.split(".")[1].length}catch(e){} 
    try{m+=s2.split(".")[1].length}catch(e){} 
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
    } 
    //给Number类型增加一个mul方法,调用起来更加方便。 
    Number.prototype.mul = function (arg){ 
    return accMul(arg, this); 
    } 
    
    var a=0.69;
    var b=10;
    alert(a*b);//6.8999999999999995
    alert((a*100)/10);
    </script>

    直接调用函数就可以。

    方法二:如果在知道小数位个数的前提下,可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数),再进行运算操作,这样就能得到正确的结果了

    alert(11*22.9);//得到251.89999999999998

    alert(11*(22.9*10)/10);//得到251.9

    千里之行,始于足下。改变现在,就是改变未来。改变未来,从现在开始。 个人网站:http://www.wangkongming.cn
  • 相关阅读:
    3.Appium运行时出现:Original error: Android devices must be of API level 17 or higher. Please change your device to Selendroid or upgrade Android on your device
    3.Python连接数据库PyMySQL
    2.Python输入pip命令出现Unknown or unsupported command 'install'问题解决
    2.Linux下安装Jenkins
    5.JMeter测试mysql数据库
    Android 4学习(7):用户界面
    Android 4学习(6):概述
    Android 4学习(5):概述
    Android 4学习(4):概述
    Android 4学习(3):概述
  • 原文地址:https://www.cnblogs.com/wangkongming/p/2866788.html
Copyright © 2011-2022 走看看