zoukankan      html  css  js  c++  java
  • JS中toFixed()方法的问题及解决方案

    最近发现JS当中toFixed()方法存在一些问题,采用原生的Number对象的原型对象上的toFixed()方法时,规则并不是所谓的“四舍五入”或者是“四舍六入五成双”,所谓“四舍六入五成双”,在百度百科上给的解释是:也即“4舍6入5凑偶”这里“四”是指≤4 时舍去,"六"是指≥6时进上,"五"指的是根据5后面的数字来定,当5后有数时,舍5入1;当5后无有效数字时,需要分两种情况来讲:①5前为奇数,舍5入1;②5前为偶数,舍5不进。(0是最小的偶数) 。百度百科上涉及的几个例子在实际情况下确实成立,但不科学,并不能覆盖所有的情况。

    测试浏览器:屌丝浏览器IE6以及高级屌丝浏览器IE78(此处为方便未使用原生IE678,不过IETester破天荒地表现良好,精确做法应该是一个版本对应一个虚拟机来测试)和所有现代主流浏览器包括IE9、IE10、FF、Chrome、Opera、Safari。(注:在使用IE10的类似firebug的开发工具时,采用兼容IE低版本浏览器模式时的测试结果跟使用原生低版本IE浏览器的测试结果不一致)

    在浮点数末尾≤4或者≥6的情况下的舍入没有争议,但当末尾正好等于5的情况下可谓混乱之极。

    一、FF 稳定版测试结果如下所示:

    二、FF Aurora测试结果如下所示:

    三、FF Nightly的测试结果如下所示:

    四、Chrome稳定版的测试结果如下所示:

    五、Chromium的测试结果如下所示:

    六、Chrome Canary的测试结果如下所示:

    七、Opera稳定版的测试结果如下所示:

    八、Opera Next的测试结果如下所示:

    九、Safari的测试结果如下所示:

    十、IE6-8的测试结果如下所示:

    十一、IE9、10的测试结果如下所示:

    总结:众所周知,遵循IEEE754数值格式的语言的浮点计算会出现精度损耗的通病,ES也并非独此一家,因此尽量不要进行某个特定浮点数值的测试,如:0.1+0.2;

    解决方案:重写Number.prototype.toFixed()方法:

    <html>
        <head>
            <script type="text/javascript">
                Number.prototype.toFixed=function (d) { 
                    var s=this+""; 
                    if(!d)d=0; 
                    if(s.indexOf(".")==-1)s+="."; 
                    s+=new Array(d+1).join("0"); 
                    if(new RegExp("^(-|\+)?(\d+(\.\d{0,"+(d+1)+"})?)\d*$").test(s)){
                        var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;
                        if(a==d+2){
                            a=s.match(/d/g); 
                            if(parseInt(a[a.length-1])>4){
                                for(var i=a.length-2;i>=0;i--){
                                    a[i]=parseInt(a[i])+1;
                                    if(a[i]==10){
                                        a[i]=0;
                                        b=i!=1;
                                    }else break;
                                }
                            }
                            s=a.join("").replace(new RegExp("(\d+)(\d{"+d+"})\d$"),"$1.$2");
    
                        }if(b)s=s.substr(1); 
                        return (pm+s).replace(/.$/,"");
                    }return this+"";
    
                };
            </script>
        </head>
        <body>
            <input type="button" value="显示0.009.toFixed(2)" onclick="alert(0.009.toFixed(2))"><br />
            <input type="button" value="显示0.123.toFixed(2)" onclick="alert(0.123.toFixed(2))"><br />
            <input type="button" value="显示0.125.toFixed(2)" onclick="alert(0.125.toFixed(2))"><br />
            <input type="button" value="显示0.126.toFixed(2)" onclick="alert(0.126.toFixed(2))"><br />
            <input type="button" value="显示20.445.toFixed(2)" onclick="alert(20.445.toFixed(2))"><br />
            <input onclick="alert(20.405.toFixed(2))" type="button" value="显示20.405.toFixed(2)"> <br />
            <input onclick="alert(20.415.toFixed(2))" type="button" value="显示20.415.toFixed(2)"> <br />
            <input onclick="alert(20.425.toFixed(2))" type="button" value="显示20.425.toFixed(2)"> <br />
            <input onclick="alert(20.435.toFixed(2))" type="button" value="显示20.435.toFixed(2)"> <br />
            <input onclick="alert(20.445.toFixed(2))" type="button" value="显示20.445.toFixed(2)"> <br />
            <input onclick="alert(20.455.toFixed(2))" type="button" value="显示20.455.toFixed(2)"> <br />
            <input onclick="alert(20.465.toFixed(2))" type="button" value="显示20.465.toFixed(2)"> <br />
            <input onclick="alert(20.475.toFixed(2))" type="button" value="显示20.475.toFixed(2)"> <br />
            <input onclick="alert(20.485.toFixed(2))" type="button" value="显示20.485.toFixed(2)"> <br />
            <input onclick="alert(20.495.toFixed(2))" type="button" value="显示20.495.toFixed(2)"> <br />
            <input onclick="alert(0.05.toFixed(1))" type="button" value="显示0.05.toFixed(1)"> <br />
            <input onclick="alert(0.15.toFixed(1))" type="button" value="显示0.15.toFixed(1)"> <br />
            <input onclick="alert(0.25.toFixed(1))" type="button" value="显示0.25.toFixed(1)"> <br />
            <input onclick="alert(0.35.toFixed(1))" type="button" value="显示0.35.toFixed(1)"> <br />
            <input onclick="alert(0.45.toFixed(1))" type="button" value="显示0.45.toFixed(1)"> <br />
            <input onclick="alert(0.55.toFixed(1))" type="button" value="显示0.55.toFixed(1)"> <br />
            <input onclick="alert(0.65.toFixed(1))" type="button" value="显示0.65.toFixed(1)"> <br />
            <input onclick="alert(0.75.toFixed(1))" type="button" value="显示0.75.toFixed(1)"> <br />
            <input onclick="alert(0.85.toFixed(1))" type="button" value="显示0.85.toFixed(1)"> <br />
            <input onclick="alert(0.95.toFixed(1))" type="button" value="显示0.95.toFixed(1)"> <br />
        </body>
    </html>
    

     文章转载:http://www.cnblogs.com/gushen/archive/2012/11/20/2778324.html#undefined

  • 相关阅读:
    hdu--1018--Big Number(斯特林公式)
    NYOJ--56--阶乘因式分解(一)
    hdu--1711--kmp应用在整形数组--Number Sequence
    HDU--1358--KMP算法失配函数getfail()的理解--Period
    C++STL(vector,map,set,list,bitset,deque)成员函数整理
    NYOJ--95--multiset--众数问题
    NYOJ--86--set.find()--找球号(一)
    NYOJ--19--next_permutation()--擅长排列的小明
    NYOJ--714--Card Trick
    NYOJ--2--括号配对问题
  • 原文地址:https://www.cnblogs.com/wangsaiming/p/4644790.html
Copyright © 2011-2022 走看看