zoukankan      html  css  js  c++  java
  • 浮点数的比较

    在大多数的语言中,不指定精度的浮点数不能直接比较,会出现很多意想不到的结果。

    例子:

    $price1 = 9.8*100;
    $price2 = floatval(980);
    var_dump($price1);
    var_dump($price2);
    var_dump($price1 == $price2);
    
    结果
    float(980) float(980) bool(false)

    上面两个变量看着是一样的,用var_dump打印出来都是浮点数980,比较两个数结果是false,是不是有点儿晕。

    我们格式化输出一下两个数

    printf("%.50f", $price1);
    echo("<br/>");
    printf("%.50f", $price1);
    
    980.00000000000011368683772161602973937988281250000000
    980.00000000000011368683772161602973937988281250000000

    打印了这么长还是一样,还是不能证明这两个数相等的,浮点数计算涉及精度,当浮点数转为二进制时有可能会造成精度丢失。

    上面的例子不太明显的能体现出来,我们换个

    printf("%.50f", 1-0.9);
    echo("<br/>");
    printf("%.50f", 0.1);
    
    0.09999999999999997779553950749686919152736663818359
    0.10000000000000000555111512312578270211815834045410

    这样就看出来了吧!

    不要盲目的比较两个浮点数的大小。

  • 相关阅读:
    懂得拐弯,是人生大智慧!
    人心如落叶
    人生聚散,一切随缘!
    35岁以后你还能干嘛?
    人品好,自带光芒
    有一种心境,叫顺其自然
    304. Range Sum Query 2D
    303. Range Sum Query
    301. Remove Invalid Parentheses
    297. Serialize and Deserialize Binary Tree
  • 原文地址:https://www.cnblogs.com/wyzs/p/5280533.html
Copyright © 2011-2022 走看看