zoukankan      html  css  js  c++  java
  • double类型计算

    由于double类型转换成二进制时可能出现不能被精确的表示,导致我们在进行double类型的计算时,会出现数值不正确的情况。

    解决以上问题,我们都很知道应该使用BigDecimal来处理,通常的操作是

    double multi(double first, int secord) {
        BigDecimal firstBig = new BigDecimal(first); // 使用double类型参数构造BigDecial实例
        BigDecimal secondBig = new BigDecimal(second);
        return firstBig.multiply(secondBig).doubleValue();
    }

    实际使用过程中貌似也都听正常的,但是当我们计算result = multi(0.3, 3) 时会发现,result!=0.9,而是0.89999....

    Why!!?

    此时查看BigDecimal(double)构造函数的注释:

    即当我们使用double类型作为构造函数的参数时,所生成的BigDecimal实例的值与double类型是一直的!如注释中所说,此时0.1的实际值并非是0.1!

    按照注释中的推荐,为了在构造BigDecimal实例时,所得到的值就是我们所传进去的参数的值,我们改用BigDecimal(String)作为构造函数。

    修改以上代码如下:

    double multi(double first, int secord) {
        BigDecimal firstBig = new BigDecimal(Double.toString(first)); // 使用String类型参数构造BigDecial实例
        BigDecimal secondBig = new BigDecimal(Double.toString(second));
        return firstBig.multiply(secondBig).doubleValue();
    }

    此时进行计算result = multi(0.3, 3) 所得的结果result就为0.9了

  • 相关阅读:
    Sumdiv POJ
    Tallest Cow POJ
    P2280 [HNOI2003]激光炸弹(二维前缀和)
    Strange Towers of Hanoi POJ
    Manjaro (KDE)安装踩坑记录
    Petya and Array CodeForces
    CodeForces
    Philosopher’s Walk(递归)
    2018 icpc 青岛网络赛 J.Press the Button
    POJ 1003: Hangover
  • 原文地址:https://www.cnblogs.com/ivan-aldrich/p/5522378.html
Copyright © 2011-2022 走看看