zoukankan      html  css  js  c++  java
  • BigDemical用float或者double丢失精度问题

    BigDecimal bdTest = new BigDecimal(1.745);
    BigDecimal bdTest1 = new BigDecimal(0.745);
    bdTest = bdTest.setScale(2, BigDecimal.ROUND_HALF_UP);
    bdTest1 = bdTest1.setScale(2, BigDecimal.ROUND_HALF_UP);
    System.out.println("bdTest:" + bdTest); // 1.75
    System.out.println("bdTest1:" + bdTest1); // 0.74

    运行以上代码可以看到,1.745四舍五入的结果是1.75,0.745四舍五入的结果是0.74。

    原因:
    使用参数为float或double的BigDecimal创建对象会丢失精度。因此强烈建议不要使用参数为float或double的BigDecimal创建对象。

    System.out.println(new BigDecimal(1.745)); // 1.74500000000000010658141036401502788066864013671875
    System.out.println(new BigDecimal(0.745)); // 0.74499999999999999555910790149937383830547332763671875

    解决办法:
    1. 使用BigDecimal(String val)的构造方法创建对象
    new BigDecimal("1.745");
    new BigDecimal("0.745");
    2. 使用使用BigDecimal的valueOf(double val)方法创建对象
    BigDecimal.valueOf(1.745);
    BigDecimal.valueOf(0.745);
    ————————————————

    原文链接:https://blog.csdn.net/zongzhankui/article/details/79591294

  • 相关阅读:
    JAVA 线程安全与同步机制
    JAVA 多线程
    el-table 宽度自适应bug
    详解迭代器Iterator
    理解基本类型的溢出
    理解classpath
    I/O(一):基础知识
    C++: 智能指针
    C++: 值类别与移动语义基础
    CUDA 架构与编程概述
  • 原文地址:https://www.cnblogs.com/tnt-33/p/11434571.html
Copyright © 2011-2022 走看看