zoukankan      html  css  js  c++  java
  • BigDemical用float或者double丢失精度问题

    BigDecimal bdTest = new BigDecimal(1.745);
    BigDecimal bdTest1 = new BigDecimal(0.745);
    bdTest = bdTest.setScale(2, BigDecimal.ROUND_HALF_UP);
    bdTest1 = bdTest1.setScale(2, BigDecimal.ROUND_HALF_UP);
    System.out.println("bdTest:" + bdTest); // 1.75
    System.out.println("bdTest1:" + bdTest1); // 0.74

    运行以上代码可以看到,1.745四舍五入的结果是1.75,0.745四舍五入的结果是0.74。

    原因:
    使用参数为float或double的BigDecimal创建对象会丢失精度。因此强烈建议不要使用参数为float或double的BigDecimal创建对象。

    System.out.println(new BigDecimal(1.745)); // 1.74500000000000010658141036401502788066864013671875
    System.out.println(new BigDecimal(0.745)); // 0.74499999999999999555910790149937383830547332763671875

    解决办法:
    1. 使用BigDecimal(String val)的构造方法创建对象
    new BigDecimal("1.745");
    new BigDecimal("0.745");
    2. 使用使用BigDecimal的valueOf(double val)方法创建对象
    BigDecimal.valueOf(1.745);
    BigDecimal.valueOf(0.745);
    ————————————————

    原文链接:https://blog.csdn.net/zongzhankui/article/details/79591294

  • 相关阅读:
    cookie会话技术
    Vue实现任务列表效果
    Vue实现选项卡效果
    数组API(2)
    数组常用API(1)
    sticky,粘性定位
    了解HTTP协议和TCP协议
    快速排序
    冒泡排序
    【译】x86程序员手册21-6.3.5为操作系统保留的指令
  • 原文地址:https://www.cnblogs.com/tnt-33/p/11434571.html
Copyright © 2011-2022 走看看