zoukankan      html  css  js  c++  java
  • BigDemical用float或者double丢失精度问题

    BigDecimal bdTest = new BigDecimal(1.745);
    BigDecimal bdTest1 = new BigDecimal(0.745);
    bdTest = bdTest.setScale(2, BigDecimal.ROUND_HALF_UP);
    bdTest1 = bdTest1.setScale(2, BigDecimal.ROUND_HALF_UP);
    System.out.println("bdTest:" + bdTest); // 1.75
    System.out.println("bdTest1:" + bdTest1); // 0.74

    运行以上代码可以看到,1.745四舍五入的结果是1.75,0.745四舍五入的结果是0.74。

    原因:
    使用参数为float或double的BigDecimal创建对象会丢失精度。因此强烈建议不要使用参数为float或double的BigDecimal创建对象。

    System.out.println(new BigDecimal(1.745)); // 1.74500000000000010658141036401502788066864013671875
    System.out.println(new BigDecimal(0.745)); // 0.74499999999999999555910790149937383830547332763671875

    解决办法:
    1. 使用BigDecimal(String val)的构造方法创建对象
    new BigDecimal("1.745");
    new BigDecimal("0.745");
    2. 使用使用BigDecimal的valueOf(double val)方法创建对象
    BigDecimal.valueOf(1.745);
    BigDecimal.valueOf(0.745);
    ————————————————

    原文链接:https://blog.csdn.net/zongzhankui/article/details/79591294

  • 相关阅读:
    WebSocket 实战--转
    ELK原理与介绍
    linux命令:使用less从后向前查看日志信息
    Unity创作赛车游戏的四款插件
    Dolly
    shot
    Unity3D获取Android平台的电量
    Unity制作王者荣耀商业级手游
    unity热更新AssetBundle框架设计_框架篇
    喷气传动
  • 原文地址:https://www.cnblogs.com/tnt-33/p/11434571.html
Copyright © 2011-2022 走看看