zoukankan      html  css  js  c++  java
  • BigDecimal的setScale()方法无效(坑)

    最近在使用BigDecimal进行四舍五入时,发现setScale()方法设置的精度值并没有起作用,一度让我怀疑起是否jdk有bug,代码如下:

    错误代码 
    double d = 7.199999999999999; 
    BigDecimal decimal = new BigDecimal(String.valueOf(d)); 
    decimal.setScale(2, BigDecimal.ROUND_HALF_UP); 
    System.out.println(decimal.scale()); 
    System.out.println(decimal.doubleValue()); 
    System.out.println(decimal.toString()); 
    以上代码目的:将7.199999999999999保留两位小数后输出。 输出结果:

    15 
    7.199999999999999 
    7.199999999999999 
    可以看到,decimal.setScale(2, BigDecimal.ROUND_HALF_UP);并没有起作用。

    正确代码 
    double d = 7.199999999999999; 
    BigDecimal decimal = new BigDecimal(String.valueOf(d)); 
    //重新生成了新的对象 
    BigDecimal decimal2 = decimal.setScale(2, BigDecimal.ROUND_HALF_UP); 
    System.out.println(“—————decimal1————-“); 
    System.out.println(decimal.scale()); 
    System.out.println(decimal.doubleValue()); 
    System.out.println(decimal.toString()); 
    System.out.println(“—————decimal2————-“); 
    System.out.println(decimal2.scale()); 
    System.out.println(decimal2.doubleValue()); 
    System.out.println(decimal2.toString()); 
    与错误代码不同的是,用decimal2接收decimal.setScale(2, BigDecimal.ROUND_HALF_UP)的返回结果,并操作decimal2,输出如下:

    —————decimal1————- 
    15 
    7.199999999999999 
    7.199999999999999 
    —————decimal2————- 

    7.2 
    7.20 
    总结 
    decimal.setScale(2, BigDecimal.ROUND_HALF_UP)会生成新的对象,设置的精度值只对新对象有效,对原对象无效,需注意。 一般来说,可以使用链式方式构造新对象并设置精度:

    BigDecimal decimal = new BigDecimal(String.valueOf(d)).setScale(2, BigDecimal.ROUND_HALF_UP);

  • 相关阅读:
    华为OJ平台——DNA序列
    华为OJ平台——整数的二进制中1的个数
    华为OJ平台——首次不重复字符
    Unity-iPhone has Conflicting Provisioning Settings
    升级MAC OS到10.13, 10.14系统后UNITY工程无法加载资源的解决办法
    Unity各平台内置宏定义
    Xcode官方xip直接离线下载地址(更新到Xcode 9.4.1)
    Machine Learning In Action
    Unity3D Errors And Fix
    Crash for small compressed texture on some Android device
  • 原文地址:https://www.cnblogs.com/xifenglou/p/9993289.html
Copyright © 2011-2022 走看看