zoukankan      html  css  js  c++  java
  • Java Rounding necessary错误分析解决

    出现此错误原因是使用了 BigDecimal 的 setScale 方法导致。

    错误原因:setScale方法保留小数位数小于实际位数并且未指定roundingMode参数即报错。如下代码:

            BigDecimal rs = new BigDecimal("27.333");
            rs.setScale(2);

    上述代码实际数值是27.333是3位小数,而使用setScale方法保留2位小数时会报错。

    解决方法:

    【一、指定roundingMode参数(推荐)】

    如下所示:

    BigDecimal rs = new BigDecimal("27.333");
    rs.setScale(2,2);

    setScale的第二个参数为roundingMode,此值是一个常量,具体取值及含义可通过JDK文档查得

    【二、保留小数位数大于/等于实际小数位数】

    如下所示:

     BigDecimal rs = new BigDecimal("27.333");
     rs.setScale(4);

    保证保留的小数位数大于等于实际小数位数也可以,但很多时候我们不知道实际小数位数是多少,所以建议使用第一种方式解决。

    扩展知识:

    使用BigDecimal的divide(除法)方法时也应指定第二个参数roundingMode,否则在遇到无限循环/不循环小数时也会报错,错误为:

    Non-terminating decimal expansion; no exact representable decimal result.

    divide的重载方法:

      divide(BigDecimal divisor)

      divide(BigDecimal divisor, int roundingMode)

      divide(BigDecimal divisor, int scale, int roundingMode)

    当传递1个参数时遇到无限循环/不循环小数时会报错

    当传递2个参数时默认保留小数位数为0

    当传递3个参数时默认第二个参数为小数位数,第三个参数为取舍方式

    总结:

    使用divide和setScale要注意循环小数需要指定devide的第2、3参数,遇到小数位数比想保留小数位数大时需要指定setScale的第2参数

  • 相关阅读:
    欧几里德算法实现求两个正整数的最大公因子
    C#委托、泛型
    C与C++中的time相关函数(转载)
    【转】温州的南拳
    前端面试题
    vuecli卸载旧版,再重新安装后还显示的是旧的版本
    不定宽高的div水平、垂直居中问题
    解决JS中取URL地址中的参数中文乱码
    移动vue项目,启动错误:Module build failed: Error: No PostCSS Config found in:
    codeblocks colour theme
  • 原文地址:https://www.cnblogs.com/yzeng/p/13266329.html
Copyright © 2011-2022 走看看