zoukankan      html  css  js  c++  java
  • Java Rounding necessary错误分析解决

    出现此错误原因是使用了 BigDecimal 的 setScale 方法导致。

    错误原因:setScale方法保留小数位数小于实际位数并且未指定roundingMode参数即报错。如下代码:

            BigDecimal rs = new BigDecimal("27.333");
            rs.setScale(2);

    上述代码实际数值是27.333是3位小数,而使用setScale方法保留2位小数时会报错。

    解决方法:

    【一、指定roundingMode参数(推荐)】

    如下所示:

    BigDecimal rs = new BigDecimal("27.333");
    rs.setScale(2,2);

    setScale的第二个参数为roundingMode,此值是一个常量,具体取值及含义可通过JDK文档查得

    【二、保留小数位数大于/等于实际小数位数】

    如下所示:

     BigDecimal rs = new BigDecimal("27.333");
     rs.setScale(4);

    保证保留的小数位数大于等于实际小数位数也可以,但很多时候我们不知道实际小数位数是多少,所以建议使用第一种方式解决。

    扩展知识:

    使用BigDecimal的divide(除法)方法时也应指定第二个参数roundingMode,否则在遇到无限循环/不循环小数时也会报错,错误为:

    Non-terminating decimal expansion; no exact representable decimal result.

    divide的重载方法:

      divide(BigDecimal divisor)

      divide(BigDecimal divisor, int roundingMode)

      divide(BigDecimal divisor, int scale, int roundingMode)

    当传递1个参数时遇到无限循环/不循环小数时会报错

    当传递2个参数时默认保留小数位数为0

    当传递3个参数时默认第二个参数为小数位数,第三个参数为取舍方式

    总结:

    使用divide和setScale要注意循环小数需要指定devide的第2、3参数,遇到小数位数比想保留小数位数大时需要指定setScale的第2参数

  • 相关阅读:
    PostgreSQL 10编译安装(CentOS 7)
    CentOS安装单机Zookeeper
    [Oracle报错]TNS-12535: TNS:operation timed out、TNS-00505: Operation timed out
    hibernate一级缓存及对象的状态
    hibernate框架的简单入门
    Json和Ajax
    sql多行多列重复
    折线图饼状图柱形图
    XML文件的读取
    Json数据产生树形结构
  • 原文地址:https://www.cnblogs.com/yzeng/p/13266329.html
Copyright © 2011-2022 走看看