zoukankan      html  css  js  c++  java
  • Java Rounding necessary错误分析解决

    出现此错误原因是使用了 BigDecimal 的 setScale 方法导致。

    错误原因:setScale方法保留小数位数小于实际位数并且未指定roundingMode参数即报错。如下代码:

            BigDecimal rs = new BigDecimal("27.333");
            rs.setScale(2);

    上述代码实际数值是27.333是3位小数,而使用setScale方法保留2位小数时会报错。

    解决方法:

    【一、指定roundingMode参数(推荐)】

    如下所示:

    BigDecimal rs = new BigDecimal("27.333");
    rs.setScale(2,2);

    setScale的第二个参数为roundingMode,此值是一个常量,具体取值及含义可通过JDK文档查得

    【二、保留小数位数大于/等于实际小数位数】

    如下所示:

     BigDecimal rs = new BigDecimal("27.333");
     rs.setScale(4);

    保证保留的小数位数大于等于实际小数位数也可以,但很多时候我们不知道实际小数位数是多少,所以建议使用第一种方式解决。

    扩展知识:

    使用BigDecimal的divide(除法)方法时也应指定第二个参数roundingMode,否则在遇到无限循环/不循环小数时也会报错,错误为:

    Non-terminating decimal expansion; no exact representable decimal result.

    divide的重载方法:

      divide(BigDecimal divisor)

      divide(BigDecimal divisor, int roundingMode)

      divide(BigDecimal divisor, int scale, int roundingMode)

    当传递1个参数时遇到无限循环/不循环小数时会报错

    当传递2个参数时默认保留小数位数为0

    当传递3个参数时默认第二个参数为小数位数,第三个参数为取舍方式

    总结:

    使用divide和setScale要注意循环小数需要指定devide的第2、3参数,遇到小数位数比想保留小数位数大时需要指定setScale的第2参数

  • 相关阅读:
    后期生成事件命令copy /y
    SevenZipShaper压缩类
    vs2017
    WCF路由服务
    微服务--
    各种流程图的绘画网路工具 processon
    ROC 准确率,召回率 F-measure理解(转载)
    Unix OpenCV安装
    转载:tar 解压缩命令~
    cppreference经验总结
  • 原文地址:https://www.cnblogs.com/yzeng/p/13266329.html
Copyright © 2011-2022 走看看