zoukankan      html  css  js  c++  java
  • 【java错误】Non-terminating decimal expansion; no exact representable decimal result

    问题描述

    意思是“无法结束的除法表达式;没有精确的除结果”。当时输入的10/3,结果应该是3.3333....333。

    下面这种处理方式有问题。

    BigDecimal num3 = new BigDecimal("10").divide( new BigDecimal("3"));

    devide的函数定义

    BigDecimal.divide(BigDecimal divisor, int scale, RoundingMode roundingMode) ;

    scale为小数位数;roundingMode为小数模式;

    ROUND_CEILING
    如果 BigDecimal 是正的,则做 ROUND_UP 操作;如果为负,则做 ROUND_DOWN 操作。
    ROUND_DOWN
    从不在舍弃(即截断)的小数之前增加数字。
    ROUND_FLOOR
    如果 BigDecimal 为正,则作 ROUND_UP ;如果为负,则作 ROUND_DOWN 。
    ROUND_HALF_DOWN
    若舍弃部分> .5,则作 ROUND_UP;否则,作 ROUND_DOWN 。
    ROUND_HALF_EVEN
    如果舍弃部分左边的数字为奇数,则作 ROUND_HALF_UP ;如果它为偶数,则作 ROUND_HALF_DOWN 。
    ROUND_HALF_UP
    若舍弃部分>=.5,则作 ROUND_UP ;否则,作 ROUND_DOWN 。
    ROUND_UNNECESSARY
    该“伪舍入模式”实际是指明所要求的操作必须是精确的,,因此不需要舍入操作。
    ROUND_UP
    总是在非 0 舍弃小数(即截断)之前增加数字。

    解决方案

    BigDecimal num3 = num1.divide(num2,10,ROUND_HALF_DOWN);

  • 相关阅读:
    Python的条件判断和循环
    Python分支和循环结构的练习
    Python的变量和运算符
    Python简介
    Git的使用及网络编程多线程多进程
    函数面向对象编程及文件的读取
    函数模块字符串列表
    python变量运算符分支结构循环结构及例题
    集合
    三级菜单
  • 原文地址:https://www.cnblogs.com/chenjfblog/p/8253122.html
Copyright © 2011-2022 走看看