zoukankan      html  css  js  c++  java
  • double类型运算异常

    对于两个double类型的数值运算,有时会出现结果值异常的情况。

    看如下代码:

    public class DoubleTest {
        public static void main(String[] args) {
            System.out.println(19.99+20);
            System.out.println(1.0-0.66);
            System.out.println(0.033*100);
            System.out.println(12.3/100);
        }
    }

    对于以上的四则运算,我们可以很容易的计算出结果39.99, 0.34, 3.3 ,0.123,然而计算机运行结果如下:

    Java中的简单浮点数类型float和double不能够进行运算,因为大多数情况下是正常的,但是偶尔会出现如上所示的问题。这个问题其实不是JAVA的bug,因为计算机本身是二进制的,而浮点数实际上只是个近似值,所以从二进制转化为十进制浮点数时,精度容易丢失,导致精度下降。

    解决方法:

    要保证精度就要使用BigDecimal类,而且不能直接从double直接转BigDecimal,要将double转string再转BigDecimal。也就是不能使用BigDecimal(double val) 方法,你会发现没有效果。要使用BigDecimal(String val) 方法。

    1.相加

    public static double add(double a1, double b1) {
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.add(b2).doubleValue();
        }

    2.相减

    public static double sub(double a1, double b1) {
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.subtract(b2).doubleValue();
        }

    3.相乘

    public static double mul(double a1, double b1) {
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.multiply(b2).doubleValue();
        }

    4.相除

    public static double div(double a1, double b1, int scale) {
            if (scale < 0) {
                throw new IllegalArgumentException("error");
            }
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.divide(b2, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
        }

    使用这些方法,我们再次计算一次结果:

  • 相关阅读:
    vuex状态管理demo
    vuex与redux,我们都一样
    vue-quill-editor + element-ui upload实现富文本图片上传
    总结移动端页面开发时需要注意的一些问题
    laravel 运行出错RuntimeException No application encryption key has been specified.
    JS 正则匹配 只匹配汉字
    LINUX统计一个文件中特定字符串出现的次数
    Nginx Log日志统计分析常用命令
    python之mysqldb模块安装
    PHP 可变参数 ( ... ) 和参数解包
  • 原文地址:https://www.cnblogs.com/Gazikel/p/14032703.html
Copyright © 2011-2022 走看看