zoukankan      html  css  js  c++  java
  • 浮点数运算误差问题

    在类型转换的总结中,我们说过不能让浮点数进行等级运算,这样会出现误差。比如1.0-0.8,答案不是0.2,而是0.199999999999999996,为什么?这是java遵守IEEE754浮点运算规范的结果。

    例如我们0.5会使用1/2表示,0.75会使用1/2+1/4表示,0.1会使用1/16+1/32+1/25+1/512+1/4096+1/8192+....无限循环下去,无法进行准确表示,所以会造成精度上的误差。

    double a=0.1;
    double b=0.1;
    double c=0.1;
    if((a+b+c)==0.3){
         System.out.println("等于0.3");
    }else{
          System.out.println("不等于0.3");
    }

    由于浮点数误差的关系,显示结果不等于3.0,我们要小心使用浮点数,那么我们如何进行浮点数之间的运算哪?

    可以使用java.math.BigDecimal类

    package cn.yqg.day1;
    
    import java.math.BigDecimal;
    
    public class A {
      public static void main(String[] args) {
        BigDecimal a=new BigDecimal("1.0");
        BigDecimal b=new BigDecimal("0.8");
        BigDecimal c=a.subtract(b);
        System.out.println(c);
    }
    }

    结果为0.2;注意参数带“”,我们可以使用Bigdecimal进行浮点数的加减乘除等运算。

    ---------------------------------------------------------------------------------------------------------

    补充:如果我们使用浮点数和int进行运算,结果是浮点数。

  • 相关阅读:
    linux(ubuntu) 安装 node.js
    正反向代理
    js正则表达式----replace
    webpack开发小总结
    稳定排序和非稳定排序
    树状数组 --- (离散化+树状数组、求逆序对)
    编程之美初赛第一场 题目3 : 活动中心
    巴什博弈 杭电 1847
    巴什博弈 杭电 1846
    约瑟夫环问题详解
  • 原文地址:https://www.cnblogs.com/zzuli/p/9319020.html
Copyright © 2011-2022 走看看