zoukankan      html  css  js  c++  java
  • java防止double和float精度丢失的方法

    在浮点数当中做运算时经常会出现精度丢失的情况,如果做项目不作处理的话会对商家造成很大的影响的。项目尤其是金融相关的项目对这些运算的精度要求较高。

    问题原因:首先计算机进行的是二进制运算,我们输入的十进制数字会先转换成二进制,进行运算后再转换为十进制输出。Float和Double提供了快速的运算,然而问题在于转换为二进制的时候,有些数字不能完全转换,只能无限接近于原本的值,这就导致了在后来的运算会出现不正确结果的情况。

    首先看到没有做处理的代码和结果:

        public static void main(String[] args) {
            System.out.println(0.03-0.02);
        }

    结果: 

    0.009999999999999998

    处理过得代码和结果:

        public static void main(String[] args) {
            //定义浮点型参数
            double d1=0.03;
            double d2=0.02;
            //double类型转换成String 然后BigDecimal类构造器里
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            //BigDecimal类里内置计算方法
            BigDecimal b3=b1.subtract(b2);//减法
            //输出
            System.out.println(b3);
        }

    结果:

    0.01

    简单封装了一个计算类(加、减、乘、除):

    package edu.nf.demo;
    
    import java.math.BigDecimal;
    
    public class CalculatorUtil {
        
        /**
         * 加法
         * @return
         */
        public static double add(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.add(b2).doubleValue();
        }
        
        
        /**
         * 减法
         * @return
         */
        public static double subtract(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.subtract(b2).doubleValue();
        }
        
        
        /**
         * 乘法
         * @return
         */
        public static double multiply(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.multiply(b2).doubleValue();
        }
        
        
        /**
         * 除法
         * @return
         */
        public static double divide(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.divide(b2).doubleValue();
        }
    }
  • 相关阅读:
    Windows下使用Visual Studio Code搭建Go语言环境
    无缓冲和带缓冲channel的区别
    Asp.Net MVC如何返回401响应码
    从这里开始我的博客园
    java判定字符串中仅有数字和- 正则表达式匹配 *** 最爱那水货
    主席树
    Mybitis+springMVC 套路
    jeeplus ani 文档路径
    jquery easyui datagrid 多选只能获取一条数据
    python写入文件编码报错
  • 原文地址:https://www.cnblogs.com/hhmm99/p/9325584.html
Copyright © 2011-2022 走看看