在浮点数当中做运算时经常会出现精度丢失的情况,如果做项目不作处理的话会对商家造成很大的影响的。项目尤其是金融相关的项目对这些运算的精度要求较高。
问题原因:首先计算机进行的是二进制运算,我们输入的十进制数字会先转换成二进制,进行运算后再转换为十进制输出。Float和Double提供了快速的运算,然而问题在于转换为二进制的时候,有些数字不能完全转换,只能无限接近于原本的值,这就导致了在后来的运算会出现不正确结果的情况。
首先看到没有做处理的代码和结果:
public static void main(String[] args) { System.out.println(0.03-0.02); }
结果:
0.009999999999999998
处理过得代码和结果:
public static void main(String[] args) { //定义浮点型参数 double d1=0.03; double d2=0.02; //double类型转换成String 然后BigDecimal类构造器里 BigDecimal b1 = new BigDecimal(Double.toString(d1)); BigDecimal b2 = new BigDecimal(Double.toString(d2)); //BigDecimal类里内置计算方法 BigDecimal b3=b1.subtract(b2);//减法 //输出 System.out.println(b3); }
结果:
0.01
简单封装了一个计算类(加、减、乘、除):
package edu.nf.demo; import java.math.BigDecimal; public class CalculatorUtil { /** * 加法 * @return */ public static double add(double d1, double d2) { BigDecimal b1 = new BigDecimal(Double.toString(d1)); BigDecimal b2 = new BigDecimal(Double.toString(d2)); return b1.add(b2).doubleValue(); } /** * 减法 * @return */ public static double subtract(double d1, double d2) { BigDecimal b1 = new BigDecimal(Double.toString(d1)); BigDecimal b2 = new BigDecimal(Double.toString(d2)); return b1.subtract(b2).doubleValue(); } /** * 乘法 * @return */ public static double multiply(double d1, double d2) { BigDecimal b1 = new BigDecimal(Double.toString(d1)); BigDecimal b2 = new BigDecimal(Double.toString(d2)); return b1.multiply(b2).doubleValue(); } /** * 除法 * @return */ public static double divide(double d1, double d2) { BigDecimal b1 = new BigDecimal(Double.toString(d1)); BigDecimal b2 = new BigDecimal(Double.toString(d2)); return b1.divide(b2).doubleValue(); } }