zoukankan      html  css  js  c++  java
  • java防止double和float精度丢失的方法

    在浮点数当中做运算时经常会出现精度丢失的情况,如果做项目不作处理的话会对商家造成很大的影响的。项目尤其是金融相关的项目对这些运算的精度要求较高。

    问题原因:首先计算机进行的是二进制运算,我们输入的十进制数字会先转换成二进制,进行运算后再转换为十进制输出。Float和Double提供了快速的运算,然而问题在于转换为二进制的时候,有些数字不能完全转换,只能无限接近于原本的值,这就导致了在后来的运算会出现不正确结果的情况。

    首先看到没有做处理的代码和结果:

        public static void main(String[] args) {
            System.out.println(0.03-0.02);
        }

    结果: 

    0.009999999999999998

    处理过得代码和结果:

        public static void main(String[] args) {
            //定义浮点型参数
            double d1=0.03;
            double d2=0.02;
            //double类型转换成String 然后BigDecimal类构造器里
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            //BigDecimal类里内置计算方法
            BigDecimal b3=b1.subtract(b2);//减法
            //输出
            System.out.println(b3);
        }

    结果:

    0.01

    简单封装了一个计算类(加、减、乘、除):

    package edu.nf.demo;
    
    import java.math.BigDecimal;
    
    public class CalculatorUtil {
        
        /**
         * 加法
         * @return
         */
        public static double add(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.add(b2).doubleValue();
        }
        
        
        /**
         * 减法
         * @return
         */
        public static double subtract(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.subtract(b2).doubleValue();
        }
        
        
        /**
         * 乘法
         * @return
         */
        public static double multiply(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.multiply(b2).doubleValue();
        }
        
        
        /**
         * 除法
         * @return
         */
        public static double divide(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.divide(b2).doubleValue();
        }
    }
  • 相关阅读:
    JavaScript 总结
    Linux脚本shell字符串处理
    linux bash tutorial
    SVG 学习<八> SVG的路径——path(2)贝塞尔曲线命令、光滑贝塞尔曲线命令
    SVG 学习<七> SVG的路径——path(1)直线命令、弧线命令
    SVG 学习<六> SVG的transform
    SVG 学习<五> SVG动画
    SVG 学习<四> 基础API
    SVG 学习<三>渐变
    SVG 学习<二>进阶 SVG世界,视野,视窗 stroke属性 svg分组
  • 原文地址:https://www.cnblogs.com/hhmm99/p/9325584.html
Copyright © 2011-2022 走看看