zoukankan      html  css  js  c++  java
  • java防止double和float精度丢失的方法

    在浮点数当中做运算时经常会出现精度丢失的情况,如果做项目不作处理的话会对商家造成很大的影响的。项目尤其是金融相关的项目对这些运算的精度要求较高。

    问题原因:首先计算机进行的是二进制运算,我们输入的十进制数字会先转换成二进制,进行运算后再转换为十进制输出。Float和Double提供了快速的运算,然而问题在于转换为二进制的时候,有些数字不能完全转换,只能无限接近于原本的值,这就导致了在后来的运算会出现不正确结果的情况。

    首先看到没有做处理的代码和结果:

        public static void main(String[] args) {
            System.out.println(0.03-0.02);
        }

    结果: 

    0.009999999999999998

    处理过得代码和结果:

        public static void main(String[] args) {
            //定义浮点型参数
            double d1=0.03;
            double d2=0.02;
            //double类型转换成String 然后BigDecimal类构造器里
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            //BigDecimal类里内置计算方法
            BigDecimal b3=b1.subtract(b2);//减法
            //输出
            System.out.println(b3);
        }

    结果:

    0.01

    简单封装了一个计算类(加、减、乘、除):

    package edu.nf.demo;
    
    import java.math.BigDecimal;
    
    public class CalculatorUtil {
        
        /**
         * 加法
         * @return
         */
        public static double add(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.add(b2).doubleValue();
        }
        
        
        /**
         * 减法
         * @return
         */
        public static double subtract(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.subtract(b2).doubleValue();
        }
        
        
        /**
         * 乘法
         * @return
         */
        public static double multiply(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.multiply(b2).doubleValue();
        }
        
        
        /**
         * 除法
         * @return
         */
        public static double divide(double d1, double d2) {
            BigDecimal b1 = new BigDecimal(Double.toString(d1));
            BigDecimal b2 = new BigDecimal(Double.toString(d2));
            return b1.divide(b2).doubleValue();
        }
    }
  • 相关阅读:
    div随意拖动,基于jquery。
    智能社官网顶部导航实现demo
    Notepad++7.4.2的配置使用详情
    ejs模板在express里的默认文件夹路径修改
    web前端-《手机移动端WEB资源整合》——meta标签篇
    npm --save-dev --save 的区别【转载】
    正则表达式处理字符串指定位置插入【高级】
    nodejs里的express自动刷新高级篇【转载】
    webstorm快捷键说明
    js私有作用域(function(){})(); 模仿块级作用域
  • 原文地址:https://www.cnblogs.com/hhmm99/p/9325584.html
Copyright © 2011-2022 走看看