zoukankan      html  css  js  c++  java
  • jmeter 中 浮点数计算精度问题

    jmeter 中 浮点数计算精度问题解决方法:

    1. 编写 beanshell 时使用 java.math.BigDecimal 方法构造,使用 BigDecimal 并且一定要用 String 来够造。
    2. 代码如下:
        import java.math.BigDecimal; 
         /**   
         * 提供精确的加法运算。   
         * @param v1 被加数   
         * @param v2 加数   
         * @return 两个参数的和   
         */    
        public static double add(double v1,double v2){    
            BigDecimal b1 = new BigDecimal(Double.toString(v1));    
            BigDecimal b2 = new BigDecimal(Double.toString(v2));    
            return b1.add(b2).doubleValue();    
        }    
           
        /**   
         * 提供精确的减法运算。   
         * @param v1 被减数   
         * @param v2 减数   
         * @return 两个参数的差   
         */    
        public static double sub(double v1,double v2){    
            BigDecimal b1 = new BigDecimal(Double.toString(v1));    
            BigDecimal b2 = new BigDecimal(Double.toString(v2));    
            return b1.subtract(b2).doubleValue();    
        }    
           
        /**   
         * 提供精确的乘法运算。   
         * @param v1 被乘数   
         * @param v2 乘数   
         * @return 两个参数的积   
         */    
        public static double mul(double v1,double v2){    
            BigDecimal b1 = new BigDecimal(Double.toString(v1));    
            BigDecimal b2 = new BigDecimal(Double.toString(v2));    
            return b1.multiply(b2).doubleValue();    
        }    
      
        /**   
         * 提供(相对)精确的除法运算,当发生除不尽的情况时,精确到   
         * 小数点以后10位,以后的数字四舍五入。   
         * @param v1 被除数   
         * @param v2 除数   
         * @return 两个参数的商   
         */    
        public static double div(double v1,double v2){    
            return div(v1,v2,DEF_DIV_SCALE);    
        }    
      
        /**   
         * 提供(相对)精确的除法运算。当发生除不尽的情况时,由scale参数指   
         * 定精度,以后的数字四舍五入。   
         * @param v1 被除数   
         * @param v2 除数   
         * @param scale 表示表示需要精确到小数点以后几位。   
         * @return 两个参数的商   
         */    
        public static double div(double v1,double v2,int scale){    
            if(scale<0){    
                throw new IllegalArgumentException(    
                    "The scale must be a positive integer or zero");    
            }    
            BigDecimal b1 = new BigDecimal(Double.toString(v1));    
            BigDecimal b2 = new BigDecimal(Double.toString(v2));    
            return b1.divide(b2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();    
        }    
      
        /**   
         * 提供精确的小数位四舍五入处理。   
         * @param v 需要四舍五入的数字   
         * @param scale 小数点后保留几位   
         * @return 四舍五入后的结果   
         */    
        public static double round(double v,int scale){    
            if(scale<0){    
                throw new IllegalArgumentException(    
                    "The scale must be a positive integer or zero");    
            }    
            BigDecimal b = new BigDecimal(Double.toString(v));    
            BigDecimal one = new BigDecimal("1");    
            return b.divide(one,scale,BigDecimal.ROUND_HALF_UP).doubleValue();    
        }    
           
       /**   
        * 提供精确的类型转换(Float)   
        * @param v 需要被转换的数字   
        * @return 返回转换结果   
        */    
        public static float convertsToFloat(double v){    
            BigDecimal b = new BigDecimal(v);    
            return b.floatValue();    
        }    
           
        /**   
        * 提供精确的类型转换(Int)不进行四舍五入   
        * @param v 需要被转换的数字   
        * @return 返回转换结果   
        */    
        public static int convertsToInt(double v){    
            BigDecimal b = new BigDecimal(v);    
            return b.intValue();    
        }    
      
        /**   
        * 提供精确的类型转换(Long)   
        * @param v 需要被转换的数字   
        * @return 返回转换结果   
        */    
        public static long convertsToLong(double v){    
            BigDecimal b = new BigDecimal(v);    
            return b.longValue();    
        }    
      
        /**   
        * 返回两个数中大的一个值   
        * @param v1 需要被对比的第一个数   
        * @param v2 需要被对比的第二个数   
        * @return 返回两个数中大的一个值   
        */    
        public static double returnMax(double v1,double v2){    
            BigDecimal b1 = new BigDecimal(v1);    
            BigDecimal b2 = new BigDecimal(v2);    
            return b1.max(b2).doubleValue();    
        }    
      
        /**   
        * 返回两个数中小的一个值   
        * @param v1 需要被对比的第一个数   
        * @param v2 需要被对比的第二个数   
        * @return 返回两个数中小的一个值   
        */    
        public static double returnMin(double v1,double v2){    
            BigDecimal b1 = new BigDecimal(v1);    
            BigDecimal b2 = new BigDecimal(v2);    
            return b1.min(b2).doubleValue();    
        }    
      
        /**   
        * 精确对比两个数字   
        * @param v1 需要被对比的第一个数   
        * @param v2 需要被对比的第二个数   
        * @return 如果两个数一样则返回0,如果第一个数比第二个数大则返回1,反之返回-1   
        */    
            public static int compareTo(double v1,double v2){    
            BigDecimal b1 = new BigDecimal(v1);    
            BigDecimal b2 = new BigDecimal(v2);    
            return b1.compareTo(b2);    
        }   
      
    }  
    
    

    参考:https://blog.csdn.net/aya19880214/article/details/45891581

  • 相关阅读:
    jquery $(document).ready() 与window.onload的区别
    Codeforces Round #540 (Div. 3) D1. Coffee and Coursework (Easy version) 【贪心】
    Codeforces Round #540 (Div. 3) C. Palindromic Matrix 【暴力】
    BZOJ 1878 [SDOI2009]HH的项链 【莫队】
    BZOJ 4028: [HEOI2015]公约数数列 【分块 + 前缀GCD】
    BZOJ 3744: Gty的妹子序列 【分块 + 树状数组 + 主席树】
    BZOJ 3289: Mato的文件管理 【莫队 + 树状数组】
    HDU 4676 Sum Of Gcd 【莫队 + 欧拉】
    POJ 1845 Sumdiv 【二分 || 逆元】
    Codeforces Round #538 (Div. 2) D. Flood Fill 【区间dp || LPS (最长回文序列)】
  • 原文地址:https://www.cnblogs.com/ronky/p/10788777.html
Copyright © 2011-2022 走看看