zoukankan      html  css  js  c++  java
  • js 小数点失精度

    解决方法思路:将小数化成整数后再作运算。具体代码如下:

     /**
    * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
    *
    * @param num1加数1 | num2加数2
    */
    function numAdd(num1, num2) {
       var baseNum, baseNum1, baseNum2;
       try {
           baseNum1 = num1.toString().split(".")[1].length;
       } catch (e) {
           baseNum1 = 0;
       }
       try {
           baseNum2 = num2.toString().split(".")[1].length;
       } catch (e) {
           baseNum2 = 0;
       }
       baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
       return (num1 * baseNum + num2 * baseNum) / baseNum;
    };
     

    /**
    * 减法运算,避免数据相减小数点后产生多位数和计算精度损失。
    *
    * @param num1被减数  |  num2减数
    */
    function numSub(num1, num2) {
       var baseNum, baseNum1, baseNum2;
       var precision;// 精度
       try {
           baseNum1 = num1.toString().split(".")[1].length;
       } catch (e) {
           baseNum1 = 0;
       }
       try {
           baseNum2 = num2.toString().split(".")[1].length;
       } catch (e) {
           baseNum2 = 0;
       }
       baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
       precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
       return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
    };
     
     

    /**
    * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
    *
    * @param num1被乘数 | num2乘数
    */
    function numMulti(num1, num2) {
       var baseNum = 0;
       try {
           baseNum += num1.toString().split(".")[1].length;
       } catch (e) {
       }
       try {
           baseNum += num2.toString().split(".")[1].length;
       } catch (e) {
       }
       return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
    };
     
     

    /**
    * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
    *
    * @param num1被除数 | num2除数
    */
    function numDiv(num1, num2) {
       var baseNum1 = 0, baseNum2 = 0;
       var baseNum3, baseNum4;
       try {
           baseNum1 = num1.toString().split(".")[1].length;
       } catch (e) {
           baseNum1 = 0;
       }
       try {
           baseNum2 = num2.toString().split(".")[1].length;
       } catch (e) {
           baseNum2 = 0;
       }
       with (Math) {
           baseNum3 = Number(num1.toString().replace(".", ""));
           baseNum4 = Number(num2.toString().replace(".", ""));
           return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
       }
    };
  • 相关阅读:
    luogu P4284 [SHOI2014]概率充电器 期望 概率 树形dp
    luogu P5161 WD与数列 SAM 线段树合并 启发式合并
    5.5 省选模拟赛 B Permutation 构造 贪心
    luogu P3761 [TJOI2017]城市 树的直径 bfs
    一本通 1783 矩阵填数 状压dp 容斥 计数
    CF R638 div2 F Phoenix and Memory 贪心 线段树 构造 Hall定理
    BSOJ 5445 -- 【2018雅礼】树 prufer序列 dp
    CF1037H Security 线段树合并 SAM
    c++11の顺序容器
    c++11の关联容器
  • 原文地址:https://www.cnblogs.com/zhengyan/p/7199701.html
Copyright © 2011-2022 走看看